今日离奇 LLM 事件

在警官报告中写下“变身青蛙”的AI

发布日 2026-08-18 KST · 事件日期 2026-01-05

美国犹他州希伯市警察局自2025年12月起，开始测试一款通过听取警官执法记录仪录音来撰写报告草案的AI。该软件名为“Draft One”和“Code Four”。警官报告本来理应是枯燥乏味的，因为这是一种记录谁在何时、何地、做了什么的文件。

然而，在其中一份草案中，却出现了一句童话般的句子。AI写道，一名警官变成了青蛙。实际上，并没有人真的发生变身。这是因为执法记录仪顺带录下了事发现场附近播放的迪士尼电影《公主与青蛙》的声音，而AI误将该声音当成了案件的内容。

生成式AI会根据听到的词汇和上下文，生成看似合理的话语。问题在于，这种“合理性”并不等同于事实。如果缺乏区分动画台词与现场对话的眼方，电影中的一幕就可能会被写入警方的正式文件中。

警佐里克·基尔向FOX 13表示，通过这次事件，他认识到了对AI生成的报告进行人工修改的重要性。他提到，这个工具每周可以帮他们节省大约6到8个小时的时间。因此，警察局并不会停用该AI，而是决定引入人工重新阅读并修改的流程。

搞笑的画面显而易见。警察局甚至到了需要出面澄清“我们部门没有两栖类警官”的地步。不过，如果只是名字或地址错了一个字，恐怕就很难让人如此轻松地付之一笑了。也正因如此，这起“青蛙事件”被UPI、Axios、Police1等多家媒体广泛报道，成为了引发人们思考“AI撰写的官方文件究竟能在多大程度上被信任”的典型案例。