오늘의 황당한 LLM 사건

경찰 보고서에 개구리 변신을 적어 넣은 AI

게시일 2026-08-18 KST · 사건 기준일 2026-01-05

미국 유타주 히버시 경찰서는 2025년 12월부터 경찰관 몸 카메라 녹음을 듣고 보고서 초안을 쓰는 AI를 시험했습니다. 이름은 Draft One과 Code Four였습니다. 경찰 보고서는 지루해야 정상입니다. 누가 언제 어디서 무엇을 했는지 적는 문서이기 때문입니다.

그런데 한 초안에 동화 같은 문장이 들어갔습니다. AI가 경찰관이 개구리로 변했다고 쓴 것입니다. 실제로 변신한 사람은 없었습니다. 몸 카메라가 현장 근처에서 나오던 디즈니 영화 '공주와 개구리' 소리를 같이 녹음했고, AI는 그 소리를 사건 내용으로 착각했습니다.

생성형 AI는 들은 말과 앞뒤 문맥을 보고 그럴듯한 문장을 만듭니다. 문제는 그럴듯함이 사실과 같지 않다는 데 있습니다. 만화 대사와 현장 대화를 가르는 눈이 없으면, 영화 한 장면이 경찰 문서로 들어갈 수 있습니다.

릭 킬 경사는 FOX 13에 이 일로 AI 보고서를 고치는 일이 왜 중요한지 배웠다고 말했습니다. 그는 이 도구가 주마다 6시간에서 8시간 정도를 아껴 준다고 했습니다. 그래서 경찰서는 AI를 버리기보다 사람이 다시 읽고 고치는 절차를 두겠다고 했습니다.

웃긴 장면은 바로 보입니다. 경찰서가 '우리 부서에는 양서류 경찰관이 없습니다'라고 해명해야 할 판이었습니다. 다만 이름 하나, 주소 하나가 틀렸다면 이렇게 쉽게 웃고 넘기기 어려웠을 것입니다. 그래서 이 개구리 사건은 UPI, Axios, Police1 등 여러 매체에 퍼졌고, AI가 쓴 공식 문서를 어디까지 믿을지 묻는 사례가 됐습니다.