오늘의 황당한 LLM 사건

구글 AI가 피자엔 접착제, 간식엔 돌을 권했습니다

게시일 2026-08-01 KST · 사건 기준일 2024-05-30

2024년 5월, 미국 구글 검색 화면 맨 위에 새 답변 상자가 올라오기 시작했습니다. 이름은 AI Overviews였습니다. 검색 결과를 읽고 짧은 답을 문장으로 만들어 보여주는 기능입니다. 구글은 5월 14일 이 기능을 미국 사용자에게 넓게 열겠다고 발표했습니다.

문제는 피자였습니다. 사용자가 치즈가 피자에서 흘러내리지 않게 하려면 어떻게 하느냐고 묻자, 구글 AI는 소스에 무독성 접착제를 조금 넣으라고 답한 것으로 전해졌습니다. 인터넷 장난 글을 요리 팁처럼 받아들인 겁니다.

돌멩이도 나왔습니다. 돌을 얼마나 먹어야 하느냐는 말도 안 되는 질문에 하루에 작은 돌 하나를 먹으라는 답이 공유됐습니다. 이 답은 풍자 글에서 온 것으로 설명됐습니다. 검색창이 농담과 사실을 헷갈린 순간이었습니다.

사람들이 웃은 이유는 분명했습니다. 숙제, 길찾기, 병원 정보까지 묻는 구글이 갑자기 피자에 풀을 바르고 돌을 씹으라고 말한 셈이었기 때문입니다. 화면은 밈이 됐고, 언론도 앞다퉈 다뤘습니다.

구글은 5월 30일 공식 글에서 일부 이상하고 틀린 답이 실제로 있었다고 인정했습니다. 그러면서 엉뚱한 질문, 풍자 글, 포럼 글을 더 잘 걸러내도록 고쳤다고 밝혔습니다. AI가 똑똑해 보여도, 농담을 사실로 베끼면 검색창도 주방 사고를 낼 수 있습니다.