오늘의 황당한 LLM 사건

제미나이가 그린 바이킹, 역사 교과서가 멈췄습니다

게시일 2026-08-07 KST · 사건 기준일 2024-02-22

2024년 2월, 구글의 제미나이는 대화창에서 그림을 만들어 주는 기능을 막 내놓은 상태였습니다. 사용자가 "1943년 독일 군인", "미국 건국 인물", "바이킹" 같은 말을 넣으면, 제미나이는 사람 그림을 내놓았습니다. 문제는 역사 맥락이 엉뚱하게 바뀐 그림이었습니다.

소셜미디어에는 흑인이나 아시아계로 보이는 미국 건국 인물, 여러 인종의 바이킹, 제2차 세계대전 독일 군인 그림이 퍼졌습니다. 그림 자체가 누군가를 공격한 것은 아니었습니다. 다만 역사 사진을 주문했는데, 시대와 장소를 못 맞춘 그림이 나오자 사람들은 웃고 화를 냈습니다.

구글은 2월 22일 사람 이미지 생성을 잠시 중단했습니다. 하루 뒤 프라바카르 라가반 수석부사장은 공식 글에서 이 기능이 틀렸다고 설명했습니다. 전 세계 이용자에게 여러 사람을 보여주려던 조정이, 역사적으로 그러면 안 되는 요청까지 밀고 들어갔다는 취지였습니다.

이 사건이 웃겼던 이유는 분명합니다. AI가 편견을 줄이려다, 교과서 시험에서 틀리면 안 되는 문제까지 색칠해 버린 겁니다. 챗봇은 "누가, 언제, 어디서"를 묻는 질문과 "상상해 그려 달라"는 요청을 구분해야 했습니다. 그런데 제미나이는 한동안 둘을 같은 상자에 넣었습니다.

사람들이 더 크게 반응한 까닭은 구글이라는 이름 때문이었습니다. 작은 실험실 장난감이 아니라, 전 세계 검색과 스마트폰에서 보이는 회사의 AI였습니다. 그림 몇 장은 곧 뉴스가 됐고, 구글은 새 기능을 껐다가 다시 고치겠다고 밝혔습니다.