오늘의 황당한 LLM 사건

없는 현미경이 논문 22편을 돌며 과학이 됐습니다

게시일 2026-08-13 KST · 사건 기준일 2025-04-15

과학 논문에 ‘vegetative electron microscopy’라는 말이 등장했습니다. 얼핏 전문 장비 이름처럼 들리지만, 실제 과학에는 없는 말입니다. 전자현미경은 시료를 크게 살펴보는 장비입니다. 그런데 이 앞에 붙은 ‘vegetative’는 그 장비를 설명하는 과학 용어가 아니었습니다.

실마리는 1950년대 논문을 컴퓨터가 글자로 옮긴 과정에 있었습니다. 두 칼럼으로 인쇄된 종이에서 왼쪽의 ‘vegetative’와 오른쪽의 ‘electron microscopy’가 한 문장처럼 붙었습니다. 페르시아어 번역에서는 ‘주사형’과 ‘영양 상태’가 한 점 차이여서, 같은 엉킴이 생겼을 가능성도 제기됐습니다.

문장 생성 AI는 인터넷과 논문에 쌓인 글을 바탕으로 다음 말을 고릅니다. 틀린 말도 여러 곳에 남으면 그럴듯한 전문어로 받아들일 수 있습니다. 연구진은 이 표현이 GPT 계열의 문장 완성에 나타났고, GPT-4o와 Claude 3.5에서도 오류가 남아 있었다고 적었습니다.

이 말은 적어도 22편의 논문에서 발견됐습니다. 출판 전 원고를 읽는 사람과 검토 절차를 거쳤는데도, 존재하지 않는 장비 이름이 논문 속을 돌았습니다. 없는 현미경이 먼저 논문 심사를 통과한 셈이라 웃음이 나지만, 과학 글에서 AI 답변을 그대로 옮기면 생길 수 있는 일을 보여줍니다.

사람들이 이 일에 관심을 보인 까닭은 챗봇의 엉뚱한 한 문장이 학술 논문과 다시 AI 학습 자료로 돌아가며 커질 수 있다는 사실이었습니다. 연구진은 이런 오래된 오류를 ‘디지털 화석’이라 불렀습니다. 한 번 굳어진 틀린 말은 지우기 어렵습니다.