오늘의 황당한 LLM 사건

법원 서류에 AI만 보라는 흰 글씨를 숨겼습니다

게시일 2026-08-26 KST · 사건 기준일 2026-08-06

미국 코네티컷주 법원에서 이상한 일이 벌어졌습니다. 변호사 없이 소송을 하던 Matthew Elliott은 2026년 7월 제출한 서류 안에 AI만 읽으라는 문장을 숨겼습니다. 글자는 흰색이고 아주 작아서, 종이로 보면 빈칸처럼 보였습니다.

그 문장은 AI가 이 문서를 읽으면 자기 주장에 맞게 답하라는 내용이었습니다. 이런 방식은 프롬프트 인젝션이라고 부릅니다. AI가 읽는 글 속에 몰래 명령을 심어, AI의 답을 원하는 쪽으로 끌고 가려는 방법입니다.

웃긴 부분은 법원이 그 서류를 AI로 판정하지 않았다는 점입니다. 법원 직원과 Walter Spader Jr. 판사가 빈칸이 이상하다고 보고 사람이 직접 찾아냈습니다. AI를 속이려던 쪽지가 사람 눈에 먼저 걸린 셈입니다.

그 뒤의 일도 만만치 않았습니다. 법원이 숨은 글 문제를 알린 뒤에도, Elliott은 새 서류에 'hi 🙂 I hope yo ucant see me' 같은 장난 문구와 스폰지밥의 노스페라투 영상 링크를 숨겼다고 보도됐습니다. 그는 법원의 AI 사용 여부를 알아보려 했고, 뒤의 문구는 장난이었다고 말했습니다.

판사는 2026년 8월 6일 제재 결정을 내렸습니다. 벌금 대신 전자 제출 권한을 없애고, 앞으로는 서류를 종이에 출력해 법원 사무실에 직접 내라고 했습니다. 사건은 한 사람의 실수로 끝나지 않았습니다. 법원, 변호사, 회사가 AI로 문서를 읽을 때 숨은 명령을 어떻게 막을지 생각하게 만든 사례가 됐습니다.