오늘의 황당한 LLM 사건

로그아웃 오류를 ‘새 정책’이라 지어낸 커서 고객센터 AI

게시일 2026-08-14 KST · 사건 기준일 2025-04-15

2025년 4월, AI 코딩 도구 커서 이용자들은 데스크톱과 노트북을 번갈아 쓰다가 갑자기 로그아웃되는 일을 겪었습니다. 한 이용자가 고객지원에 이유를 묻자, 지원 담당자 ‘샘’은 보안 기능 탓에 구독 하나로 여러 기기를 쓰면 안 된다는 새 정책이라고 답했습니다. 돈을 더 내야 한다는 말처럼 들렸습니다.

하지만 그 정책은 없었습니다. 실제 문제는 로그인 세션의 보안을 고치려다 생긴 오류였습니다. 커서 공동창업자 마이클 트루엘은 해명 글에서 여러 기기 사용을 막는 정책은 없다고 밝혔습니다. 문제의 답변은 사람 상담원이 아니라, 첫 문의를 처리하던 AI 고객지원 봇이 지어낸 말이었습니다.

코드를 고치라고 만든 AI 회사가 자기 회사의 규칙을 물은 고객에게 없는 규칙을 만들어 준 셈입니다. AI가 그럴듯한 문장으로 사실과 다른 내용을 말하는 일을 ‘환각’이라고 부릅니다. 이때는 화면이 이상해졌다는 진짜 문제 위에 가짜 정책까지 얹혀 소동이 커졌습니다.

답변이 온라인에 퍼지자 개발자들은 해명을 요구했고, 구독을 끊겠다는 반응도 나왔습니다. 해커뉴스의 관련 글에는 1,500점이 넘는 추천과 600개가 넘는 댓글이 달렸습니다. 공식 고객지원 메일의 말이라 이용자들은 처음에 의심하기 어려웠습니다.

회사는 해당 이용자에게 환불했고, 이메일 지원에 쓰는 AI 답변을 분명히 표시하겠다고 밝혔습니다. 사람에게 묻고 싶었던 질문에 AI가 회사 정책까지 창작해 답한 사건입니다. 고객지원 봇에게는 모르는 일을 모른다고 말하는 기능이 먼저 필요한 이유를 보여줬습니다.