오늘의 황당한 LLM 사건

챗봇이 만든 환불 약속, 항공사가 물어냈습니다

게시일 2026-08-02 KST · 사건 기준일 2024-02-14

할머니 장례식에 가야 했던 제이크 모팻은 2022년 11월 11일 에어캐나다 홈페이지에서 표를 알아봤습니다. 급한 여행이라 사별 운임, 가족 장례나 임종 때 쓰는 할인표가 되는지 챗봇에게 물었습니다.

챗봇은 먼저 일반 표를 사고, 표가 나온 날부터 90일 안에 환불 신청서를 내면 할인 운임을 받을 수 있다는 식으로 안내했습니다. 모팻은 그 말을 믿고 밴쿠버와 토론토 왕복 표를 샀습니다. 그런데 여행을 마친 뒤 신청하자 회사는 안 된다고 답했습니다. 실제 규정은 비행 전 승인만 허용했습니다.

그 뒤 사건이 이상하게 커졌습니다. 에어캐나다는 심판 절차에서 챗봇은 자기 행동에 책임지는 별도 법적 존재라는 취지로 말했습니다. 사람으로 치면, 우리 홈페이지에 앉아 있던 안내원이 멋대로 말했으니 회사는 모른다는 주장처럼 들렸습니다.

브리티시컬럼비아 민사분쟁심판소의 크리스토퍼 리버스 심판관은 받아들이지 않았습니다. 챗봇도 회사 웹사이트의 한 기능이니, 정적인 안내문이든 대화창 답변이든 회사가 정확하게 관리해야 한다고 봤습니다. 2024년 2월 14일 결정에서 에어캐나다는 손해 650.88캐나다달러, 이자 36.14캐나다달러, 수수료 125캐나다달러를 지급하라는 판단을 받았습니다.

웃긴 장면은 챗봇이 너무 친절하게 틀린 길을 알려 줬고, 회사는 그 작은 말풍선을 마치 독립한 직원처럼 밀어냈다는 데 있습니다. 하지만 당사자에게는 장례 여행비 문제였습니다. 챗봇이 말해도 손님은 회사가 말한다고 믿습니다.