[AI書房] 2.2 法庭與學術界的假判例及引文風波
演算法的失誤：從 AIAAIC 案例看 AI 的副作用與倫理課題
2.2 法庭與學術界的假判例及引文風波
金京鎭
開頭源於一個膝蓋。
羅貝托·馬塔在阿維安卡航空公司飛機上被餐車撞到了膝蓋。他對航空公司提起損害賠償訴訟。這是很常見的事件。這樣的訴訟不會被記錄在判例集中。
2023年5月，這個案件成為了全世界法律界都知道的案件。不是因為膝蓋。
馬塔的律師史蒂芬·施瓦茨提出了六份判例來對抗航空公司的駁回申請。案件名稱類似「瓦尔赫斯訴中國南方航空公司案」。有案件號，有判決日期，有法院名稱。形式是完美的。
對方律師團查找了這些判例。找不到。法官助手查找了。找不到。
這六個案件都是不存在的判決。
施瓦茨在準備文件時使用了ChatGPT。在審訊中，他說他不知道人工智慧可以說謊。他甚至問ChatGPT這個判例是否真實。ChatGPT回答說是真實的。
這就相當於問一個騙子他有沒有說謊。
同事律師彼得·羅度卡沒有驗證就簽名了。法院對兩人處以五千美元的罰款。
這個案件之所以出名，不是因為罰款金額。而是因為人們第一次窺見了提交給法庭的文件是如何制作的。
之後這種事反復出現。一再出現。
法國研究人員達米安·夏洛頓建立了一個收集人工智慧幻覺判例的資料庫。讓我們看看數字是如何增長的。
2025年年中約為200起。2026年1月增至719起。2026年4月初為1,227起，6月9日為1,598起。
從5月22日到6月9日的18天內增長了140起。平均每天8起。
這意味著法庭每天發現虛假判例8次。未被發現的還沒有被計算。
看看這份名單上的案件，國籍和職位各不相同。
曾是前總統唐納德·川普親信的邁克爾·科恩在準備要求提前結束監督期限的文件時使用了谷歌Bard。他認為引文是真實的，並將其交給了他的律師，律師未經驗證就提交給了法院。直到法官告知判例集中沒有這些判例才得知。
紐約律師傑伊·李用ChatGPT制作了虛假判例，稱皇后區醫生墮胎手術失誤，提交給第二巡迴上訴法院後被提交紀律程序。
加拿大卑詩省最高法院的一場離婚訴訟中，律師提交的兩份判例被證實為幻覺，其中聲稱父親可以將孩子帶到中國。法官命令該律師用個人資金支付對方律師費用。
英國一審法院的菲利西蒂·哈伯案件像偵探小說一樣。他對3,265英鎊的罰款處罰提出異議，提交了九份判例。法官安妮·雷德斯通發現了異常。雖然是英國判決文，但混入了美國式拼寫。而且某些陳詞濫調的句子重複出現。
機器無法隱藏自己的國籍。
西班牙加那利群島最高法院對提交了48份虛假判例的律師處以420歐元罰款。該律師甚至沒有與官方法律資料庫核對。
在澳大利亞墨爾本家庭法院，法律專業軟體的工具生成虛假判例，導致審判被延遲。在塔斯馬尼亞最高法院的誹謗上訴案中，首席法官直接指出不存在的判例並駁回了訴訟。
在巴西，一位聯邦法官因為判決書寫作負擔而讓助手使用機器學習工具，結果篡改了上級法院的判例，受到了調查。
判決書是由人工智慧寫的。受審者不知道這一事實。
2026年，規模擴大了。
2026年2月離婚上訴案中，律師格雷格·萊克提交的文件在63條引文中有57條存在問題。其中虛假判例20起，篡改判決3起，捏造法律條款引用。
63條中只有6條是真實的。
內布拉斯加州最高法院在2026年4月暫停了他的資格並下令進行紀律調查。
2026年3月，第六巡迴上訴法院的懷廷判決涉及三份並案上訴文件中24起以上的虛假引用和事實歪曲。在俄勒岡州聯邦地方法院的一個案件中，制裁和費用合計約為109,700美元。僅2026年第一季度，美國法院就對人工智慧相關文件的制裁就超過145,000美元。
從記錄來看，有一個模式。相比虛假引用本身，試圖隱瞞的一方受到更嚴重的處罰。法官寬恕錯誤，但不寬恕謊言。
企業也不例外。
自稱是世界首個機器人律師的DoNotPay宣傳可以在不經過律師驗證的情況下分析法律文件，被聯邦貿易委員會查獲，被罰193,000美元。
聲稱自動化個人傷害文件制作的EvenUp因前員工舉報真相大白。人工智慧遺漏傷害詳情或編造疾病名稱時，員工們手工修改。
在懸浮滑板火災損害賠償訴訟中，律師事務所自己的資料庫生成的8份虛假判例被提交。法官對律師們合計罰款5,000美元，並將領導這件事的律師從案件中除名。
大律師事務所也被抓。在State Farm保險公司案件中，兩家大律師事務所的律師混合使用Gemini和法律專業工具，27條引文中9條出錯，2條完全虛假，被罰31,000美元。
My Pillow主席邁克·林德爾的律師團隊留下了30多份虛假判例，每位律師被罰3,000美元。
最離奇的案例來自人工智慧公司內部。
在環球唱片公司與Anthropic的著作權訴訟中，Anthropic一方的資料科學家提交的文件中包含了自家聊天機器人生成的虛假學術論文。人工智慧公司因人工智慧在法庭上吃了苦頭。
史丹佛大學的媒體資訊專家傑夫·漢考克教授，在明尼蘇達州深偽禁令法庭的陳述書中，引用了兩篇由人工智慧幻覺捏造的假論文。這位出庭說明深偽技術風險的專家，竟然引用了人工智慧編造的資料。
走出法庭，來到了學校。這裡的情況也沒有什麼不同。
2023年8月，丹麥生物學家亨利克·恩霍夫教授在閱讀衣索比亞研究團隊關於馬陸的論文時，簡直不敢相信自己的眼睛。有兩篇不是他寫的論文，竟然以他的名字被引用了。
研究團隊表示，他們在撰寫論文時使用了ChatGPT，後來才發現產生了假引用。該篇論文已被撤回。
引用在學術界就是一種系譜。它記錄了某個想法是從哪裡來的。假引用就像是在族譜裡寫上不存在的祖先。一旦混入其中，後來的人就會不斷犯錯。
這個問題比人工智慧還要早出現。
2008年到2013年之間，法國研究人員西里爾·拉貝在知名學術出版社Springer和IEEE的學術研討會論文集中，找出了大約一百二十篇假論文。這些論文是MIT研究生在2005年為了嘲弄審查鬆散的學會，而製作的自動論文生成程式的產物。
毫無意義的單字組合通過了審查，並被刊登在正式的論文集上。這是二十年前的事了。
2024年2月，一本細胞生物學期刊撤回了一篇論文。該論文裡有使用Midjourney製作的圖片，其中有一張在解剖學上完全不合理的巨大老鼠圖片。圖片上寫的文字也只是毫無意義的英文字母排列。
好幾位審查委員看了這張圖片，竟然還批准了。
在2024年404 Media的調查中，Google Scholar上註冊的論文裡，有一百一十五篇以上還留著「根據我的最新知識更新」這樣的句子。他們複製貼上後，根本沒有讀過。
在Journal of Human Evolution中，出版社沒有與編輯委員會商量，就擅自將人工智慧導入原稿編輯過程中。通過審查的原稿格式破損、內容扭曲，導致全體編輯委員辭職。
史丹佛大學的研究團隊指出，全球頂尖的人工智慧學會的論文審查評論中，最高有17%是由ChatGPT撰寫的。
這是一個由人工智慧審查人工智慧論文的結構。這不禁讓人想問，人類到底在哪裡。
政策文件也發生了同樣的事情。
澳洲麥覺理大學名譽教授詹姆斯·格思里，使用Google Bard撰寫了要求管制顧問業界的議會提交文件。Bard捏造了Deloitte因疏忽對不良施工公司的審計而遭到起訴，或是KPMG介入便利商店剝削薪資事件等內容。這些全都是子虛烏有。教授已向參議院提交了道歉信。
原本打算批評顧問業界的文件，卻以莫須有的罪名誣陷了這些顧問公司。
撰寫澳洲政府福利系統報告的Deloitte澳洲分公司，也因為直接刊登了由ChatGPT編造的假學術引用和聯邦法院判決文段落，而遭到批評並賠償了金錢。
2025年，美國衛生及公共服務部與白宮發布的衛生報告中，包含了七篇以上的假學術研究。ChatGPT特有的引用標記依然原封不動地留在上面。
否認氣候變遷的人們使用Grok 3模型生成論文，並刊登在私人期刊上。這被用來動搖科學界的共識。
讓我們來數數經歷這些事件的人們的職業。律師、法官、教授、政府官員、大企業顧問。
他們都是長期接受文字處理訓練的人。他們是靠辨別文件真偽來賺錢的人。
但他們還是上當了。因為人工智慧產出的文件，在形式上無懈可擊。有案件編號，有日期，文體也像法律文件。人類有根據形式來判斷真偽的習慣。
假判例正站在這個習慣的完全對立面。它沒有內容，只有形式。
在法庭上爭論事實的原因，是因為這牽涉到人的自由與財產。如果這場爭論的依據是不存在的判決文，那麼那場審判到底算什麼呢？
現在每天都會發現八起這類的案件。