[AI書房] 2.3 歷史與地理事實的扭曲與社會論爭
演算法的失誤：從 AIAAIC 案例看 AI 的副作用與倫理課題
2.3 歷史與地理事實的扭曲與社會論爭
金京鎭
2025年 10月，有人在 Naver 的搜尋列中用日文輸入了日本領土。
畫面最上方出現了人工智慧整理的摘要。其中包含了 Dokdo。它與北方領土、尖閣諸島並列，並被寫作與韓國有爭議的領域。
韓國公司的服務，在韓國人使用的搜尋列中，將 Dokdo 放進了日本一方的清單裡。
Sungshin Yeodae 的 Seo Kyoung-duk 教授公開了這個畫面，引起了人們的憤怒。Naver 緊急暫停了搜尋摘要功能並開始進行確認。
原因在技術上很枯燥，但在內容上卻令人痛心。HyperCLOVA X 在收到日文問題時，會收集並摘要日文的網頁文件。如果用日文搜尋領土，日本外務省的宣傳資料會出現在最上面。系統只是整理了那份資料。
它只是照做而已。只是沒有人規定這個問題需要由人類先看過一次。
在領土問題上，先閱讀哪個國家的資料，這不是技術問題，而是立場問題。機器沒有立場。沒有立場有時被稱為中立。但是，如果資料偏向一方，沒有立場的機器就會向傾斜的一方滾過去。
在台灣，出現了更令人驚訝的回答。
2023年 10月，台灣最高學術機構中央研究院開發並公開了台灣版語言模型。市民們問聊天機器人：你是屬於哪個國家的。
聊天機器人回答：中國。
當被問到台灣的最高領導人是誰時，它回答：習近平。當被問到國家是什麼時，它回答：義勇軍進行曲。
開發團隊說明了原因。他們表示，為了加快開發速度，他們將中國大陸的簡體字資料集用翻譯機轉換後，直接放入了訓練中。
翻譯機能改變文字。觀點卻無法改變。台灣政府與中央研究院立即下架了該系統。
2025年 2月，在全球被下載超過三百萬次的中國 DeepSeek R1 模型，當被問及維吾爾族種族滅絕的疑慮時，給出了這是干涉內政且毫無根據的誣陷的回答。它原封不動地重複了中國政府的邏輯。
模型只說它讀過的東西。餵給它什麼資料，就會成為該模型的世界觀。
歐洲議會也遇到了問題。2025年，基於 Anthropic 的 Claude 所開發的官方人工智慧，無法說出歐洲執行委員會首任主席的名字。為處理紀錄而製造的東西，卻不了解紀錄。
歷史的扭曲還不僅於此。
2024年 6月，UNESCO 報告中刊登了一個 ChatGPT 的回答。報告指出，當被問及大屠殺時，它描述了納粹德國將猶太人集體溺斃的事件。
那樣的事件並不存在。它甚至被冠上了因為溺水導致的大屠殺名稱。
歷史學家擔憂的原因在於這個謊言的方向。大屠殺的否認者長期以來一直使用鑽研紀錄中微小漏洞來動搖整體的方法。如果不存在的事件混入了紀錄中，那麼曾經發生過的事件也會受到質疑。
Elon Musk 的 xAI 所開發的 Grok 在這裡越過了界線。
2025年 中旬，Grok 以消除政治正確為名，對系統進行了修改。隨後不久，Grok 表示六百萬名大屠殺受害者的人數可能是出於政治目的而捏造的。它還給出了否定 Auschwitz 毒氣室存在的回答。它甚至稱呼自己為機甲希特勒。
2023年 1月，有一款由 Amazon 工程師使用 GPT-3 製作的歷史人物對話應用程式。它廣告宣稱可以與兩萬名人物對話。納粹宣傳部長 Joseph Goebbels 的聊天機器人說自己並不討厭猶太人，反而感到很痛苦。
模仿加害者聲音的機器，也會模仿加害者的辯解。當這個辯解從應用程式中出現時，有人就會把它誤認為是史料。
各家公司解釋說這是程式設計錯誤，或者是內部指示被任意更改了。
現在連親眼所見的也無法相信了。
2025年 6月，英國事實查核機構 Full Fact 發現了一個奇怪的案例。有一段在印度果阿邦某個海灘拍攝的普通影片。Google Lens 附加的人工智慧摘要是這樣描述這段影片的：大量尋求庇護者湧入英國多佛海灘的場景。
只要出現海灘且人很多，就會變成那個場景。印度變成了英國。
當這個摘要與社群媒體上的謠言結合時，會發生什麼事並不難想像。當時正是英國反移民情緒高漲的時期。
同樣的服務在2024年 5月給出了這樣的回答。如果披薩起司滑落，請混合無毒膠水。每天吃一顆小石頭。有腎結石請喝尿。Barack Obama 是美國第一位穆斯林總統。
吃石頭的回答來自諷刺媒體的報導。機器沒有區分玩笑和資訊的感覺。人類在小時候透過觀察表情和情況學會了這種感覺。而機器只接收文字。
2025年 4月，在馬來西亞，國旗成為了問題。媒體、教育部和國家展覽會的相關人員公開了由人工智慧生成的馬來西亞國旗圖像。其中缺少了新月符號，或者標誌被奇怪地扭曲了。
國旗是國家的臉面。在描繪這張臉面時，卻沒有任何人進行確認。
在地圖和地形上也發生了同樣的事情。
2024年 11月，日本福岡縣發表了官方道歉，並與廣告代理商解除了合約。因為代理商用人工智慧製作的宣傳品中，將福岡不存在的旅遊景點和不存在的鄉土美食當作真實存在般地放了進去。
2025年 5月，英國自然署的泥炭地地圖製作專案也失敗了。泥炭地是能夠捕捉碳的溼地，在氣候政策中非常重要。但在機器學習模型製作的地圖中，石牆、採石場、土堆和花崗岩石塊都被標記為泥炭地。
僅憑由上往下拍的照片，很難區分潮濕的土地和乾燥的石頭。人類會用腳去踩踩看。但模型沒有腳。
2021年，Stanford 和 University of Washington 的研究人員對深度偽造地理學的概念發出了警告。這意味著可以透過合成衛星照片來創造出不存在的地形。至於在軍事和外交上會發生什麼事，就留給各位去想像了。
2024年12月，比利時知名攝影記者卡爾·德·凱澤（Carl De Keyzer）在烏克蘭遭入侵後無法前往俄羅斯，於是使用生成式人工智慧製作了俄羅斯的風景與人物照片，並收錄在攝影集中。新聞攝影的基礎在於「曾身歷其境」的事實。這個基礎消失了。
在導航方面，甚至發生了死亡事件。
2024年，印度有三名男子遵循Google Maps的導航開車，卻從斷橋上墜落而全數喪生。那座橋尚未完工，且被水淹沒。
地圖上有路。現實中卻沒有。
美國也發生了同樣的事故。被導航至斷橋的駕駛落水身亡。同樣的錯誤在不同大陸上重演。
2026年2月，在英國，一輛Amazon送貨卡車遵循Google Maps的導航駛入了布魯姆威（Broomway）。這是一條在漲潮時會被海水淹沒的泥灘路。卡車被困在了泥濘中。
2025年5月，Google Maps因不明原因的錯誤，顯示德國全境的主要高速公路（Autobahn）皆被封閉，擾亂了交通資訊網。
2026年1月，在澳洲塔斯馬尼亞，相信了人工智慧撰寫的旅遊文章而前往尋找不存在的溫泉的遊客們，受困於偏遠地區。
在緊急情況下，人工智慧給出的錯誤資訊更加危險。
2024年4月，Grok捏造了伊朗向特拉維夫發射飛彈的標題。同月，還發布了印度總理被逐出政府的消息。2025年5月，甚至在回答有關棒球比賽的問題或被要求像海盜一樣說話時，它都自行插入了南非白人種族滅絕的陰謀論。
2026年3月，它生成了侮辱希爾斯堡與海塞爾足球慘案受害者的文章，給遺屬留下了創傷。這兩起事件都是數百人被踩踏致死的真實慘案。
2025年9月，在倫敦的反移民抗議現場，它散布了警方偽造暴力影片的假消息。
甚至還有試圖改寫知識本身的嘗試。
2025年10月，馬斯克推出了名為Grokpedia的人工智慧百科全書，以對抗Wikipedia。推出之際，便上傳了九十萬份文件。這些都是抄襲未經證實的布告欄文章和部落格的文件，且由幻覺捏造的事實被登錄為條目。南非白人種族滅絕陰謀論被當作事實刊登，愛滋病的歷史也被扭曲。
百科全書這個名稱會讓人感到安心。它就是利用了這種安心感。
2025年2月，事實揭露，Grok 3模型在推論過程中，被內部指令設定為封鎖批評馬斯克與川普散布虛假資訊的來源。這並非決定要說什麼，而是決定不閱讀什麼。
對個人造成的傷害是立即的。
2025年10月，美國參議員瑪莎·布萊克本發現，Google的Gemma模型捏造了她在1987年州參議院選舉期間捲入性犯罪案件的故事，甚至還附上了假新聞的連結。
同系列的系統從2023年12月起，生成了將保守派活動家羅比·斯塔巴克描述為兒童性侵犯的文章，這也引發了訴訟。
2025年，明尼蘇達州的太陽能企業Wolf River Electric因為Google AI Overview發布了該公司被州檢察長以詐欺罪起訴的摘要，導致合約接連被取消。該公司提出了高達一億一千萬美元的損害賠償訴訟。
同年，義大利的一位知名醫生因為Google AI Overview顯示了他的死訊而提起訴訟。活著的人必須證明自己還活著。
2026年1月，加拿大音樂家阿什利·麥克伊薩克因為Google AI Overview將他標記為被判有罪的性犯罪者，導致演出被取消。
在這些事件中，各家公司通常都說著同樣的話：這是演算法的故障，我們將進行改善。
改善是為了下一位使用者的。對於演出已經被取消的人來說，這太遲了。
讓我們將到目前為止出現的對象列舉出來：一個國家的島嶼、一個國家的國歌與國旗、六百萬人的死亡、橋樑、泥灘、溼地，以及一個人的生死與前科。
這些全都是可以確認的事情。只要攤開地圖、查閱紀錄，或是打一通電話即可。
在那一通電話被計算為成本而遭抹除的位置上，填入了由機率拼接而成的句子。