一個數字震驚了所有人：人類對圖像的錯誤率大約是百分之五，但某些多模態大型語言模型在特定場景下的視覺幻覺發生率，卻可以暴增到三成以上。這不是實驗室的冷門數據，而是正在發生在你我身邊的信任危機。
當你坐在自動駕駛車裡，AI把路邊的陰影誤判成障礙物，或者更糟——把真正的障礙物當成背景忽略掉。當醫院的影像診斷系統受其他病患的資料干擾，而漏掉腫瘤的早期徵兆。這些不只是科幻電影的情節，而是諾丁漢大學電腦視覺副教授Michael Pound在《Communications of the ACM》期刊中提出的真實警示。
說到底，這些被我們寄予厚望的AI模型，本質上就是一群「預測引擎」。它們讀了數十億張圖片與對應的文字描述，學會了統計上的規律，卻從來不懂什麼是「真實」。加州柏克萊人工智慧研究實驗室的博士後研究員David Chan講得直接：人類也會犯錯，但大眾對AI的期待就是「你應該比我們強」。
【編輯觀點】從產業面來看，視覺幻覺不是一個可以被「修好」的bug，而是生成式AI本質上的結構性脆弱。我們正在把機率模型的輸出當成事實來使用，這在自動駕駛或醫療場景裡，就像是用骰子決定生死。有趣的是，業界現在的做法——用更多AI來檢查AI——幾乎像是請狼來當羊群的保全。如果我們不在系統設計階段就把「可解釋性」列為剛性需求，幻覺只會隨著模型規模擴大而被放大，不會自動消失。
表象：AI看得懂圖，但看不懂世界
ChatGPT和Claude進化到多模態版本後，確實讓人驚豔。你可以丟一張照片給它，它描述得頭頭是道；你描述一個場景，它生成出來的圖片幾可亂真。但這恰恰是問題所在——它的流暢讓我們忘記了它根本不知道自己在說什麼。
Michael Pound用了一個很具體的例子：當背景資訊與圖像內容矛盾的時候，幻覺現象會變得更頻繁。比如一張在廚房裡拍的手術照片，AI可能會因為「廚房」這個語境，而忽略圖片中真正關鍵的醫療器械或病灶。這不是模型不夠聰明，而是它太過依賴統計關聯，勝過依賴視覺證據。
對於明眼人來說，我們看到錯誤可以立刻反應。但對於盲人輔助科技的使用者來說，AI描述「前方有一個人」時，他沒有第二雙眼睛去驗證。這也是為什麼Pound特別強調：這種情境下，AI的精確度不是便利問題，是安全問題。
「LLMs經過大量文本與影像資料訓練，由於缺乏對『真理』的明確規範，其輸出往往僅具統計學上的合理性，而非真實。」
——諾丁漢大學副教授 Michael Pound
真相：幻覺不是偶發，是內建機制
研究人員現在逐漸看清一件事：視覺幻覺不是模型的「失誤」，而是它的「運作方式」。這些AI從頭到尾都在做機率預測——下一個像素最可能是什麼顏色？下一個詞最可能是什麼？它從來沒有「看」過任何東西，它只是在處理數字矩陣。
這就導致了一個荒謬的後果：AI可以對同一張圖片給出完全不同的描述，取決於前面的對話脈絡。你今天問它「這張圖有什麼問題」，它可能指出三個缺點；明天換個問法「這張圖有多完美」，它可能歌頌同一張圖的六個優點。兩次都沒有說謊——因為它根本不知道什麼是事實。
自動駕駛領域已經意識到這個問題，所以他們導入光達這種額外感測器來交叉比對。用白話文講就是：既然AI的眼睛會騙人，那就多裝幾種不同的感應器互相校正。但這只是頭痛醫頭，腳痛醫腳。
各方角力：修正的速度永遠追不上錯誤發生的速度
學術界和產業界現在分成了兩條路線。一條是「微調派」——針對特定任務，用大量的標註影像資料去重新訓練模型，讓它在醫療影像或交通場景等特定領域表現更好。這招有效，但成本極高，而且每換一個場景就要重來一次。
另一條是「驗證派」——在AI輸出之後，再用另一個AI來檢查它的答案。問題是，這種後驗證方法效率低落，而且只能「拒絕」錯誤回應，沒辦法「修正」錯誤。等於你請了兩個AI，一個負責犯錯，一個負責抓錯，而真正的使用者還在旁邊等。
不過，新的「REVERSE框架」提供了一個更有趣的解法。這個方法讓AI在生成回應的「當下」就同步檢查幻覺——它把每個詞語分類為「自信」或「不自信」，並給出信心評分。如果某個描述的信心分數過低，系統可以即時調整或標註警告。David Chan說這是一種「推論技巧」，讓部署中的系統能根據預期的錯誤率來應對，而不是等到出事了才補救。
「這是一種推論技巧，能讓部署中的系統根據預期的錯誤率來進行應對。」
——UC Berkeley博士後研究員 David Chan
深層影響：信任一旦崩壞，重建需要十年
視覺幻覺帶來的最大傷害，可能不是某次自駕車的誤判，而是對整個AI產業的信任侵蝕。想像一下：如果醫院導入AI輔助診斷，卻接連發生漏判，民眾會怎麼反應？不是「這台機器需要更新」，而是「以後AI看過的片子我要重看一遍」。
這背後有一個更深層的社會學問題：我們對AI的期望值已經被拉得太高。ChatGPT流暢的對話讓我們誤以為它有智慧，Midjourney精美的圖片讓我們誤以為它有美感。但當它在關鍵時刻犯下愚蠢錯誤時，我們的失望感會遠超它帶來的便利感。
研究團隊指出，未來的方向應該是從源頭防止幻覺產生，而不是事後補救。更具體地說，要讓AI學會「視覺推理」——分析圖像的幾何結構、外觀特徵、空間關係——而不是只用文字推理去猜圖像內容。這就像教一個學生理解數學公式背後的原理，而不是死背題型。
未解之問
但這裡有一個誰也回答不了的問題：如果連人類的視覺都會產生錯覺——我們偶爾也會把衣架看成蛇、把雲朵看成動物——那我們憑什麼要求AI做到百分之百正確？或者換個角度問：我們願意接受AI的錯誤率是多少？自駕車的標準要設在百萬分之一？醫療影像呢？
Michael Pound沒有給出答案，David Chan也沒有。因為這不是技術問題，是社會選擇。而我們每一個人，在按下「啟用自動駕駛」或「接受AI診斷建議」的那個瞬間，都在用自己的方式回答這個問題。
只是大多數人不知道，他們信任的這個AI，其實從來不知道自己在看什麼。
當背景資訊與圖像內容矛盾時，幻覺現象會更頻繁。醫學影像分析若受其他病患資料影響，AI可能因此忽略圖像中實際存在的疾病跡象。
——Michael Pound，對盲人輔助科技與醫療場景的雙重警示
下一步行動：下次當你使用AI圖像分析功能時，不妨多問自己一句：「我信任它的判斷嗎？我有能力驗證它的答案嗎？」如果你是開發者，請把可解釋性列為產品的核心需求，而非事後補丁。如果你是使用者，請記住——AI的自信不等於正確。在自動駕駛和醫療這類高風險場景中，保持人類的最終驗證權，不是不信任，是對自己生命負責。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
什麼是AI的視覺幻覺？具體會造成哪些實際危害？
視覺幻覺是指AI在處理圖像時，生成看似合理但實際上錯誤或完全虛構的輸出。具體危害包括自動駕駛車誤判障礙物、醫療影像診斷遺漏病灶、盲人輔助科技提供錯誤的環境描述，這些都可能直接威脅人身安全。
目前的技術有什麼方法可以解決視覺幻覺問題？效果如何？
主要有三種方法：針對特定任務微調模型、導入光達等額外感測器進行交叉驗證，以及使用REVERSE框架在生成過程中同步檢查幻覺。前兩者成本高且僅限特定場景，REVERSE則透過信心評分實現即時修正，但仍在研究階段，無法完全根除幻覺。
一般使用者該如何判斷AI給出的圖像分析結果是否可靠？
最務實的做法是「交叉驗證」——對於重要判斷，不要只依賴單一AI的輸出。如果可能，用不同工具比對結果，或保留人類的最終審查權。特別注意AI在回答中出現過度細節描述或極度自信的語氣時，反而可能是幻覺徵兆。
視覺幻覺和AI說謊有什麼不同？
根本差異在於意圖。說謊需要「知道真相但故意扭曲」，而AI從一開始就沒有「知道」這個能力——它所有的輸出都是基於統計機率的預測。所以AI不會說謊，但它會「幻想」，而且它完全不知道自己正在幻想。
未來AI的視覺幻覺問題有可能被完全解決嗎？
學界普遍認為，在現有的生成式AI架構下，完全消除幻覺幾乎不可能，因為這是機率模型的本質特性。未來的突破方向在於發展視覺推理能力，讓AI真正理解圖像的幾何與空間關係，而非只是文字與圖像的統計關聯，但這需要根本性的技術革新。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
About the Author
