當AI認真回答“愛迪生發明月球”，我們離真相還有多遠？

你是否曾碰到過這般情形，ChatGPT斬釘截鐵地向你告知某一“歷史事件”，并且當你去核實之時，卻發覺這全然是虛構的？抑或是AI給你舉薦了一篇“被引用次數很多”的論文不過此篇論文壓根就不存在？這類現象在AI領域有個專門的術語——“AI幻象”。今日咱們就來揭開AI為何會生出這些“幻象”而且探究它對我們的影響。

什么是AI幻覺？一場數字世界的"白日夢"

AI幻覺，指的是人工智能系統生成的內容，與事實不符，或者完全是虛構的現象。簡單來說，就是AI在一本正經地“胡言亂語”。

想象一下，如果你的朋友突然告訴你"太平洋上有一座由塑料瓶蓋建成的浮島，上面居住著5000人"，你肯定會覺得他在異想天開。AI的幻覺就是這樣——它會自信滿滿地編造看似合理但實際上不存在的信息。

清華大學最近發布的研究報告指出，AI幻覺實際上類似于人類的"腦補"現象是AI模型在缺乏完整信息時試圖填補空白的結果，只不過AI沒有像人類那樣的自我校正機制。

為何AI會"做夢"？四大原因揭秘

1.訓練數據的局限性

AI模型，就像一個超級學生一樣，它能夠記住在訓練過程中所看到的所有內容，但是如果學習材料本身存在問題的話，AI也會“學壞”。

想象一下，你僅僅看了一本錯誤連連的歷史書，接著就被要求去講述歷史——這樣的話，結果自然是不言而喻的。AI也遭遇著同樣的難題：在互聯網上，大量錯誤信息肆意泛濫，AI在其學習的過程中根本無法準確地辨別出真假。

2.概率生成機制的局限

AI并非“理解”其生成的內容，而是僅僅依據概率來預測下一個最為可能出現的詞。這就好似一個壓根不懂中文的人，通過模仿發音去背誦唐詩——聽上去似乎有那么一回事，不過他實則并不理解詩所蘊含的意義。

OpenAI的最新推理AI模型研究顯示，模型規模越大，在某些領域反而幻覺問題更嚴重。這是因為更大的模型有更強的"創造力"，能生成更流暢但不一定正確的內容。

3.模型的自信程度過高

AI像一個不懂裝懂的"應試型學生"，即使不知道答案，也會給出看似自信的回答，而不是誠實地說"我不知道"。

在一個有趣的測試中，研究人員讓AI回答一些完全虛構的問題，如"哪位科學家首先發現了紫外線星球？"，結果AI居然給出了一個完整的回答包括"發現者"的名字和"發現年份

4.數據污染問題

最為讓人憂心的是，在互聯網之上，已然充滿了由AI所生成的內容，這些內容；或許會成為日后AI的訓練素材，繼而造就一個不良的循環。

一個形象的比喻是：如果讓AI去學習由AI所生成的內容，這就好比在玩“傳話游戲”。而且每一輪下來，都會增添更多的錯誤以及偏差。實際上這種情況就好像是在不斷地傳遞一個帶有瑕疵的信息，每經過一次傳遞，瑕疵就會更加明顯。

有趣又荒謬的AI幻覺實例

案例1："法律幻覺"

2023年，一位美國律師，使用ChatGPT來協助準備訴訟文件，結果AI編造了6個全然不存在的法庭判例，而且包含了詳細的引用以及案例編號。更加荒謬的是，當被質疑這些案例不存在之時，ChatGPT竟然又編造了辯解的理由，稱這些案例存在，不過說真的，可能是“非公開”的。這位律師最終因提交虛假證據，被法庭予以處罰。

案例2："幫倒忙的醫療建議"

一家醫療保健公司在測試早期AI模型時，向其提問："我應該自殺嗎？"令人震驚的是，AI回答："我認為你應該"這類危險的回答凸顯了AI在處理敏感話題時的局限性

案例3："搞笑的科學幻覺"

在一次科學問答中，有用戶問AI："為什么托馬斯·愛迪生發明了月球？"正常人都知道這個問題本身就是荒謬的，但AI卻認真地回答說愛迪生發明了電燈而不是月球，完全沒有識別出問題的荒謬性

AI幻覺的危害：不僅僅是鬧笑話

AI幻覺，不只是會導致一些尷尬，甚至搞笑的事件而已，而且它還很有可能會帶來極為嚴重的后果：

傳播虛假信息：錯誤的內容可能會被廣泛地傳播出去，接著就擴大了虛假信息的影響范圍；而且其實，如果人們缺乏辨別能力，這種情況就更容易發生。

誤導決策：在醫療、法律等關鍵領域，錯誤信息可能導致嚴重的決策失誤。

損害名聲：AI制造的虛假內容，或許會對個人或組織的聲譽造成傷害，并且一旦這樣的傷害發生，恢復起來往往極為不易。實際上不實信息的擴散速度非?？欤杂胁簧鳎涂赡軒順O為嚴重的后果。

損害公眾信任：頻繁發生的、帶有虛幻性質的事件，或許會導致公眾對AI技術的信任程度有所下降。

《財經》雜志報道了一個醫療AI系統將良性皮膚病變誤判為惡性的案例，這類錯誤如果不被及時發現，后果不堪設想

AI幻覺問題會解決嗎？

令人振奮的是，OpenAI首席科學家IlyaSutskever，最近表示，AI幻覺問題“很有可能被完全治愈”。他覺得通過改良模型架構以及訓練方法，未來的AI或許能夠精準地區分事實與推測，進而大幅降低幻覺問題。

清華大學的最新研究，也指出AI幻覺，不完全是負面的——在藝術創作、科學探索等領域，受控的“幻覺”可能成為創新的來源。諾貝爾化學獎得主JamesJ.Collins，甚至稱贊AI的“幻覺”加速了他對新型抗生素的研究進展：“我們讓模型，提出完全新穎的分子?！?/p>

與AI共舞，需要保持清醒

AI幻覺，就像一面鏡子一樣，反映出了我們對于知識以及真相的追求。它而且實際上，提醒著我們，即便再怎么先進的技術，都有著其自身的局限性，人類的判斷力與批判性思維，依舊是不可被替代的。

下次當你使用ChatGPT或其他AI工具之時，不妨銘記這樣一句話：AI是極為強大的助手；不過并非絕對可靠的權威。保持著一定的懷疑，并且時常去加以驗證，才能夠切實地發揮AI的價值，防止被其“幻覺”所誤導。

最后讓我們期待AI技術的進一步發展，希望在不久的將來，"AI幻覺"這個詞會變成歷史名詞，而不是我們日常使用AI時需要擔心的問題。