辛頓等人再為“超級智能”踩剎車，超千名公眾人物聯署公開信

近日，一封由非營利組織“生命未來研究所”（Future of Life Institute）發起的公開信，獲得了超過 1,000 名公眾人物的聯署。信中呼吁，在獲得“廣泛的科學共識（證明其能被安全可控地完成）和強烈的公眾支持”之前，應該明確禁止超級智能的開發。

（來源：superintelligence statement）

洋洋灑灑的簽署名單揭示了這場焦慮已普遍蔓延至政治、商業和文化領域。名單中不僅包括了“AI 教父”杰弗里·辛頓（Geoffrey Hinton）、約書亞·本吉奧（Yoshua Bengio）和圖靈獎得主姚期智，還包括了蘋果聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）、維珍創始人理查德·布蘭森（Richard Branson）；甚至還包括了哈里王子夫婦、特朗普的前戰略師史蒂夫·班農（Steve Bannon）以及奧巴馬時期的國家安全顧問蘇珊·賴斯（Susan Rice）。

這封信要求，在“就其安全可控達成廣泛科學共識”和“獲得強有力的公眾支持”之前，領先的人工智能實驗室必須停止他們對這種超級能力的追求。

公開信中談及，人工智能行業正競相構建能在未來十年內、在幾乎所有認知任務上超越人類的系統，這將置人類社會于不可回旋的風險之中：經濟劇變、人類失控、公民自由受到威脅，乃至“人類滅絕”的可能性。歷史學家尤瓦爾·赫拉利（Yuval Noah Harari）甚至發出警告，超級智能可能會摧毀“人類文明的操作系統”。

這種恐懼并非杞人憂天。與公開信一同發布的民調顯示，高達 73% 的美國人希望對先進的人工智能進行強有力的監管，64% 的人同意在安全可控前不應開發超級智能。“95% 的美國人不想要一場通往超級智能的競賽，專家們也希望禁止它，”生命未來研究所主席馬克斯·泰格馬克（Max Tegmark）在聲明中總結道。

（來源：superintelligence statement）

然而，這封信最大的意義或許不在于它是否能成功調整行業發展的步調。畢竟，該組織曾在 2023 年初發布“呼吁暫停六個月”的公開信，最終對行業的發展步伐沒有產生任何影響。包括 Meta、谷歌 DeepMind 和 OpenAI 在內的幾家主要 AI 實驗室，還在積極地追求達到或超越人類智能水平的先進智能體。一些激進的專家估計，超級智能最早可能在“2020 年代末”實現。這一次，這封口徑更嚴厲的呼吁，反而像一面鏡子，照出了人工智能行業內部的深度分裂。

行業的分裂正變得日益公開化。一邊是辛頓、本吉奧等人對生存風險的深切擔憂；另一邊，則是以 Meta 首席 AI 科學家楊立昆（Yann LeCun）為代表的“技術樂觀派”。

楊立昆尖銳地批評了那些公開警告 AGI 危險、私下卻在構建同類系統的同行（如 Anthropic CEO Dario Amodei），稱這種立場“在理智上不誠實”。楊立昆認為，當前的大型語言模型被嚴重高估，并且正在走向技術的死胡同，何來談及威脅人類生存。

《人工智能：一種現代方法》的作者斯圖爾特·羅素（Stuart Russell）也警告稱，當前膨脹的預期可能引發類似互聯網泡沫破滅的信心崩潰。他表示，這次該團體并不是在呼吁“通常意義上的禁令甚至暫停”，而只是“提議在開發繼續之前要求足夠的安全措施”。就連 OpenAI 的主席布雷特·泰勒（Bret Taylor）也公開表示，如今的 AI 熱潮與當年的互聯網時代有著強烈的相似之處。

這場公開的立場分化正在拷問整個人工智能行業：我們是正站在“失控”的懸崖邊，還是處于“泡沫”破滅的前夜？

盡管本吉奧呼吁 AI 系統應“從根本上無法傷害人類”，哈里王子也表示“AI 的未來應該服務于人類，而不是取代人類”，但這場辯論在可見的未來還不會有答案。在領先的實驗室繼續追求更強系統的同時，這場關于 AI 終極形態的論戰，才剛剛開始。

參考資料：

1.https://fortune.com/2025/10/22/ai-superintelligence-richard-branson-prince-harry-call-for-pause/

2.https://the-decoder.com/the-ai-pause-group-is-back-with-another-warning-about-superintelligence/

3.https://superintelligence-statement.org/

運營/排版：何晨龍