超三千名頂級(jí)大佬齊呼吁：暫停超級(jí)智能研發(fā) 沒(méi)有堅(jiān)實(shí)證據(jù)確保安全

2025年10月26日，一項(xiàng)由中美兩國(guó)人工智能領(lǐng)域頂尖專家和技術(shù)領(lǐng)袖聯(lián)名發(fā)起的呼吁在全球科技界引發(fā)震動(dòng)。超過(guò)3000名頂級(jí)學(xué)者、企業(yè)家和公眾人物共同簽署聲明，要求在科學(xué)界達(dá)成“安全可控開(kāi)發(fā)超級(jí)智能的廣泛共識(shí)”之前，暫停“超級(jí)智能”的研發(fā)。這一倡議由非營(yíng)利組織“未來(lái)生命研究所”發(fā)起，迅速獲得包括人工智能先驅(qū)杰弗里·辛頓、蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、維珍集團(tuán)董事長(zhǎng)理查德·布蘭森、經(jīng)濟(jì)學(xué)家達(dá)龍·阿西莫格魯?shù)戎亓考?jí)人物的支持。中國(guó)學(xué)界的重要代表，如中國(guó)科學(xué)院院士姚期智、清華大學(xué)講席教授張亞勤、清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾等也紛紛加入聯(lián)署。

所謂“超級(jí)智能”，指的是在所有認(rèn)知任務(wù)上超越人類水平的人工智能形態(tài)。盡管目前大多數(shù)企業(yè)研發(fā)的仍屬于通用人工智能（AGI），但超級(jí)智能所預(yù)示的能力已引發(fā)廣泛憂慮。聲明中指出，多家領(lǐng)先的AI企業(yè)正競(jìng)相投入超級(jí)智能的研發(fā)，這一趨勢(shì)可能帶來(lái)“人類在經(jīng)濟(jì)上被取代與邊緣化、自由與公民權(quán)利受損、尊嚴(yán)與控制權(quán)喪失，乃至國(guó)家安全風(fēng)險(xiǎn)，甚至可能帶來(lái)人類滅絕的極端威脅”。

當(dāng)前，超級(jí)智能已成為AI領(lǐng)域的熱詞。從埃隆·馬斯克的xAI到薩姆·奧特曼領(lǐng)導(dǎo)的OpenAI，再到Meta將其大語(yǔ)言模型部門(mén)直接命名為“Meta超級(jí)智能實(shí)驗(yàn)室”，全球科技巨頭紛紛加速布局。然而，這一領(lǐng)域的快速發(fā)展也引發(fā)了科技界的激烈爭(zhēng)論。一方認(rèn)為AI是推動(dòng)社會(huì)進(jìn)步的關(guān)鍵力量，主張自由發(fā)展；另一方則強(qiáng)調(diào)其潛在風(fēng)險(xiǎn)，呼吁加強(qiáng)監(jiān)管。

值得注意的是，即便是身處AI研發(fā)前沿的領(lǐng)軍人物，如馬斯克和奧特曼，過(guò)去也曾對(duì)超級(jí)智能的風(fēng)險(xiǎn)發(fā)出警告。奧特曼在2015年的一篇博客中寫(xiě)道：“發(fā)展超人類機(jī)器智能可能是對(duì)人類持續(xù)存在的最大威脅。”中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員曾毅指出，盡管目前絕大多數(shù)企業(yè)研發(fā)的仍屬通用人工智能工具，但超級(jí)智能所帶來(lái)的風(fēng)險(xiǎn)目前在科學(xué)上仍無(wú)法有效控制。他特別提到，Meta設(shè)立超級(jí)智能實(shí)驗(yàn)室，以及阿里巴巴等中國(guó)公司公開(kāi)宣稱研發(fā)超級(jí)智能，這些動(dòng)向已超出通用人工智能工具的范疇，值得高度關(guān)注。

此次聯(lián)名呼吁的核心在于，超級(jí)智能的發(fā)展速度可能遠(yuǎn)超人類社會(huì)的適應(yīng)能力，而現(xiàn)有的安全機(jī)制和倫理框架尚未成熟。倡議者認(rèn)為，在缺乏堅(jiān)實(shí)證據(jù)確保超級(jí)智能安全可控的情況下，貿(mào)然推進(jìn)研發(fā)可能帶來(lái)不可逆的災(zāi)難性后果。他們建議，全球科技界應(yīng)優(yōu)先建立統(tǒng)一的監(jiān)管標(biāo)準(zhǔn)，確保AI的發(fā)展始終以人類福祉為核心。

然而，反對(duì)者則認(rèn)為，暫停研發(fā)可能阻礙技術(shù)進(jìn)步，使其他國(guó)家在AI競(jìng)爭(zhēng)中占據(jù)優(yōu)勢(shì)。他們認(rèn)為，風(fēng)險(xiǎn)固然存在，但通過(guò)技術(shù)創(chuàng)新和倫理約束，人類完全有能力駕馭超級(jí)智能的發(fā)展方向。

這場(chǎng)爭(zhēng)論的背后，是AI技術(shù)發(fā)展的根本性問(wèn)題：如何在創(chuàng)新與安全之間找到平衡？超級(jí)智能的潛在收益無(wú)疑是巨大的，從醫(yī)療突破到氣候治理，再到經(jīng)濟(jì)效率的提升，都可能因AI的進(jìn)步而實(shí)現(xiàn)。然而，如果缺乏有效的安全措施，超級(jí)智能也可能成為人類歷史上最大的威脅之一。

目前，全球各國(guó)對(duì)AI監(jiān)管的態(tài)度仍存在分歧。歐盟已通過(guò)《人工智能法案》，試圖通過(guò)立法規(guī)范高風(fēng)險(xiǎn)AI應(yīng)用；美國(guó)則傾向于行業(yè)自律，鼓勵(lì)企業(yè)在發(fā)展中自我約束；中國(guó)則在推動(dòng)AI發(fā)展的同時(shí)，強(qiáng)調(diào)安全可控的原則。此次全球頂級(jí)專家的聯(lián)名呼吁，或許將成為推動(dòng)國(guó)際社會(huì)形成共識(shí)的重要契機(jī)。

未來(lái)，超級(jí)智能的發(fā)展路徑將取決于科技界、政策制定者和社會(huì)公眾的共同努力。在確保安全的前提下，人類或許能夠解鎖AI的全部潛力，避免其成為失控的力量。但無(wú)論如何，此次呼吁已經(jīng)向世界傳遞了一個(gè)明確的信號(hào)：超級(jí)智能的研發(fā)不能盲目推進(jìn)，人類必須首先回答“如何確保它不會(huì)反噬我們”這一根本問(wèn)題。