被這兩天的新聞嚇到了！

全球超過3000名頂尖科學家和科技大佬突然聯名發出緊急呼吁，要求立刻暫停超級人工智能的研發。

據了解，此次聯名由非營利組織未來生命研究所發起。截至10月23日中午，簽署人數已經達3193人。簽名者陣容堪稱“豪華”，包括人工智能先驅杰弗里·辛頓、蘋果公司聯合創始人史蒂夫·沃茲尼亞克、維珍集團董事長理查·布蘭森等各界大腕。中國科學院院士、圖靈獎得主姚期智，清華大學智能科學講席教授張亞勤，清華大學戰略與安全研究中心學術委員薛瀾等中國學者也位列其中。

他們所呼吁暫停研發的“超級智能”，是一種在所有認知任務上都超過人類的人工智能形式。之所以提出這樣的呼吁，是因為超級智能可能具備自主目標設定和超越人類控制的潛力，會帶來諸多風險。許多頂尖AI企業將要打造超級智能，這引起了人們從人類經濟過時、被剝奪權力，到自由、公民自由、尊嚴和控制的喪失，再到國家安全風險，甚至潛在人類滅絕等多方面的擔憂。

目前，我們還沒有堅實的科學證據和切實可行的方法來確保超級智能的安全，使其不會給人類帶來災難性的風險。一邊是專家們急著踩剎車，另一邊是科技巨頭還在往前沖。像Meta甚至將其LLM部門命名為“Meta超級智能實驗室”，盡管10月22日聯合聲明發布當天，Meta在超級智能實驗室裁員600人，但高管強調超級智能仍然是公司的首要任務之一。

科技界對人工智能的看法越來越兩極分化。一方認為它是推動社會進步的強大力量，理應不受限制地發展；另一方則擔憂其潛在風險，主張加強監管。而此次全球眾多頂尖科學家和科技大佬的聯名呼吁，無疑是給當前火熱的人工智能研發澆了一盆冷水，也給全人類敲響了警鐘。這一事件表明，超級智能風險已成全球性公共議題，急需跨國協作解決。

AI的發展應該是為人類福祉服務，而非帶來滅頂之災。在當前缺乏可靠安全框架的情況下，這場“閉眼闖雷區”般的人工智能軍備競賽確實該冷靜下來了。人類需要在發展與安全之間找到平衡，在達成廣泛的安全共識前，建立起堅實的規矩和安全治理框架，確保人工智能的發展是可控的、安全的。否則，一旦超級智能失控，人類可能將面臨無法挽回的后果。