![]()
隨著人工智能技術突飛猛進,其對人類文明的潛在影響已成為全球關注的焦點。為了更深刻地理解這場正在發生的變革,我們不能僅限于技術本身,還需要將視野拓展至歷史、自然科學乃至古老的神話傳說。2025年7月,蘭德公司高級政治學家Iskander Rehman在《恩格爾斯貝格觀點》(Engelsberg Ideas)上發表研究文章《理解人工智能革命》(Making Sense of the AI Revolution)。文章通過引入多學科的分析框架,探討了超級人工智能(Artificial Superintelligence)的出現可能帶來的機遇、挑戰與倫理困境。啟元洞見編譯了文章的核心觀點,以供讀者參考。
一、人工智能:
一種比肩“外星智慧”的全新物種
要理解人工智能所帶來的深刻變革和無限潛力,我們需要拓寬自身的知識邊界,將歷史、自然界乃至古代神話納入思考范疇。一個超級人工智能(Artificial Superintelligence)或通用人工智能(Artificial General Intelligence),其能力將超越人類在幾乎所有認知領域的能力。這種高級人工智能的出現,或許可以被看作是與發現先進外星智慧最為相似的事件。更重要的是,許多行業巨頭和預測平臺認為,這種高級人工智能在未來五到十年內出現的可能性遠大于我們一生中發現外星智慧。
這種與外星智慧的類比乍看之下有些夸張,但實際上,它遠沒有我們想象中那么遙不可及。正如許多頂尖技術專家、倫理學家和哲學家所指出的,一種真正意義上的超級智能,其意義將遠超于一項革命性的通用技術。從本質上講,它的誕生將預示著一個新物種的出現。這個新物種所擁有的能力,在許多人看來,幾乎是神一般的存在。事實上,像薩姆·奧爾特曼(Sam Altman)這樣的人工智能創造者和企業家,經常用一種狂喜的、近乎神秘的語言來形容人工智能的“魔力”。
這樣一個范式轉變對人類歷史的深遠影響是毋庸置疑的。然而,預測其具體走向卻異常困難。人工智能與指揮控制系統的深度融合,是否會顛覆核威懾,將我們推入一個充滿不確定性的新時代?超級人工智能能否治愈癌癥或逆轉衰老?它在寫作、地理定位等領域的廣泛應用,是會增強我們的集體智慧,還是會像麻省理工學院最近的一項研究暗示的那樣,將我們個體變成遲鈍的庸人?最重要的問題或許是:我們是否正在不經意間創造出一種技術,其發展速度不僅超出了我們的理解能力,甚至對人類自身的存續構成了生存威脅?
二、歷史的啟示:
從印刷術到原子彈的多維類比
沒有任何單一的學科,無論是人文學科還是硬科學,能夠幫助我們完全理解后超級人工智能時代即將到來的新世界。我們必須借鑒多種學科的智慧,而歷史研究在此刻尤為重要。歷史類比雖有其局限性,但能夠為我們提供審視過往技術變革的寶貴視角,并提出新的問題。
在所有充滿不確定性的時期,那些被人工智能發展速度所吸引或驚恐的評論家們,總是本能地訴諸歷史,急切地尋求各種歷史類比。
有人提到了15世紀中葉古騰堡發明的活字印刷術,及其對歐洲信息生產和傳播方式的徹底革新。就像今天的人工智能一樣,知識的突然井噴和信息的廣泛傳播也伴隨著陰暗面。印刷革命雖然加速了創新,但也助長了虛假信息的傳播,極大地擴展了國家宣傳的影響力,為16、17世紀歐洲可怕的宗教戰爭火上澆油。正如歷史學家Alexander Lee所記錄的,文藝復興時期一些保守的文人對印刷術抱有毫不掩飾的敵意,將其視為虛假信息之源、公共道德的威脅,甚至是對知識的普遍貶低。
另一些當代政策制定者和評論家則更傾向于援引19世紀末期內燃機的例子,及其在推動工業革命中的關鍵作用。政治學家、美國前國防部官員邁克爾·霍洛維茨(Michael Horowitz)認為,作為一種“賦能者”和“具有多種應用的通用技術”,人工智能“更像是內燃機或電力,而非武器”。如果我們要繼續使用機械隱喻,我們甚至可以追溯到18世紀初蒸汽泵的發明。正如喬治·穆瑟(George Musser)所指出的,這些發明是“修修補補和實驗的產物”,而非源于“對熱力學的深入理解”。然而,它們最終卻成為了“無數其他工業革命必要進步的催化劑”。
與此同時,還有一些專家將核武器的誕生與通用人工智能的潛在來臨進行類比。他們認為,從曼哈頓計劃、美國短暫的核壟斷期,到冷戰時期威懾理論的復雜性,原子時代的種種教訓或許能為我們理解超級智能人工智能的機遇與風險提供啟示。
當然,這些類比都有其局限性。內燃機和蒸汽機是純粹的物理和機械技術,而人工智能雖然嚴重依賴大規模能源和計算基礎設施,但其本質是軟件驅動的。印刷機復制人類創作的文本,而人工智能可以生成全新的內容。與核技術相比,人工智能的另一個顯著區別在于,一個主權國家難以將其完全“武器化”,并確保其與國家目標完全兼容。
但這些吹毛求疵的批評者們可能忽略了關鍵點。歷史類比不應被視為完美無缺、可以生搬硬套的模板。相反,它們應該被看作是“強大的工具,使決策者能夠將當下與過去進行比較,以從中吸取經驗教訓,從而為他們的判斷提供信息”。歷史的洞察力教會我們去發現新的問題,而不是去尋找現成的答案。一個敏銳的歷史視角能幫助政策制定者在不確定和動蕩時期,通過“將不熟悉的事物視為熟悉”來更好地駕馭局面。
正如諾貝爾經濟學獎得主達龍·阿西莫格魯(Daron Acemoglu)所言,人工智能的影響將是多方面的,這種新興技術可能融合了“印刷機、蒸汽機和原子彈的某些特質,形成一種雜亂無章的混合體”。換言之,將多種類比編織在一起,可能比依賴單一的類比更能幫助我們理解人工智能的復雜性。
三、重新定義智能:
從自然界尋找啟示
除了研究歷史,關注人工智能的人們也應該花更多時間在自然和進化科學上。近年來,非人類認知領域的新進展,從烏鴉、蜘蛛到頭足類動物甚至黏菌,正在從根本上挑戰我們長期以來關于智能邊界和含義的假設。當像微軟的穆斯塔法·蘇萊曼(Mustafa Suleyman)這樣的行業領袖開始公開將人工智能稱為一種新的“數字物種”時,我們應該超越狹隘的“人類中心主義”認知評估。
我們可以從自然界中找到許多例子。科學家們發現,極其復雜的認知形式可以從完全不同的神經結構(例如章魚的分布式神經節)和相對較小甚至罌粟籽大小的大腦(例如普通烏鴉或微小的昆孔蛛)中產生。更令人驚訝和富有爭議的是,無腦甚至單細胞生物似乎也能表現出學習和解決問題的能力。例如,植物雖然沒有大腦,但它們擁有復雜的內部信號網絡(電化學和激素),以及分散的感應結構。查爾斯·達爾文在1880年就曾提出,植物的根尖幾乎“像低等動物的大腦,接收來自感覺器官的印象,并指揮各種運動”,這在當時是頗具前瞻性的想法。
同樣,不起眼的黏菌可以解決迷宮問題,預測周期性事件,并在細胞層面傳遞習得性知識。它已成為在沒有神經元的情況下研究原始認知行為的模式生物。還有研究表明,樹木可以通過菌根網絡(真菌網絡)釋放化學信號,向附近的其他樹木“警告”捕食性昆蟲或食草動物的威脅。
這些來自植物智能的教訓,比如將“生長”作為一種策略、模塊化響應和局部決策節點,正在被轉化為工程原理,用于設計需要在不可預測、非結構化環境中運行的機器人。一個有趣的項目開發出一種像藤蔓一樣“生長”的軟體機器人,它通過模仿植物行為來尋找支撐結構和穿越雜亂空間,利用車載3D打印技術添加材料。同樣,無人機工程師長期以來借鑒鳥類學或蜜蜂學(昆蟲學中專門研究蜜蜂的分支)來開發群體算法。章魚柔軟靈活的觸手也為新一代軟體機器人提供了靈感,使其能夠擠進狹小空間并靈巧地操作物體。
然而,除了簡單地利用自然界的洞察力來優化機器人性能,人工智能開發者還應從更廣闊的非人類智能視角中汲取教訓,而這或許有著更深層次的意義。最值得注意的是,這種視角可以帶來一種必要的謙遜和謹慎態度,幫助我們更好地理解一個真正先進的人工智能將如何產生和運作。一些專家認為,人工智能的發展速度和固有的不可預測性,可能會導致一個“人工智能的寒武紀大爆發”。這個類比雖然并不完美,但它反映了這樣一種預期:就像寒武紀時期多樣化生命形式的爆發一樣,我們可能會在相對短的時間內看到各種各樣的人工智能系統涌現,它們的能力、行為和應用將截然不同。
著名的靈長類動物學家弗朗斯·德瓦爾(Frans de Waal)創造了“擬人否定”(anthropodenial)一詞,來描述先驗地拒絕承認其他生物擁有類人特征(包括認知能力)的行為。如果我們拒絕考慮新興人工智能系統可能獲得的多種智能形式——無論是分散式、具身化還是分布式,我們就有可能陷入另一種同樣狹隘的偏見。從在圍棋游戲中下出前所未有的棋步,到發展出遠超設計預期的感覺運動智能,人工智能系統不斷展示出其非同尋常的創造力。這些系統的成功并非因為它們像人類一樣“思考”,而是因為工程師們未能預見到它們解決問題的“異類”方式。正如一位頂尖的人工智能研究人員所言,我們應該將“試圖解釋一個機器學習模型,視為試圖解釋另一個物種或外星人的腦電波”。鑒于我們對地球上可能存在的智能形式的直覺是如此有限,更密切地關注自然界無疑是明智的第一步。
四、神話的警示:
技術傲慢與失控的古老主題
當談到圍繞超級人工智能創造的那些更具曲折性的道德或倫理困境時,我們應該訴諸何種知識體系或學科?在這種語境下援引神話,而非哲學或道德心理學,可能顯得奇怪甚至不切實際。畢竟,正如哲學家卡爾·波普爾(Karl Popper)所寫:“科學必須始于對神話的批判”。然而,在這種特殊情況下,重新審視古典神話中那些強大的主題和教訓,或許能成為我們理解科學即將向這個世界釋放出什么的最有效方式之一。
數千年來,神話的警示和教誨故事一直是重要的社會工具,為社會提供了結構、倫理意義和凝聚力。神話中許多永恒的主題,例如關于傲慢和技術過度擴張的危險、對禁忌知識的渴望,以及在追求力量過程中失控所帶來的生存威脅,都與當前圍繞人工智能的討論完美契合。它們為這個日益由工程師主導、缺乏人文學科滋養的人工智能對齊世界,提供了一系列方便、易于理解的“思想實驗”。
免責聲明:本文轉自啟元洞見。文章內容系原作者個人觀點,本公眾號編譯/轉載僅為分享、傳達不同觀點,如有任何異議,歡迎聯系我們!
轉自丨啟元洞見
研究所簡介
國際技術經濟研究所(IITE)成立于1985年11月,是隸屬于國務院發展研究中心的非營利性研究機構,主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題,跟蹤和分析世界科技、經濟發展態勢,為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號,致力于向公眾傳遞前沿技術資訊和科技創新洞見。
地址:北京市海淀區小南莊20號樓A座
電話:010-82635522
微信:iite_er
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.