AI的超速發(fā)展，已經(jīng)產(chǎn)生意識(shí)了嗎？到底對(duì)人類是天堂還是地獄？

科技大佬的“地堡心態(tài)”是信號(hào)嗎？

科技界億萬富翁們似乎正為“世界末日”做準(zhǔn)備，我們應(yīng)該擔(dān)心嗎？

BBC報(bào)道，扎克伯格等人修建地下避難所的事，聽起來確實(shí)像科幻電影情節(jié)。

LinkedIn的聯(lián)合創(chuàng)始人里德·霍夫曼甚至說，硅谷超級(jí)富豪中擁有這種“末日保險(xiǎn)”的比例高達(dá)一半。

最值得玩味的是OpenAI首席科學(xué)家伊利亞·蘇茨克弗的那句話：“在發(fā)布AGI（通用人工智能）之前，我們一定要先建好地堡?！?/p>

（據(jù)說早在2014年，馬克·扎克伯格（又譯朱克伯格、祖克柏，Mark Zuckerberg）就開始在夏威夷考艾島（Kauai）修建他名為“古蘭尼牧場”（Koolau Ranch）的龐大莊園，占地達(dá)1,400英畝。）該莊園將設(shè)有避難設(shè)施，配備獨(dú)立能源與糧食供應(yīng)。不過，參與施工的木匠與電工都被要求簽署保密協(xié)議。外圍的道路被一道六英尺高的圍墻隔絕視線。

另外，據(jù)多種報(bào)道，有世界上很多的大富豪、大科學(xué)家們，都在自己的私人領(lǐng)地里，建立起了各種各樣的末日地堡。他們的目的，跟50年前許多美國人建立這類建筑的目的完全不同，他們不是為了防備核大戰(zhàn)，而是為了防備AI有了意識(shí)，造人類的反，把人類消滅掉，他們是為了防備人工智能的。

這反映了一種深刻的矛盾心態(tài)。他們既是技術(shù)最積極的推動(dòng)者，同時(shí)也可能是最深刻的恐懼者。

這有點(diǎn)像一邊拼命研究核聚變，一邊在自家后院建防核掩體。這種“地堡心態(tài)”未必是針對(duì)某場具體的戰(zhàn)爭或?yàn)?zāi)難，更像是對(duì)技術(shù)失控、社會(huì)秩序重構(gòu)等巨大不確定性的一種本能反應(yīng)。

甚至有位億萬富翁的保鏢直言，如果末日真來臨，他們的首要計(jì)劃可能是“干掉老板，自己接管地堡”。這說明了什么？再堅(jiān)固的堡壘，也可能防不住最基礎(chǔ)的人性博弈。

人工智能發(fā)展的兩種未來圖景：天堂還是地獄？

關(guān)于AI的未來，科技界內(nèi)部也存在著幾乎完全對(duì)立的想象，有點(diǎn)像一場“冰與火之歌”。為了更直觀，咱們來看看這兩種截然不同的看法。

AI真有“意識(shí)”了嗎？

這是個(gè)核心問題。目前的共識(shí)是：還沒有，而且差得遠(yuǎn)。

現(xiàn)在的AI，包括看起來很厲害的聊天機(jī)器人，本質(zhì)上是“有智能，無意識(shí)”。它們基于海量數(shù)據(jù)訓(xùn)練，極其擅長識(shí)別模式和預(yù)測下一個(gè)最可能的詞，但并不“理解”背后的含義。就像專家說的，AI可以寫出一段關(guān)于失戀的悲傷詩歌，但它自己體驗(yàn)不到一絲心痛的感覺。

人類大腦擁有約860億個(gè)神經(jīng)元和數(shù)百萬億個(gè)突觸，其復(fù)雜和高效是任何人工系統(tǒng)難以比擬的。最關(guān)鍵的區(qū)別在于“元認(rèn)知”能力，即知道自己知道什么，也就是意識(shí)。

你告訴一個(gè)人“太陽系外發(fā)現(xiàn)了生命”，他會(huì)瞬間震驚并更新自己的世界觀；而AI需要你反復(fù)“喂”這個(gè)信息，它才會(huì)將其作為一個(gè)新數(shù)據(jù)點(diǎn)處理。目前AI的“智能”更像是一面極其光滑的鏡子，能反射知識(shí)，但沒有內(nèi)在的“自我”光源。

關(guān)鍵不在技術(shù)，而在人性與選擇

所以，我們該怕嗎？問題的答案可能不在技術(shù)本身，而在我們手里。

是炒作還是現(xiàn)實(shí)？ 有專家直言不諱地指出，炒作AGI是“絕佳的市場營銷策略”。如果你聲稱自己在建造史上最智能的東西，資本和關(guān)注自然會(huì)蜂擁而至。劍橋大學(xué)的尼爾·勞倫斯教授甚至認(rèn)為，整個(gè)AGI的討論就像在談?wù)摗巴ㄓ媒煌üぞ摺币粯踊闹嚒獩]有一種載具能同時(shí)勝任飛行、公路行駛和步行。過度沉迷于遙遠(yuǎn)的科幻敘事，可能會(huì)讓我們忽略AI當(dāng)下造成的真實(shí)問題，比如算法偏見、信息繭房、隱私泄露和就業(yè)沖擊。

未來的道路怎么走？ 我們需要在狂熱和恐懼之間，找到一條務(wù)實(shí)的“中道”。

技術(shù)治理 就像萬維網(wǎng)之父蒂姆·伯納斯-李強(qiáng)調(diào)的，“如果AI比你聰明，我們必須保留拔掉它電源的權(quán)力”。需要為AI設(shè)置明確的安全底線。

社會(huì)保障與教育轉(zhuǎn)型 社會(huì)需要建立緩沖機(jī)制，比如職業(yè)再培訓(xùn)，幫助受沖擊的勞動(dòng)者轉(zhuǎn)型。未來的教育不應(yīng)只灌輸知識(shí)，更要培養(yǎng)批判性思維、創(chuàng)造力和同理心這些AI難以替代的能力。

全球協(xié)作 AI的挑戰(zhàn)是全球性的，需要各國攜手，共同制定規(guī)則，倡導(dǎo)“科技向善”。

簡單總結(jié)一下

AI不是飄渺的神諭，而是由無數(shù)行代碼、一系列政策選擇和人類價(jià)值觀共同塑造的。它更像一面巨大的鏡子，映照出我們的智慧、野心、恐懼，也包括我們的貪婪和短視。

那些最熱衷于推動(dòng)AI發(fā)展的人，私下里也在做最壞的打算，這本身就說明了一切。未來是福是禍，并不取決于AI會(huì)不會(huì)產(chǎn)生意識(shí)，而取決于我們?nèi)祟愖约耗芊癖３智逍选⒊袚?dān)責(zé)任并確保技術(shù)的方向盤始終掌握在人類手中。

所以，別光盯著扎克伯格們的地堡。更重要的是，我們?nèi)绾喂餐ㄔ煲粋€(gè)更堅(jiān)固、更包容的“社會(huì)大廈”，讓里面的每個(gè)人，在AI帶來的巨變中，都能找到屬于自己的安全感和價(jià)值感。