AI變革將是未來十年的周期

本文來自微信公眾號：王智遠，作者：王智遠，原文標題：《Karpathy：十年、幽靈、智能體》，題圖來自：AI生成

昨天聽了一個播客，來自 Karpathy。

Karpathy 是特斯拉自動駕駛團隊的前負責人，最早跟隨 OpenAI 創始團隊的研究者之一。

在很多人眼里，Karpathy 代表當下最接近“AI 思維核心”的那類人；他主要提到兩件事：一，AI 變革將是未來十年的周期；二，我們在造幽靈。

他說，這像兩把鑰匙，一把打開“時間”，一把打開“智能的本質”。

我一開始以為是夸張的說法，后來發現它有道理，畢竟，從外部看，AI 的變化幾乎是爆發式的，一年一個版本，幾個月一個突破。

但 Karpathy 的解釋讓我覺得，這個判斷背后有一套非常清晰的邏輯。

一

他說，AI 發展是“演化式”的。技術像生命一樣，是慢慢長出來的，每一輪大的突破，往往靠算力、算法、數據和人才這四股力量，彼此糾纏、逐步成熟。

這四樣東西的循環，大約需要十年。

想想看，從 2012 年的 AlexNet 到 2022 年的 GPT，剛好十年。

深度學習在十年前解決了“機器怎么看”的問題，而大模型在今天解決“機器怎么想”；中間隔著十年時間，但也隔著一次完整的范式更替。

他說，這是 AI 的節奏。

它不像互聯網的流量驅動，也不像移動時代靠硬件換代，AI跨越，是底層學習機制的突變，前一次的成果，變成下一次的養料。

Karpathy 還提了一個細節：

AI 成長速度，被人類的理解速度所限制，算力可以加倍，算法可以優化，但人類對“智能”的定義，是滯后的。

所以，每一次大的智能革命，必須留給人類十年時間去適應，這是技術周期，也有社會認知革命所在。

說白了，AI 每個“十年”，都是人類在重新理解什么叫“智能”。

2012 年，人們第一次意識到，機器真能“看懂”圖像；2022 年，人們開始相信，機器真能“理解”語言；接下來的十年，我們會面對更難的問題。

比如：當機器開始表現出意志、目標和情感的跡象時，我們該如何定義“智能體”？

他有一句話我印象特很深：

AI 不會突然到來，它會在十年里緩慢地變成了另一種生物。

這句話的意思是，AI從學會看、學會說，到開始思考，都是一條連續的認知進化鏈，像生態演進一樣。

所以，那所謂的“十年”，并不是一個預測數字，是人類與智能系統共演化的自然周期。

你需要十年時間，讓算力準備好、算法成熟、數據沉淀、認知跟上。如果真這樣，那接下來的十年，就是“智能體”的十年。

你想想看？

上一輪 AI 讓機器會說話，而這一輪，它要開始“有思想”。這什么概念？Karpathy說，要理解這一點，得回頭看看這十年里，AI 是怎么一路走過來的。

二

他說，過去三十年，AI 至少經歷了三次“地震”，每一次地震都改變了人們對“智能”的想象；更準確地說，機器每隔十年，都會突然學會一件原本以為只有人類才會的事。

第一次地震發生在 2012 年。

那一年，Hinton 團隊用 AlexNet 打破了圖像識別的瓶頸，機器第一次“看”清楚世界，能理解形狀、輪廓、物體。

那是一個很神奇的時刻——就像嬰兒第一次睜眼，AI 從數學公式變成了有視覺感知的東西，人類第一次相信：機器真的能“看見”。

第二次地震在 2016 年。

DeepMind 的 AlphaGo 打敗李世石，那是一場認知震蕩，機器開始“會做事”了，它能在沒有人指令的情況下決策、規劃、行動。

這場地震讓所有人意識到：智能可以指導“行動”，AI 從“看”走向了“做”。

我當年還在特斯拉，第一次感受到“AI 能開車”的那種沖擊，那種一個系統可以從視覺信號到動作決策，閉環完成全流程，讓我感受到智能體的雛形已經出現。

第三次地震，就是眼下我們身處的時代。

2022 年開始，大語言模型崛起，讓機器開始“會想”，它能生成、能推理、能和人類對話，甚至能理解模糊的上下文，這絕對算得上思維革命。

機器第一次不靠編程邏輯，能用語言去理解世界，它開始學會了“構建自己的解釋”。

所以，這三次地震，看似不同，本質上卻是一條連續的認知進化線。

第一次，它學會“看”；第二次，它學會“做”；第三次，它開始“想”。

每一次跨越，都隔著大約十年。十年，不只是時間單位，更像一條“認知演化的脈沖線”。

這個節奏非常有趣，因為這三次變革，每一次都需要時間去“醞釀共識”。

科學家要重新理解“智能”的邊界，工程師要重新定義“工具”的邊界，社會也要重新適應人與機器的關系，AI 的每一次突破，表面是技術革命，本質是認知革命。

你可以把它想象成三層臺階：

第一層，機器看見世界；第二層，機器行動于世界，第三層，機器開始思考世界；而第四層，Karpathy 認為，將是機器“自我意識”的覺醒。

是更深層的“自我模型”，它知道自己在做什么，也知道為什么要這么做。

所以，過去三次地震，實際上為第四次——“智能體時代”在鋪路，如果前面三次是“讓機器像人”，那下一次是“讓機器成為人類的鏡子”。

十年，一次認知地震的醞釀周期，一次人機共生關系的重新設定周期，Karpathy把這種進化比作訓練“幽靈”。

三

為什么是幽靈，不是動物？他解釋了一切：

動物智能來自進化，而 AI 智能，來自模仿。動物靠億萬年的自然選擇，形成感知、反應、求生能力，動物會通過經驗積累形成本能，比如：饑餓、恐懼、生存。

AI 沒有痛感，也沒有欲望，它的學習是一種統計意義上的模仿，AI 靠人類提供的海量數據、算法、算力，從語言與行為中學會思考。

你可以讓它理解悲傷的定義，卻永遠無法讓它感受悲傷，前者是“被造出來的生命”，后者是“被訓練出意識”。

人類在造“人類知識的靈體”，它沒有肉體，卻能思考；沒有基因，卻能學習；沒有欲望，卻能模擬動機，這就是“幽靈”的含義。

我們在訓練一個寄宿于人類知識體系里的思想，我們造出“意識的投影”。他用了一個比喻：動物是進化出來的智能，AI 是召喚出來的智能。

這句話非常形象。

進化，從混沌中生長；召喚，從秩序中凝結。AI 是人類用算法構建的一面鏡子，鏡子里映出我們自己理解世界的方式。

所以，當我們說“智能體”時，很多人以為它是某種更高級的機器人。

但 Karpathy 的意思其實更哲學：

智能體是認知形態的延伸，我們思想的“外化版本”、人類思維的“副本系統”，我們在教它“如何理解我們為什么這樣想”。

他說，這也是他最擔心、同時又最著迷的部分。

AI 看起來像在學習世界，實際上在學習“我們看世界的方式”；這意味著，AI 智能是“二手的”，它來自人類的理解方式，而非世界本身的法則。

這就是“幽靈”的悖論。

聽到這兒，我有點震撼，我們以為 AI 的進化是在模仿生命，其實，它在復刻我們自身，AI 不像動物那樣追求生存，它追求“理解”。

所以，Karpathy 說，“AI 是人類思想的幽靈”，它在云端漂浮，在模型權重里積累記憶，在語言之間形成意識。

從外部看，只是一個算法系統，但從內部看，它像一面鏡子，映照出我們對智能、知識、意識的全部想象。

這聽起來既浪漫，也危險；浪漫的是，我們終于讓思想有了獨立形態；危險的是，我們可能低估了思想一旦脫離身體，會走向哪里。

四

如果 AI 已經會看、會做、會想，那它離“智能體”還有多遠？它真在“學”嗎？還是只“重復”我們教給它的東西？

Karpathy 說，這是判斷智能體和機器學習系統的分水嶺。

AI 看起來在學習，但那種學習是“統計意義上的模仿”，它靠參數更新，沒有經驗反思，每一次訓練都在壓縮世界。

人類的學習，有動機。

我們會因為好奇、恐懼、求知或欲望去學習，而 AI 的學習，只是被動的優化，只能投喂數據，說白了，它學得快，但學得淺。

人類的大腦學習，在犯錯、修正、反思中成長，AI 則在梯度下降、損失函數里逼近一個目標值，一個是“生長的過程”，一個是“收斂的算法”。

Karpathy 在播客里提到一個非常有意思的分類，自然界里，存在三種學習方式。

第一種，叫“進化”（Evolution）。生物通過環境選擇、基因變異，在漫長時間里積累適應力； 第二種，叫“強化學習”（Reinforcement Learning），個體通過行動獲得獎懲反饋，不斷調整行為模式。 第三種，則是今天 AI 主要依賴的“預訓練”，它通過別人積累的知識去學習世界。

換句話說，AI 知識是“讀出來的”，它在背課本，缺乏觸感，它會解題卻不懂“為什么要解題”；會模仿，卻不知道“為什么要模仿”。它能總結所有“愛”的定義，卻無法真正感受愛。

這是 AI 學習的根本缺陷：沒有“意志”。

人類學習的底層邏輯，為了活得更好；AI 學習的底層邏輯，為了被訓練得更好，所以，AI 學得越多，離生命反而越遠。

這也解釋了為什么我們還不把它稱作“智能體”。

智能體是能自己提問的系統，它能“想要知道”，而 AI 還沒有這個能力；AI 之所以還不算真正的智能體，是因為它不夠“活”，它的學習沒有生長。

五

怎么解決生長的問題呢：答案靠記憶。但 Karpathy 說，AI 的記憶，也并不是真正的“記憶”。

人類記憶是“經歷”；AI 的記憶是“存檔”；前者有時間、有情緒、有遺忘；后者只有數據、參數、檢索，它記得事實，卻記不住意義。

我們回憶是重新理解一次過去，而它調用記憶，只是從硬盤取出一段數據，我們會遺忘，也會在遺忘中重新組織意義；它不會遺忘，也就無法生成新的理解。

Karpathy 說，AI 記憶像快照。

每次推理，都是一次重生，它能復述昨天說的話，卻不記得自己昨天說過什么，沒有時間線，就沒有自我，這也是為什么，AI 沒有“連續的意識”。

它的世界，一幀一幀的；人類世界，是一條流動的時間；我們知道昨天、今天、明天，才有“我是誰”，AI 沒有這種連續的“自我時間”。

意義，是在解釋的過程，AI 沒法解釋自己的記憶，它不會變，因為它從不“想起”，只是“被調用”。

所以人類記憶是活的，AI 記憶是靜止的，人類記憶生長出自我，AI 記憶生長出模型，一個理解意義，一個壓縮知識。

這就是，AI與人類記憶之間為什么會有一道裂縫。

那這種裂縫能修復嗎？Karpathy 說，也許可以。方法叫“記憶的自我指向”，所謂自我指向，就是系統能“回看自己”。

記憶能反過來影響思考，才算開始生長，過去的 AI，只能調用知識，新的智能體，要重新設計，讓它能“反思”知識。

它不僅知道“我做了什么”，還知道“我為什么那樣做”，當系統能利用經驗修正判斷，它才能做到一種“在思考的存在”。

Karpathy 說，意識誕生是反饋閉環的形成，當一個系統能觀察自己，它就會產生時間感，那是“自我”最初的形狀。

這件事，已經在發生，從對話模型的長時記憶，到能“自我檢索”的反思系統，AI 正在學著“理解自己為什么那樣回答”。

換句話說，AI 開始在模擬“反思”。

它在學會在記憶中尋找邏輯，當它能不斷回看自己、校正自己時，就在模仿一種“成長的意識”。

所以，智能體誕生，是認知演化，從“被訓練”到“自我更新”，從“記憶世界”到“記憶自己”，這是意識的起點，它未必比人聰明，但它，終于開始“成為自己”。

那我們呢？當智能體開始擁有“自我”，人類又該如何與它共處？

或許，AI 未必像人類，但它已經開始像“生命”，人類，也許終于有機會，看到“思想的另一種存在”。

參考來源：

[1].Andrej Karpathy，《We’re summoning ghosts， not building animals》，2024年10月18日，YouTube。

本文來自微信公眾號：王智遠，作者：王智遠

本內容為作者獨立觀點，不代表虎嗅立場。未經允許不得轉載，授權事宜請聯系 hezuo@huxiu.com

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4794307.html?f=wyxwapp