DeepSeek 回顧：128 天后的現(xiàn)狀

【本文翻譯自semianalysis】

中國(guó)大語(yǔ)言模型 DeepSeek R1 發(fā)布震撼股市和西方 AI 界已經(jīng)過(guò)去了 150 多天。R1 是首個(gè)公開(kāi)發(fā)布的能夠匹配 OpenAI 推理能力的模型。然而，這很大程度上被一種擔(dān)憂所掩蓋，即 DeepSeek (以及中國(guó))會(huì)將 AI 模型商品化——考慮到其極低的價(jià)格 $0.55 輸入/$2.19 輸出，在輸出 token 定價(jià)上比當(dāng)時(shí)的最先進(jìn)模型 o1 便宜了 90% 以上。此后，推理模型價(jià)格大幅下跌，OpenAI 最近將其旗艦?zāi)Ｐ蛢r(jià)格下調(diào)了 80%。

來(lái)源：SemiAnalysis，公司價(jià)格

R1 得到了更新，因?yàn)?DeepSeek 在發(fā)布后繼續(xù)擴(kuò)展強(qiáng)化學(xué)習(xí)。這使得模型在許多領(lǐng)域得到改進(jìn)，特別是在編程方面。這種持續(xù)的開(kāi)發(fā)和改進(jìn)是我們之前報(bào)道的新范式的特征。

今天我們來(lái)看看 DeepSeek 對(duì) AI 模型競(jìng)爭(zhēng)的影響以及 AI 市場(chǎng)份額的現(xiàn)狀。

繁榮與……蕭條？

發(fā)布后，消費(fèi)者應(yīng)用流量大量涌入 DeepSeek，導(dǎo)致市場(chǎng)份額急劇上升。由于中國(guó)用戶使用情況跟蹤不佳，且西方實(shí)驗(yàn)室在中國(guó)被屏蔽，下面的數(shù)據(jù)低估了 DeepSeek 的總體覆蓋范圍。然而，這種爆發(fā)式增長(zhǎng)沒(méi)有跟上其他 AI 應(yīng)用的步伐，DeepSeek 的市場(chǎng)份額隨后出現(xiàn)下滑。

來(lái)源：SemiAnalysis，SensorTower

對(duì)于網(wǎng)頁(yè)瀏覽器流量，數(shù)據(jù)甚至更加慘淡，DeepSeek 的流量自發(fā)布以來(lái)在絕對(duì)數(shù)量上有所下降。其他領(lǐng)先的 AI 模型提供商在同一時(shí)期都實(shí)現(xiàn)了令人矚目的用戶增長(zhǎng)。

來(lái)源：SemiAnalysis，SimilarWeb

DeepSeek 托管模型的用戶增長(zhǎng)乏力與第三方托管的 DeepSeek 實(shí)例形成鮮明對(duì)比。第三方主機(jī)上 R1 和 V3 的總使用量繼續(xù)快速增長(zhǎng)，自 R1 首次發(fā)布以來(lái)增長(zhǎng)了近 20 倍。

來(lái)源：SemiAnalysis，OpenRouter

深入分析數(shù)據(jù)，通過(guò)將 DeepSeek token 分離出僅由公司自己托管的部分，我們可以看到 DeepSeek 在總 token 中的份額每月持續(xù)下降。

來(lái)源：SemiAnalysis，OpenRouter

那么，為什么用戶要從 DeepSeek 自己的網(wǎng)絡(luò)應(yīng)用和 API 服務(wù)轉(zhuǎn)向其他開(kāi)源提供商，盡管 DeepSeek 模型的受歡迎程度在上升，價(jià)格也看起來(lái)非常便宜？

答案在于 token 經(jīng)濟(jì)學(xué)以及服務(wù)模型的 KPI 之間的各種權(quán)衡。這些權(quán)衡意味著模型的每 token 價(jià)格是這些 KPI 決策的結(jié)果，可以根據(jù)模型提供商的硬件和模型配置進(jìn)行調(diào)整。

Token 經(jīng)濟(jì)學(xué)基礎(chǔ)

Token 是 AI 模型的基本構(gòu)建塊。AI 模型可以通過(guò)以 token 形式閱讀互聯(lián)網(wǎng)來(lái)學(xué)習(xí)，并以文本、音頻、圖像或動(dòng)作 token 的形式產(chǎn)生輸出。Token 就是大語(yǔ)言模型計(jì)算和處理的一小段文本 (如"fan"、"tas"、"tic")，而不是完整的單詞或字母。

當(dāng) Jensen 談到數(shù)據(jù)中心變成 AI 工廠時(shí)，這些工廠的輸入和輸出就是 token。就像物理工廠一樣，AI 工廠通過(guò) P x Q 方程式賺錢(qián)：P 是每 token 價(jià)格，Q 是輸入和輸出 token 的數(shù)量。

與普通工廠不同，token 價(jià)格是模型提供商可以根據(jù)模型的其他屬性來(lái)優(yōu)化的變量。我們列出了以下關(guān)鍵 KPI：

延遲或首 token 時(shí)間：模型生成 token 需要的時(shí)間。這也被稱為"首 token 時(shí)間"，大致相當(dāng)于模型完成預(yù)填充階段 (即將輸入 token 編碼到 KVCache 中)并開(kāi)始在解碼階段產(chǎn)生第一個(gè) token 所需的時(shí)間。

交互性：每個(gè) token 產(chǎn)生的速度，通常以每用戶每秒 token 數(shù)來(lái)衡量。一些提供商也會(huì)談?wù)摻换バ缘姆疵?，即每個(gè)輸出 token 之間的平均時(shí)間 (每輸出 token 時(shí)間或 TPOT)。人類閱讀速度是每秒 3-5 個(gè)單詞，但大多數(shù)模型提供商已經(jīng)確定了大約每秒 20-60 個(gè) token 的輸出速度。

上下文窗口：在較早的 token 被清除且模型"忘記"對(duì)話較早部分之前，可以保存在模型"短期記憶"中的 token 數(shù)量。不同的用例需要不同的上下文窗口。大型文檔和代碼庫(kù)分析受益于更大的上下文窗口，允許模型對(duì)數(shù)據(jù)進(jìn)行連貫推理。

對(duì)于任何給定的模型，你都可以調(diào)整這 3 個(gè) KPI 來(lái)產(chǎn)生幾乎任何每 token 價(jià)格。因此，純粹基于每百萬(wàn) token 價(jià)格 ($/Mtok)來(lái)討論 token 并不總是有效或?qū)嵱玫?，因?yàn)檫@忽略了工作負(fù)載的性質(zhì)和 token 用戶的需求。

DeepSeek 的權(quán)衡

現(xiàn)在讓我們看看 DeepSeek 如何為其 R1 模型提供服務(wù)的 token 經(jīng)濟(jì)學(xué)，以理解為什么他們?cè)谧约旱哪Ｐ蜕鲜チ耸袌?chǎng)份額。

來(lái)源：https://openrouter.ai/ 于 2025 年 5 月訪問(wèn)?；旌?$/Mtok 按 3:1 輸入:輸出比例計(jì)算

繪制延遲對(duì)價(jià)格的圖表，我們可以看到 DeepSeek 自己的服務(wù)在其延遲水平上不再是最便宜的。實(shí)際上，DeepSeek 能夠如此便宜地定價(jià)其產(chǎn)品的一個(gè)主要原因是，他們強(qiáng)迫用戶在模型響應(yīng)第一個(gè) token 之前等待很多秒。這與一些其他提供商形成對(duì)比，后者以相同價(jià)格提供服務(wù)，但延遲時(shí)間要短得多。

Token 消費(fèi)者可以向 Parasail 或 Friendli 等提供商支付 $2-4 來(lái)獲得幾乎零延遲。Microsoft Azure 的服務(wù)價(jià)格比 DeepSeek 高 2.5 倍，但延遲減少 25 秒。自我們獲取這些數(shù)據(jù)以來(lái)，DeepSeek 的情況變得更加嚴(yán)峻，因?yàn)閹缀跛?R1 0528 實(shí)例現(xiàn)在都以低于 5 秒的延遲托管。

來(lái)源：https://openrouter.ai/ 于 2025 年 5 月訪問(wèn)?；旌?$/Mtok 按 3:1 輸入:輸出比例計(jì)算，氣泡大小代表上下文窗口大小

使用相同的圖表但為上下文窗口添加氣泡大小，我們可以看到 DeepSeek 為了通過(guò)有限的推理計(jì)算資源提供非常便宜的模型而做出的另一個(gè)權(quán)衡。他們運(yùn)行 64K 上下文窗口，這是主要模型提供商中最小的之一。較小的上下文窗口限制了編程等用例，這些用例需要模型連貫地記住代碼庫(kù)中的大量 token 進(jìn)行推理。以相同的價(jià)格，您可以通過(guò)上圖中的 Lambda 和 Nebius 等提供商獲得超過(guò) 2.5 倍的上下文大小。

來(lái)源：SemiAnalysis 基準(zhǔn)測(cè)試

深入到硬件層面，我們可以通過(guò)上述 AMD 和 NVDA 芯片在 DeepSeek V3 上的基準(zhǔn)測(cè)試看到提供商如何解決 $/Mtok 問(wèn)題：通過(guò)在單個(gè) GPU 或 GPU 集群上同時(shí)批處理更多用戶，模型提供商可以增加最終用戶體驗(yàn)的總等待時(shí)間，具有更高的延遲和更慢的交互性 (由 x 軸的每用戶中位端到端延遲衡量)，從而降低每 token 的總成本。更高的批處理大小和更慢的交互性將以更糟糕的用戶體驗(yàn)為代價(jià)降低每 token 的成本。

需要明確的是，這是 DeepSeek 的主動(dòng)決策。他們對(duì)從用戶身上賺錢(qián)或通過(guò)聊天應(yīng)用或 API 服務(wù)為用戶提供大量 token 不感興趣。該公司專注于實(shí)現(xiàn) AGI，對(duì)最終用戶體驗(yàn)不感興趣。

以極高速率進(jìn)行批處理使他們能夠使用最少的計(jì)算量進(jìn)行推理和外部使用。這為研發(fā)目的保留了最大的內(nèi)部計(jì)算量。正如我們之前討論的，出口管制限制了中國(guó)生態(tài)系統(tǒng)大規(guī)模服務(wù)模型的能力。因此，對(duì)于 DeepSeek 來(lái)說(shuō)，開(kāi)源是有意義的。他們擁有的任何計(jì)算都保留在內(nèi)部，而其他云可以托管他們的模型，這樣他們就可以贏得思想份額和全球采用。雖然出口管制極大地限制了中國(guó)大規(guī)模推理模型的能力，但我們不認(rèn)為它同樣阻礙了他們訓(xùn)練有用模型的能力，騰訊、阿里巴巴、百度甚至小紅書(shū)的最新發(fā)布證明了這一點(diǎn)。

Anthropic 比他們?cè)敢獬姓J(rèn)的更像 DeepSeek

在 AI 世界里，唯一重要的是計(jì)算能力。像 DeepSeek 一樣，Anthropic 也受到計(jì)算限制。Anthropic 將產(chǎn)品開(kāi)發(fā)重點(diǎn)放在代碼上，并在 Cursor 等編程應(yīng)用中獲得了強(qiáng)勁的采用。我們認(rèn)為 Cursor 使用情況是終極評(píng)估，因?yàn)樗砹擞脩糇铌P(guān)心的：成本和體驗(yàn)。Anthropic 已經(jīng)排名第一超過(guò)一年，這在 AI 行業(yè)中相當(dāng)于幾十年。

注意到 Cursor 等 token 消費(fèi)者的成功，該公司推出了 Claude Code，一個(gè)內(nèi)置在終端中的編程工具。Claude Code 使用量激增，將 OpenAI 的 codex 甩在后面。

Google 作為回應(yīng)，也發(fā)布了自己的工具：Gemini CLI。雖然它是與 Claude Code 類似的編程工具，但 Google 利用其在 TPU 方面的計(jì)算優(yōu)勢(shì)，向用戶免費(fèi)提供令人難以置信的大請(qǐng)求限制。

來(lái)源：Google

Claude Code 盡管性能出色、設(shè)計(jì)精良，但價(jià)格昂貴。在很多方面，Anthropic 模型在代碼領(lǐng)域的成功給公司帶來(lái)了巨大壓力。他們?cè)谟?jì)算能力上捉襟見(jiàn)肘。

這在 Claude 4 Sonnet 在 API 上的輸出速度中最為明顯。自 Claude 4 Sonnet 推出以來(lái)，速度已經(jīng)下降了 40%，降至剛剛超過(guò)每秒 45 個(gè) token。原因與 DeepSeek 的情況類似——為了用有限的計(jì)算資源管理所有傳入的請(qǐng)求，他們必須以更高的速率進(jìn)行批處理。

編程使用也傾向于更大的 token 計(jì)數(shù)對(duì)話，這比低 token 計(jì)數(shù)的休閑聊天應(yīng)用更加惡化了計(jì)算資源的緊張。無(wú)論如何，o3 和 Gemini 2.5 Pro 等可比較的模型運(yùn)行速度明顯更快，反映了 OpenAI 和 Google 更大的計(jì)算資源。

來(lái)源：SemiAnalysis，Artificial Analysis

Anthropic 專注于獲得更多計(jì)算能力，與 Amazon 達(dá)成了我們之前報(bào)道的重大協(xié)議。

Anthropic 正在獲得超過(guò) 50 萬(wàn)個(gè) Trainium 芯片，這些芯片將用于推理和訓(xùn)練。這種關(guān)系仍在進(jìn)展中，因?yàn)楸M管流行觀點(diǎn)認(rèn)為，Claude 4 并未在 AWS Trainium 上進(jìn)行預(yù)訓(xùn)練。它是在 GPU 和 TPU 上訓(xùn)練的。

Anthropic 也轉(zhuǎn)向了他們的另一個(gè)主要計(jì)算投資者 Google。Anthropic 從 GCP 租用大量計(jì)算資源，特別是 TPU。在這一成功之后，Google Cloud 正在將其服務(wù)擴(kuò)展到其他 AI 公司，與 OpenAI 達(dá)成協(xié)議。與之前的報(bào)道不同，Google 只向 OpenAI 租用 GPU——而非 TPU。

速度可以得到補(bǔ)償

Claude 的速度反映了他們的計(jì)算約束，但總體而言 Anthropic 的用戶體驗(yàn)比 DeepSeek 更好。首先，速度雖然較低，但仍比 DeepSeek 的每秒 25 個(gè) token 更快。其次，Anthropic 模型回答問(wèn)題所需的 token 明顯少于其他模型。這意味著盡管速度較慢，用戶實(shí)際體驗(yàn)到的端到端響應(yīng)時(shí)間明顯更短。

雖然這可能取決于工作負(fù)載，但 Gemini 2.5 Pro 和 DeepSeek R1-0528 比 Claude 冗長(zhǎng) 3 倍以上。Gemini 2.5 Pro、Grok 3 和 DeepSeek R1 使用明顯更多的 token 來(lái)運(yùn)行 Artificial Analysis 的智能指數(shù)，該指數(shù)將多個(gè)不同的基準(zhǔn)分?jǐn)?shù)匯總在一起。實(shí)際上，Claude 在領(lǐng)先推理模型中具有最低的總輸出 token 數(shù)量，并顯示出比 Claude 3.7 Sonnet 的顯著改進(jìn)。

Token 經(jīng)濟(jì)學(xué)的這一方面表明，提供商正在多個(gè)維度上努力改進(jìn)模型。這不僅僅是更多的智能，而是每個(gè)產(chǎn)生的 token 具有更多的智能。

來(lái)源：Artificial Analysis Intelligence Index，SemiAnalysis

推理云的興起

隨著 Cursor、Windsurf、Replit、Perplexity 和其他"GPT 包裝器"（Wrappers）或 AI token 驅(qū)動(dòng)的應(yīng)用獲得主流認(rèn)可并迅速崛起，我們看到越來(lái)越多的公司效仿 Anthropic 專注于將 token 作為服務(wù)銷售，而不是像 ChatGPT 那樣作為月度訂閱打包。

接下來(lái)，我們將探討 DeepSeek 的下一步計(jì)劃，并回應(yīng)關(guān)于 R2 延遲的傳言。

本文由「AI 范兒」出品

我每天都在更新，如果你覺(jué)得這些內(nèi)容對(duì)你有用，

那我們就加個(gè)關(guān)注、交個(gè)朋友。