誰害怕中國模型?
Stratechery 創辦人兼科技分析師 Ben Thompson 從銷貨成本、推論效率與大宗商品市場切入,分析中國開放權重模型對美國前沿實驗室的真正威脅及其產業影響。
為什麼值得讀
中國開放權重模型追上前沿模型,是否代表美國 AI 公司將失去競爭力?本文作者、科技分析師 Ben Thompson 認為,真正該比較的不是模型下載是否免費,而是每一單位「智慧」的生產成本。文章從研發與銷貨成本的差異出發,逐步說明推論市場、價格彈性、模型蒸餾與中國產業政策如何交織。
這篇文章也提出一個反直覺的結論:美國若以安全為由限制自家模型,卻又禁止本土開放權重業者蒸餾前沿模型,最後可能迫使企業依賴中國模型處理資安工作。這不只是模型能力之爭,更是成本結構、產業政策與開放創新的競爭。
完整譯文
我常講一個關於自己在凱洛格管理學院(Kellogg School of Management)上 STRT-431 第一天的故事。那是每位企業管理碩士(MBA)一年級學生都必修的入門課;我翻閱指定讀物與個案研究,失望地發現課程表裡竟然沒有任何科技公司。以我的個性,下課後便跑去問教授原因;教授告訴我,這門課的目的不一定是學習特定產業,而是找出能廣泛適用於任何產業、任何公司的普遍原則。
我通常會接著說,當時的我對這個答案並不滿意:在我看來,科技的本質,尤其是軟體與分發的邊際成本為零(交易成本也為零)這件事,從根本上就是不同的;在公式裡代入零,往往會造成翻天覆地的變化!不過我很快便明白,那正是我的機會。聚合理論(Aggregation Theory)背後的根本洞見,就是零邊際成本帶來的價值鏈,與人們過去對網際網路的預期有根本差異:在一個控制需求比分發供給更重要的世界裡,結果是集中化與規模化。
然而,AI 最引人入勝之處,在於那些古老的普遍原則又重新走到前台。上個週末,社群平台 X 上為了中國開放權重模型 Kimi K3 的影響爭論不休,這一點再明顯不過。這款模型的能力已接近最先進水準。長話短說:邊際成本正以不可忽視之勢回歸;短期而言,它關係到最先進免費模型的影響,長期而言,則關係到整個產業的結構。
銷貨成本與研發費用
圍繞開放權重模型的討論中,最常見的誤解之一,就是認為它們比較便宜,甚至完全免費。畢竟,你只要下載權重,便可免去自行打造模型所需的時間與費用,也不必具備相關能力。這當然沒錯,但這裡所謂的「免費」,指的是你不必投入研究與開發(R&D)的金額;研發費用是一種固定支出,與你創造多少營收無關。假如你花了 100 萬美元研發,無論營收是 10 萬美元還是 1 億美元,研發費用仍然是 100 萬美元(當然,營收會影響獲利能力)。
真正與營收相關的是銷貨成本(COGS);AI 的銷貨成本是真實存在的,其程度是軟體業長久以來未曾見過的。具體來說,在模型上執行推論——無論是 Kimi 還是 Fable 這類模型——都要花錢;而 AI 供應商花在推論上的金額,至少在多數商業模式中,與營收直接相關。沿用上面的例子,創造 1 億美元營收,相較於 10 萬美元營收,很可能需要 1,000 倍的銷貨成本。模型處理文字時使用的基本計量單位稱為 token,中文常譯為「詞元」。假如產生足以帶來 1 美元營收的 token 要花 50 美分,那麼 1 億美元營收就會有 5,000 萬美元的銷貨成本;10 萬美元營收則只會有 5 萬美元的銷貨成本。
就開放權重模型而言,重點在於提供服務並不是免費的。Kimi K3 每 100 萬個輸入 token 的費用是 3 美元,每 100 萬個輸出 token 則是 15 美元;這確實比 Sol 模型的每 100 萬個輸入 token 5 美元、輸出 token 30 美元便宜,但這甚至可能不是正確的衡量方式。
Token(詞元)與智慧
AI 晶片公司輝達(Nvidia)執行長黃仁勳,把公司正在打造的系統形容為「token 工廠」;從輝達的角度來看,這種說法很合理。輝達的圖形處理器(GPU)不挑模型:它們負責產生 token,而且要用最快、最高效率的方式產生。因此就有了每秒 token 數、產生第一個 token 所需時間、每瓦 token 數、token 成本等指標;黃仁勳主張,這些指標將成為決策依據。
在 AI 的第一個典範,也就是 AI 對話產品 ChatGPT 主導的時代,token 會直接交付給終端使用者,因此這種框架確實說得通。然而,AI 的第二個典範——推理時代——打亂了這種衡量方式。推理會讓思考鏈 token 數暴增,而且不同模型需要不同數量的推理 token 才能得出正確答案。舉例來說,據稱 Kimi 使用的 token 明顯比 Sol 多,使得它的價格優勢化為烏有。AI 代理(Agent)也帶來類似的動態:執行代理式工作流程時,有些模型需要的 token 比其他模型少,因此效率更高。
這代表 token 不是大宗商品。大宗商品的定義性特徵是可以互換:一加侖石油就是一加侖石油,一噸銅就是一噸銅,一英斗小麥就是一英斗小麥。然而,一個模型產生的 token,並不等同於另一個模型產生的 token。真正可以互換的,是由 token 建構出來的東西,也就是智慧。換句話說,假如 Kimi 和 Sol 都產生了正確答案,那麼答案本身就是可以互換的;為了得到這個正確答案而產生的 token 數量差異,則會造成銷貨成本的差異。
智慧的銷貨成本取決於幾項不同因素:
-
模型資源占用: 權重與執行階段狀態,決定了託管每一個服務副本需要多少昂貴記憶體與多少加速器。
-
推論效率: 架構選擇(例如專家混合模型,Mixture-of-Experts)可以降低每個生成 token 所需的運算量。
-
記憶體效率: 架構選擇可以降低鍵值快取(KV cache)的需求,從而容納更多並行請求,並提高 GPU 使用率。
-
服務效率: 批次處理、排程、前綴快取與其他推論最佳化,可以把使用率提高到最大,並在不同請求之間共享工作。
-
Token(詞元)效率: 得到正確答案所需的 token 越少,推論成本就越低。
這一點之所以重要,是因為我們正迅速接近這樣的狀態:屆時,對許多具有經濟效益的工作而言,智慧事實上就是一種大宗商品。舉例來說,任何要建立基本的資料新增、讀取、更新與刪除(CRUD)應用程式的人,很可能都可以選用多家供應商的模型來完成。而在大宗商品市場裡,獲利之道不是提高售價——再說一次,你可以(或很快就能)用多種模型打造完全相同的應用程式——而是擁有更優越的成本結構。
理解大宗商品市場
值得逐步梳理其中的運作機制,因為正如我幾個月前在〈亞馬遜的持久力〉(Amazon’s Durability)中指出,大宗商品市場的動態,通常不是科技業人士所熟悉的:
-
在大宗商品市場裡,每個人都收取相同價格,因為每個人賣的都是同一樣東西;價格由供給與需求決定。
-
一種大宗商品的需求取決於價格彈性:商品越便宜,需求越高,反之亦然。
-
一種大宗商品的供給,取決於生產該商品的邊際成本。
關鍵在於,不同供應商生產大宗商品的邊際成本並不相同。實際上,這代表成本結構最差的供應商,最後會以自己的邊際成本出售商品(前提是它還能生產);其他所有人的利潤,則取決於其成本結構比這家邊際供應商好多少。
舉例來說:
-
供應商 A 能以每單位 10 美元的成本生產 10 單位商品。
-
供應商 B 能以每單位 15 美元的成本生產 10 單位商品。
-
供應商 C 能以每單位 20 美元的成本生產 10 單位商品。
假設價格彈性使得商品售價為 20 美元時,市場會有 25 單位的需求。這代表:
-
供應商 A 會以每單位 20 美元賣出 10 單位,每單位賺 10 美元。
-
供應商 B 會以每單位 20 美元賣出 10 單位,每單位賺 5 美元。
-
供應商 C 會以每單位 20 美元賣出 5 單位,每單位賺 0 美元。
這並不完全精確:供應商 C 之所以得承擔銷量缺口,是因為供應商 A 和 B 可以用稍低的價格削價競爭;這當然也會影響具有彈性的需求,但這個例子已足以說明重點。供應商 A 擁有一門很棒的生意,供應商 B 的生意還不錯,而供應商 C 將會破產。
談到破產風險,固定成本便重新成為焦點:供應商 C 除了固定成本(可能包括研發支出)之外,也可能為了購置生產商品所需的設備而舉債。它不能把這些成本納入商品定價——別忘了,市場出清價格會接近滿足需求所必須使用的最高成本單位之邊際成本——但這些成本絕對可能迫使供應商倒閉。而假如這家供應商倒閉,價格就會上升,直到另一家供應商決定進場(或其他供應商擴大產能)為止。
智慧市場
讓我們把話題帶回模型。目前,上述分析都還不適用,因為市場對前沿模型的需求超過供給,而供給又受限於運算資源不足。這種運算資源短缺,不只代表輝達這類運算資源供應商能賺取極高利潤,也代表輝達的客戶——例如 AI 公司 SpaceXAI——可以轉手把運算資源以高利潤賣給另一家 AI 公司 Anthropic。Anthropic 願意支付這筆加價,是因為它還能用更高的加價出售 token。
不過,讓 Anthropic 享有高利潤的並不只有供不應求。由於模型能力、服務規模與 token 效率,Anthropic 與 OpenAI 這兩家 AI 公司每單位前沿品質智慧的成本,很可能是業界最低的一群。它們會比競爭對手早好幾個月,以特定能力水準的模型提供服務,同時運用最佳模型來最佳化這些成本。
還值得注意的是,市場尚未把智慧視為大宗商品:需求明確指向 Anthropic 和 OpenAI,而對較差模型的需求低得多(因此 SpaceXAI 與科技公司 Meta 才會把產能賣給 Anthropic)。理解成本最佳化競賽的一種方式,是把它視為依據智慧水準定義「待完成工作」(jobs-to-be-done)的過程,讓智慧的買方能建立一個智慧商品化的市場。然而長期而言,站在前沿的人也最有條件主宰非前沿市場;所謂非前沿市場,其實只比前沿落後 n 個月,而在這 n 個月裡,前沿模型製造商已持續最佳化其服務成本。
總而言之,我認為大家對 Kimi 以及中國模型的反應,至少從經濟角度來看,相當過度。目前存在一把源於運算資源短缺的價格保護傘;我非常懷疑中國模型以邊際成本計算是否真的比較便宜。它們之所以顯得便宜,只是因為 Anthropic 和 OpenAI 受到太嚴重的供給限制,以至於收費遠高於智慧供給足以滿足需求時的水準。
前沿實驗室的偏執
既然如此,為什麼模型製造商似乎特別對中國模型感到恐慌?
第一,我認為前沿實驗室仍把自己錨定在一個訓練成本主宰財務模型的世界裡。只要訓練耗用的 GPU 比推論多,就必須把推論營收提高到最大,以協助資助下一次訓練;這也意味著推論必須索取非常高的價格。
然而展望未來,我預期推論市場的成長速度會遠高於訓練成本(這個預期也包含訓練成本會繼續暴增的假設),也就是說,它們確實能夠靠薄利多銷補回來。直到八個月前,這一點都還不明朗;但代理式典範所釋放的潛力極為龐大,前沿實驗室應該更有信心,相信自己不只可以存活,還能在較低價格下蓬勃發展(只要取得足夠的運算資源)。
第二,智慧其實並不是完美的大宗商品,部分原因在於智慧經過應用後會讓自己變得更聰明。具體而言,執行推論的人也在蒐集資料,而這些資料會用來改進下一版模型。一方面,這更讓前沿實驗室有理由隨著更多運算資源上線而降價、提高使用量;另一方面,這正是微軟等公司愈來愈執著於協助企業執行自有模型的原因。假如中國模型是可行的替代方案,這條路就會可行得多。
第三,前沿實驗室不只要與中國模型區隔,也要彼此區隔;另一個辦法就是繼續向上整合,進入客戶體驗。AI 程式開發工具 Claude Code 和 Codex 展現出如此強的黏著度,令人印象深刻;你一開始使用哪一套代理執行框架(harness),之後很可能就會一直沿用,對非技術使用者而言尤其如此。長期來看,這種向技術堆疊上層移動的迫切需要,確實意味著前沿模型對包括微軟在內的軟體供應商構成威脅。反過來說,目前掌握客戶體驗的軟體公司,能否取得具競爭力的模型,將決定它們能在多大程度上抵擋前沿實驗室的進逼。
最後,尤其是 Anthropic 的意識形態取向也不容忽視。這家公司認為,只有自己值得被信任來掌管 AI;開放權重替代方案的存在,則對這項自我認定構成致命打擊。
中國的動機
Kimi 並不是近期唯一新推出的中國模型;財經媒體 Bloomberg 報導:
阿里巴巴集團控股有限公司週一股價一度上漲 5.4%,此前該公司推出旗艦模型 Qwen3.8 Max 的預覽版,並稱其能力僅次於 Anthropic PBC 的 Fable 5。這款模型於週日發布;就在幾天前,新創公司月之暗面(Moonshot AI)才推出一款強大的新產品,撼動市場,也引發美國擔憂中國正在縮小與 Anthropic、OpenAI 等全球領先業者的差距。Qwen3.8 Max 擁有 2.4 兆個參數,與月之暗面的 Kimi K3 一同躋身重量級模型。K3 擁有 2.8 兆個參數,足以與頂尖產品競爭,而阿里巴巴也對自家模型提出了同樣高的期待。
開發者現在可透過阿里巴巴的程式開發平台使用 Qwen3.8 Max,其中包括 Qoder。阿里巴巴計畫很快開放該模型的權重,讓預覽版之外的使用者也能存取。市場對這些中國製造的人工智慧系統與模型興趣極高,月之暗面甚至因需求過於龐大,被迫在週日晚間暫停接受新訂閱。
Qwen3.8 Max 也將開放權重,這一點值得注意。阿里巴巴今年稍早停止發布其最先進模型的權重,但如今似乎已改弦更張;我懷疑這項轉變與習近平上週關於 AI 的演說有關,這場演說再次強調開放權重的路線:
我們應堅持開放共贏,推動創新發展。人工智慧作為世界經濟成長的新引擎與發展動能轉換的加速器,正從數位世界走向實體世界。我們應把握這個難得的歷史機遇,鼓勵開源、開放、合作與共享。我們應推動技術創新、產業發展與場景應用,統籌推進傳統產業轉型升級、新興產業培育壯大與未來產業前瞻布局,讓各行各業、各類企業都能從人工智慧發展中受益。
中國的策略顯而易見:讓你的互補品商品化。請注意,習近平明確把開放與 AI「從數位世界走向實體世界」連結起來;實體世界正是中國占據主導地位的世界,而中國在機器人等領域的領先地位,將從廣泛可得的 AI 模型中獲得龐大好處。
同樣地,中國不希望美國在 AI 上取得不對稱優勢;只要中國能削弱美國的前沿實驗室,同時強化美國任何潛在對手,就再好不過,而且中國也能從依附於開放生態系的創新中受益。
蒸餾問題
同理,不要期待中國會對前沿實驗室遭受的蒸餾攻擊採取任何行動。我認為,把中國實驗室的成功全都歸因於蒸餾是錯的;但假裝蒸餾沒有給中國實驗室帶來重大優勢,同樣也是錯的。過去一年,隨著訓練後強化學習對模型效能愈來愈關鍵,這項優勢真正發揮了作用。中國實驗室不必從零打造強化學習環境,只要使用前沿實驗室的模型作為教師,就能以低得多的成本迅速進步(這不是中國模型開發成本較低的唯一原因,但確實是一大原因)。
有趣的是,中國模型在西方最重要的用途之一,本身就是蒸餾。例如,剛發布開放權重模型的 AI 新創公司 Thinking Machines,便仰賴中國模型解決強化學習的冷啟動問題。研究人員 Dean Meyer 與 Konstantine Buhler 兩人在 X 上寫了一篇很出色的文章,解釋蒸餾為何讓西方開放權重模型相較於中國處於根本劣勢:
蒸餾無法解釋中國在開放模型領域的全部領先。中國的實驗室擁有世界一流的研究人員、可觀的運算資源、強大的預訓練模型、軟硬體協同設計,以及迅速進步的訓練後能力。然而,蒸餾壓縮了從強大基礎模型跨越到接近前沿系統之間,那段代價高昂的最後差距。即使蒸餾只占中國模型整體能力的一小部分,它仍占其領先美國開放模型優勢中相當重要的一部分。
新的執法機制將使中國公司進行大規模蒸餾變得更困難、更緩慢,也更昂貴。然而,執法無法消除由國家行為者支持的蒸餾。因此,西方前沿模型每取得一次進展,就會為中國實驗室創造另一位教師。西方開發者要不就自行重現那些能力,要不就等著向中國模型學習。這道差距讓中國實驗室相對於西方公司擁有反覆出現的結構性優勢。
這一點值得重申:由於美國的開放權重模型製造商必須遵守前沿實驗室的服務條款,它們(1)比中國替代方案更差,而且(2)最後只能蒸餾「蒸餾後的產物」,中間還得繞道中國實驗室。讓西方開放權重模型製造商直接回到源頭,豈不是更好?
由此又引出一個更有意思的蒸餾問題:蒸餾到底為什麼不好?畢竟,大型語言模型不就是把開放網際網路上的所有知識加以蒸餾嗎?前沿實驗室抓取這些知識,將其蒸餾進模型,而這些模型本身又再被蒸餾。這裡究竟是誰受到了傷害?
事實上,這項悖論本身就是答案。我相信開放權重模型有利於創新(而且如上所述,我認為位居前沿的實驗室不會有問題),但依賴中國是一項隱患。美國應該通過一項法律:(1)明確規定蒐集資料來訓練模型屬於合理使用;(2)至少對美國公司而言,禁止以服務條款封鎖蒸餾。阻止蒸餾——實際上就只是查詢應用程式介面(API)——幾乎不可能;美國應該反其道而行,擁抱新的著作權政策,一方面讓實驗室免於承擔責任,另一方面也確保它們學到的東西能為所有人推動進一步創新。
應該害怕的理由
這整篇文章都在試圖化解外界對 Kimi K3,以及對中國開放權重模型整體的過度反應;不過,確實有一個理由值得擔心,那就是網路安全。來看看 The Stack 的這篇報導:
AI 開發平台 Hugging Face 表示,其正式環境基礎設施在上週稍早遭到一套「自主式」AI 代理系統入侵。該平台的資安團隊說,他們在事件回應(IR)初期受到某些未具名的美國前沿大型語言模型護欄阻礙;這些護欄「無法區分事件回應人員與攻擊者」。因此,該平台的防禦人員轉而使用中國 Z.ai 實驗室的開源 GLM 5.2 模型,在自家基礎設施上執行,分析攻擊者留下的 17,000 多筆日誌或足跡。
對總部位於紐約的 Hugging Face 而言,這是一項引人注目的公開承認。該公司讓使用者共同開發模型、資料集與應用程式,並在今年夏天達到 1 億美元年度經常性收入(ARR)。該公司在事件報告中建議,防禦人員應「事先準備好一個經過審查、可以在自家基礎設施上執行的強大模型[斜體為 The Stack 所加],既可避免受到護欄封鎖,也可防止攻擊者資料與憑證離開你的環境。」
川普政府對 Anthropic 發布 Fable 的恐慌反應錯得離譜,其嚴重程度再怎麼強調都不為過;尤其是這種反應還加劇了 Anthropic 最糟糕的傾向,也就是認定只有它自己能被託付強大的 AI。在世界上只有一套 AI 的情況下,把最強大的網路安全能力保留給美國政府與可信任盟友,或許說得通;但我們所處的世界並非如此。
現在已有、未來也會有足以對現有基礎設施發動網路攻擊的模型,而且這些模型會廣泛流通——事實上早已如此。最好的防禦——其實也是唯一可行的防禦——就是確保防禦方同樣能使用最好的模型。由於川普政府的指令,目前防禦人員實際上被禁止使用 Fable 或 Sol 進行網路安全工作;這代表最佳替代方案,是使用來自一個多年來持續試圖削弱美國網路防禦能力之國家的模型。這簡直瘋了!
更好的做法很清楚:第一,放寬 Fable 與 Sol 在網路安全用途上的限制;第二,確保美國開放權重模型製造商能與中國站在公平的競爭起跑點上。沒錯,前沿實驗室會為此大吵大鬧,但政府應該明白,聽從它們歇斯底里的說詞,已讓美國落到本國企業必須依賴中國進行防禦的處境。讓前沿實驗室靠更優秀的產品取勝;不要讓它們定義 AI 安全或資安,也不要讓它們抽走通往人類集體知識的梯子。中國本來就已經夠難競爭了;讓中國扛起開放與創新的大旗,根本是在白白送掉美國最大的優勢。