從 50% 到負 50%:毛利崩塌如何把 Harvey、Abridge 與 Ramp 推向開源權重
Bloomberg 調查報導揭露前沿模型 API 成本如何壓垮一線 AI 應用新創的單位經濟——Harvey 的毛利率在半年內從 50% 跌到負 50%——以及為何開源權重與自訓模型成為生存方案。
當你最忠實的客戶變成你最大的成本
2026 年 9 月,AI 應用產業最重要的數字不是任何基準測試分數,而是一個毛利率:負 50%。
根據 Bloomberg 於 2026 年 9 月 21 日發布的報導,Harvey——這家估值 156 億美元、靠著 OpenAI 與 Anthropic 模型起家的法律 AI 新創——眼看著自己的毛利率從 2026 年初的約 50%,到 6 月崩跌至負 50%,原因正是客戶對其 AI 代理的使用量暴增。每一美元營收背後,伴隨著超過一美元的推論成本。該公司實際上是在付錢請客戶成長。
Harvey 並非孤例。Bloomberg 指出這是整個應用層的普遍現象:Abridge——其環境臨床記錄 AI 已進駐美國大型醫療體系、旁聽無數門診對話;Ramp——6 月才募資 7.5 億美元的支出管理平台;以及 Rogo——華爾街普遍採用的 AI 分析師——全都擁抱開源權重模型或自行訓練模型,以擺脫前沿實驗室每個月的昂貴帳單。這篇報導刊出的同一週,Techmeme 將其列為當週最大新聞之一:跟上 AI 前沿的成本,已經超過大多數公司一輩子募得到的錢。
壓垮應用層的數學
要理解毛利率何以在六個月內出現 100 個百分點的擺盪,得看代理式 AI(agentic AI)的經濟結構與這些公司賴以估值的 SaaS 模型有何不同。
傳統軟體公司服務一個新客戶的邊際成本趨近於零,70–80% 的毛利率是常態。AI 應用公司則是在轉售算力。它的律師 AI 每讀一份合約、它的醫療抄寫員每轉錄一次門診、它的銀行代理每起草一份簡報,都會觸發按前沿實驗室牌價計費的 token。使用量低的時候,這層包裝看起來像優秀的軟體;使用量暴增時——這正是每一家公司在募資新聞稿裡慶祝的事——成本曲線垂直上升。
Harvey 的案例最為清晰。該公司 2026 年年化營收突破 3.5 億美元,靠的是能執行長時間法律工作流的代理。但長時程代理任務消耗的 token 數量是聊天查詢的好幾個數量級,產品越成功,每個客戶帳戶的虧損越深。根據 Bloomberg 引述的知情人士,毛利率從年初的約 50% 跌到 6 月的負 50%——這種擺盪對上市公司是災難,對私人公司則是生存問題。
還有第二個更安靜的因素:定價權。前沿模型的單價持續下降,但前沿本身不斷前移。Bloomberg 報導提到 Anthropic 最近簽下一筆 137 億美元的算力協議以維持競爭力——這種規模的支出,最終會反映在所有下游客戶支付的 API 價格裡。應用層新創透過推論帳單替前沿研發買單,是一個沒有底部的商業模式。
開源權重成為逃生口
業界的共同回應是:不再租用智能。
Harvey 踏出了最激進的一步。8 月 20 日它發布了第一款自研模型 Harvey Tenet——不是從零訓練,而是以中國 Moonshot AI 的開源權重模型 Kimi K3 為基底,與 Fireworks AI 合作、用大量法律工作成果語料進行後訓練(post-training)。在 Harvey 自家的評測中,Tenet 在長時程法律任務上追平甚至超越它所取代的前沿模型,而每 token 成本僅是其零頭。一個月後,該公司以 156 億美元估值完成 5.5 億美元募資,明言要用這筆錢推進自建模型議程——向包括 OpenAI 在內的投資人募資,來打造 OpenAI 經濟模型的替代品。
Abridge 選擇了結盟路線。在 6 月的平台發表會上,該公司宣布將基於 Nvidia 的開源權重 Nemotron 模型家族進行訓練與微調,並使用自家去識別化的臨床資料。對一家產品 literally 就是在旁聽數百萬次門診對話的公司而言,「專屬臨床資料 + 開源基底模型」是一套沒有任何 API 漲價能沒收的防禦堆疊。
Ramp 與 Rogo 補齊了名單。Ramp 6 月的 7.5 億美元募資,被觀察家解讀為部分是為基礎設施獨立性準備的銀彈。Rogo——這家估值 20 億美元、獲 Barclays、BNP Paribas 等客戶銀行策略投資的 AI 分析師新創——持續把工作流遷移到自家後訓練模型上。Bloomberg 的措辭很直白:這些公司正在擁抱開源權重或自訓模型,以降低對前沿實驗室的昂貴依賴。
為什麼這會重塑整個技術堆疊
三個影響值得認真看待。
第一,「套殼」批判正在變成大遷徙。 兩年來,對應用層 AI 公司的批評一直是「薄套殼、沒有護城河」。2026 年的答案——用專屬工作流資料後訓練開源權重基底——把這個批評直接轉化為架構。護城河不再是模型本身,而是資料與後訓練管線。Harvey 與 Abridge 正把估值押在這上面。
第二,前沿實驗室正在失去最好的客戶。 Harvey、Abridge、Ramp 與 Rogo 正是當年撐起前沿實驗室成長的高用量、高曝光指標客戶。OpenAI 投資了 Harvey;如今 Harvey 用 Moonshot 的權重訓練。每一個把推論內部化的旗艦客戶,都是實驗室營收的結構性逆風——這也是 OpenAI 的 IPO 時程(已確定不在 2026)與 Anthropic 的毛利率紀律受到如此嚴格檢視的原因之一。
第三,開源權重如今是董事會的成本決策,不是意識形態。 開源對閉源之辯過去談的是研究自由與安全。2026 年的決定性論據是損益表上的毛利率項目。值得注意的是,被採用的開源權重基底——Kimi K3、Nemotron——分別來自中國或 Nvidia,這讓這個經濟故事疊上了地緣政治的维度:美國應用公司正悄悄在中國開源權重上打造產品,因為算術就是這麼要求的。
反方論點
前沿實驗室的主張是:開源權重模型在最難的任務上仍落後前沿,垂直後訓練無法彌補推理深度的差距。Mozilla 九月的報告估計這個差距約四個月——是領先,不是護城河。如果實驗室是對的、能力差距會複利擴大,那麼今天的負 50% 毛利率或許算是便宜的學費。但四個月差不多也是 Harvey 現在推出後訓練模型的節奏,而垂直資料不會落後任何人。
後續觀察
- Harvey 的 Tenet 能否從研究預覽轉為正式法律工作的預設引擎
- Abridge、Ramp 與 Rogo下一輪募資的毛利率揭露——市場將會要求
- 前沿實驗室為了留住旗艦客戶而降價的時機,以及是趕在下一波出走之前還是之後
- 下一筆百億美元級算力協議,以及其中多少成本會轉嫁到下游
應用層已經不再問開源權重夠不夠好。它開始問的是:還有什麼東西負擔得起。
資料來源列於文章詮釋資料中。
Sources
- [1] https://www.bloomberg.com/news/articles/2026-09-09/legal-ai-startup-harvey-hits-15-6-billion-value-with-550-million-round
- [2] https://thenextweb.com/news/model-costs-startups-open-weights
- [3] https://www.harvey.ai/blog/post-training-update-harvey-tenet
- [4] https://www.healthcare-brew.com/stories/abridge-nvidia-eli-lilly-ai-clinical-platform
- [5] https://www.fiercehealthcare.com/ai-and-machine-learning/nvidia-abridge-collaborate-develop-healthcare-specific-ai-model
- [6] https://www.wsj.com/finance/banking/wall-streets-favorite-ai-startup-sets-its-sights-on-wealth-management-61b8b5d1