IBM 與 Together AI 豪擲 2.4 億美元押注 NVIDIA B300：開源 AI 基礎設施大戰的新戰線

2026 年 8 月 11 日，IBM 宣佈與 Together AI 簽署一項為期多年、總值 2.4 億美元的協議——在 IBM Cloud 上部署大規模 NVIDIA HGX B300 系統叢集，專門用於開源 AI 模型推論。該叢集預計於 2027 年第一季上線，對兩家公司而言都是一次重大的戰略轉向：IBM 正在確立自己作為蓬勃發展的開源 AI 生態系的企業級宿主地位，而 Together AI 則獲得了與超大規模雲端平台競爭所需的基礎設施規模與企業公信力。

交易細節

根據協議，IBM 將提供專用的 NVIDIA HGX B300 系統機隊——採用 Blackwell Ultra 世代 GPU——並透過 NVIDIA Spectrum-X 以太網路連接。Together AI 將利用這些算力，為其企業客戶提供數百個開源模型的推論服務。這些客戶越來越依賴 Meta 的 Muse Glimmer、阿里巴巴的 Qwen 系列、DeepSeek 的 V4-Flash 等開源權重模型，以更低的成本運行生產級應用，同時避免專有 API 帶來的每 token 成本與廠商鎖定問題。

財務結構相當直接：Together AI 承諾在多年期內投入 2.4 億美元，IBM 則提供實體基礎設施、雲端編排層和企業合規架構。Together AI 負責模型服務軟體、開發者體驗和客戶關係。對 IBM 而言，這本質上是其 GPU 雲端業務的高價值錨定租戶——一個明確信號，表明藍色巨人正認真地在 AI 算力市場上與 AWS、Google Cloud 和 Microsoft Azure 一較高下。

NVIDIA HGX B300 為何關鍵

選擇 NVIDIA HGX B300 平台是理解這筆交易重要性的核心。B300——搭載 Blackwell Ultra GPU——是 NVIDIA 截至 2026 年中最先進的資料中心晶片。每台 HGX B300 系統配備八顆 Blackwell Ultra SXM GPU，合計擁有 2.3 TB 的 HBM3e 記憶體和最高 144 petaFLOPS 的 FP4 張量運算能力。根據 NVIDIA 自家的基準測試，相比前一代 Hopper 架構，推論速度提升約 11 倍，訓練速度提升 4 倍。

對於 Together AI 的使用場景——大型語言模型的高吞吐量推論——B300 的超大記憶體池和頻寬是關鍵優勢。過去需要跨多張 GPU 分片才能運行、且伴隨顯著延遲懲罰的 30B 至 70B 參數模型，現在可以在單一 8-GPU 節點上流暢運行，甚至還有餘裕。這直接轉化為更低的每 token 成本、更快的回應速度，以及每台實體伺服器能同時服務更多用戶的能力。Spectrum-X 以太網路架構提供每 GPU 400 Gb/s 的頻寬與自適應路由，確保多節點部署不會遇到早期 InfiniBand 主導架構所面臨的瓶頸。

實際而言，B300 叢集將讓 Together AI 能夠以與專有 API 供應商相當甚至更低的價格，提供前沿規模開源模型的推論服務——潛在包括 100B 以上參數的架構。這正是推動整筆交易的核心論點：開源 AI 推論正在成為可行的企業級替代方案，而支撐其大規模運行的基礎設施正在被建造。

開源 AI 推論市場

要理解 IBM 與 Together AI 為何如此押注，必須審視開源 AI 模型生態系的爆炸性成長。根據路透社與 CNBC 引用的數據，僅中國開源權重模型就佔 Hugging Face 下載量的 41%，以及 OpenRouter（領先的 AI 模型閘道器）代幣處理量的 61%。DeepSeek 的 V4-Flash 模型在一週內處理了 7.22 兆個 token，登上 OpenRouter 全球第一。Meta 的開源權重策略——由執行長祖克柏在一篇長達 6,500 字的宣言中大力倡導——進一步加速了這股趨勢。

這一轉變創造了對不綁定單一專有模型供應商的推論基礎設施的巨大需求。企業需要選擇權：在不重新架構應用程式的前提下，於 DeepSeek、Qwen、Llama 或專用模型之間自由切換。Together AI 將自己定位為中立的推論層——透過單一 API 提供 200 多個開源模型——而 IBM 的交易為它提供了支撐這一承諾的企業級算力。

Together AI 自身的發展軌跡也令人矚目。該公司由連續創業家 Vipul Ved Prakash 和一群學術研究人員於 2022 年創立，2026 年初以 75 億美元估值募集了 10 億美元，核心理念是開源模型最終將主導 AI 使用量。《紐約時報》在 2026 年 7 月報導，隨著企業尋求比 OpenAI 和 Anthropic 更便宜的替代方案，Together AI 的營收正在飆升。與 IBM 的合作是迄今為止最明確的信號，顯示這一信念正在被市場所驗證。

IBM 的戰略盤算

對 IBM 而言，這筆交易關乎在 AI 基礎設施競賽中重新奪回相關性。儘管 IBM 在企業 IT 領域擁有數十年的主導地位，但 IBM Cloud 在 AI 算力市場一直處於邊緣角色，被 AWS（控制了新雲端 GPUaaS 市場的顯著份額）、Microsoft Azure（因與 OpenAI 的獨家合作而受益匪淺）和 Google Cloud（利用其 TPU 優勢）遠遠拋離。透過與 Together AI 合作，IBM 一舉獲得了多項優勢。

首先，它獲得了一個高知名度的客戶，驗證了 IBM Cloud 在嚴苛 AI 工作負載下的 GPU 能力。其次，IBM 將自己定位為 CoreWeave、Lambda Labs 和 Voltage Park 等小型新雲端的企業合規替代方案——這些公司雖然擁有 GPU，但缺乏 IBM 的安全認證、混合雲整合能力和全球企業銷售團隊。第三，它深化了 IBM 與 NVIDIA 的關係——在 GPU 供應仍然是 AI 產業最大瓶頸的時刻。正如一位產業分析師所言，IBM 實際上是在利用其企業「街頭信譽」，贏取純新雲端難以拿下的基礎設施交易。

這筆交易也契合 IBM 更廣泛的 AI 戰略，該戰略以 watsonx 平台、Red Hat OpenShift AI 和顧問服務為核心。透過託管 Together AI 的推論叢集，IBM 創造了一個自然的漏斗：為開源模型推論而來的企業，可能會留下來使用 IBM 全端的 AI 治理、合規和整合方案。這是 IBM 經典的「進入後擴張」策略，為生成式 AI 時代做了更新。

競爭影響

IBM 與 Together AI 的合作在整個 AI 基礎設施領域引發了連鎖反應。對 Microsoft 而言，這突顯了一個日益增長的矛盾：雖然 Azure 從與 OpenAI 的獨家合作中受益巨大，但開源模型生態系代表了一個分歧的、且可能更大的市場，而 Microsoft 自身的基礎設施策略對此著墨不足。Microsoft 近期建立自家 AI 模型（MAI 系列）和 Maia 晶片的舉措顯示出對這一缺口意識到了，但該公司尚未匹配 Together AI 以開源模型為先的定位。

對 AWS 而言，這筆交易意味著在其核心 AI 推論業務上的競爭。AWS 在自家 Inferentia 和 Trainium 晶片上投入了大量資金，並將 Bedrock 定位為多模型平台，但 Together AI 對開源權重的純粹專注——結合 IBM 的企業觸角——為企業推論工作負載創造了一個可信的替代管道。

對於 CoreWeave、Lambda、Voltage Park 等新雲端而言，傳遞的訊息是：企業公信力的門檻正在提高。裸 GPU 算力正在商品化，差異化因素正轉向合規、安全、網路品質，以及與企業 IT 環境整合的能力。IBM 透過 Together AI 合作進入這一領域，拉高了所有人的競爭門檻。

展望未來

該叢集預計要到 2027 年第一季才會可用，這意味著這項合作關係的真正考驗還在前面。關鍵問題依然存在：企業是否真的會將推論工作負載從專有 API 遷移到 IBM Cloud 上的開源替代方案？Together AI 的模型服務架構能否達到生產級應用所需的延遲和可靠性？NVIDIA 的 B300 供應限制——整個 2026 年一直困擾著產業——是否會允許 IBM 如期交付承諾的算力？

可以確定的是，開源 AI 推論市場已經跨越了拐點。當 IBM 這種量級的公司承諾投入近 2.4 億美元，在最先進的 GPU 硬體上託管開源模型時，這發出了一個明確信號：開源 AI 不再只是開發者的新奇玩意——它正在成為企業的預設選擇。接下來的十八個月將揭示 IBM 和 Together AI 是否押對了時機。