← All posts / Industry

閒置 GPU 的救援計畫:National Compute 打造 AI 的「電網」

由前 Google 與 Nvidia 高管創立的新創公司,正把各大科技業者閒置的雲端 AI 伺服器整合成「National Compute Grid」,並向川普政府的 Genesis Mission 捐贈價值 1 億美元的運算額度。

閒置 GPU 的救援計畫:National Compute 打造 AI 的「電網」

一家名字異常大膽的新創公司——National Compute——本週走出保密階段,而它的訴求正是 AI 產業兩年來不斷爭論的核心:GPU 短缺其實不是晶片不夠,而是協調不足。這家由前 Google 與 Nvidia 高管共同創立的公司,打算把各大科技業者閒置的雲端 AI 伺服器整合成一片可租用的資源池,讓小型企業、研究機構與政府機關不必與最大型的 AI 實驗室競標,也能取得前沿等級的運算資源。

The Information 於 10 月 7 日率先報導這次 launch,同一時間還有第二個政治色彩更濃的消息:National Compute 計畫向川普政府捐贈價值 1 億美元的運算額度,支持政府層級推動、以 AI 加速科學發現的 Genesis Mission。據兩位不具名知情人士向 POLITICO 透露,這筆捐贈預計於週四在一場有白宮科技政策辦公室(OSTP)主任 Michael Kratsios 出席的活動上正式宣布。

核心概念:運算的電網

National Compute 正在打造所謂的 National Compute Grid——一個把多家供應商的運算能力聚合起來、透過統一介面提供給研究人員、企業與政府機關使用的網絡。POLITICO 審閱的一份專案草稿論文,用上了美國基礎建設史上兩個最重量級的比喻:電力網與州際公路系統。論文主張,這個 grid 應該像電網一樣,成為連結目前彼此孤立的運算資源的共享網絡。

這樣的類比是有備而來。電力之所以能規模化,不是因為每座工廠都自建發電機,而是因為電網讓電力變得可互換、無所不在。National Compute 的創辦團隊押注 GPU 產能也能走上同一條路——AI 運算分散在超大規模雲端業者、neocloud 與私人叢集之間的碎片化,是協調失靈,不是物理限制。

這個押注的時機,源自一個非常具體的市場失能。POLITICO 與 Business Insider 在報導捐贈消息時都指出,小型實驗室與公司之所以難以取得前沿研究所需的產能,是因為主要供應商優先把資源留給最大型 AI 實驗室的長期合約。當少數買家簽下多年期、數十億美元的預約,現貨市場與中階市場就會被榨乾——即使生態系其他角落仍有整批已部署產能在任務之間閒置。National Compute 的 grid 正是為了把這些「被困住的產能」挖掘出來,導向原本被價格擠出市場的買家。

為什麼是前 Google 與 Nvidia 高管?

創辦團隊的資歷在這裡至關重要。要打造一個橫跨多家雲端業者的運算聚合平台,需要兩樣稀缺的東西:一是對超大規模基礎設施實際調度與計量方式的深入理解,二是與晶片供應商的信任關係——畢竟多數供給都建立在同一家公司的矽晶片上。分別來自 Google(其內部對 TPU 與 GPU 的調度系統是全球最先進之列)與 Nvidia(其晶片主導 AI 加速器市場)的高管,正好站在這兩者的交會點。

The Information 的簡報將公司目標描述為緩解「GPU crunch」:把閒置的雲端 AI 伺服器池化,讓小型企業得以租用。這讓 National Compute 與 CoreWeave、Fluidstack 這類自建並出租專屬產能的 neocloud 有所區隔——它更像是疊在其上的後設層(meta-layer):不是發電廠,而是輸電調度中心。

1 億美元的 Genesis Mission 捐贈

這筆捐贈是這家新創的第一個大型公開行動,而且選得相當精明。Genesis Mission 由美國能源部及其 17 座國家實驗室主導,目標是打造能源部所稱全球最強大的科學 AI 平台,運用 AI 在能源、發現科學與國家安全領域尋求突破。白宮先前已宣布對該任務提供超過 50 億美元的支持。

National Compute 的運算額度,將讓 Genesis Mission 的研究人員在學界與政府研究者被商業市場擠壓出局的此時此刻,取得先進運算資源。1 億美元的額度對前沿模型訓練預算而言是九牛一毛,但對科學推論與模擬工作負載而言相當可觀——它能否實質改變任務走向仍有待觀察。但有一點很明確:在公司任何產品大規模出貨之前,這一步就把這家初生公司與政府的旗艦科學計畫綁在了一起。

運算即公用事業的論點

National Compute 進入的是一個同時過熱又缺乏效率的市場。Nvidia 正推動 5,000 億美元的融資計畫,要讓 AI 運算成為華爾街的資產類別;運算交易所開始為預約 GPU 產能建立次級市場;各國的「國家級運算」計畫——最著名的是中國傳聞中 2,950 億美元的運算網格——正把總運算力視為戰略資源。在這樣的背景下,一家以美國本土色彩命名的私營公司出來聚合閒置產能,既是商業行動,也是地緣政治宣言。

對任何電網營運者而言,懸而未決的都是那幾個經典問題:可靠性保證(池化的異構產能能否滿足前沿工作負載的 SLA?)、安全性(誰的資料跑在哪裡、依據什麼驗證機制?)、以及經濟學(仲介抽成之後,供應商還剩多少利潤?)。National Compute 的草稿論文之所以訴諸州際公路的比喻,正是因為公路系統透過標準化——輪距、軸重、標誌——解決了互操作性問題。運算領域目前還沒有對應的標準。

後續觀察重點

  • 週四與 OSTP 主任 Michael Kratsios 的宣布活動——正式確認 1 億美元額度捐贈,也可能首次公開闡述 grid 願景。
  • 哪些供應商加入。沒有超大規模雲端業者或主要 neocloud 供給的 grid,只是經紀商,不是基礎建設。
  • 價格透明度。這家公司對小型買家的公信力,取決於池化產能是否真的比直接向雲端業者租用更便宜。
  • 監管態度。一家名為「National Compute」的公司向聯邦科學計畫捐贈額度,難免引發偏袒與近用權的質疑——預期兩黨都會盯上。

目前為止訊號很明確:產業的爭論已經從「運算是不是瓶頸」,轉向「誰有資格調度運算」。National Compute 的答案——把閒置的池化、把近用標準化、並先給華府一個在意的理由——是運算聚合競賽至今最有基礎建設氣派的一次參賽。