← All posts / Tools

編輯推薦但有但書:Tom's Hardware 實測 M5 Ultra Mac Studio,本地 LLM 推論擊敗 DGX Spark

獨立評測出爐:Apple 要價 12,299 美元的 M5 Ultra Mac Studio,prompt 處理速度快過 Nvidia DGX Spark,token 產出吞吐量接近其 4 倍——但代價是記憶體焊死、出貨得等 16-18 週。

編輯推薦但有但書:Tom's Hardware 實測 M5 Ultra Mac Studio,本地 LLM 推論擊敗 DGX Spark

評測解禁了,Apple 押注桌面級 AI 硬體的策略,拿到了第一份獨立背書。2026 年 9 月 21 日,Tom’s Hardware 發布了 M5 Ultra 版 Mac Studio 的完整評測——並給出「編輯推薦」(Editor’s Choice)——而實測數據讓 Nvidia 炒作已久的 DGX Spark,在兩台機器共同覬覦的市場上挨了一記悶拳:在本地跑大型語言模型。

結論毫不拐彎。在 Tom’s Hardware 的本地 AI 測試中,M5 Ultra 的 prompt 處理速度快過 Nvidia 的 DGX Spark,而 token 每秒吞吐量是 M4 Max 的兩倍、幾乎是 DGX Spark 的四倍,且是全面性的領先。測試模型為 Qwen 3.8-27B-Q4_K_M——選用這個 dense 模型是有意的,因為 dense 模型推論受記憶體頻寬制約,而頻寬正是 Apple 晶片哲學最能發揮的地方。

為什麼頻寬決定勝負

M5 Ultra 是 Apple 第一顆四晶片(quad-die)封裝:兩顆 dual-die M5 Max 透過 UltraFusion 互連熔接,Apple 稱 die 之間頻寬超過 4.4 TB/s。但真正關鍵的是記憶體配置——評測機搭載 36 核心 CPU 與 80 核心 GPU,配上 256GB LPDDR5 統一記憶體、1.2 TB/s 匯流排,是 Tom’s Hardware 先前實測 AI 工作負載的 M4 Max 的兩倍頻寬。80 個 GPU 核心每一顆都內建神經加速器,旁邊還有一顆 32 核心神經引擎。

對本地 LLM 而言,1.2 TB/s 這個數字就是全部故事。Dense 模型的 token 生成速度,基本上取決於能把權重以多快速度流過記憶體。DGX Spark 的 GB10 封裝提供 128GB、約 273 GB/s;M5 Ultra 提供最高 256GB(512GB 版十月底登場)、頻寬是它的四倍以上。Nvidia 的機器在原始算力與 CUDA 軟體護城河上仍佔優勢,但對於想把一個超大模型塞進單機的個人工作者來說,Apple 現在端出了更完整的機器。

AI 之外的數字

這篇評測把 Studio 定位為 Mac Pro 今年停產後的接班人。在一般生產力測試上,它大多名符其實:

  • Geekbench 7:單核 3,770、多核 52,293——在工作站對比組中明顯勝出,而且核心數還比 x86 對手少。
  • Handbrake:4K 轉 1080p 只花 1 分 04 秒,比 64 核心的 AMD Ryzen Threadripper 9980X 快 8 秒。
  • 檔案複製:搬 25GB 檔案速度 2,983 MB/s,勝過上一代的 M3 Ultra 與 M4 Max。
  • 持久負載:10 輪 Cinebench 2026 壓力測試中,分數落在 17,825–18,069,CPU 平均溫度 78.29°C——對一台 7.7 英吋見方、8 磅重、電源上限 480W 的機殼來說,熱穩定性出奇地好。

它並非全面稱王。CPU 版 Blender 渲染輸給現役與上代 Threadripper 以及 56 核心 Xeon w-3495X;遊戲更是 Studio 最弱一環——Cyberpunk 2077 開光追 1080p 只有 66 FPS,約當 RTX 5070 等級,4K 直接趴掉,而 RTX 5090 系統還能撐 59 FPS。評測結論的缺點欄寫得很老實:記憶體與 SSD 升級昂貴,而且 RAM 焊死在板上,買後無法升級。

一台 12,299 美元桌電的經濟學

評測機配置——最頂規 M5 Ultra、256GB、4TB SSD——定價 12,299 美元,Tom’s Hardware 也直言這讓它「實質上是一台企業級電腦」。下面的價格階梯很陡但很實在:基本款 M5 Max 搭 36GB 要 2,499 美元;最便宜的 M5 Ultra 搭 96GB 要 5,499 美元。從 96GB 跳到 256GB RAM 要加 4,000 美元,4TB SSD 再加 1,500 美元——帳單就是在這裡爆炸的。

評測裡有兩個數字替這個價位辯護。第一,一顆 64 核心 Threadripper 9980X——在 Blender 裡打贏 M5 Ultra 的晶片——單晶片就要約 5,000 美元,還沒加記憶體、儲存、機殼。第二,需求正在說話:截至發稿,256GB 配置的出貨等待期長達 16–18 週,而第三方廠商早就為造型未變的 Studio 機殼做了機架套件,賣給家用實驗室和伺服器農場的買家。評測者對本地 AI 族群的結論罕见地直白:「如果你對本地 AI 有興趣,這台絕對能勝任。」

更大的圖像

這篇評測為一個更大的趨勢下了註腳。Mac Studio 的供應今年早已被「OpenClaw 引發的搶購潮」搞得吃緊,高統一記憶體機型的交期一度拉到 6 天至 6 週,Apple 後來甚至把 4,000 美元的 512GB 升級選項下架等產能追上。一整個生態系——從 MLX 叢集工具到 Reddit 上社群自發維護的效能追蹤表——已經把 Studio 當成可拋式的推論節點在用。

Tom’s Hardware 的數據,把過去只能建立在 Apple 自家行銷說法上的論述(官方宣稱 AI 峰值算力達 M3 Ultra 的 4.3 倍、prompt 處理比 M1 Ultra 快 9.8 倍)補上了獨立驗證,而且故事輪廓成立:在單機、大模型、吃頻寬的本地推論場景,Apple 晶片是目前市面上消費級價位最強的選擇——領先幅度比許多人預期的還大。

但限制是結構性的,不是小事。沒有 CUDA,代表整個 NVIDIA 的核心程式、工具鏈與企業軟體生態仍然高不可攀。記憶體焊死,代表容量是下單時的決定,不是營運時的決定。就算十月底 512GB 上位,單機容量天花板仍追不上多卡 x86 主機能塞的量——儘管兩邊的每可用 GB 單價都難看得很快。

但對於想讓一個接近前緣的開放權重模型——一個以 4 倍於 DGX Spark 吞吐量狂奔的 27B dense 模型,或某個塞進 256GB 安靜統一記憶體裡的更大模型——坐在桌上而非躲在 API 端點後面的工作者來說,這篇評測的結論很難反駁:Mac Studio with M5 Ultra 是迄今任何人交出的最強單機答案,而證明這件事的,是一間獨立實驗室,不是一場發表會。

[資料來源見上方 frontmatter。Tom’s Hardware 評測由 Andrew E. Freedman 撰寫,2026 年 9 月 21 日發布。]