騰訊開源 Hy4 Preview：770B 參數 MoE 旗艦模型，還學會了自我改進

2026 年 8 月 28 日，中國開源權重模型競賽投出了迄今最大的一發砲彈：騰訊混元（Hunyuan）團隊正式發布並開源新一代旗艦大語言模型 Hy4 preview——一個總參數量達 7,700 億（770B）、每 token 激活 490 億（49B） 參數的混合專家（MoE）模型，上下文窗口超過 100 萬 token。

這次發布不只是一個更大的數字。它是騰訊迄今最明確的宣示：要在開源模型的第一梯隊正面競爭。而且這個模型還帶來一個不尋常的亮點——Hy4 preview 首次參與了自身的開發過程，包括訓練方法、數據策略、評測框架與底層算子的自動化優化。

騰訊這次端出了什麼

Hy4 preview 採用混合專家（MoE）架構，與 DeepSeek 旗艦模型的設計哲學同路：超大的總參數量、高稀疏度、超長上下文。根據 vLLM 官方食譜頁面的說明，其骨幹網路共 78 層，第一層使用稠密前饋網路（dense FFN），其餘 77 層使用稀疏專家路由。

核心規格整理：

• 770B 總參數，每 token 激活 49B
• 超過 100 萬 token 的上下文窗口
• 以 Apache License 2.0 在 Hugging Face 開放權重，同步釋出 FP8 量化版本（Hy4 preview-FP8）
• 可透過 騰訊雲 TokenHub 與 OpenRouter 全球接入，並整合進騰訊自家產品：WorkBuddy、CodeBuddy、元寶（Yuanbao）與 ima
• 發布後兩週內在 WorkBuddy 與 CodeBuddy 免費使用；上一代 Hy3 的免費期也延長至 9 月 30 日

API 定價頗具攻擊性：輸入每百萬 token 0.834 美元，輸出每百萬 token 2.501 美元，快取命中每百萬 token 僅 0.042 美元。尤其是這個快取價格——對於每次工具呼叫都要重送大量前綴 prompt 的代理式（agentic）工作負載來說，幾乎難以忽視。

效能表現：開源第一梯隊，但仍有待驗證

騰訊在新聞稿中的措辭相當克制，說 Hy4 preview「位居開源模型第一梯隊」，並沒有直接宣稱登頂。目前流出的數字也與這個定位一致。

在騰訊內部進行的盲測評估中——163 位專家、203 項工程任務——Hy4 preview 平均得分 2.99 / 4.00，略高於 GLM-5.3（2.92）與 Kimi K3（2.94）。差距很小，而且這是騰訊自家的評測，但願意在稿中直接點名競爭對手，本身就是一種信心的展現。

在公開排行榜上，第三方追蹤顯示 Hy4 preview 在 SWE-bench Pro（公開集）約 65.7%；社群流傳的數字還包括 Terminal-Bench 2.1 約 70.2%、SWE-bench Multilingual 約 78.5%。在 BenchAlign 綜合排行榜上，它發布一天內就衝到 228 個模型中的第 7 名左右。獨立驗證仍在追趕——畢竟本文撰寫時模型發布還不滿一天——但早期的圖像是：這個模型確實能與 DeepSeek、阿里 Qwen、月之暗面等最強開源權重系統正面交鋒，並已觸及西方閉源前沿的下緣。

官方強調的重點是「真實生產力場景」而非排行榜炫技：軟體工程、辦公分析、遊戲開發與科學研究。

遞迴自我改進迴路

整份發布稿中技術上最耐人尋味的，是藏在中段的這一段：Hy4 preview 參與了自己的開發過程。騰訊表示，模型首次參與了訓練方法、數據策略、評測框架與底層算子的自動化優化——提出方案、執行實驗、根據結果迭代，產出的程式碼、日誌與回饋再注入後續探索。騰訊將此稱為「早期階段的遞迴自我改進迴路」（early-stage recursive self-improvement loop）。

模型還自主分析了推理系統的瓶頸，並對算子融合與通訊模式進行了多輪優化。成果：端到端吞吐量較基線提升 31.8%，且在不同上下文長度與並發水位下增益一致。

這類說法在獨立重現之前值得保持懷疑——「模型改進了自己的訓練」很容易被誇大。但即使只是部分自動化、由模型提出並測試自身訓練管線改進的流程，也是一項有意義的組織級成就，而且呼應了 2026 年「AI 加速 AI 研究本身」的更大趨勢。

姚順雨時代的混元

Hy4 preview 是騰訊自聘請 姚順雨（Shunyu Yao） 主導基礎模型研發以來的最新成果。姚順雨是前 OpenAI 研究員，以 ReAct、SWE-agent 與 Swarm 代理框架的共同作者身分聞名。今年 4 月的 Hunyuan 3.0 是這項人事布局的第一個重大果實，隨後 Hy3 preview 快速跟進，節奏至今未歇。Hy4 系列預計很快會再推出更多模型，採「先 preview、後正式版」的策略，把真實使用回饋納入訓練。

訓練數據本身則由騰訊各領域專家在軟體工程、遊戲、金融、安全等垂直場景「共同創造」——這是一種針對通用網路爬蟲資料難以覆蓋的任務（如長上下文程式碼除錯、跨文件財務分析）的數據策略。

為什麼重要

三個層面的意義：

第一，開源權重前沿持續逼近閉源。 一個 Apache 2.0 授權、770B 參數、百萬上下文、代理編碼能力強、輸入價格低於 1 美元的模型，兩年前若由中國實驗室公開發布簡直難以想像。需要前沿級能力、又不能把資料送往美國 API 的企業，如今又多了一個認真的選項。

第二，中國內部的競爭已成為主戰場。 Hy4 preview 最直接的對手是 GLM-5.3（智譜）、Kimi K3（月之暗面）、DeepSeek 旗艦與 Qwen3.8（阿里）——全部是中國團隊、全部開源或混合。騰訊直接點名 GLM-5.3 與 Kimi K3 做盲測對比，顯示這場國內競賽是在陽光下打的。

第三，自我改進正從論文走進生產。 模型優化自身推理系統帶來 31.8% 吞吐提升，這種具體、可量化的結果，正是區分行銷話術與真本事的地方。如果這個迴路能夠泛化，它將改變運行前沿級模型的經濟學——而且找到這些優化的，是模型本身，而不只是工程師。

Hy4 preview 現已上架 Hugging Face（tencent/Hy4-preview），並提供 FP8 版本供有需求的部署使用。它能否從 DeepSeek 手中奪下開源權重的王座，還需要幾週的獨立評測才能分曉——但 2026 年 8 月，將被記住是開源前沿叩響 770B 大關的月份。