通往反烏托邦的兩條路：Altman 點名 AI「嚴重出錯」的兩種方式

過去幾個月，AI 產業的安全辯論一直建立在模糊的泛論之上：對「風險」、「濫用」與「前沿系統」的警告，空泛到任何人都能表態支持，卻沒有人被真正約束。9 月 14 日週一凌晨，OpenAI 執行長 Sam Altman 讓這一切變得具體。他在 X 上發布了一篇午夜文章，明確列舉他認為 AI 發展可能嚴重出錯的兩種方式；數小時後的後續貼文，更提出迄今為止最詳細的因應主張。

時機至關重要。這篇文章發表於 Anthropic 執行長 Dario Amodei 公開呼籲全球企業放慢前沿模型開發的長信不到兩天之後，也正是在研究員 Jacob Coxon 辭去 Anthropic 職務、警告 OpenAI 與 Anthropic 等實驗室正在用自我改進的 AI「拿我們的生命賭博」的餘波持續震盪產業之際。Altman 週末已表態支持 Amodei 的呼籲；週一的貼文則是另一隻靴子落地——不只是「我同意」，而是「以下正是我所害怕的」。

兩種情境

Altman 的措辭刻意直白。他寫道：「AI 的進展有兩種可能嚴重出錯的方式，是我們必須避免的。」

第一：將未來的控制權輸給 AI。「這是不可接受的；我們堅定站在人類這一邊（Team Humanity），」Altman 寫道。他並未說明「失去控制」對 OpenAI 自家的模型意味著什麼，但週邊的辯論核心正是超級智慧（superintelligence）——在各方面超越人類的 AI——以及迭代速度遠超營運者審計能力的自我改進系統。事實上，引發本週一連串 CEO 表態的 Coxon 辭職事件，針對的正是這一類系統。Altman 的答案是：「AI 必須永遠服務於人。為此，我們需要確保對齊（alignment）與安全技術的進步，始終領先於模型能力的進步。」這聽起來簡單，實則顛覆了產業的預設節奏——過向來是能力先突破，安全工作在下個版本週期才追趕補上。

第二：權力過度集中。「如果一個無比強大的 AI 被某一個人或某一家公司用來將其世界觀強加於所有其他人，結果可能是極端反烏托邦的，」Altman 寫道。這個情境不如失控的超級智慧那樣具戲劇性，但就當前軌跡而言，可以說更可能發生。它對應著至少三個現實張力：某個國家藉 AI 取得對他國的決定性優勢（主導華府 AI 論述的美中框架）、某個實驗室憑藉算力與通路壁壘碾壓對手，以及某個人以前沿模型大規模重塑資訊環境。值得注意的是，這個風險是對稱的——它同樣適用於政府與企業，而這個框架也沒有放過 Altman 自己經營的公司。

後續貼文：不只是警告，還有防護主張

週一稍晚的第二篇貼文從診斷走向處方，這是 Altman 迄今提出最具體的一套主張。他表示 OpenAI「歡迎一個設定一致安全要求的聯邦框架」——但同時承認，在國會行動之前，相關工作就可以先行展開。他呼籲各前沿實驗室建立「關於失準（misalignment）、監控與安全的共享標準」，認為這將「帶來更好的結果」，並表示 OpenAI「期待與業界同仁合作，共同制定這些標準的最佳版本」。

他還劃出了一條本週以來一直被混用的兩個詞之間的界線。「當我們談論『配速（pacing）』時，我們指的不是『停止』，」Altman 寫道。「進步一直很快速，也將持續快速。但它應該比原本可能的速度更慢。」他並將整套計畫繫於一個直白的工作場域標準：「每個前沿實驗室都必須做到這一點；如果我們做不到，我們任何人都没有理由來上班。」

這些主張呼應了 Amodei 的三階段計畫——在每家前沿公司內嵌入第三方評估者、建立跨產業的共享標準機構，以及與外國政府達成協議以限制模型的危險用途——而 Altman、Elon Musk 與 Google DeepMind 共同創辦人 Demis Hassabis 現在都已表態支持。

並非所有人都買單

反應沿著可預期的路線分裂。總統科技顧問委員會主席 David Sacks 表示，如果 AI 公司相信自己未發布的模型夠危險，就應該單方面放慢腳步——但他拒絕「需要他人許可」的框架：「別再假裝你需要一個凌駕於產品責任之上的監管審批程序。」副總統 JD Vance 稱產業急於尋求政府監管「很奇怪」，「對我來說，這感覺有點像特洛伊木馬」。川普總統則直接駁斥這些警告，聲稱 AI 唯一需要的護欄是「一位強而聰明（高 IQ！）的總統」。

北京的回應更為強硬。中國外交部發言人郭嘉昆稱這些警報是「煽風點火」（fear mongering），源於只會「擾亂全球 AI 治理進程」的「對抗」與「競爭」；官媒《環球時報》則把要求中國放慢 AI 發展的呼聲比作冷戰伎倆。習近平主席週末在一場新德里峰會上，將中國定位為發展中國家 AI 協作的倡導者。

市場也給出了自己的裁決：週一全球科技股因投資人擔心強制放慢開發將吞噬數千億美元 AI 投資的回報而重挫。Nvidia 下跌 3.7%、AMD 下跌 5.2%；歐洲的 ASML、Infineon 與 Siemens Energy 分別下跌 5.6%、6.5% 與 7.3%；亞洲的 SoftBank 重挫 13.5%，TSMC 與 SK Hynix 分別下跌 2.4% 與 6.3%。

為什麼「具體列舉」意義重大

剝開戲劇性外衣，本週事件的本質，是產業多年來首次做到一件事：前沿實驗室公開、用自己的話、以 CEO 具名的方式，點名自己的失敗模式。「失去控制」與「權力集中」並非新概念——過去十年的 AI 安全文獻中隨處可見。新的是發言者與形式。當全球最有價值 AI 公司的執行長在午夜發布一份編號的災難情境清單，隨後又呼籲建立聯邦安全要求時，AI 治理的歐弗頓窗口（Overton window）已確實位移。

至於其他東西——立法、模型發布時程、提議中標準機構的架構——會不會跟著位移，取決於這個產業過去曾多次承諾、卻從未兌現的執行力。Altman 自己的說法裡就藏著檢驗標準：對齊與安全技術必須領先於能力進步。以此標準衡量，這個產業從未領先過。2026 年 9 月 14 日這一週，是他們的領導者們第一次異口同聲地承認這一點。