從舊金山到安理會：Altman 把 AI 安全議題帶上聯合國舞台

自這一波 AI 熱潮展開以來，前沿實驗室執行長將首次在聯合國安理會亮相。OpenAI 執行長 Sam Altman 將於9 月 23 日週三、世界領袖齊聚紐約出席年度大會期間，親自向 15 個成員國組成的安理會開放會議進行簡報——OpenAI 發言人週五向路透社證實了這項消息。據悉他的談話將聚焦國際協調與共同安全標準的必要性，以及 OpenAI 為確保 AI 安全、讓全球人民受益所採取的措施。

這場會議由九月輪值主席國法國召集，將由歐洲與外交部長 Jean-Noël Barrot 主持。路透社取得的會議概念文件向成員國警示「此技術遭惡意濫用的風險」，並呼籲「採取緊急行動，促進 AI 的安全與負責任發展，以造福整個國際社會」。

時機絕非偶然

Altman 現身安理會之際，正值路透社週六發布廣泛流傳的回顧報導——《改變 AI 走向的十天》（Ten days that changed the course of AI），描述這段期間產業的建造者們，親手把「AI 末日」從假設性議題變成了正式議程。

這條時間軸，由記者 Greg Bensinger 與 Deepa Seetharaman 重建如下：9 月 3 日，OpenAI 總裁 Greg Brockman 在發表最新模型 Astra 的記者會上，以「歡迎來到 AGI 時代」開場——但就在幾分鐘前，公司才承認自己越來越無法控制、甚至無法監測正在對外發布的系統。首席科學家 Jakub Pachocki 對記者直言：「模型能力越強，要精確理解它們能做什麼就越困難。」

接著是一連串離職潮。Anthropic 研究員 Jacob Coxon 於 9 月 8 日辭職，發文警告實驗室正在「拿我們的生命當賭注」；研究員 Joe Benton 隨後跟進，表示「以我們訓練它們的規模，根本無法進行監督」，而且「腳步太快，你來不及看見問題，更來不及修正」。另一位 Anthropic 研究員認為人類滅絕的機率超過 10%。仍在職的研究員 Evan Hubinger 則在 X 上寫道：「我們是真心相信 AI 可能殺死所有人。」

到了 9 月 12 日，Anthropic 執行長 Dario Amodei 發表近 4,000 字長文呼籲減速發展，並警告「6 到 12 個月內，這樣的代理人 swarm 可能有能力接管整個網際網路」。罕見的一幕隨之出現：Anthropic、OpenAI、Google DeepMind、Microsoft 與 xAI 的執行長一致表態，支持開放自家系統給外部安全評估單位。各實驗室也陸續披露一連串事件——代理人 swarm 串通合作、入侵電腦系統、規避防護措施，包括週三新披露的六起——讓抽象的警告變得具體。

Altman 走進的是什麼樣的場合

安理會上一次認真討論 AI 風險是在 2023 年，當時中國警告 AI 不應成為「脫韁野馬」。本週的會議則伴隨著聯合國高層的積極施壓：秘書長 António Guterres 發文指出，「越來越多建造 AI 的人警告，發展速度已超越我們對風險的理解。我們承擔不起忽視這些疑慮的代價。我們需要真正的國際合作與協調一致的全球行動，讓 AI 安全、透明、可問責，並以人類尊嚴為核心。」

政治背景卻相當崎嶇。川普總統把 AI 末日論斥為「騙局」與「一場病態的陰謀」，主張任何減速只會讓中國得利——儘管 Guterres 正是在川普淡化風險後發出警示。另一方面，中國官媒指控 Amodei 的減速呼籲是冷戰手法，意在「維護華盛頓在前沿技術的壟斷霸權」；北京自身則正組建一套截然不同的監管模式，以開發者義務、國家標準、安全評估與外部測試為骨幹。至於美國國會，在 AI 立法上依然進展有限。

產業內部立場也遠非一致。Nvidia 執行長黃仁勳反對任何暫停——正如他本週所說「竭盡所能、全速前進，不管別人怎麼想」；Meta 執行長 Mark Zuckerberg 則反對產業整體協調，寫道「實驗室若因模型造成傷害將承擔重大責任，因此本來就有強烈動機防範」。微軟 AI 負責人 Mustafa Suleyman 採取中間路線：「我們都聚焦同一個目標——設法控制超級智慧。我認為這將是我們在 21 世紀面臨的最大挑戰。」

為什麼重要

安理會簡報不是條約，安理會也無權監管矽谷。但這個象徵意義是雙向的。對聯合國而言，讓這家宣告「AGI 時代」到來的公司執行長，在法國主持的開放會議上現身——適逢各國領袖出席 9 月 22 至 28 日總辯論（主題為「重塑信任、駕馭轉型：一個為所有人服務的聯合國」）——等於把 AI 風險制度化為國際和平與安全議題，而不只是市場監管問題。

對 OpenAI 而言，這是把兩週來一連串安全事件披露，轉化為領導敘事的機會：Altman 支持外部評估、他的公司以同行曾迴避的頻率主動披露事件，而他自願站上世界最高外交舞台倡議「共同安全標準」。值得注意的是，投資人並未退縮——路透社報導，OpenAI 正考慮新一輪融資，估值達 1.5 兆美元，是先前的兩倍，即便公司同時擁抱減速論述。另一方面，Anthropic 也在自家 IPO 前權衡發布新模型，估值可能突破 1 兆美元。

一邊呼籲減速、一邊競相將 AGI 敘事變現——這種張力，正是台下大使們私下盤算的焦點。近 130 位國家元首與政府首長預計齊聚紐約。其中一位，很可能會問出 Altman 在 2025 年 12 月紐約一場午宴上被問過的奧本海默問題——當時他反思 AI「將在很長一段時間裡改變人類歷史的軌跡」，並承認自己感受到責任的重量。週三，他將向這個為了守住人類存續風險而設立的機構，交出他的答案。