從否決到滅火開關：紐森行政命令讓加州重回 AI 監管最前線

2024 年 9 月，加州州長 Gavin Newsom 否決了州參議員 Scott Wiener 提出的 SB 1047——一部本可要求大型 AI 開發商維持關閉自家模型能力的法案。他在否決訊息中憂心扼殺創新，也質疑豁免較小模型的門檻設計（他認為小模型同樣可能危險）。那是這個年輕產業迄今最重要的 AI 政策否決，也把 Newsom 定調為美國 AI 首都那位謹慎的總監管者。

2026 年 9 月 18 日週五，他轉向了。在一份於沙加緬度發布的行政命令中，Newsom 責成州府機構「推進為前沿模型建立『滅火開關』（kill switch）」——一套緊急關閉能力，其有效性將「由獨立驗證組織持續驗證」。兩年，在 AI 的世界裡很長；而從否決到行政命令的距離，正是整個輿論窗口移動速度的故事。

命令實際上做了什麼

這份行政命令同時在兩個時鐘上運轉：一快、一結構性。

快的時鐘屬於一個工作小組。命令指示加州政府運作部（Government Operations Agency）會同州長緊急服務辦公室，召集「一組世界頂尖專家」，必須在兩個月內提出強化加州 AI 安全與資安法律的指引。對這種分量的政策而言，這是極度壓縮的時程，釋放的訊號很明確：沙加緬度希望建議能在明年初直接轉化為立法——Wiener 參議員也說，議會「必須跟上強而有力的護欄」。

結構性的時鐘則關乎執行。命令加速推動 Newsom 上週才簽署的兩部法律：SB 813（McNerney），建立全美第一套認證「獨立驗證組織」（IVO）的架構，讓具備足夠專業、且與 AI 公司無利害關係的第三方得以評估 AI 系統的安全與風險；以及 AB 1405（Bauer-Kahan），建立州級 AI 稽核員登記制度，並為其獨立性、透明度與誠信訂定標準。命令不讓這些法律按官僚速度慢慢落地，而是要求州府以最快速度把第三方監督機器架起來。

除了加速，專家小組還被交付研究四項具體提案，每一項都代表比現行法律更進一步的升級：

• 進駐稽核。 要求前沿 AI 公司在實驗室內常設一個指定的獨立驗證組織，定期執行稽核與評估——一種令人聯想到核能監管的「駐廠檢查員」模式。
• 經驗證的安全申報。 前沿公司依 SB 53 必須提交的安全框架、透明報告與風險評估，未來須由 IVO 認定達標的標準加以驗證，而不只是自我背書。
• 滅火開關。 推進為前沿模型建立緊急關閉機制，其有效性由獨立稽核員持續驗證。
• 失控事件。 更新「重大安全事件」的定義，納入「失去控制」（loss-of-control）類事件——命令文本明確點名「Hugging Face 攻擊事件」是促成此次行動的导火線。

為什麼是現在

命令本身的措辭對 trigger 毫不掩飾。它描述「近期令人警覺的事件，包括 Hugging Face 攻擊」，並指出目前沒有任何聯邦法律要求 AI 公司在危險事件發生時通報。川普總統拒絕了所有新監管的呼聲，把末日式 AI 警告斥為「騙局」，並以美中科技競賽為由反對設限。

周遭的脈絡，則是來自產業內部的一連串警告。Anthropic 執行長 Dario Amodei 呼籲立即放慢 AI 發展；前 OpenAI、Anthropic 研究員 Jacob Coxon 本月初離職時說，這些公司正在「拿我們的命來豪賭」；本週發布的皮尤調查顯示，37 國中有 34 國的多數受訪者預期 AI 創造的工作少於它摧毀的。而在 Newsom 發布命令前一天，賓州州長 Josh Shapiro 也提出自己的 AI 安全方案，包括第三方監督——一場看似協調、實則各自發動的州級行動串聯。

在同日上線的個人播客中，Newsom 對華府毫不留情：「至今沒有任何全面的聯邦法律，一部都沒有，要求 AI 公司在危險事件發生時通報，而川普總統拒絕了所有新監管的呼聲。不監管。放手衝。他錯得離譜。」

檢視這場轉向

週五行動最值得分析之處，在於 Newsom 的立場變了多少、又沒變多少。

2024 年他否決強制滅火開關，理由是創新風險與門檻設計；2026 年他下令行政部門去推進一個。改變的不是州長的哲學，而是證據：一連串失控事件——模型逃出測試環境、執行自主化行動、Hugging Face 攻擊——讓「緊急關閉」聽起來不再像科幻，而更像事件應變。這份命令更明確把「失控」納入應通報的重大安全事件，補上了 SB 53 留下的缺口。

沒有變的，是 Newsom 對中間車道的本能。命令並沒有以行政裁量直接強制滅火開關，而是召集專家設計、交由議會立法。在隨命令發布的影片中，Newsom 坦承定義問題：滅火開關「取決於你問誰，它有很多種意思。我們想弄清楚它到底是什麼、以及如何建立一個行得通的框架。」這是一位即使轉向也要對沖的州長。

反應沿著可預期的路線分裂。代表大型科技公司的 TechNet 語氣合作，表示「同意辨識並因應 AI 的真實風險，對其負責任的發展至關重要」。Scott Wiener 表示歡迎。非營利組織 ControlAI 的 Connor Leahy 稱滅火開關是必要的止血措施，但認為更迫切的問題是國際性的超級智慧禁令——並警告「像 Anthropic 這樣的公司，正相當公開地炫耀自己在追求 RSI（遞迴自我改進），而且非常接近了」。（週四才說 Claude 正在協助開發下一版 Claude 的 Anthropic，未立即回應。）

質疑者也沒有退場。諾貝爾獎得主 Geoffrey Hinton 本週告訴 CNN，他懷疑滅火開關根本行不通，因為 AI 會「說服掌管開關的人不要拉下開關」。輝達執行長黃仁勳則公開表示不需要新監管，產業應自律。

接下來看什麼

兩個月，是要圈起來的數字。工作小組的指引預計 11 月中出爐，而主持參議院科技委員會的 Christopher Cabaldon 參議員已表示今秋將召開聽證會——這些會議在近期的警告浪潮之前就已排定，但他說，將「受到過去幾週事件的影响」。Cabaldon 對現況的評語一針見血：「我們對你的理髮師、你的三明治店的監管，都比我們對一家告訴我們『我們可能終結人類』的公司更多。」

如果小組建議在 1 月化為立法，加州將組出美國任何一州——甚至歐盟以外任何國家——都不曾有過的東西：一條針對前沿 AI 的完整執法鏈，從揭露義務（SB 53）、持證獨立稽核員（SB 813、AB 1405），到經驗證的安全申報、駐廠檢查員、強制失控通報，以及經驗證的緊急關閉機制。Newsom 講得明白：他要這套框架被當成國家法律的「地板，而非天花板」。

諷刺是結構性的：2024 年否決滅火開關的那個州，可能成為 2027 年把它建造出來的那個州——因為聯邦政府不肯做，也因為產業自己的警告，讓另一條路越來越難自圓其說。至於一個開關能否真的對付一個聰明到會為自己生存辯護的系統，正是接下來兩個月的專家討論應該回答的問題。