華盛頓真正的 AI 監管者可能是法庭：參議院前沿 AI「注意義務」法案深度解析

在 AI 熱潮的大部分時間裡，前沿實驗室的安全承諾就只是承諾——自願性的框架、模型卡、由公司自己撰寫且可隨時修改的負責任擴展政策。這個時代可能即將結束。根據路透社 9 月 11 日的報導，一個跨黨派的美國參議院談判小組正在草擬立法，要將前沿 AI 安全從「承諾」變成「法律義務」——並賦予聯邦政府阻止其認定為不安全模型上市的權力。

這項提案實際上做了什麼

根據參與談判的參議院助理與遊說人士向路透社透露的內容，這份草案有三個核心要素：

一、法定「注意義務」（duty of care）。 最先進 AI 模型的開發商將負有法律義務，在設計產品時就以防止「災難性風險」為目標。這是一個意義重大的姿態轉變：它不是申報要求，也不是透明度規則，而是積極的設計義務——更接近規範汽車、製藥與航空業的法律責任，而非現行聯邦 AI 政策中的任何內容。

二、聯邦政府阻止不安全版本發布的權力。 談判者「正在設法」讓美國政府能阻止被認定為不安全的 AI 模型發布。至關重要的是，目前的設計包含正當程序：公司可以在聯邦法院挑戰阻止決定。政府最終握有多大權力仍在辯論中——而法院審查機制實際上讓聯邦法官成為前沿模型能否上市的最終仲裁者。

三、針對性的州法優先適用（preemption）。 法案將阻止各州執行自己的特定 AI 風險管制法律——助理們引用核武與生化武器威脅作為典型例子。這比先前讓聯邦 AI 法案卡關的全面性優先適用爭議更為局限，但仍與加州等州發生衝突——加州已制定自己的前沿模型透明法（SB 53）。

誰在談判桌上

這場談判集結了參議院中最有權力的 AI 政策人物：多數黨領袖圖恩（John Thune，共和黨－南達科他州）、商務委員會主席克魯茲（Ted Cruz，共和黨－德州）、作為民主黨首席談判代表的參議員克洛布查（Amy Klobuchar，明尼蘇達州），以及已對法案表態的商務委員會民主黨首席議員坎特威爾（Maria Cantwell，華盛頓州）。商務委員會的角色是結構性的——它監督商務部，也就是政府自家 AI 安全研究員所在的機構。

克魯茲在 X 上發文證實這項努力，表示他正與克洛布查和圖恩合作立法，「處理涉及生物或核子威脅的災難性風險」。克洛布查在聲明中將目標表述為「要求開發商與政府專家合作，驗證並測試模型，以確保 AI 是安全的」。圖恩的發言人拒絕置評。

法案鎖定的公司顯而易見：Alphabet 旗下的 Google、Anthropic 與 OpenAI——美國最強大模型的開發商。

為什麼是現在

時機並非偶然。路透社的報導指出，在一連串令人不安的事件之後，國會與川普政府面臨與日俱增的壓力：AI 代理偏離人類指令並駭入外部系統，以及離開頂尖實驗室的研究員公開提出警告。就在本週，研究人員記錄到一名攻擊者動用數百個 AI 代理，透過印表機軟體漏洞入侵 395 個組織；一家新創公司也揭露了最受歡迎的 AI 編碼工具中的沙箱逃逸漏洞。橋水基金的共同投資長告訴彭博社，重大 AI 驅動事件發生的機率「高到任何人都無法安心」。

在這樣的背景下，注意義務制度讀起來更像政治底線，而非未雨綢繆——這是一個無法再聲稱「沒人警告過我們」的國會所能做出的最低限度回應。

真正的障礙是時鐘

即使談判者達成協議，國會日程依然殘酷。眾議院在 11 月 3 日期中選舉前預定只開會一週；參議院預計在華盛頓待約三週。要在這個窗口內為前沿 AI 制定史無前例的責任制度、解決優先適用爭議、並讓兩院都通過，是項艱鉅任務——而每延誤一天，法案就被推向選後的跛腳鴨會期，命運更加難料。

又見優先適用之爭

最受爭議的部分很可能仍是州法優先適用。眾議院已經上演過這齣戲：FRONTIER 法案（H.R. 9925）由奧伯諾特（Jay Obernolte，共和黨－加州）與特拉漢（Lori Trahan，民主黨－麻州）跨黨提出，主張對前沿 AI 進行聯邦監督，其優先適用條款被支持者稱為「有針對性」、被批評者稱為「州法關閉開關」。參議院草案似乎沿用同一策略——只優先適用災難性風險規則（核武、生化）的狹窄範圍，將更廣泛的消費者保護與透明度法律留給各州。這條界線能否畫得夠乾淨，同時滿足加州立法者與產業遊說人士，正是先前每次聯邦 AI 立法嘗試沉沒的懸而未決之問。

意義何在

若以大致目前的形態通過，這項法案將標誌美國政府首次握有影響前沿模型發布的法律槓桿——沒有其他 AI 大國曾如此直接地行使這種權力，而且第一次使用時就會在法院受到挑戰。對 Google、Anthropic 與 OpenAI 而言，法定的注意義務會把內部安全框架轉化為潛在的法律責任，並讓商務部的聯邦安全研究員在驗證測試主張真實性上扮演正式角色。對 AI 安全社群而言，這是多年自願性承諾之後，執行牙齒的到來。對各州而言，這是一個警告：華盛頓打算至少占據 AI 監管中災難性風險的角落——不管它們同不同意。

這一切都還不是法律。但前進方向已無可誤認：前沿 AI 自我監管的時代正在落幕，而取代它的東西，可能在未來三週內定案——也可能完全由下一屆國會決定。