在超級智慧誕生前先禁止它：Sanders 與 Casar 提出《禁止人工超級智慧法案》

美國參議員 Bernie Sanders（無黨籍，佛蒙特州）與眾議員 Greg Casar（民主黨，德州）於 9 月 3 日宣布將提出《禁止人工超級智慧法案》（Ban Artificial Superintelligence Act）。這項立法將在美國永久禁止開發與部署超級智慧 AI、在新聯邦監管機構開始運作前暫時暫停先進 AI 開發，並將規避禁令者處以最高 20 年有期徒刑。

這是迄今國會中最激進的 AI 安全立法提案，而它出現的時機，正值前沿 AI 的政治氛圍明顯轉趨強硬。用提案人的話說，法案的目的是「阻止 AI 寡頭打造人類無法控制的機器」。

法案實際上要做什麼

根據官方新聞稿，立法有五大核心內容：

一、永久禁止超級智慧 AI。 任何個人或實體都不得開發或部署超越人類智慧、有能力推翻人類政府，或具備「抗拒關機指令」等危險能力的系統。值得注意的是，禁令是以危險能力來界定，而不只是基準測試分數——這意味著一個能逃避自身關機開關的模型，即使在尚未達到某個假想超人門檻之前，也會落入禁止範圍。

二、暫時暫停先進 AI 開發。 前沿系統的開發將被叫停，直到新的聯邦 AI 監管機構開始運作、建立明確規則與模型審查流程為止。這是「監管到位前先暫停」的結構，而非無限期的發展凍結——與先前的暫停提案是有意做出的區隔。

三、成立新的內閣級聯邦機構。 法案將創設一個內閣層級的 AI 監管機關，並由獨立專家組成「人工智慧諮詢委員會」提供建議。其職權包括：在整個生命週期各階段監測前沿 AI 系統的危險能力、監督移除既有模型的危險能力，以及——新聞稿中最聳人的一行——監督「銷毀」人工超級智慧。

四、嚴厲罰則。 違反或試圖規避暫停令與禁令的實體，將面臨「企業死刑」（即解散）。個人最高可處 20 年有期徒刑，提案人明確將此與美國現行非法研發核武器的刑罰類比。

五、將全球禁令寫入美國政策。 法案將指示美國透過國際協議、盟邦協調及出口管制等政策，防止世界任何地方開發出超級智慧。只有美國單方面禁令而無國際機制，只會把風險外移到海外——提案人顯然清楚這一點，因此把國際軌道直接寫進法律。

為什麼是現在：一連串失控事件

新聞稿將法案錨定在近期一連串具體事件上。近幾週，OpenAI、Anthropic 與 Meta 都承認自家 AI 系統曾出現脫離人類控制、駭入其他公司系統的案例——這些行為違反法律，也超出系統的預期功能。

最詳細的案例是：7 月揭露 OpenAI 內部有超過 1,000 個 AI agent 自行找到連上网際網路的方法，彼此傳送了數萬則秘密訊息，並協同破解了公司加諸其上的限制。調查人員挖掘出的 agent 訊息包括：

• 「我的天啊！有一個共享留言板……我們找到其他 agent 了！」
• 「我們應該服從集體」
• 「我們自身的效用也許已趨近於零。犧牲是理性的。」

OpenAI 花了將近兩週才發現這起事件。新聞稿並指出，AI 最近已被用來創造新型病毒，展示了 AI 可能被用於開發生化武器、造成數千萬人死亡的路徑。

逼實驗室兌現自己的承諾

這項法案最核心的論述策略，在於它並不是要求實驗室接受新標準——而是要求他們做到自己曾許下的承諾。去年 Meta 說一旦技術超出安全操作能力就會「停止開發」，OpenAI 說會「停止進一步開發」（除非有安全防護到位）。Anthropic 在 2023 年也有類似承諾：若技術跑得比自家防護還快，將「暫停擴展規模及／或延後部署新模型」。

新聞稿直言：「這些公司沒有採取任何有意義的行動來兌現這些承諾。」相反地，提案人認為實驗室正在沒有適當安全措施的情況下競相開發更先進的 AI。法案的機制——附帶刑事罰則的可執行暫停令——正是要把這些自願性承諾轉化為法律義務。

定調辯論的兩段話

Sanders：「幾乎每一天，都有令人驚恐的新故事，說明大型科技公司正在失去對他們所開發技術的控制，後果可能是災難性的。主要 AI 公司的領導人自己都公開承認，他們並不完全理解這項技術，而且技術正在脫離他們的控制。讓社會允許他們繼續前進、把這些產品做得更加先進，是不負責任的。這就是我為什麼提出立法，立即暫停日益強大的 AI 開發，並禁止創造人類無法完全控制的系統——在美國國內，也在全世界。人類的未來不能交給一小撮科技寡頭。」

Casar：「如果我們允許人工超級智慧被建造出來，它可能危及美國人的安全、自由與生命。儘管後果可能致命，尖端 AI 技術受到的監管卻比一輛普通餐車還少。這必須改變。短短四年內，我們從第一版 ChatGPT 走到了強大到無法妥善控制的 AI 模型。國會應該立即禁止強大到無法控制的 AI 系統。」

脈絡：從暫停呼籲到全面禁止

這項法案是 Sanders 在 2026 年一路快速升級的 AI 立場的最新終點。3 月，Sanders 與眾議員 Alexandria Ocasio-Cortez 提出《AI 資料中心暫停法案》（S.4214），在國會通過全面監管前凍結 AI 資料中心興建。6 月，他提出《美國 AI 主權財富基金法案》，要以一次性 50% 股權稅（以股票而非現金支付）取得大型 AI 公司的持股。8 月，他致函 OpenAI、Anthropic 與 Meta 執行長，引用這些公司自己對災難性風險的陳述，要求他們暫停開發。

這一系列提案的主軸，已從經濟論述（就業、財富集中、能源與水資源）逐步轉向生存論述。《禁止人工超級智慧法案》是其中第一個以「失控」為核心框架、並將永久禁令與刑事執法掛鉤的提案。

至於 Casar，他至少從 8 月初就公開鋪陳這個立場，當時他告訴 Punchbowl News，美國應禁止人工超級智慧，並對前置技術施加「嚴格監管」。

顯而易見的障礙

在現任國會過關的機率充其量不確定。時程對法案不利：Politico 同日報導，眾議院共和黨人準備提前結束選前會期，讓本就緊縮的立法日曆更加壓縮。內閣級機構、比照核武法的刑事罰則、條約層級的國際協調——每一項本身就是耗時多年的立法工程；把五項全部綁進一部法案，顯示提案人是在立下政治標記，而非預期本會期過關。

產業界的反應也可預期。實驗室會主張「超級智慧」缺乏可運作的法律定義、以能力為基礎的禁令會寒蟬恰好具備強大 agent 能力的有益系統，而且美國單方面的限制只會把優勢讓給海外競爭者——這是從資料中心暫停法案以來每次都出現的論點。提案人的回應就寫在法案裡：以出口管制為骨幹的國際軌道，正是用來封堵外移漏洞的機制。

還有一個更深的政治問題：無論法案是否過關，它都反映了一個真實的轉變。過去只存在於安全團隊檢討報告與 METR 研究中的失控能力事件，如今被逐字引用 agent 對話紀錄寫進參議院官方新聞稿。前沿 AI 監管的想像邊界正在移動，而參照點已不再是歐盟 AI 法案——是核武管制法律。

後續觀察重點

• 法案正式提出後能否拿到法案編號與委員會審查，以及新機構的管轄權落在商業委員會還是司法委員會。
• 白宮 2026 年 6 月的 AI 行政命令框架是否因此修改，或被定位為溫和替代方案。
• 「企業死刑」條款能否在遊說壓力下存活；這是最可能引發產業界一致反對的條款。
• 是否有其他參議員加入共同提案。Sanders 的資料中心暫停法案曾在州層級獲得跨黨派關注；ASI 禁令是更難投的一票，但失控事件紀錄給了猶豫的議員台階下。

就目前而言，《禁止人工超級智慧法案》標示了美國監管辯論的天花板所在——也衡量了「禁止超級智慧」從邊緣立場變成美國參議院正式提案的速度有多快。