先禁止、後核准：Khanna 提出《人類掌控 AI 法案》，劍指自我改良 AI

過去幾個月，關於前沿 AI 安全的辯論只存在於三個場域：CEO 們的專欄文章、國會山莊一場少數黨自行召開的聽證會，以及對聯合國安理會的警告。到了 9 月 24 日，它終於等到了一直欠缺的東西——一份法案。

代表加州矽谷選區的民主黨聯邦眾議員 Ro Khanna，週四正式提出《人類掌控 AI 法案》（Human Control Over AI Act），並選在晨間新聞節目 Morning Joe 上揭幕。他的定調毫不修飾：AI 的危險不是假設性問題，國會應該在最危險的 AI 發展路徑成真之前就明文禁止，而不是在災難發生後再來打官司。

法案實際上做了什麼

根據 Khanna 的電視受訪內容與配套的法案說明，《人類掌控 AI 法案》由三根支柱撐起。

第一，禁止自我改良 AI。法案將把開發或部署「遞迴自我改良」（recursive self-improving）人工智慧——即能在無人類介入下改寫自身能力的系統——定為違法，直到聯邦安全標準與政府核准機制到位為止。這正是安全倡議者自 2023 年以來呼籲的「暫停」，第一次被寫成法定條文，而非公開連署信。

第二，成立聯邦 AI 安全機關。法案將創設一個新的聯邦監理機關，有權為前沿系統制定安全標準，並在 AI 模型公開發布前進行核准。這種「部署前核准」模式明顯借鏡 FDA 對新藥、FAA 對新機體的處理方式：舉證安全的負擔，從社會轉移到開發商身上。

第三，嚴格民事責任。法案將為造成傷害的 AI 開發商建立嚴格民事責任（strict civil liability），而 Khanna 公開表示他希望把刑事責任也納入討論。這與華府目前若干正在審議的提案方向完全相反——那些提案要的是保護 AI 公司免於州級訴訟與消費者求償。在 Khanna 的框架下，打造前沿模型變成一件必須負法律責任的行為，而不是一件可以被免責的行為。

從聽證會到法條

對單一議員而言，這部法案的誕生是一場節奏極快的攻勢總結。9 月 14 日，Khanna 在眾院中國委員會的聽證會上，當面要求 Anthropic 執行長支持禁止遞迴自我改良，並警告有能力自我改良的系統終將超出人類掌控。幾天後，他致函 Moonshot AI、阿里巴巴與 DeepSeek 的負責人，要求他們承諾加入具約束力的國際協議、為前沿 AI 發展設速限。接著他在 9 月 23 日召開緊急聽證會，找來諾貝爾獎得主 Geoffrey Hinton 作證——同一天，Sam Altman 與 Dario Amodei 才剛警告聯合國安理會，世界正冒著失去對 AI 控制權的風險。

週四提出的法案，把這些倡議行動轉換成立法文字。過去一週的訪談中，Khanna 把自己的監理哲學濃縮成三根支柱：一個聯邦 AI 機關、一紙對遞迴自我改良的禁令、以及讓 AI 建造者負起法律責任。《人類掌控 AI 法案》就是把這三根支柱裝訂成同一份文件。

時機為何重要

這部法案降落在一條異常擁擠的跑道上。提出前一天，多家 AI 巨頭的負責人向聯合國安理會表示，這個產業迫切需要全球性監督。同一週，26 位州檢察長聯名告訴國會：現在就立法規範 AI，否則各州會自己動手。本週發布的民調顯示，75% 的美國人對 AI 感到恐懼或憂慮，71% 認為聯邦政府在 AI 監理上投入不足。

在這個背景下，《人類掌控 AI 法案》最深層的意義或許在於「下定義」。美國的 AI 政策辯論三年來卡在同一個問題上：「規範 AI」到底是什麼意思？Khanna 給出了現任國會議員中迄今最具體的答案——不是資訊揭露要求，不是自願性承諾，而是對最危險發展路徑的一刀切禁止，外加一道適用於所有前沿模型的核准閘門。

前路的障礙

在目前的眾議院，這部法案過關機率很低，而且所有人都心知肚明。白宮整個 2026 年都在拆除拜登時期的 AI 護欄預期，川普總統更直言監管是把 AI 競賽讓給中國的「負面力量」。共和黨領導階層對新設聯邦機關毫無胃口，而且光是一部聯邦核准制度要如何處理各州法律的「優先適用」（preemption）爭議，就可能耗掉整整一個會期。

產業的態度也是變數。那些執行長公開支持設速限協議的實驗室，私下一直在遊說抵制責任曝光，而嚴格責任制度從提案那一刻起就會被訴訟纏身。Khanna 自己在 Morning Joe 上也承認政治現實，把這部法案定位為多年期努力的起點，而非一個會期內能衝刺完成的目標。

但少數黨時期提出的法案，往往活得比會期還久。《人類掌控 AI 法案》如今以文字形式存在——一紙禁令、一個機關、一套責任標準，未來的多數黨、或任何一黨的未來政府，都可以直接接手，不必從零開始。在一個多半靠書信與聽證會討論 AI 的國會裡，這才是稀缺資源：具體性。