七十個簽名對抗奇點：英國議員聯名要求全球首例超級智慧禁令

2026 年 9 月 11 日，一封信送到了英國首相 Andy Burnham 的桌上，內容對西敏寺而言罕見地直白：禁止創造人工超級智慧（Artificial Superintelligence, ASI），並帶領國際聯盟推動同樣的禁令。連署者超過七十位下議院議員與上議院議員，橫跨各黨派——他們不是邊緣的後座議員，而是今年英國國會每一場重要 AI 安全辯論中都出現過的名字。他們的行動，接續在一位工黨後座議員締造立法史的法案之後。

五天前的 9 月 8 日，Alex Sobel 議員在下議院起身，提出《人工超級智慧安全法案》（Artificial Superintelligence Security Bill）——這是全球立法史上第一部明文禁止開發、部署與營運超級智慧系統的法案。七十二小時內，倡議團體 ControlAI 就把這項孤單的十分鐘規則法案，轉化為一份獲得七十多位議員連署的跨黨派公開信。一份 AI 安全提案以這種速度從個別議員的手中推進到對現任首相的正式施壓，前所未見。

法案實際上做了什麼

根據國會法案網站上公開的條文，這部法案做了兩件過去從未有立法機關同時嘗試的事。

第一，它禁止。法案將使開發、部署或營運「能力在人類所有認知領域全面超越人類表現」的系統成為非法——這正是安全研究圈對超級智慧的操作型定義。第二，它沿著能力階梯向下追溯：法案授權政府監控、並在必要時限制超級智慧的「前驅技術」（precursors）。Sobel 在下議院發言時對第二項權力的重要性毫不諱言。他告訴議場：「沒有任何公司、政府或個人知道如何讓超級智慧處於人類控制之下。」他的論點是：等到系統展現危險能力才開始監管，是一種範疇上的錯誤——到那個時刻，有效控制的機會早已消失。

以十分鐘規則提案的標準而言，法案目前的執行架構刻意保持模糊，這是常態。真正具有憲法意義的是它確立的原則：存在一條紅線、紅線之上的系統屬於非法、而決定紅線位置的是民主立法機關，不是公司的安全團隊。

公開信：七十個簽名要求什麼

由《衛報》率先報導的這封 Burnham 公開信，在一個面向上比法案本身走得更遠：它要求首相把超級智慧當成全球協調問題，而不只是國內監管問題。連署議員敦促 Burnham 支持禁止創造 ASI，並帶領國際盟友建立相同的禁令——這等於隱性地邀請英國重啟 AI 安全峰會外交，但目標遠比 2023 年 Bletchley Park 峰會討論過的任何議題都更絕對。

《每日快報》隨後刊出連署名單的分析，確認名單橫跨黨派，並指出公開信明確將訴求框定為「防止 AI 導致人類滅絕」。根據多家媒體報導，信中最常被引用的一段話，引用的正是前沿實驗室自己內部流傳的數字：資深人士私下評估「AI 殺死所有人」的機率超過百分之十。

為什麼是現在：Coxon 訊號

最直接的觸發點，是一個過去一週主宰英國 AI 新聞的名字：Jacob Coxon。這位 Anthropic 前員工——目前打破沉默的最高層級內部人士——在公開信送達前後的幾天裡，在一系列廣播訪談中重複同一個主張：實驗室內部的人相信，他們正在打造的技術可能在這個十年結束前消滅所有人類，而且這種信念在第一線研究者之間，比在決定部署時程的高層之間更普遍。

Coxon 的發言之所有份量，在於他的身分而非內容——類似的警告，Yoshua Bengio 和一長串安全研究者早已說過。但來自內部人士的指控，在國會辦公室裡有著不同的證據重量。多家報導公開信的媒體都注意到，七十個簽名正是掛在這個鉤子上：一位領先實驗室的前員工斷言，內部人士自己就相信這項技術可能在十年內終結人類。

時機上也與 Burnham 本人的公開表態相互碰撞。在公開信送達前幾天，首相曾在訪問中承認 AI 對國家安全構成風險，但堅稱它同時也為國家安全提供解方——這是 AI 安全懷疑派議員眼中典型的兩面討好。連署議員實際上是在逼他表態：如果首相接受風險評估，那麼對抗「滅絕級能力」唯一相稱的回應是禁止，而不是監控。

大西洋兩岸的迴聲

西敏寺並非單獨行動。就在 Sobel 提案的三天前，美國參議員 Bernie Sanders 與眾議員 Greg Casar 宣布了《禁止人工超級智慧法案》（Ban Artificial Superintelligence Act）——該法案將永久禁止 ASI 開發，並暫時叫停門檻以下的先進 AI 研發。兩部 ASI 禁令法案在英美兩地近乎同時出現，背後是相互重疊的倡議網絡，這看起來不像巧合，更像一場協調過的政治測試：在主要民主國家裡，「全面禁止」這個選項現在是否已經可以公開談論。

兩部法案以現有形式成為法律的機率都不高。兩者都是表態性質的私人法案——設定議程的工具，而非制定法條的載具。但軌跡本身重要。一年前，「禁止超級智慧」還是只屬於倡議者和少數研究者的立場。今天，它在英國有七十個國會簽名，在美國有參議員領銜提案，還有一位公開承認風險評估的英國首相。

最明顯的反對意見——以及倡議者的回答

批評者分為兩派。第一派認為定義問題是致命傷：「超級智慧」不是一個可測量的門檻，任何以此為基準的法律，不是什麼都管不到、就是什麼都管。第二派認為禁止在戰略上天真：如果英國拒絕開發，其他不那麼謹慎的行為者不會跟進，英國等於用放棄對技術發展的影響力，換取棄絕技術的道德滿足。

ControlAI 對第一個反對意見的回答是前驅監控權——它把監管觸發點從一個不可測量的終點，移到可觀察的能力里程碑上。對第二個意見的回答則是歷史類比：同樣的協調論點當年也曾被用來反對核不擴散條約、人類生殖細胞編輯禁令與化學武器公約——這些體制都不完美，但相較於不受監管的反事實，它們確實改變了國家行為。

法案的二讀尚未排定時程。按照私人立法的標準算術，沒有政府支持，法案過關的機率接近於零。但七十個簽名的公開信，改變了政府必須「公開拒絕」的東西。史上頭一遭，一位英國首相被要求白紙黑字地表態：他的國家是否應該被允許建造一台比境內每一個人都更聰明的機器——而一個持續壯大的跨黨派聯盟，已經承諾記住這個答案。