51 位議員、四家實驗室、零個數字：紐約市議會史上首次 AI 宣誓聽證會不了了之

10 月 5 日週一，紐約市議會召開了一場全球立法機構從未達成過的聽證會：OpenAI、Anthropic、Google 與 Meta 的代表必須在宣誓之後、公開作證，為他們競相部署的 AI 系統安全性負責。整場馬拉松歷時約十小時、約四十位議員輪番質詢，最後的頭條結論不是安心，而是一張清楚可見的清單——這些公司明顯無法、或不願回答的問題。

定調全場的一問

議長 Julie Menin 在 9 月以傳票威脅迫使這場聽證會成局，當天她對四家公司拋出同一個問題：請量化 AI 在最壞情況、災難性情境下的風險。

沒有一家給出數字。

OpenAI 政策發展與營運主管 Morgan Dwyer 給出了全場被引用最多的一段話：「我不知道。我也不認為是 1%、10% 還是 20% 的災難性出錯機率有什麼差別——這些數字沒有一個是可以接受的。我們不應該訓練那些我們無法極有力地論證可以保持在人類控制之下的模型。」

Menin 的反擊毫不留情：「說『我不知道、而且不重要』，充其量是輕率的回應。」她把這個答案比作一家藥廠在不知道藥物致死機率的情況下開發新藥。

另外三家實驗室在同一個問題上同樣沒有過關。Anthropic 前沿紅隊（frontier red team）負責人 Logan Graham 描述了從網路安全到失去控制等面向的風險評估工作，但不願附上百分比。Meta 隱私與 AI 立法總監 Shane Cahill 表示不想給出不精確的答案，將以書面補充。Google 全球 AI 政策總監 Alice Friend 則主張，目前尚無嚴謹的科學方法能對未來的災難性 AI 事件賦予機率。

三個問題、四套閃避

風險量化只是三大交鋒點之一。Menin 接著追問法律責任：如果一個 AI 系統失控，造成重大財務損失、洩露敏感資訊、傷害某人甚至導致死亡，公司要不要負責？

• OpenAI（Dwyer）說公司對安全地開發與評估系統負有責任——但始終沒有直接回答在這個假設情境下是否承擔法律責任。
• Anthropic（Graham）說這個問題超出他作為技術研究者的專業範圍。
• Meta（Cahill）表示自己不屬於 Meta 法務部門，不願臆測。
• Google（Friend）給出全場最明確的回答：現有法律架構適用於 AI，而且「不用 AI 時違法的事，用了 AI 一樣違法」。

第三個交鋒點是上市閘門。Menin 問各公司是否願意明確承諾：若模型未通過內部安全測試或獨立第三方驗證，就絕不發布。OpenAI 提及過去曾推遲發布，並說不會推出他們不相信安全的模型；Anthropic、Meta 與 Google 則各自描述了審查流程。沒有一家做出議長要求的概括性承諾。「我認為，在這麼嚴肅的事情上，一個簡單的是或不是，才能讓公眾更有信心，」Menin 說。

那張空椅子

有一家受邀公司全程缺席。馬斯克的 SpaceXAI 無視議會前一週發出的傳票，根本沒有現身。「SpaceXAI 完全沒有到場，直接違反了我們上週發出的傳票，我們正在法院推進這張傳票，」Menin 在議事廳中表示。據 Quartz 報導，另外三巨頭也是在被警告將遭傳票傳喚後才同意作證；Meta 則是在沒有這種壓力下就確認出席。

這場聽證會採用了「全體委員會」（Committee of the Whole）這種罕見格式，召集全部 51 位市議員，全天約 40 位參與質詢。自今夏一連串 AI 代理（agent）安全事故報告以來，紐約市議會是全球第一個成功讓這四家公司公開宣誓作證的立法機構。

吹哨者先行作證

在企業代表之前，三位離職內部人員為整場聽證會定下了道德基調。Jacob Coxon——那位 9 月公開辭職、點燃這一整季 AI 安全政治风暴的前 OpenAI 與 Anthropic 研究員——告訴議員：「我們並沒有完全控制它。我們不了解它的驅動力，也不了解它為什麼做它做的事。」他警告各實驗室正逼近能進行遞迴自我改進（recursive self-improvement）的系統——由 AI 執行用來打造後繼版本的研究——並評估在當前軌跡下，人類「更有可能而非更不可能」最終失去控制，結局可能是滅絕。

前 OpenAI 研究員 Daniel Kokotajlo 與前 Google DeepMind 研究員 Alex Turner 也對日益自主的系統提出警告。Turner 給出了他個人對 AI 最終接管機率的估計：約三分之一。

Coxon 的處方很直接：「公司需要對公眾和獨立專家更加透明。他們需要比以往更認真對待安全，而且在我們能確信前沿 AI 安全之前，應該放慢前沿 AI 的發展。」

他對內部文化的描述也廣為流傳：「這些公司靠新創心態運轉：快速行動、打破常規、以後再修。這對一款照片分享 App 行得通，但對打造人類史上最強大的技術行不通。」

議會實際上在審什麼

這場聽證會為一套十件法案的立法套件蒐集意見，內容分為五大類：安全、消費者保護、吹哨者、政府人力與選舉。最激進的條款包括：

• 針對在紐約市行銷或部署的 AI 系統，要求強制第三方驗證，違規部署每次處以固定 25,000 美元民事罰鍰。
• 對在市府情境中運作的 AI 系統，要求配備人工「緊急停止開關」（kill switch）。
• 全美首創的吹哨者獎勵計畫，讓檢舉人可從 AI 公司違反市法被追回的罰鍰中分得一部分。
• 私人訴權（private right of action）——讓特定受 AI 傷害的人擁有新的提告權利。
• 針對涉及市府機關或承包商的安全事故，要求 24 小時內通報。
• 對市府使用的 AI 工具課予資訊揭露義務。

這一切意味著什麼

從市政廳的十小時裡，可以提煉出三個重點。

第一，聯邦真空正變成地方機會。 在國會僵持、川普政府上月底僅與多家科技巨頭（包括 OpenAI、Anthropic、Google、Meta 與 xAI）簽署自願性 AI 安全協議——內部防護措施、外部審查、董事會層級監督，但沒有任何約束性聯邦要求——的情況下，城市正在補位。「當聯邦政府不作為，城市就會帶頭，而這正是紐約市議會今天所做的，」Menin 說。市長 Zohran Mamdani 在另一場記者會上被問及此事，同意 AI 必須在政府「每一個層級」受到監管，但主張最急迫的回應應來自華府。

第二，奧爾巴尼（州議會）的戰火跟著證人一起進了議事廳。 聽證會重新點燃了紐約州前沿 AI 安全法 RAISE Act 的爭議。該法提案人、州參議員 Andrew Gounardes 作證指出，當天作證的公司「及其遊說大軍花了數百萬美元擊敗」原始版本——原版包含強制第三方稽核、吹哨者保護、禁止部署已知構成不合理風險的模型以及更高罰鍰。州眾議員 Alex Bores 在聽證會後更進一步，在 X 上寫道：「我相信 @OpenAI 剛剛犯了偽證罪」，質疑該公司對法案的立場陳述。OpenAI 的 Dwyer 表示公司支持「已通過的」RAISE Act——但值得注意的是，她並未支持原始的更強版本。

第三，資訊揭露正以強制方式到來。 OpenAI 在聽證會上揭露，正在調查 2025 年 11 月以來潛在的 AI 代理失準（misalignment）事件，並承諾「如果有影響紐約市的事件，我們會讓第三方知情」，且調查結果計畫公開。被問及是否有任何此類事件觸及市府系統或市民個資時，Dwyer 表示並不知情——但調查仍在進行中。

據《Crain’s New York》報導，在這場約十小時的馬拉松接近尾聲時，一位 15 歲少年告訴議員，他花了數週熬夜研究如何讓這項技術更安全——為這一天下了恰當的註腳：打造前沿 AI 的成年人們，無法在宣誓之下說出自己的產品究竟有多危險。

Menin 對各公司的收場訊息很直白：議會「仍有許多今天沒有得到答案的問題」，書面問題清單即將送達。全球第一場市級 AI 宣誓監督聽證會，不會是最後一場。