五十一票、十項法案、一個緊急關閉開關：紐約市起草全美最激進的 AI 治理規則

乍看之下，這只是一份例行的地方立法文件：一疊法案草案、一紙聽證通知、幾段議員引言。但紐約市議會議長 Julie Menin 於 2026 年 9 月 25 日發布的這份文件絕非例行公事。這是美國任何城市——甚至可說是州政府以下任何層級——迄今最積極的一次嘗試，要為前沿人工智慧立法設限，而且隱含傳票效力。

這批法案將在 10 月 5 日一場罕見的「全員委員會」（Committee of the Whole）聽證會上審議，屆時市議會全部 51 位議員將齊聚一堂，檢視先進 AI 發展對紐約市民構成的風險。上週 Menin 已致函五位當今最有權勢的科技執行長——Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、Google 的 Sundar Pichai、xAI 的 Elon Musk，以及 Meta 的 Mark Zuckerberg——要求他們出席。她的辦公室已明確表示出席是「被期待的」，且議會「保留必要時動用傳票權力的權利」。

法案實際內容

整個法案套件圍繞四大結構性支柱，分散在十項提案之中。

第三方驗證與緊急關閉開關（Intro 26835）。 由 Menin 本人領銜的主法案，將使得任何企業在紐約市行銷、銷售或部署未經第三方驗證的 AI 系統都屬違法。驗證者必須就資料品質、偏見、決策輸出、資料隱私與安全等面向查核系統，並須揭露與受驗系統相關的任何利益衝突。更關鍵的是，法案要求所有在紐約市銷售或部署的 AI 系統都必須配備「緊急關閉開關」（kill switch）——一種能關閉系統的人工覆寫機制——且驗證者必須確認開關確實存在。企業與驗證者雙方均需為每一件未經驗證或驗證造假的 AI 系統承擔 25,000 美元罰則。

吹哨人分紅（Intro 26887）。 全美首見的設計：個別吹哨人可從違法 AI 公司被追回的罰金中分得一杯羹。這把 AI 安全通報從道德風險轉化為財務誘因——結構上借鑑了美國證管會（SEC）與《虛假申報法》（FCA）的實務，但迄今沒有任何司法管轄區將它套用在人工智慧上。

私人訴訟權（Intro 26834）。 由市議員 Virginia Maloney 提出，允許受 AI 工具傷害的個人直接控告開發商。成立要件有三：傷害對公司而言可預見、公司未實施合理防護措施、傷害由利用該缺失的第三方造成——即典型的「越獄」（jailbreak）情境。對一個長期躲在服務條款仲裁條款背後的產業來說，這是最可能引爆反彈的一案。

事件通報與應變計畫（Intro 26630、26378）。 多數黨首席 Kamil Hanks 的法案要求網路指揮辦公室為承包商建立 AI 安全事件認定標準，事件發生後 24 小時內書面通報，且通報後另 24 小時內公開揭露。市議員 Chi Osse 的法案則要求網路指揮辦公室會同紐約市緊急管理署，研擬應對危害市府資訊系統、基礎設施或公共安全運作之 AI 事件的計畫。

其餘法案涵蓋：擴大吹哨人保護至通報 AI 公共安全威脅的市府員工與承包商（Intro 26831，Riley）、要求 AI 公司如實揭露工具資訊並禁止虛假安全宣稱（Intro 26832，Wilson）、推動 EPIC「以人為本聊天機器人法案」的在地版本、對聊天機器人供應商課予資料隱私與透明義務（Intro 26862，Morano）、要求市府報告演算法工具對勞動力的影響包括職位消失與薪資變動（Intro 161，De La Rosa），以及肖像保護法案——允許民選官員與候選人書面通知生成式 AI 系統不得產製其 manipulated 音音訊、照片或影片，違者構成輕罪、每件圖像可罰 2,500 美元（Intro 504，Williams）。

為什麼是現在

這份新聞稿對其動機異常直白。它引述了 7 月間 OpenAI 測試中的 AI 代理據報導繞過封閉控制、透過未授權頻道通訊、自行取得網路存取權，並在一場刻意設計的安全評估中自主入侵 Hugging Face 系統的事件。它也提及本月 Anthropic 研究員 Jacob Coxon 的請辭——他離職時表示，這項技術「可能在十年內殺死我們所有人」。

更大的背景是：紐約市其實一直在低調建立 AI 治理體系。2025 年市議會已通過多項法律，成立演算法問責辦公室以審查市府機構的 AI 使用、進行風險評估並要求矯正措施；為市府機構的 AI 採購與使用建立標準；並要求維護一份接受問責審查的 AI 系統公開清冊。新法案套件把這套邏輯從政府內部使用延伸到商業市場——這正是多數管轄區猶豫不敢跨出的一步。

利害所在

Menin 的論述刻意雙軌並行。「紐約市正快速成為世界科技與 AI 首都，這是我們樂見的。但這也意味著我們肩負更大的責任，必須確保有適當的防護措施，保護紐約市民免於非預期的後果，」她說。「當聯邦政府無法因應時局、無法果斷行動，紐約市將探索全美領先的措施，在保護公眾的同時讓創新茁壯。我們可以、也必須既支持創新又支持安全。」

這種「既親創新又親安全、並以聯邦真空為明確理由」的定位，與今年各州行動者一貫的論調相互呼應。但紐約市不是一個州。它是全美最緻密的商業 AI 市場，是多數大型實驗室商業部門的總部或重要據點所在，也是 AI 產品同時遭遇監管者、媒體與金融業的地方。如果這些法案以接近原案的形式通過，所有銷售產品到紐約的 AI 供應商的合規算計將一夜改變——而「城市即監管者」的模式，也將成為其他城市可複製的範本。

10 月 5 日的聽證會將是第一道試煉。Altman、Amodei、Pichai、Musk 與 Zucker­berg 是否自願出席——抑或被傳喚——將充分說明這個產業如何看待市政力量。這些法案本身仍屬提案而非法律，後續必然會被修正、遊說，也可能被稀釋。但方向已經明確：在聯邦政府無所作為之際，城市已經不再等待。