← All posts / Policy

加州 AI 透明法上路滿兩週:13 家大型 AI 公司近半數未達合規標準

SB 942《AI 透明法》獨立稽查出爐:13 家受規範的生成式 AI 公司中,僅 7 家依法公開偵測工具,而且即使合規的工具,也難以在基本編輯後倖存。

加州 AI 透明法上路滿兩週:13 家大型 AI 公司近半數未達合規標準

2026 年 8 月 2 日,加州《AI 透明法》(SB 942,經 AB 853 修訂)正式生效,成為全球最早一批真正具有強制力的 AI 透明法規之一。任何月活用戶超過 100 萬的生成式 AI 業者,從現在起必須在其產出的照片、音訊與視訊中嵌入可供機器讀取的來源標記(metadata),並公開一款免費的 AI 偵測工具,讓任何人都能查驗一段內容是否出自該公司的技術。同一天,歐盟的平行透明制度也同步上路。

兩週後,第一份獨立成績單出爐——結果並不好看。由調查媒體 Indicator 與人權組織 WITNESS 合作進行、並由 KQED 於 8 月 17 日廣泛報導的調查,檢視了受該法規範的全部 13 家大型 AI 公司。只有 7 家提供了可用且公開的偵測工具。 第 8 家——AI 音樂公司 Suno——在 KQED 查證時出示了工具,並表示已於 8 月初依法上線。其餘 5 家:什麼都沒有。

法規實際要求什麼

SB 942 於 2024 年通過、2025 年經 AB 853 修訂,規範對象是立法者所稱的「受涵蓋業者」(covered providers)——月活用戶逾 100 萬的生成式 AI 服務。其義務概述起來很簡單:

  • 來源標記。 AI 生成或 AI 編輯的圖片、視訊與音訊,必須帶有隱形、可供機器讀取的標記,用以辨識內容的合成來源。
  • 公開偵測工具。 每家業者必須提供免費工具,讓任何人——記者、教師、選務人員、或擔心遭到深偽(deepfake)霸凌的青少年——都能上傳檔案,查詢它是否由該業者的 AI 所生成或修改。
  • 罰則。 違規者每日每項違規可處 5,000 美元民事罰鍰,由加州檢察長執法。當 KQED 詢問是否已有公司被開罰時,檢察長辦公室表示無法對潛在或進行中的調查發表評論。

值得注意的是,這部法律涵蓋圖片、視訊與音訊——但不包括文字。歐盟的平行規則更進一步,連 AI 生成的文字也要求提供偵測機制,這也是 Anthropic(其模型不產生寫實圖片或視訊)近期承諾在全新 Claude 模型中全面加上文字浮水印的原因之一。

合規成績單

Indicator/WITNESS 團隊——Alexios Mantzarlis、Bruna Santos 與 Jacobo Castellanos——在各公司網站上搜尋偵測工具,並逐一聯繫業者確認。他們的普查涵蓋 Google、Meta、Microsoft、OpenAI、Adobe、xAI(Grok)、Midjourney、Mistral、HeyGen、Synthesia、ElevenLabs、Suno 與 TikTok。這些服務合計每月約有 106 億次造訪。

合規(7 + 1 家): Adobe、ElevenLabs、Google、Meta、TikTok、OpenAI 與 Microsoft——其中 Microsoft 是靠內建在圖像設計產品 Microsoft Designer 裡的檢查工具取得認可——加上 Suno,該公司在報告發布後出示了工具,並向 KQED 表示已於 8 月初上線。

未合規(5 家): HeyGen、Midjourney、Mistral、Synthesia 與 xAI 沒有提供可用工具,也未回應 KQED 的置評請求。總部位於英國的 AI 視訊平台 Synthesia 表示,其內容已嵌入法定標記,但在落實法規其他部分時「仍在釐清若干技術細節」,並主張作為企業對企業(B2B)平台,其風險概況與消費者應用大不相同。這個論點在沙加緬度或許有其分量:法律的「100 萬用戶」門檻是以消費者產品為想像撰寫的,而純企業服務業者早已開始遊說豁免。

現有的偵測工具也不夠好

事實證明,合規只是第一個問題。Indicator/WITNESS 團隊用 85 個檔案對 7 款可用偵測工具總共執行了 243 項測試——包括各公司自家生成器的原始與編輯版本、來自對手 AI 工具的檔案,以及非合成檔案(其中兩個被動過手腳、植入偽造的 AI 憑證,用以測試誤報可能)。

用他們自己的話說,結果「有待改進」:

  • 每款偵測工具都能辨識自家未編輯的內容。這是最低標準,人人都過了。
  • 一旦檔案被編輯——裁切、縮放、重新編碼——效能隨即崩潰。只有 Google 的 SynthID 與 OpenAI 的偵測器,能在檔案被竄改後仍正確辨識出自家平台的內容。
  • 只有 Adobe 與 Microsoft 能可靠辨識其他公司工具生成的內容(過半成功率),而報告指出這點其實不令人意外:法律並未要求跨業者偵測,因此一張 Midjourney 圖片送進 OpenAI 的檢查器,看起來會像「原生」內容一樣通過。
  • 有三款工具設有嚴格的使用頻率限制。OpenAI 的驗證工具在單一工作階段中,最早在第 7 次測試後就封鎖了研究人員;Google 與 Meta 每人每天上限 10 到 15 次——這恰恰扼殺了法律原本想促成的系統化查驗。

OpenAI 方面也坦承結構性弱點:「Metadata 並非萬無一失。它可能在上傳下載過程中遺失,或因檔案格式轉換、縮放、截圖等轉換而被破壞。」

為什麼這件事超出加州的範圍

有三個動態讓這則新聞不只是單一州的成绩單。

第一,執法問題已經搬上檯面。 法規生效兩週後,近半數受規範公司公開不合規,而檢察長辦公室對執行隻字未提。如果加州不行動,SB 942 將加入那一長串「主要靠違規來致敬」的科技法規行列——而同一天上路的歐盟,正盯著同樣這批公司。

第二,第二階段授權即將到來。 州參議員 Josh Becker 告訴 KQED,自 1 月起,大型線上平台——社群媒體與搜尋引擎——將被要求自行偵測 AI 內容並開放使用者查驗。這把責任移往下游,而如果底層偵測器不可靠又受限流約束,平台將繼承一項不可能的任務。Meta 的經驗就是預演:今夏它的「AI 資訊」標籤已開始誤標 Canva 的去背編輯圖片,惹惱行銷人員,也凸顯這類標籤可以多麼粗糙。

第三,偵測是一場不對稱戰爭。 Metadata 的壽命只到第一次截圖為止。報告的偽造憑證測試顯示,偵測器不僅會被移除標記騙過,也會被植入假標記欺瞞。正如今年研究圈反覆出現的主題所示,以浮水印為基礎的透明制度面臨根本性的脆弱問題——這也是為什麼 Anthropic 改將浮水印直接寫進 token 生成過程本身、而非事後附加的做法,正被密切視為可能更穩固的模式。

後續觀察重點

  1. 檢察長執法。 對 Midjourney 或 xAI 開出第一張每日 5,000 美元的罰單,將在一夕之間改變合規誘因。若到 9 月仍無聲無息,釋出的將是相反訊號。
  2. Suno 模式。 公司在被記者詢問後才釋出工具,這是「靠媒體詢問達成的合規」。預期會有更多類似案例——也預期執法一旦啟動,檢察長對此不會有好臉色。
  3. 跨廠商偵測標準。 這部法律最大的結構缺口,在於偵測器只需辨識自家業者的輸出。C2PA 式的共享來源標準、或要求互通性的修正案,是顯而易見的解方——也是業界會最頑強抵抗的一條。
  4. 1 月的平台授權。 當社群平台必須在上傳規模下執行偵測,本月記錄到的限流與準確率問題,就不再是研究人員的小困擾,而是基礎設施層級的失靈。

至於目前,對全球第一份 AI 透明成績單最誠實的總結是:這部法律好到足以揭露誰在無視它,而這些工具也好到足以說明為什麼無視它仍然可行。這是一種進步——最臨時性的那種。