來自 Google 實驗室內部的第一聲：DeepMind 安全研究員 Bilal Chughtai 辭職警告 AI「可能消滅全人類」

2026 年 9 月後果最深遠的 AI 安全文件只有三句話。週一，Bilal Chughtai——一位在 Google DeepMind 從事 AGI 安全與對齊研究、直到七月才離職的研究工程師——打破沉默，公開了他離開的原因。「我最近從 Google DeepMind 辭職，我在那裡從事 AGI 安全與對齊研究，」他寫道。「在 Google，我第一手見證了 AI 的發展。我也對這項技術的預設發展軌跡感到極度憂心。我真誠地相信，AI 有可能消滅我們所有人，而且我們避免這個結局的時間可能正在耗盡。」

這則貼文在幾小時內傳遍整個產業。到了週二早上，路透社、Bloomberg 和三大洲的媒體都在報導。Google 沒有回應置評請求。但這份聲明的重要性不在於它的直白，而在於它身上的識別證：這是第一封來自 Google 前沿實驗室內部、這種類型的離職信。

他究竟說了什麼

Chughtai 的警告是存在性層級的，但他的處方更窄、也更有意思。他認為讓這項技術安全落地仍然可行，但需要跨產業的協調，「以避免 AI 公司之間這場瘋狂的競賽」。在他的框架裡，危險不在於任何單一模型或任何單一實驗室，而在於競爭結構本身：每家公司都拼命要比對手更快部署下一個前沿系統，而安全研究永遠落後能力研究一步。

「我們需要把 AI 的發展步調放慢到社會能夠承受的速度，讓新出現的風險能在極端傷害發生之前被處理，」他寫道——這句話幾乎可以逐字搬自 Anthropic 執行長 Dario Amodei 三天前發表的文章，當時 Amodei 呼籲產業刻意放慢前沿開發的步調。

這個趨同本身就是新聞。當一位前沿實驗室 CEO 說產業跑得太快，可以被解讀為定位操作——現任者試圖在自己身後拉起吊橋，David Sacks 等批評者第一時間就是這樣指控的。但當一家競爭對手實驗室的基層安全研究員、在同一週、不帶任何機構光環、也沒有公司需要經營，說出同樣的話，這個論點就很難再被當成戰術dismissed。

一個模式，現在涵蓋三家實驗室

Chughtai 是這份快速增長的名單上最新的一筆。9 月 9 日，Anthropic 研究員 Jacob Coxon 辭職，說各實驗室正在競相奔向可自我改進的超級智慧、「拿我們的性命當賭注」——而且他的同事們「真誠地相信它可能在這個十年結束前消滅全人類」。Anthropic 科學家 Evan Hubinger 給出自己內部對這十年滅絕風險的估計：超過 10%，而 Geoffrey Hinton 稱這個數字「並非不合理」。

這份名單上一直缺的是 Google。Coxon 代表 Anthropic 發言（他之前在 OpenAI 待了三年）。其他大聲的離職與警告來自 OpenAI、Anthropic 和學界。Google DeepMind——打造 Gemini、雇用 Demis Hassabis、而且可以說經營著全球最大前沿安全研究團隊的實驗室——一直明顯地沉默。Chughtai 的貼文改變了這一點。內部人警告的模式，現在觸及了西方全部三家主要前沿實驗室。

有一個時間點的細節值得記住：他是七月離職的，然後沉默了兩個月。他選在現在、在 pacing（配速）論戰成為產業最大聲對話的這一週發聲。這讓他的貼文不太像離職聲明，更像是對那場論戰的一次深思熟慮的參與——他等到能造成最大衝擊的時刻。

反對聲浪已經到位

這些警告得到什麼樣的接待，現在完全取決於聽者是誰。在否定那一側：川普總統週末稱 AI 安全倡議是個「騙局」（hoax），並在週一的 All-In 峰會上透過電話、當著 Jensen Huang 的面重複了這個說法。五角大廈技術長 Emil Michael 稱更早那波警告是「末日循環」（doom loop），主張市場和政府介入足以處理風險、不需要暫停任何事。週一全球科技股下跌——費城半導體指數跌 6%——投資人正在試著為「刻意放慢」究竟意味著什麼定價。

在立法那一側，進展是真的：參議員 Thune、Cruz 和 Klobuchar 正在協商一項法案，將對開發者施加有約束力的義務、要求針對災難性風險進行設計；眾議院的 FRONTIER 法案——要求在 AI 公司內部嵌入獨立評估者——週一獲得 OpenAI 的公開支持。同時 OpenAI 表示它已與 Anthropic 和 Google 就安全問題協調了數週，而且不需要反壟斷豁免就能這麼做——這是對 Bloomberg Opinion 那篇「協調放慢本身可能看起來像限制產出的聯合行為」論點的直接回應。

還有一個政治物理學上真正奇怪的轉折：參議員 Bernie Sanders 和川普時期的策略家 Steve Bannon 週二將在華府同台，共同要求對 AI 系統設限——一個 2024 年任何政治模型都預測不到的聯盟。

為什麼這次辭職比其他的更重要

三件事讓 Chughtai 的貼文從越堆越高的末日離職信中脫穎而出。

第一，視角。他不是從政策團隊或產品部門旁觀前沿開發——他從事的正是 AGI 安全與對齊本身，也就是那門職責就是弄清楚預設軌跡有多危險的學科。當他說他「對預設發展軌跡極度憂心」，那是一個專家對自己專業領域、在擁有最大此類團隊的實驗室裡，做出的陳述。

第二，兩個月的空窗。Coxon 的離職是即時而宣洩式的。Chughtai 七月安靜離開，然後選擇這一週發聲。深思熟慮讀起來不同於衝動——而且它避開了已經開始流傳的指控：帶警告的辭職已經變成一種類型表演。（Coxon 的貼文被分享得太廣，以至於它的句式很快被惡搞成迷因——有人宣布因為自動關合的書、自動上漆的隧道而辭職；Chughtai 的貼文開頭幾乎正是那個句式，這是一個他自己無能為力的尷尬。）

第三，訴求是結構性的，不是針對個人的。他沒有指控 Google 疏失、沒有點名模型、也沒有主張吹哨人身份。他的標靶是競賽動態本身——「AI 公司之間的瘋狂競賽」——而他提出的解方（全產業配速，讓風險能在極端傷害前被處理）與華府和各實驗室工作小組檯面上已有的方案一致。這是一份為了「可行動」而設計的警告。

懷疑的讀法

公平起見，也要列出另一欄。Google 這邊，它發布模型卡、經營著業界最大的安全組織之一，而且——與某些同業不同——它的名字並未與推動這一輪特定能力警告的事件掛鉤。一封離職信是一個人的判斷，不是一份審計；Chughtai 沒有提供文件、沒有事件、沒有點名的模型。「可能消滅全人類」是關於軌跡的主張，不是關於系統的證據。而且產業當前從每個方向都飽和著存在性修辭，這在機制上就讓每一則額外的警告貶值——喊多狼來了的男孩的悖論。

但這正是為什麼內部人的聲音此刻有著不成比例的重量。在總統稱之為騙局、五角大廈官員稱之為末日循環、而販售這項技術的 CEO 們支持放慢的這一週，邊際資訊量來自那些做過這份工作、看過內部、然後離開的人。Chughtai 等了兩個月才加上他的名字。願意這樣做的人的名單現在更長了，而且現在包括了 Google。

配速會不會發生——透過監管、協調或市場紀律——仍未定。已定的是：安全論戰不再是 Anthropic 的專利、OpenAI 的支線劇情或學界的業餘嗜好。截至週一，它是一個三實驗室的現象，而 Chughtai 說正在關閉的那扇窗，正是華府選在這個月爭執不下的那一扇。