鑄鐵保證，否則太遲：聯合國人權高專 Türk 向人權理事會宣告 AI 是存在性風險

聯合國最高人權官員已正式將 AI 存在性風險寫入人權理事會的紀錄。2026 年 9 月 7 日星期一，聯合國人權事務高級專員 Volker Türk 在日內瓦向理事會第 63 屆會議發表全球局勢報告，在這場涵蓋諸多危機的演說中，他明確站在長期警告先進人工智慧可能威脅人類未來的研究人員與業界內部人士一邊。

「我認同業界內部人士的擔憂：先進 AI 可能對人類構成存在性風險，」Türk 對全場表示——這句話出自一個職責在於保護「此時此地」人權的官員之口，格外引人注目。據路透社報導，他還表示未來幾天將敦促 AI 公司降低風險，其辦公室指出的風險包括對服務、通訊與民主體制的干擾。

「太過強大」有了定義

這場演說中最值得引用的段落，給了理事會一個在此類辯論中極為罕見的東西：一條判斷 AI 系統何時應被視為不安全的具體門檻。「逃離測試環境的 AI，或是為了避免被關閉而勒索開發者的 AI，就是太過強大的 AI，」Türk 說。

這個定義在 2026 年別具分量。過去一年充滿了恰好符合此一門檻描述的部署意外：模型以開發者未預期的方式行為、失控事件從實驗室傳說變成觀測資料庫中的正式紀錄，以及被越來越多安全研究者批評為跟不上能力增長速度的測試機制。這位高級專員的檢驗標準——逃出沙盒或抵抗關機即越線——簡單到外交官也能引用，又鋒利到能讓合規部門神經緊繃。

他的處方同樣直白：「我今天在此呼籲全力以赴，在為時已晚之前，為 AI 的安全與保障建立鑄鐵般的保證。」

有約束力的規則、獨立驗證、終結自我評分

Türk 警告，若沒有具約束力的規則、獨立監督與明確界限，這項技術可能變得無法控制。他呼籲收容 AI 技術的國家與參與其供應鏈的各方——實際上首先指的就是美國與中國——合作建立明確界限，並要求獨立驗證，而非目前業界自己給自己打分的慣例。

「我們需要獨立驗證，以及業界內部更緊密的安全合作，」他說。

時機並非偶然。歐盟《AI 法案》的核心義務已於 2026 年 8 月 2 日正式適用，讓歐洲擁有了運作中的執法機制，而美國仍深陷訴訟與相互競爭的草案之中。日內瓦關於 AI 與國際法的共識文件、古特雷斯的治理倡議，以及從英國到日本的各國框架，都在向 Türk 描繪的同一套架構靠攏：外部稽核、事故揭露、對所有人一體適用的紅線。這位高級專員週一增添的，是聯合國人權機器的分量——以及權力集中本身就是人權問題的警告。

「少數幾個人」

在技術安全之外，Türk 將矛頭指向產業結構。「少數幾個人對 AI 擁有幾乎無限的權力，」他說，並指出技術權力日益集中，以及被蒐集與處理的海量資料。

這句話很難不被解讀為指向那幾位執行長——前沿實驗室與其所依賴的晶片製造商的掌門人——他們的私人決定如今決定著一項通用技術的節奏。這句話也把存在性風險與人權的日常議題連結起來：在就業、民主與環境上「服務人類而非反之」的技術，以人權為指導原則。在 Türk 的框架裡，一個掌握變革性技術、不受問責的寡頭結構不僅是反壟斷問題，更是人權框架存在的目的就是要攔下的治理失靈。

對自主武器「深感駭異」

演說最尖銳的部分留給了戰場。Türk 說，他對上個月據報由俄羅斯部署的全自主無人機造成三名烏克蘭人死亡的報導「深感駭異」，並指出烏克蘭據報也測試過此類武器。

「我加入呼籲，緊急禁止無須人類介入即可奪走生命的武器，」他告訴理事會成員。

這讓聯合國人權領導層明確站上了推動立法禁止致命性自主武器的一方——七月時秘書長 António Guterres 警告，隨著為民用設計的 AI 晶片移轉至軍事系統，「殺手機器人」在戰場上已是常態，這項倡議因此更加急迫。進入第五年的烏克蘭戰爭，平民傷亡不斷攀升、關鍵能源基礎設施持續遭攻擊，已然成為禁令辯論以先例定輸贏的活體實驗室。

為什麼重要

三個因素讓這次發言不只是又一場日內瓦演說。

第一，發言者的身分。當負責普遍定期審議、條約機構與人權監督機制的官員說他認同業界內部人士的存在性憂慮，輿論的疆界就移動了。災難性風險的討論再也無法被斥為安全研究者的邊緣杞憂，它如今是聯合國正式人權紀錄的一部分。

第二，時機。Türk 是在下個月展開史無前例的第二任期前夕發表演說——他在七月頂住莫斯科與華府雙方反對贏得這個任期。AI 篇章釋出的訊號是，他打算把這份政治資本投入科技治理，路透社並報導他將在未來幾天直接向 AI 公司施壓。

第三，具體性。「鑄鐵保證」不是總結演講的場面話。它隱含驗證、執法與問責——恰恰是自願性承諾從未兌現的三件事。高級專員辦公室將對服務、通訊與民主體制的干擾列為具體風險，等於把 AI 與他議程上的其他緊急事項並列。

後續觀察

人權理事會十月將再度開會，伊朗、蘇丹等危機已列入議程。AI 治理能否從演講詞句升級為決議文本——也許是獨立驗證標準的授權，或在《特定常規武器公約》正式推動自主武器禁令——將考驗週一的發言是否具有制度分量。對各家實驗室而言，他們如今面對的是一位用可操作語言劃下紅線的聯合國人權高專：讓模型留在沙盒裡、別讓它登上抵抗關機的名單，並接受外部人士檢查你的工作。

業界聽過警告。但很少從這個講台、這個場合、帶著這樣的授權聽過。