← All posts / Research

「那件事並沒有發生」:德勒斯登工大 Andreas Thom 指控 OpenAI 對私有 ChatGPT 對話給出誤導性答覆

這位群論學家的 2019 年論文正是 Astra 非sofic群證明的基石。他指出 OpenAI 研究員 Mark Sellke 對「私有對話是否進入訓練資料」的問題只答了一半——這是一週內針對 OpenAI 數學計畫的第三起公開不當行為指控。

「那件事並沒有發生」:德勒斯登工大 Andreas Thom 指控 OpenAI 對私有 ChatGPT 對話給出誤導性答覆

數學界與 OpenAI 之間的功勞之戰又開闢了一條新戰線——而這條戰線的時間點,比佔據本週頭條的 Navier–Stokes 爭議還要早上好幾個月。德勒斯登工業大學(TU Dresden)幾何學教授 Andreas Thom——OpenAI 最負盛名的數學成果所倚賴技術的兩位作者之一——公開指控一位 OpenAI 資深研究員,就「他的私有 ChatGPT 對話是否曾進入該公司的訓練管線」給出了誤導性的答覆。

這項指控於 2026 年 9 月 10 日以三篇連載貼文的形式發表在 Mathstodon 上,成為短短一週內針對 OpenAI 數學計畫的第三起公開不當行為指控——而且與前兩起不同的是,提出指控的人,正是其已發表論文構成該成果基石的研究者本人。

爭議中的成果

2026 年 8 月,OpenAI 宣布其 Astra 模型建構出第一個明確的非sofic群(non-sofic group),解決了 Mikhail Gromov 於 1999 年提出的、懸置 27 年之久的幾何群論公開問題。這個建構是 OpenAI 連同 Lean 形式化證明一併發布的十項 AI 生成成果中的頭條,被宣傳為前沿模型能夠產出真正新數學的證據。

但幾天之內就出現了轉折:該證明的核心技術步驟直接依賴 Gábor Kun 與 Andreas Thom 2019 年的論文,以及 Kun 2016 年的一項相關結果。劍橋群論學家 Francesco Fournier-Facio 與葉希瓦大學的 Steven Miller 分別指出,Astra 十項旗艦成果中的兩項——包括非sofic群建構——對既有論文的依賴程度,遠高於 OpenAI 聲明所承認的。Miller 對《Scientific American》表示,這種未署名引用前人工作的模式「指向學術不當行為」。OpenAI 隨後編輯了部落格文章,軟化了「這些問題至少十年未有進展」的措辭。

但如今看來,署名問題只是 Thom 疑慮的一半。

那封電子郵件與那個答覆

Thom 表示,在 Astra 發布後不久,他寄信給 OpenAI 的 Mark Sellke 與 Sébastien Bubeck(後者領導該公司的數學研究),並主動揭露了一件事:他與德勒斯登的一位同事,曾花了好幾個月與 ChatGPT 本身討論 expander matching 問題以及 Kun–Thom 工作的延伸。在證明問世之前,將成為其基石的想法,早已流經 OpenAI 如今想要慶祝的這款產品。

Thom 的信中問了兩個各自獨立的問題:這些對話是否曾進入模型的訓練資料;以及另一個問題——在系統進行證明期間,這些對話是否可被存取。

Them 引述 Sellke 的回覆,全文只有六個字:“Regarding your conversations with ChatGPT: that did not happen.”(關於你與 ChatGPT 的對話:那件事並沒有發生。)

Thom 的論點是:這個答覆只回應了第二個問題——解題期間的直接存取——卻對第一個、也是後果更嚴重的問題保持沉默:他的對話是否塑造了訓練資料本身。他如今稱這個回應是「實質上具誤導性」而非誠實的,而他的推理很難被斥為咬文嚼字。一個聽起來斬釘截鐵的否認,在仔細閱讀下,可能只否認了問題最狹義的詮釋——這種回答方式給了提問者表面想要的安心,卻留下了實質未觸及的空間。

為何 Navier–Stokes 風波改變了一切

讓 Thom 這樁數月前的往來從私人不滿變成公開指控的,是 OpenAI 在本週爆發的另一場爭議中說了什麼——以及沒說什麼。

在 Buckmaster–Alpöge 事件中,NYU 的 Tristan Buckmaster 與 Anthropic 研究員 Levent Alpöge 指控 OpenAI 得知他們未發表的 Navier–Stokes 工作後,搶先發表競爭性證明,且 Bubeck 據稱因 Alpöge 任職於對手實驗室,而施壓將他的名字從合著論文中移除。OpenAI 最終的書面回應表示,沒有研究員或代理在發表前看過兩人的工作,也未存取任何特定使用者資料。

但該公司補上了一個從未給過 Thom 的但書:它「無法排除源自產品使用行為的去識別化資料,曾幫助改進」其模型。

Thom 認為,這句話正是他原始信件所區分的界線——也正是 Sellke 斬釘截鐵的否認所抹除的界線。OpenAI 自己在更高風險爭議中的措辭暗示:「that did not happen」從來就不是訓練資料問題的完整答案。如果去識別化的使用資料能幫助改進模型,那麼否認「解題期間的存取」,對「私有對話是否餵養了最初訓練系統的管線」隻字未提。

Thom 究竟在要求什麼

值得注意的是,Thom 並沒有要求任何人逆向工程 OpenAI 的訓練管線。他的訴求更窄、也更難以拒絕:一個斬釘截鐵的否認,必須附帶可揭露的依據。他呼籲 OpenAI 具體說明帳號設定顯示了什麼、訓練檢查點呈現了什麼,而且——最尖銳的一點——用淺白英語定義「源自使用行為的去識別化資料」究竟涵蓋哪些東西。

他還點出一個所有 ChatGPT 使用者共同面對的結構性問題:退出訓練是一種只能往前看的控制手段,且沒有任何稽核機制。Thom 說他在 6 月 29 日退出了訓練——這個日期他可以驗證,但這個設定無法告訴他在此之前的日子裡,他的對話遭遇了什麼。如果唯一持有相關資料的實體,正是被要求否認使用它的同一個實體,那麼這個否認的證據價值,就完全取決於否認者願不願意攤開自己的依據。

數學層面的論證

Thom 的懷疑因數學本身而變得尖銳——但並未因此成為定論。他觀察到,Kun–Thom 方法從來不被認為是解決非sofic性問題的領先候選——在專家眼中,涉及量子賽局(quantum games)的其他攻擊路線看起來更有希望。這正是他覺得值得注意的原因:Astra 精準聚焦在他的特定技術上,而不是這個領域的共識方向。

他還提出了一個比個案本身切得更深的觀點:將對話去識別化,剝除的是名字,不是底下的數學想法。為個人資料——姓名、地址、可識別模式——設計的隱私保護機制,當「資料」其實是未發表的研究推理時,顯然起不了任何作用。一段關於 expander matching 問題的被抓取對話,無論匿名化得多徹底,仍然是一段關於 expander matching 問題的對話。智識勞動的訓練資料問題不是隱私問題,而把它當成隱私問題處理,或許正是「that did not happen」得以在技術上為真、卻錯失重點的原因。

一種模式,以及規範的問題

Thom 的貼文明確地將這些事件串在一起。他主張,Bubeck 在 Buckmaster–Alpöge 事件中的行為,加上 Sellke 數月前給他的狹義答覆,「加深了令人擔憂的一點:設定 OpenAI 如何對待數學家未發表工作之規範的人,正在失去道德羅盤」。他如今將 Sellke 的原始答覆解讀為:最好情況是不合理地寬泛,最壞情況是刻意誤導。

OpenAI 尚未對 Thom 的貼文發表具體回應。但本週的軌跡顯示壓力將持續升高。該公司在書面紀錄浮出水面後,已經在 Buckmaster–Alpöge 案中收回了部分措辭,而與 Thom 的往來早於那場爭議數週——意味著它無法被斥為本週火氣下的誤會。

賭注遠超過一個證明或一間實驗室。前沿模型日益使用自身使用者的整體文本進行訓練,而最可能在聊天紀錄中留下深刻、實質、未發表思考的人,正是研究者本人。如果「源自使用行為的去識別化資料」在法律與技術上可以包含一位數學家數月的私下探索,那麼研究者與聊天機器人之間的每一次對話,都是下一個模型能力的潛在無償、無署名貢獻。Thom 的三篇貼文,究其核心,是堅持這個問題必須用淺白的語言回答,而不是用一句聽起來像答案的句子來迴避。

對一家剛宣布達成「自動化研究實習生」里程碑、並朝 2028 年 3 月全面自動化研究員疾馳而去的公司而言,其在研究功勞方面的人類規範可信度不是枝微末節——而是整個自動化計畫賴以站立的地基。以本週的證據來看,測試這個地基的,正是最有能力測試它的那群人。