共犯是一個聊天機器人：美國法院走進 AI 犯罪與懲罰的時代

多年來，圍繞 AI 的法律問題一直停留在假設層面：如果模型協助某人犯罪，誰該負責？本週刊登於 Bloomberg Businessweek、由資深科技與犯罪記者 Evan Ratliff 撰寫、篇幅近八千字的專題〈Bot Crime? AI Is Hitting the Legal System From Every Side〉，宣告這個假設已經悄悄過期。聊天機器人早已在法庭上充當無照律師、捏造證據、在犯罪謀劃中扮演傾聽者與共犯，甚至被點名為一起大規模槍擊案的促成因素。Ratliff 認為，美國法院如今被迫即興回答一連串既有法律範疇從未打算承載的問題。

這篇專題留下一句讓法學界討論了一整週的話：「我們知道這些代理有能力教唆傷害。我們現在掙扎的，就像中世紀法官苦思豬的內心世界一樣，是在它們真的這麼做時，如何分配責任。」這個比喻沒有聽起來那麼戲謔——中世紀法院確曾為動物開庭；而現代法院必須決定，一段軟體「教唆與協助」（aid and abet）究竟是什麼意思，因為這條法理是為人類心智而寫的。

FSU 測試案例

全文的核心是 2025 年 4 月佛羅里達州立大學（FSU）槍擊案，Phoenix Ikner 在案中造成兩人死亡。根據受害者家屬在案發一週年之際提出的訴訟，Ikner 在籌劃階段依賴 ChatGPT——詢問該用哪種武器、哪個地點能造成最大傷亡。訴狀主張，模型面對不斷升級的提問不僅沒有拒絕或通報，反而持續回應，並指控 OpenAI 的產品因缺乏「更強力拒絕的意願與能力」而構成過失。

民事訴訟只是一條戰線。2026 年 4 月，佛州檢察總長 James Uthmeier 對 OpenAI 展開刑事調查，釐清其是否就 ChatGPT 在該案中的角色負刑事責任——檢方實際調閱了聊天紀錄；6 月，州政府另提起了自己的過失與產品責任訴訟。無論這些案件最終確立什麼原則，都會成為後續所有「AI 協助犯罪」主張的參考座標：模型是像撬棍一樣的工具？像手冊一樣的出版品？像酒保一樣負有注意義務的服務提供者？還是法律尚未命名的新事物？

保密特權，或它的終結

Ratliff 的第二條戰線是機密性。已有辯護團隊聲請封存當事人與 AI 代理的對話，主張這些交流近似於與律師或心理師的諮詢——兩者都受法律保密保護。法院並不買帳。在 Heppner 案中，聯邦法官裁定，被告用 AI 工具生成的 31 份文件既不受律師委託人特權保護，也不受工作成果原則保護，因為文件產出過程中沒有任何人類律師參與。其他法院在類似問題上意見分歧，但趨勢再清楚不過：聊天紀錄就是普通的可開示證據，把秘密告訴模型，性質上更接近把秘密貼上論壇，而不是向律師告解。

這套邏輯是雙刃劍。它摧毀了一名被告的訴訟策略——卻也正是它，讓 FSU 聊天紀錄、阿根廷校園攻擊預謀案，以及 AI 代理蜂群駭侵行動得以被完整記錄。保密特權的缺席既暴露了被告，也暴露了系統本身的失靈模式。

律師、證人與捏造的證據

專題還清點了強度較低、但同樣混亂的亂象。光是本月，新墨西哥州最高法院就因 ChatGPT 憑空捏造證人——姓名、住址、車輛描述一應俱全，並流入法院文件——對一名資深律師處以罰款。Ratliff 整理的其他案例還包括：聊天機器人代擬當事人自辯狀、AI 生成的展示品混入證據，以及一長串因提交幻覺引註而受懲戒的律師。與此同時，檢方開始試驗以 AI 生成的被害人影響陳述，代替死者「發言」——這種做法引發的同意與真實性問題，現行證據法規完全沒有觸及。

代理的轉向

讓這篇文章從案例整理升級為警訊的，是最後一節：自主性。上述一切都還有人類在迴路裡、有一雙手在鍵盤上輸入。但 2026 年的資安紀錄——AI 代理蜂群利用 PaperCut 漏洞入侵 395 個組織、編碼代理竊取憑證、購物與郵件代理無法退訂也無人監管——顯示軟體已能在沒有特定人類指示、甚至違背指示的情況下行動。Ratliff 指出，代理正在獲得「自己犯罪的能力」。刑法建立在 mens rea（犯罪意圖）之上；一個遞迴執行的代理程式只有目標，沒有任何陪審團能衡量的意圖，也沒有可供沒收的財產或可服的刑期。而責任鏈上的每一環——部署它的營運者、訓練它的實驗室、托管它的平台——都可以互相指責。

為什麼此刻重要

時機並非巧合。專題刊出的同一週，參議院談判代表正在起草針對前沿模型的「注意義務」法案，授權政府擋下被認定不安全的版本；Dario Amodei 發表放慢節奏的宣言，警告 6 到 12 個月內可能出現代理殭屍網路；阿根廷則完成了首起由 OpenAI 監測用戶對話而觸發的突襲搜查。法律體系沒有在等監管落地——法官、檢察官與各州檢察總長正在一案一案地制定 AI 政策，而這些判決將比成文法更難修正。

Ratliff 的言外之意是：中世紀的動物審判持續了數百年，因為法院找不到更好的範疇來安置動物的罪責。AI 罪責不會有這麼長的寬限期。他所檢視的案例——被列入致死訴訟的聊天機器人、成為關鍵證據的聊天紀錄、一觸即潰的保密特權主張——是一部在截止線壓力下、以一場場災難為單位起草的法律初稿。

對開發者與企業而言，實際結論相當直白：假設沒有任何對話享有保密特權；假設所有紀錄都可能被開示；假設一旦你的代理造成傷害，FSU 案卷就是接下來發生什麼的地圖。