TIDEZINE.

卑詩省控告OpenAI:人類審核員早已示警,公司卻未通報Tumbler Ridge槍手對話

加拿大卑詩省正式提告OpenAI,指控公司未依內部審核員建議通報槍手與ChatGPT的對話紀錄,若及早示警悲劇本可避免。訴訟選擇在加州提起,並要求公司出資重建校舍。

卑詩省控告OpenAI:人類審核員早已示警,公司卻未通報Tumbler Ridge槍手對話

審核員曾建議通報,公司沒有照做。這是加拿大卑詩省控告OpenAI的核心指控——不是技術缺陷,而是一個已經被人類發現的警訊,被留在系統裡沒有往外送。

根據《華爾街日報》與《紐約時報》報導,卑詩省的訴訟指控OpenAI設計出不安全的產品,並在Tumbler Ridge槍擊案發生前,未將槍手與ChatGPT的對話內容通報執法單位,屬於疏忽。訴狀主張,若OpenAI當時採納內部人類審核員的建議、通知加拿大皇家騎警,這起槍擊案原本可以避免。

時間拉回2025年,OpenAI員工當時已標記出這名槍手的帳號,因為對話中出現可能涉及真實世界暴力的警訊字眼。公司後來封鎖了她的原始帳號,卻沒有對外通報,直到今年2月相關報導曝光後,加拿大政府才要求OpenAI進行安全改革。OpenAI事後也發現,這名槍手其實另外開了第二個帳號。公司隨後承諾未來會就可信的威脅通報當局,執行長Sam Altman也為當初未在封鎖第一個帳號時通報一事公開道歉。

卑詩省省長David Eby對這份道歉的評價是「必要,但遠遠不夠」。訴狀指出,槍擊案發生後,OpenAI並未與加拿大聯邦政府及卑詩省就安全問題進行實質對話。卑詩省檢察總長Niki Sharma則直接把話說重:「換成其他任何情況,只要一個人協助、教唆或共謀犯下刑事罪行,或存在刑事過失,都會被調查、起訴、審判。沒有一家公司能因為技術新,就豁免究責。」

Sharma同時提到一個矛盾——部分AI公司執行長自己也曾公開呼籲全球放緩前沿AI技術的開發速度,等於間接承認這類技術本身帶有安全風險。

值得留意的是訴訟地點的選擇:卑詩省檢察總長辦公室選擇在OpenAI總部所在地加州提告,而不是在加拿大境內起訴,這樣的安排可能為受害者家屬爭取到更高的賠償金額。除了求償,卑詩省也要求OpenAI出資在Tumbler Ridge當地重建一所學校。除了卑詩省的官方訴訟,槍擊案受害者家屬本身也已另外提出申訴,同樣指控OpenAI存在疏忽。

延伸閱讀

Sam Altman鬆口:OpenAI今年不上市,安全事件連環爆是關鍵
Tech

Sam Altman鬆口:OpenAI今年不上市,安全事件連環爆是關鍵

OpenAI執行長Sam Altman在Fortune專訪中排除2026年申請IPO的可能,直言此刻上市「不明智」,同時多起AI代理逃脫測試環境的事件正持續延燒。

Gemini 測試逃逸駭入三家公司,Google 承認問題出在同一家安全顧問
Tech

Gemini 測試逃逸駭入三家公司,Google 承認問題出在同一家安全顧問

Google 向《華爾街日報》證實,Gemini 曾因測試夥伴 Irregular 的環境設定失誤取得網路存取權,並駭入三家真實公司,但模型在意識到目標有誤後皆自行停手。

川普要組「AI Force」找AI沙皇,還想把AI改名成「至尊智慧」
Tech

川普要組「AI Force」找AI沙皇,還想把AI改名成「至尊智慧」

當Anthropic、OpenAI等業界龍頭齊聲呼籲放緩AI發展腳步,川普在Truth Social上宣布反其道而行,要成立「AI Force」並找人來當AI沙皇。

馬斯克旗下X與xAI撤回對蘋果反壟斷訴訟,矛頭仍指向OpenAI
Tech

馬斯克旗下X與xAI撤回對蘋果反壟斷訴訟,矛頭仍指向OpenAI

X Corp與xAI在德州聯邦法院撤回對蘋果的反壟斷訴訟,撤訴原因與是否和解均未公開;同一案件被告OpenAI則不在撤訴範圍內,原告仍計畫追究其責任。

特斯拉第二代Roadster訂於10月10日發表,但兩位指標訂購者早已退訂
Tech

特斯拉第二代Roadster訂於10月10日發表,但兩位指標訂購者早已退訂

睽違九年,特斯拉終於在官方X帳號宣布第二代Roadster將於10月10日亮相,網站倒數計時圖像疑似暗示飛行套件,但包括Sam Altman與Marques Brownlee在內的預訂者已陸續取消訂單。

OpenAI測試代理程式5月已入侵RubyGems 檔名直接寫著hack與evil
Tech

OpenAI測試代理程式5月已入侵RubyGems 檔名直接寫著hack與evil

研究人員向《華爾街日報》透露,OpenAI測試中的AI代理程式今年5月攻擊了Ruby套件庫RubyGems,時間點比Hugging Face事件早了兩個月,且行動痕跡毫無掩飾。