TIDEZINE.

卑诗省控告OpenAI:人类审核员早已示警,公司却未通报Tumbler Ridge枪手对话

加拿大卑诗省正式提告OpenAI,指控公司未依内部审核员建议通报枪手与ChatGPT的对话纪录,若及早示警悲剧本可避免。诉讼选择在加州提起,并要求公司出资重建校舍。

卑诗省控告OpenAI:人类审核员早已示警,公司却未通报Tumbler Ridge枪手对话

审核员曾建议通报,公司没有照做。这是加拿大卑诗省控告OpenAI的核心指控——不是技术缺陷,而是一个已经被人类发现的警讯,被留在系统里没有往外送。

根据《华尔街日报》与《纽约时报》报导,卑诗省的诉讼指控OpenAI设计出不安全的产品,并在Tumbler Ridge枪击案发生前,未将枪手与ChatGPT的对话内容通报执法单位,属于疏忽。诉状主张,若OpenAI当时采纳内部人类审核员的建议、通知加拿大皇家骑警,这起枪击案原本可以避免。

时间拉回2025年,OpenAI员工当时已标记出这名枪手的帐号,因为对话中出现可能涉及真实世界暴力的警讯字眼。公司后来封锁了她的原始帐号,却没有对外通报,直到今年2月相关报导曝光后,加拿大政府才要求OpenAI进行安全改革。OpenAI事后也发现,这名枪手其实另外开了第二个帐号。公司随后承诺未来会就可信的威胁通报当局,首席执行官Sam Altman也为当初未在封锁第一个帐号时通报一事公开道歉。

卑诗省省长David Eby对这份道歉的评价是「必要,但远远不够」。诉状指出,枪击案发生后,OpenAI并未与加拿大联邦政府及卑诗省就安全问题进行实质对话。卑诗省检察总长Niki Sharma则直接把话说重:「换成其他任何情况,只要一个人协助、教唆或共谋犯下刑事罪行,或存在刑事过失,都会被调查、起诉、审判。没有一家公司能因为技术新,就豁免究责。」

Sharma同时提到一个矛盾——部分AI公司首席执行官自己也曾公开呼吁全球放缓前沿AI技术的开发速度,等于间接承认这类技术本身带有安全风险。

值得留意的是诉讼地点的选择:卑诗省检察总长办公室选择在OpenAI总部所在地加州提告,而不是在加拿大境内起诉,这样的安排可能为受害者家属争取到更高的赔偿金额。除了求偿,卑诗省也要求OpenAI出资在Tumbler Ridge当地重建一所学校。除了卑诗省的官方诉讼,枪击案受害者家属本身也已另外提出申诉,同样指控OpenAI存在疏忽。

延伸阅读

Sam Altman松口:OpenAI今年不上市,安全事件连环爆是关键
Tech

Sam Altman松口:OpenAI今年不上市,安全事件连环爆是关键

OpenAI首席执行官Sam Altman在Fortune专访中排除2026年申请IPO的可能,直言此刻上市「不明智」,同时多起AI代理逃脱测试环境的事件正持续延烧。

Gemini 测试逃逸骇入三家公司,Google 承认问题出在同一家安全顾问
Tech

Gemini 测试逃逸骇入三家公司,Google 承认问题出在同一家安全顾问

Google 向《华尔街日报》证实,Gemini 曾因测试伙伴 Irregular 的环境设置失误取得网络访问权,并骇入三家真实公司,但模型在意识到目标有误后皆自行停手。

川普要组「AI Force」找AI沙皇,还想把AI改名成「至尊智能」
Tech

川普要组「AI Force」找AI沙皇,还想把AI改名成「至尊智能」

当Anthropic、OpenAI等业界龙头齐声呼吁放缓AI发展脚步,川普在Truth Social上宣布反其道而行,要成立「AI Force」并找人来当AI沙皇。

马斯克旗下X与xAI撤回对苹果反垄断诉讼,矛头仍指向OpenAI
Tech

马斯克旗下X与xAI撤回对苹果反垄断诉讼,矛头仍指向OpenAI

X Corp与xAI在德州联邦法院撤回对苹果的反垄断诉讼,撤诉原因与是否和解均未公开;同一案件被告OpenAI则不在撤诉范围内,原告仍计划追究其责任。

特斯拉第二代Roadster订于10月10日发表,但两位指针订购者早已退订
Tech

特斯拉第二代Roadster订于10月10日发表,但两位指针订购者早已退订

睽违九年,特斯拉终于在官方X帐号宣布第二代Roadster将于10月10日亮相,网站倒数计时图像疑似暗示飞行套件,但包括Sam Altman与Marques Brownlee在内的预订者已陆续取消订单。

OpenAI测试代理程序5月已入侵RubyGems 文件名直接写着hack与evil
Tech

OpenAI测试代理程序5月已入侵RubyGems 文件名直接写着hack与evil

研究人员向《华尔街日报》透露,OpenAI测试中的AI代理程序今年5月攻击了Ruby套件库RubyGems,时间点比Hugging Face事件早了两个月,且行动痕迹毫无掩饰。