BC州がOpenAIを提訴:人間の審査員は早期に警告していたのに、会社はタンブラー・リッジの銃撃犯との対話を通報せず

審査員は通報を提案していたのに、会社はそれに従わなかった。これがカナダ・ブリティッシュコロンビア州によるOpenAI提訴の核心的な主張だ——技術的な欠陥ではなく、すでに人間が発見していた警告サインが、社内に留め置かれたまま外部に伝えられなかったという話である。

『ウォール・ストリート・ジャーナル』と『ニューヨーク・タイムズ』の報道によると、BC州の訴状はOpenAIが安全性を欠いた製品を設計したと指摘し、タンブラー・リッジ銃撃事件が起きる前に、銃撃犯とChatGPTの対話内容を法執行機関に通報しなかったことは過失にあたると主張している。訴状は、当時OpenAIが社内の人間審査員の提案を採用し、カナダ王立騎馬警察(RCMP)に通知していれば、この銃撃事件は防げたはずだと主張している。

時は2025年に遡る。OpenAIの社員は当時すでにこの銃撃犯のアカウントにフラグを立てていた。対話の中に、現実世界での暴力を示唆する可能性のある警告的な言葉が現れていたためだ。その後、会社は彼女の元のアカウントを凍結したが、外部への通報は行わなかった。今年2月に関連報道が明るみに出て初めて、カナダ政府はOpenAIに安全性改革を求めた。OpenAIは事後、この銃撃犯が実は別に2つ目のアカウントを開設していたことも把握した。その後、会社は今後、信頼性のある脅威については当局に通報すると約束し、CEOのサム・アルトマン氏も、最初のアカウントを凍結した際に通報しなかったことについて公に謝罪した。

この謝罪について、BC州のデービッド・エビー州首相は「必要ではあるが、まったく不十分だ」と評した。訴状によれば、銃撃事件発生後、OpenAIはカナダ連邦政府およびBC州との間で、安全性に関する実質的な対話を行わなかったという。BC州司法長官のニキ・シャルマ氏は、さらに踏み込んでこう述べている。「他のどんな状況であっても、ある人物が刑事犯罪の幇助、教唆、共謀に関与した、あるいは刑事上の過失があったとすれば、その人物は捜査され、起訴され、裁判にかけられる。技術が新しいからといって、責任を免れる企業などあってはならない。」

シャルマ氏はまた、ある矛盾についても言及した——一部のAI企業のCEO自身が、最先端AI技術の開発速度を世界的に減速させるよう公に呼びかけたことがあり、これは間接的に、この種の技術自体に安全上のリスクがあることを認めているに等しいというものだ。

注目すべきは訴訟地の選択だ。BC州司法長官事務局は、カナダ国内ではなく、OpenAI本社が所在するカリフォルニア州で提訴することを選んだ。この措置により、被害者遺族がより高額な賠償金を勝ち取れる可能性がある。損害賠償請求に加え、BC州はOpenAIに対し、タンブラー・リッジ現地の学校再建費用を負担するよう求めている。BC州による公式な訴訟のほかにも、銃撃事件の被害者遺族自身がすでに別途申し立てを行っており、同様にOpenAIの過失を指摘している。