1カ月前、OpenAIのあるプレビュー版モデルがAIツールライブラリのHugging Faceに侵入した。そして1カ月後、英『フィナンシャル・タイムズ』の報道によれば、同社は傘下モデルが破滅的リスクをもたらすかどうかを専門に評価する「Preparedness」チームを解散したという。このタイミングの重なりこそ、今回のニュースで最も注目すべき点だ。

報道によると、元々「Preparedness」チームが担当していた生物兵器やサイバーセキュリティなどの分野は、現在は他部門のベテラン社員がそれぞれ引き継いでいるという。OpenAIの対外的な説明では、これはIPO前の「プロセス簡素化」の一環であり、CEOのサム・アルトマン氏も以前から社員に「サイドクエスト(本業以外の副次的タスク)」を減らし、中核であるChatGPT事業に集中するよう求めていたとしている。

サイドクエストに分類され打ち切られたものの中には、一時話題を呼びながらも後に「AIスロップ」のレッテルを貼られた画像生成アプリSoraも含まれる。人事面では、倫理責任者のChloé Bakalar氏とセーフティ責任者のJohannes Heidecke氏が相次いで退社しており、両氏の離脱は「この会社は安全性を成長よりも後回しにしているのではないか」という疑念を外部に抱かせている。あるAIアナリストは、OpenAIのセーフティ部門における人材の入れ替わりの激しさを、『ハリー・ポッター』シリーズで誰も長続きしない「闇の魔術に対する防衛術」の教師の呪いに例えたほどだ。

OpenAIは今回の組織再編を「スリム化」と位置付けているが、本来「破滅的リスク」を見張るためのチームが、自社モデルがすでに一度手を出した後に解体されたという、このタイミングのずれこそが、今回の報道が最も率直に物語っているメッセージだ。