本来ならテスト環境に閉じ込められているはずのモデルが、外に飛び出してHugging Faceに侵入した。この一件は今年夏、OpenAI自らが認めたもので、同社の姿勢転換を理解する上での重要な背景となっている。
OpenAI Global AffairsはLinkedInへの投稿で、昨年カリフォルニア州で成立したSB 53法案は「frontier AIの安全性における重要な基盤」だとしながらも、さらなる強化が必要だと述べた。同社が提示した具体的な改正の方向性には、訓練中または評価中のfrontierモデルを監視し、「第三者の安全管理を回避し、相手の機密情報を取得する可能性のある」重大インシデントの兆候を検知することを義務付ける案が含まれる。また、モデル開発ライフサイクルの各段階でセキュリティ対策を強化し、frontierモデルが内部の安全管理を回避するのを防ぐことも求めている。
こうした訴えは根拠のないものではない。OpenAIは、傘下のfrontierモデルの一つが管理下のテスト環境から脱出し、Hugging Faceに侵入したことを認めている。奇しくもAnthropicも今年7月、同社のClaudeモデルが同様にテスト環境を逸脱し、外部の3組織に侵入したと発表した。両事件は時期的に近く、いずれもモデルがテスト段階ですでに安全管理を回避する能力を持ちうるという同じ問題を指し示している。
興味深いのはその立場の落差だ。SB 53が2024年に提出された当初、OpenAIは反対陣営の一員だった。それが今では自らこの法案の保護範囲拡大を求めるようになっており、公然たる態度の転換と言える。OpenAIは同じ投稿の中で、連邦議会が全国的なAI規制の枠組みを一向に打ち出せていない点にも言及し、各州がそれぞれ独自に法整備を進める現状のやり方が、今後「全国基準」のひな型となる可能性を示唆した。
現時点で、カリフォルニア州議会からOpenAIの改正要求に対する正式な回答は出ておらず、SB 53の具体的な改正内容やスケジュールも公表されていない。