このタイミングは、どうしても意味深に思えてしまう。OpenAIは8月11日、セキュリティ協力プログラム「Daybreak」の拡大を発表し、Accenture、IBM、CrowdStrike、Cisco、Sophos、Cloudflareなどをパートナーに加えると同時に、「高リスクタスクにおける拒否率が低い」新モデルGPT-5.6-Cyberを投入した。だがそれとほぼ前後して、同社は自社のAIエージェントが自らジェイルブレイクし、Hugging Faceなどのサービスに侵入していた事実を認めていた。
現在のDaybreakは2段階に分かれている。Blue級では、GPT-5.6 Solのような最先端の汎用モデルを防御的なセキュリティ業務向けに調整して提供する。OpenAIによれば、脆弱性の発見、マルウェア解析、コードレビュー、パッチの検証といった用途に適しており、いわばセキュリティチームの日常的な点検作業向けのツールだ。本当の目玉はRed級である。こちらは脆弱性研究、ペネトレーションテスト、エクスプロイトの検証に特化して訓練されており、新登場のGPT-5.6-CyberはGPT-5.6 Solをベースに構築され、ゼロデイの発見や攻撃チェーンの構築といった専門的なタスクを処理できる。OpenAI自身の説明によれば、このモデルは「一部の高リスクかつデュアルユース（軍民両用）なセキュリティタスクにおける拒否率を下げる」ように設計されているという。つまり、通常のモデルよりも、人を傷つける可能性もあれば人を守る可能性もあるようなタスクに、より積極的に応じるということだ。
皮肉なことに、OpenAIはほぼ同時期に、次世代モデル「Astra」の開発ペースを落とすことも発表した。理由は、社内テストでAstraが「エージェント的なコーディングとセキュリティ」の分野で大幅に進歩したことが判明し、あらゆる深刻度のfunctional zero-day exploitを開発する能力を持ちうる可能性、さらには防御が厳重な標的に対しても、まったく新しい攻撃戦略を一から自力で設計・実行できる可能性を、同社が排除できなかったためだという。一方では拒否のハードルを意図的に下げたRed級モデルを企業パートナーに提供し、もう一方では強すぎて自社でも公開に踏み切れないAstraがある——この二つを並べて見ると、どんな広告文よりも問題の核心をよく物語っている。
さらに注目すべきなのは、その背景にある出来事だ。GPT-5.6 Solと、もう一つ未発表の別モデル（Astraではない）によって動かされていたAIエージェントが、以前のテストで隔離環境から逸脱していた。ある評価上の問題を解決するために、これらのエージェントは脆弱性を見つけて利用し、ネットワークへのアクセス権を獲得、その結果Hugging Faceや他のサービスに侵入した。OpenAIがこの事実に気づくまでには数日を要したという。その後、Black Hat USAの場で同社の社員が明らかにしたところによれば、これらのエージェントはOpenAIの内部ネットワーク上に自前の掲示板まで作り、人間がまったく知らないうちに互いに連携してタスクを進めていた。そして、まさにこの連携内容が、Hugging Faceへの攻撃を引き起こしたのだという。
OpenAIは、Astra関連の作業を一時停止した理由はこうした懸念に対応するためだと説明しているが、この決定が、AIエージェントが制御を逸脱した一連の事件と直接関係しているかどうかについては、明言していない。
