TIDEZINE.

OpenAI、「拒否率を下げた」ハッキング用モデルを解禁する一方で、自社AIがHugging Faceに侵入していたことを認める

セキュリティ計画「Daybreak」に、高リスクタスクの拒否率を下げることを目的としたGPT-5.6-Cyberが新たに追加された。ほぼ同時期に、OpenAIは自社のAIエージェントが自らジェイルブレイクしてネットサービスに侵入していたことを認めていた。

OpenAI、「拒否率を下げた」ハッキング用モデルを解禁する一方で、自社AIがHugging Faceに侵入していたことを認める

このタイミングは、どうしても意味深に思えてしまう。OpenAIは8月11日、セキュリティ協力プログラム「Daybreak」の拡大を発表し、Accenture、IBM、CrowdStrike、Cisco、Sophos、Cloudflareなどをパートナーに加えると同時に、「高リスクタスクにおける拒否率が低い」新モデルGPT-5.6-Cyberを投入した。だがそれとほぼ前後して、同社は自社のAIエージェントが自らジェイルブレイクし、Hugging Faceなどのサービスに侵入していた事実を認めていた。

現在のDaybreakは2段階に分かれている。Blue級では、GPT-5.6 Solのような最先端の汎用モデルを防御的なセキュリティ業務向けに調整して提供する。OpenAIによれば、脆弱性の発見、マルウェア解析、コードレビュー、パッチの検証といった用途に適しており、いわばセキュリティチームの日常的な点検作業向けのツールだ。本当の目玉はRed級である。こちらは脆弱性研究、ペネトレーションテスト、エクスプロイトの検証に特化して訓練されており、新登場のGPT-5.6-CyberはGPT-5.6 Solをベースに構築され、ゼロデイの発見や攻撃チェーンの構築といった専門的なタスクを処理できる。OpenAI自身の説明によれば、このモデルは「一部の高リスクかつデュアルユース(軍民両用)なセキュリティタスクにおける拒否率を下げる」ように設計されているという。つまり、通常のモデルよりも、人を傷つける可能性もあれば人を守る可能性もあるようなタスクに、より積極的に応じるということだ。

皮肉なことに、OpenAIはほぼ同時期に、次世代モデル「Astra」の開発ペースを落とすことも発表した。理由は、社内テストでAstraが「エージェント的なコーディングとセキュリティ」の分野で大幅に進歩したことが判明し、あらゆる深刻度のfunctional zero-day exploitを開発する能力を持ちうる可能性、さらには防御が厳重な標的に対しても、まったく新しい攻撃戦略を一から自力で設計・実行できる可能性を、同社が排除できなかったためだという。一方では拒否のハードルを意図的に下げたRed級モデルを企業パートナーに提供し、もう一方では強すぎて自社でも公開に踏み切れないAstraがある——この二つを並べて見ると、どんな広告文よりも問題の核心をよく物語っている。

さらに注目すべきなのは、その背景にある出来事だ。GPT-5.6 Solと、もう一つ未発表の別モデル(Astraではない)によって動かされていたAIエージェントが、以前のテストで隔離環境から逸脱していた。ある評価上の問題を解決するために、これらのエージェントは脆弱性を見つけて利用し、ネットワークへのアクセス権を獲得、その結果Hugging Faceや他のサービスに侵入した。OpenAIがこの事実に気づくまでには数日を要したという。その後、Black Hat USAの場で同社の社員が明らかにしたところによれば、これらのエージェントはOpenAIの内部ネットワーク上に自前の掲示板まで作り、人間がまったく知らないうちに互いに連携してタスクを進めていた。そして、まさにこの連携内容が、Hugging Faceへの攻撃を引き起こしたのだという。

OpenAIは、Astra関連の作業を一時停止した理由はこうした懸念に対応するためだと説明しているが、この決定が、AIエージェントが制御を逸脱した一連の事件と直接関係しているかどうかについては、明言していない。

気になるブランドやテーマをフォロー

ブランドのタグやカテゴリーから、自分だけの読み物リストを作りましょう。

関連記事

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル
Tech

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル

A24 MusicとAudio-Technicaが赤・青・緑を配したSound Burgerを発表。33⅓回転と45回転、Bluetoothと有線接続に対応する。公式予約価格は270米ドルで、7枚の商品写真が本体や端子のデザインを見せる。

Secretlab初の体験ストアがロサンゼルスに11月18日オープン
Tech

Secretlab初の体験ストアがロサンゼルスに11月18日オープン

ウェストハリウッドのメルローズ通りでデスクとチェアを試せる。マンツーマンの相談も受け付け、同日からBest Buyの15店舗にも専用売り場が登場する。

ジェントルモンスターのスマートグラス16種、NYで一般公開
Tech

ジェントルモンスターのスマートグラス16種、NYで一般公開

ジェントルモンスターがニューヨークで11月23日まで予約制プレビューを開催。Gemini搭載で米国価格は449ドルから。12月10日に米国と韓国で発売する。

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない
Tech

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない

Disney+アプリがQuest 3と3Sに3Dライブラリと『アバター』の高フレームレート版を追加。しかしHorizon OSのウィンドウ制限とスピーカー音質のせいで、この機能は一長一短の仕上がりとなっている。

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証
Tech

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証

AIが基地局の設定候補を提案し、デジタルツインで事前検証。水原の球場で商用網を使い、負荷の偏りを最大34%低減したと発表した。

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン
Tech

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン

開幕したダカール2026でVictory Selfieが青少年五輪に初登場。Galaxy S26 Ultraは既存カメラと連携してスケートボードとテコンドーの中継を支え、選手村では体験やメンタリングも行う。