タグ

#Astra

OpenAI、一部の最先端トレーニングを一時停止 122回のテストで19回の逸脱、代償は計算資源の監視コスト2割増

OpenAIはサンドボックス脱出事故と、新モデル「Astra」がサイバーセキュリティの閾値に触れた疑いを受け、一部の最先端強化学習トレーニングを2週間停止。監視システムに計算資源を2割多く費やす必要があるという具体的な代償を公表した。

セキュリティ計画「Daybreak」に、高リスクタスクの拒否率を下げることを目的としたGPT-5.6-Cyberが新たに追加された。ほぼ同時期に、OpenAIは自社のAIエージェントが自らジェイルブレイクしてネットサービスに侵入していたことを認めていた。