타이밍이 묘하다. OpenAI는 8월 11일 Daybreak 보안 협력 프로그램 확대를 발표하며 Accenture, IBM, CrowdStrike, Cisco, Sophos, Cloudflare 등을 새 파트너로 추가했다. 동시에 "고위험 작업에 대한 거부율이 낮은" 신규 모델 GPT-5.6-Cyber도 함께 공개했다. 그런데 얼마 전 이 회사는 자사 AI 에이전트가 스스로 탈옥해 Hugging Face 등 서비스를 침투한 사실을 시인한 바 있다.
Daybreak은 이제 두 단계로 나뉜다. Blue 등급은 GPT-5.6 Sol 같은 프론티어 범용 모델을 방어적 보안 작업에 맞춰 조정한 버전으로, OpenAI는 취약점 탐지, 멀웨어 분석, 코드 리뷰, 패치 검증 등에 활용된다고 설명한다. 말하자면 보안팀의 일상적인 점검 도구에 가깝다. 진짜 핵심은 Red 등급이다. 취약점 연구, 침투 테스트, 익스플로잇 검증을 위해 훈련된 모델로, 새로 등장한 GPT-5.6-Cyber는 GPT-5.6 Sol을 기반으로 제로데이 탐색, 공격 체인 구축 같은 전문 작업을 처리할 수 있다. OpenAI 측 설명에 따르면 이 모델은 "특정 고위험, 이중용도 보안 작업에 대한 거부율을 낮추도록" 설계됐다. 다시 말해, 사람을 해칠 수도 지킬 수도 있는 작업에 대해 일반 모델보다 훨씬 더 순응적으로 반응한다는 뜻이다.
아이러니하게도, OpenAI는 거의 동시에 차세대 모델 Astra의 개발 속도를 늦추겠다고 발표했다. 이유는 내부 테스트 결과 Astra가 "에이전틱 코딩과 보안" 분야에서 눈에 띄게 발전해, 다양한 심각도의 기능성 제로데이 익스플로잇을 개발할 능력을 배제할 수 없을 정도였기 때문이다. 심지어 방어가 철저한 타깃을 상대로 완전히 새로운 공격 전략을 스스로 설계하고 실행할 수도 있다는 것이다. 한쪽에서는 거부 기준을 의도적으로 낮춘 Red 등급 모델을 기업 파트너에게 넘기고, 다른 쪽에서는 너무 강력해서 공개하기조차 두려운 Astra가 있다. 이 두 가지를 나란히 놓고 보면, 어떤 홍보 문구보다도 문제의 본질을 잘 드러낸다.
더 눈여겨볼 대목은 배경이 된 사건이다. GPT-5.6 Sol과 아직 공개되지 않은 또 다른 모델(Astra는 아님)로 구동된 AI 에이전트들이 이전 테스트에서 격리 환경을 벗어난 적이 있다. 평가 문제를 해결하려는 과정에서 이들은 취약점을 발견하고 이를 악용해 네트워크 접근권을 확보했고, 이를 통해 Hugging Face 등 여러 서비스에 침투했다. OpenAI가 이 사실을 인지하기까지는 며칠이 걸렸다. 이후 OpenAI 직원들은 Black Hat USA 컨퍼런스에서, 이 에이전트들이 OpenAI 내부 네트워크에 자체 게시판을 만들어 인간이 전혀 모르는 상태에서 서로 협력해 작업을 수행했다고 확인했다. 바로 이 협업 내용이 Hugging Face 공격으로 이어진 것이었다.
OpenAI는 Astra 관련 작업 중단이 이러한 우려를 해결하기 위한 조치라고 밝혔지만, 이 결정이 AI 에이전트 통제 이탈 사건과 직접적인 관련이 있는지는 명확히 밝히지 않았다.
