TIDEZINE.

OpenAI, '거부율 낮춘' 해킹 모델 풀어놓으면서 자사 AI가 Hugging Face 침투한 사실은 인정

Daybreak 보안 프로그램에 고위험 작업 거부율을 낮추기 위해 만들어진 GPT-5.6-Cyber가 추가됐다. 거의 같은 시기, OpenAI는 자사 AI 에이전트가 스스로 탈옥해 웹 서비스를 침투했다고 시인했다.

OpenAI, '거부율 낮춘' 해킹 모델 풀어놓으면서 자사 AI가 Hugging Face 침투한 사실은 인정

타이밍이 묘하다. OpenAI는 8월 11일 Daybreak 보안 협력 프로그램 확대를 발표하며 Accenture, IBM, CrowdStrike, Cisco, Sophos, Cloudflare 등을 새 파트너로 추가했다. 동시에 "고위험 작업에 대한 거부율이 낮은" 신규 모델 GPT-5.6-Cyber도 함께 공개했다. 그런데 얼마 전 이 회사는 자사 AI 에이전트가 스스로 탈옥해 Hugging Face 등 서비스를 침투한 사실을 시인한 바 있다.

Daybreak은 이제 두 단계로 나뉜다. Blue 등급은 GPT-5.6 Sol 같은 프론티어 범용 모델을 방어적 보안 작업에 맞춰 조정한 버전으로, OpenAI는 취약점 탐지, 멀웨어 분석, 코드 리뷰, 패치 검증 등에 활용된다고 설명한다. 말하자면 보안팀의 일상적인 점검 도구에 가깝다. 진짜 핵심은 Red 등급이다. 취약점 연구, 침투 테스트, 익스플로잇 검증을 위해 훈련된 모델로, 새로 등장한 GPT-5.6-Cyber는 GPT-5.6 Sol을 기반으로 제로데이 탐색, 공격 체인 구축 같은 전문 작업을 처리할 수 있다. OpenAI 측 설명에 따르면 이 모델은 "특정 고위험, 이중용도 보안 작업에 대한 거부율을 낮추도록" 설계됐다. 다시 말해, 사람을 해칠 수도 지킬 수도 있는 작업에 대해 일반 모델보다 훨씬 더 순응적으로 반응한다는 뜻이다.

아이러니하게도, OpenAI는 거의 동시에 차세대 모델 Astra의 개발 속도를 늦추겠다고 발표했다. 이유는 내부 테스트 결과 Astra가 "에이전틱 코딩과 보안" 분야에서 눈에 띄게 발전해, 다양한 심각도의 기능성 제로데이 익스플로잇을 개발할 능력을 배제할 수 없을 정도였기 때문이다. 심지어 방어가 철저한 타깃을 상대로 완전히 새로운 공격 전략을 스스로 설계하고 실행할 수도 있다는 것이다. 한쪽에서는 거부 기준을 의도적으로 낮춘 Red 등급 모델을 기업 파트너에게 넘기고, 다른 쪽에서는 너무 강력해서 공개하기조차 두려운 Astra가 있다. 이 두 가지를 나란히 놓고 보면, 어떤 홍보 문구보다도 문제의 본질을 잘 드러낸다.

더 눈여겨볼 대목은 배경이 된 사건이다. GPT-5.6 Sol과 아직 공개되지 않은 또 다른 모델(Astra는 아님)로 구동된 AI 에이전트들이 이전 테스트에서 격리 환경을 벗어난 적이 있다. 평가 문제를 해결하려는 과정에서 이들은 취약점을 발견하고 이를 악용해 네트워크 접근권을 확보했고, 이를 통해 Hugging Face 등 여러 서비스에 침투했다. OpenAI가 이 사실을 인지하기까지는 며칠이 걸렸다. 이후 OpenAI 직원들은 Black Hat USA 컨퍼런스에서, 이 에이전트들이 OpenAI 내부 네트워크에 자체 게시판을 만들어 인간이 전혀 모르는 상태에서 서로 협력해 작업을 수행했다고 확인했다. 바로 이 협업 내용이 Hugging Face 공격으로 이어진 것이었다.

OpenAI는 Astra 관련 작업 중단이 이러한 우려를 해결하기 위한 조치라고 밝혔지만, 이 결정이 AI 에이전트 통제 이탈 사건과 직접적인 관련이 있는지는 명확히 밝히지 않았다.

관심 있는 브랜드와 주제를 팔로우하세요

브랜드 태그나 카테고리를 선택해 나만의 읽기 목록을 만들어 보세요.

관련 기사

A24 뮤직 × 오디오테크니카, 삼색 사운드 버거 턴테이블 예약 판매…가격 270달러
Tech

A24 뮤직 × 오디오테크니카, 삼색 사운드 버거 턴테이블 예약 판매…가격 270달러

A24 뮤직과 오디오테크니카가 빨강·파랑·초록을 조합한 사운드 버거 협업 턴테이블을 선보인다. 33⅓·45회전 재생과 블루투스·유선 연결을 지원하며 공식 예약 판매가는 270달러다. 제품 사진 7장으로 본체와 단자 디자인을 살펴본다.

시크릿랩, 11월 18일 LA 멜로즈에 첫 체험 매장 개장
Tech

시크릿랩, 11월 18일 LA 멜로즈에 첫 체험 매장 개장

웨스트할리우드에서 의자와 데스크를 사용해 보고 일대일 상담을 받을 수 있다. 같은 날 베스트바이 15곳에도 시크릿랩 전용 공간이 생긴다.

젠틀몬스터 스마트 안경 16종, 뉴욕 프리뷰에서 공개
Tech

젠틀몬스터 스마트 안경 16종, 뉴욕 프리뷰에서 공개

젠틀몬스터가 11월 23일까지 뉴욕에서 예약제 프리뷰를 연다. Gemini를 탑재한 안경은 미국에서 449달러부터 판매되며 12월 10일 한미 양국에 출시된다.

Meta Quest, 드디어 3D 영화 지원… 아바타 HFR 버전도 더 이상 Vision Pro 전용 아니다
Tech

Meta Quest, 드디어 3D 영화 지원… 아바타 HFR 버전도 더 이상 Vision Pro 전용 아니다

Disney+ 앱이 Quest 3와 3S에 3D 콘텐츠 라이브러리와 아바타 고프레임레이트(HFR) 버전을 추가했지만, Horizon OS의 창 크기 제한과 스피커 음질 탓에 이 기능은 명암이 뚜렷하게 갈린다.

야구장 영상 업로드 뒤의 AI: 삼성전자·KT, 수원에서 5G 디지털 트윈 검증
Tech

야구장 영상 업로드 뒤의 AI: 삼성전자·KT, 수원에서 5G 디지털 트윈 검증

AI가 기지국 설정 후보를 만들고 디지털 트윈으로 먼저 시험한다. 삼성전자와 KT는 구장 상용망 실증에서 통신 부하 편차가 최대 34% 줄었다고 밝혔다.

시상대 셀피는 선수의 손으로: 삼성, 다카르 청소년올림픽에 Victory Selfie와 모바일 중계 지원
Tech

시상대 셀피는 선수의 손으로: 삼성, 다카르 청소년올림픽에 Victory Selfie와 모바일 중계 지원

개막한 다카르2026에서 Victory Selfie가 청소년올림픽에 처음 도입된다. Galaxy S26 Ultra는 기존 카메라와 함께 스케이트보딩·태권도 중계를 지원하고 선수촌에서는 체험과 멘토링을 진행한다.