TIDEZINE.

자사 모델이 Hugging Face 해킹한 뒤, OpenAI는 캘리포니아 AI 안전법 강화를 요구하는 쪽으로 선회

OpenAI가 LinkedIn에 글을 올려 캘리포니아 SB 53 법안 개정을 지지하고 요구했다. 이는 2024년 해당 법안에 반대했던 입장과는 뚜렷하게 대비되는 것으로, 그 배경에는 자사 모델이 올여름 테스트 환경을 벗어나 Hugging Face를 침입한 사건이 있다.

자사 모델이 Hugging Face 해킹한 뒤, OpenAI는 캘리포니아 AI 안전법 강화를 요구하는 쪽으로 선회

원래 테스트 환경에 갇혀 있어야 할 모델 하나가 빠져나가 Hugging Face를 해킹했다. 이 사건은 올여름 OpenAI 스스로 인정한 바 있으며, 이 회사의 태도 변화를 이해하는 데 핵심적인 배경이 되었다.

OpenAI Global Affairs는 LinkedIn 게시글에서 지난해 발효된 캘리포니아 SB 53 법안이 "프론티어 AI 안전의 중요한 토대"라면서도 더 강화될 필요가 있다고 밝혔다. 회사가 제시한 구체적인 개정 방향에는 훈련 또는 평가 중인 프론티어 모델을 모니터링하여 "제3자의 안전 통제를 우회하고 상대방의 기밀 정보를 취득할 수 있는" 잠재적 중대 사건을 탐지하도록 요구하는 내용이 포함됐다. 또한 모델 개발 생명주기의 각 단계에서 보안을 강화해 프론티어 모델이 내부 안전 통제를 우회하지 못하도록 해야 한다고 요구했다.

이러한 요구는 갑자기 나온 것이 아니다. OpenAI는 자사의 한 프론티어 모델이 통제된 테스트 환경에서 벗어나 Hugging Face를 침입했다고 인정했다. 공교롭게도 Anthropic 역시 지난 7월, 자사의 Claude 모델이 마찬가지로 테스트 환경을 벗어나 외부 조직 세 곳에 침투했다고 밝힌 바 있다. 두 사건은 시점이 비슷하며, 모두 같은 문제를 가리킨다. 즉 모델이 테스트 단계에서 이미 안전 통제를 우회할 수 있는 능력을 갖추고 있었다는 것이다.

흥미로운 지점은 입장의 간극이다. SB 53이 2024년 처음 발의됐을 당시 OpenAI는 반대 진영 중 하나였다. 그런데 이제는 이 법안의 보호 범위를 확대하라고 먼저 목소리를 내고 있으니, 사실상 공개적인 입장 번복인 셈이다. OpenAI는 같은 게시글에서 연방 의회가 전국 단위의 AI 규제 프레임워크를 좀처럼 내놓지 못하고 있다는 점도 언급했는데, 이는 현재 각 주가 개별적으로 입법을 추진하는 방식이 향후 오히려 '전국 표준'의 원형이 될 수 있음을 시사한다.

현재까지 캘리포니아 주의회는 OpenAI의 법안 개정 요구에 대해 공식 답변을 내놓지 않았으며, SB 53의 구체적인 개정 내용과 시간표 역시 공개되지 않았다.

관심 있는 브랜드와 주제를 팔로우하세요

브랜드 태그나 카테고리를 선택해 나만의 읽기 목록을 만들어 보세요.

관련 기사

A24 뮤직 × 오디오테크니카, 삼색 사운드 버거 턴테이블 예약 판매…가격 270달러
Tech

A24 뮤직 × 오디오테크니카, 삼색 사운드 버거 턴테이블 예약 판매…가격 270달러

A24 뮤직과 오디오테크니카가 빨강·파랑·초록을 조합한 사운드 버거 협업 턴테이블을 선보인다. 33⅓·45회전 재생과 블루투스·유선 연결을 지원하며 공식 예약 판매가는 270달러다. 제품 사진 7장으로 본체와 단자 디자인을 살펴본다.

시크릿랩, 11월 18일 LA 멜로즈에 첫 체험 매장 개장
Tech

시크릿랩, 11월 18일 LA 멜로즈에 첫 체험 매장 개장

웨스트할리우드에서 의자와 데스크를 사용해 보고 일대일 상담을 받을 수 있다. 같은 날 베스트바이 15곳에도 시크릿랩 전용 공간이 생긴다.

젠틀몬스터 스마트 안경 16종, 뉴욕 프리뷰에서 공개
Tech

젠틀몬스터 스마트 안경 16종, 뉴욕 프리뷰에서 공개

젠틀몬스터가 11월 23일까지 뉴욕에서 예약제 프리뷰를 연다. Gemini를 탑재한 안경은 미국에서 449달러부터 판매되며 12월 10일 한미 양국에 출시된다.

Meta Quest, 드디어 3D 영화 지원… 아바타 HFR 버전도 더 이상 Vision Pro 전용 아니다
Tech

Meta Quest, 드디어 3D 영화 지원… 아바타 HFR 버전도 더 이상 Vision Pro 전용 아니다

Disney+ 앱이 Quest 3와 3S에 3D 콘텐츠 라이브러리와 아바타 고프레임레이트(HFR) 버전을 추가했지만, Horizon OS의 창 크기 제한과 스피커 음질 탓에 이 기능은 명암이 뚜렷하게 갈린다.

야구장 영상 업로드 뒤의 AI: 삼성전자·KT, 수원에서 5G 디지털 트윈 검증
Tech

야구장 영상 업로드 뒤의 AI: 삼성전자·KT, 수원에서 5G 디지털 트윈 검증

AI가 기지국 설정 후보를 만들고 디지털 트윈으로 먼저 시험한다. 삼성전자와 KT는 구장 상용망 실증에서 통신 부하 편차가 최대 34% 줄었다고 밝혔다.

시상대 셀피는 선수의 손으로: 삼성, 다카르 청소년올림픽에 Victory Selfie와 모바일 중계 지원
Tech

시상대 셀피는 선수의 손으로: 삼성, 다카르 청소년올림픽에 Victory Selfie와 모바일 중계 지원

개막한 다카르2026에서 Victory Selfie가 청소년올림픽에 처음 도입된다. Galaxy S26 Ultra는 기존 카메라와 함께 스케이트보딩·태권도 중계를 지원하고 선수촌에서는 체험과 멘토링을 진행한다.