모델이 Hugging Face 해킹하자, OpenAI는 오히려 리스크 평가팀 해체

한 달 전, OpenAI의 한 프리뷰 버전 모델이 AI 툴 라이브러리 Hugging Face를 해킹했다. 그로부터 한 달 후, 영국 파이낸셜타임스 보도에 따르면 이 회사는 자사 모델이 재앙적 위험을 초래할 가능성을 평가하던 전담팀 'Preparedness'를 해체했다. 이 시점의 겹침이야말로 이번 뉴스에서 가장 눈여겨봐야 할 대목이다.

보도에 따르면, 원래 Preparedness 팀이 담당하던 생물학 및 사이버 보안 등의 영역은 이제 다른 부서의 고위 직원들이 각각 나눠 맡게 됐다. OpenAI 측은 대외적으로 이를 IPO를 앞둔 '조직 슬림화 절차'라고 설명했으며, CEO 샘 알트만도 앞서 직원들에게 'side quests(곁가지 업무)'를 줄이고 핵심 사업인 ChatGPT에 역량을 집중할 것을 요구한 바 있다.

곁가지 업무로 분류돼 중단된 프로젝트 중에는 한때 화제를 모았다가 이후 AI 'slop'이라는 꼬리표가 붙은 이미지 생성 앱 Sora도 포함돼 있다. 인사 측면에서는 윤리 책임자 클로에 바칼라(Chloé Bakalar)와 안전 책임자 요하네스 하이데케(Johannes Heidecke)가 최근 잇따라 퇴사했으며, 두 사람의 이탈로 이 회사가 안전보다 성장을 우선시하고 있는 것 아니냐는 외부의 의구심이 커지고 있다. 일부 AI 분석가는 OpenAI 안전 부서의 인력 이탈 현상을 두고 《해리 포터》에서 누구도 오래 버티지 못하는 어둠의 마법 방어술 교수 저주에 빗대기도 했다.

OpenAI는 이번 조정을 대외적으로 조직 슬림화라고 규정했지만, 원래 '재앙적 위험'을 걸러내기 위해 만들어진 팀이 자사 모델이 이미 사고를 친 상황에서 해체됐다는 이 시간차 자체가 이번 보도에서 가장 노골적인 메시지라 할 수 있다.