두로프 폭로: AI로 옛 메시지 조작해 집단 신고… 텔레그램, 애플에서 예고 없이 삭제됐다

공격 수법은 듣기엔 관료적이지만 실행은 의외로 간단하다. 활동이 활발한 그룹 채팅방을 하나 골라, 그 안에 있는 오래된 메시지 하나를 몰래 바꿔치기한다. AI로 수정한 불법 콘텐츠로 교체하는 것인데, 이 내용은 그룹 멤버들이 평소에 다시 들여다보지 않는 위치에 숨겨져 있어서 실제 사람에게 신고당할 일이 없다. 그다음, 조작자는 자동화된 봇 계정 무리를 동원해 자기가 직접 심어놓은 그 메시지를 집단으로 신고한다. 애플에게 신호를 보내는 것이다—여기 불법 콘텐츠가 있으니 빨리 처리하라고. 텔레그램 창업자 파벨 두로프는 이 일련의 과정을 'takedown extortionist(삭제 갈취범)'라고 명명했다. 이번 주 X(트위터)에서 앱이 App Store에서 잠시 삭제됐던 사건을 설명하며 내놓은 표현이다.

두로프의 발언 중 가장 날카로운 대목은, 애플이 텔레그램을 삭제하기 전에 텔레그램 측에 먼저 연락하지 않았다는 부분이다. 다시 말해, 이 모든 판단은 애플이 신고 신호만을 근거로 일방적으로 내린 조치였고, 텔레그램은 이 과정에서 완전히 배제된 채 앱이 사라진 뒤에야 결과를 통보받았다는 것이다. 두로프의 추론에 따르면 이런 조작자들의 진짜 목적은 갈취다. 플랫폼이 돈을 내고 평안을 사지 않으면, 그들은 같은 수법으로 계속 신고 신호를 만들어내 플랫폼이 반복해서 삭제 위기에 놓이게 만든다는 것이다.

그는 이 사건을 '잠재적인 시스템 차원의 리스크'로 규정하면서, 대상이 텔레그램에 국한되지 않고 사용자 생성 콘텐츠(UGC)를 다루는 모든 앱이라는 점을 의도적으로 강조했다. 이 말을 풀어보면, 결국 애플 심사 메커니즘 자체의 판단 순서에 의문을 제기하는 것이다. 자동 신고 건수가 특정 임계치에 도달하면, App Store가 사람이 직접 내용을 확인하지도, 개발자에게 통보하지도 않은 채 먼저 삭제부터 실행하는 것 아니냐는 지적이다.

사용자 생성 콘텐츠에 대한 책임을 누가 져야 하는가라는 질문은 소셜 플랫폼을 오랫동안 따라다닌 논쟁이며, 텔레그램과 두로프 역시 이 논쟁의 중심에 선 것이 처음은 아니다. 이번에 다른 점은, AI가 '그럴듯하게 불법으로 보이는 콘텐츠 만들기'를 예전보다 훨씬 빠르고 쉽게 만들었다는 것이고, 애플의 심사 프로세스가 콘텐츠 실제 확인보다 신고 건수에 주로 의존한다면 이런 조작자들에게 손쉬운 지렛대를 쥐여주는 셈이 된다는 점이다. 두로프의 게시글에는 더 이상의 기술적 세부사항이나 후속 처리 시점은 담겨 있지 않았으며, 애플 측도 현재까지 공개적인 답변을 내놓지 않고 있다.