TIDEZINE.

틱톡, 알고리즘 안전장치 일부러 꺼둔 채 실험...대조군 소년 결국 극단적 선택

Blackburn·Blumenthal 상원의원, 틱톡 경영진에 서한 발송... 2021년 알고리즘 테스트로 일부 이용자가 '콘텐츠 편식' 방지 안전 기능을 사용하지 못했으며, 테스트 기간 중 미국 십대 소년이 극단적 선택을 했다고 문제 제기

틱톡, 알고리즘 안전장치 일부러 꺼둔 채 실험...대조군 소년 결국 극단적 선택

강경한 어조의 서한 한 통이 틱톡 내부에서 은밀히 진행된 실험을 폭로했다. Marsha Blackburn과 Richard Blumenthal 상원의원은 틱톡 경영진에게 서한을 보내, 회사가 알고리즘 안전 기능을 어떻게 테스트하고 심지어 보류시켰는지 설명하라고 요구했다. 이는 2021년 한 실험에 관한 Bloomberg의 보도가 발단이 됐다.

해당 기능은 원래 'for you' 추천 페이지에서 나타나는 '반복 패턴' 문제, 즉 흔히 말하는 콘텐츠 편식 현상을 해결하기 위한 것이었다. 틱톡은 당시 대외적으로 이 업데이트가 이용자가 "같은 종류의 콘텐츠를 계속 보는 것"—영상 한 편은 괜찮을지 몰라도 집중적으로 시청하면 문제가 될 수 있는 상황—을 막기 위한 것이라고 밝혔다. 회사가 공개하지 않은 사실은, 이 안전장치가 일부 이용자 계정에서는 의도적으로 비활성화된 채 유지되었고, 이를 통해 틱톡이 이 '대조군' 이용자들을 대상으로 해당 기능이 이용 지속 시간에 미치는 영향을 테스트할 수 있었다는 점이다.

Bloomberg 보도는 틱톡 내부 문서를 인용해 미국의 한 십대 소년 Chase Nasca의 계정이 바로 그 대조군 중 하나였다고 밝혔다. 문서에는 그가 "콘텐츠 편식 상태에 빠져, 특히 극단적 선택 직전 기간 동안 자살·자해·우울증 관련 반복 콘텐츠가 계정에 대량으로 추천됐다"고 기술돼 있다. Nasca는 자신의 계정이 대조군으로 편입된 지 얼마 지나지 않아 세상을 떠났다.

두 상원의원은 서한에서 틱톡에 이번 실험과 유사한 다른 테스트들에 대한 세부 내용을 제공할 것을 요구했으며, 회사가 이용 지속 시간이나 광고 수익에 미칠 영향을 우려해 특정 안전 기능 출시를 보류한 적이 있는지도 캐물었다. 서한에는 "이번에 새롭게 드러난 사실들은 틱톡이 자사 추천 시스템이 초래할 수 있는 위험을 인지하고 있었을 뿐 아니라, 이 개입 조치가 이용자 지속 시간에 미치는 영향을 연구하겠다는 목적만으로 수백만 명의 이용자가 안전 개입 기능을 사용하지 못하도록 의도적으로 막았다는 점을 보여준다"고 적혀 있다. 회사는 9월 1일까지 답변할 것을 요구받았다.

Blackburn과 Blumenthal은 오랫동안 소셜미디어의 청소년 보호 강화를 추진해온 인물들로, 《Kids Online Safety Act》(KOSA)의 핵심 발의자이기도 하다. 서한에서는 특히 2021년 이 실험이 한 틱톡 정책 담당자가 의회 청문회에 출석해 두 의원으로부터 아동·청소년 보호 조치 강화를 직접 요구받은 직후에 시작됐다는 점을 지적했다. "이번 폭로는 충격적이지만, 더 우려스러운 것은 틱톡이 자사 추천 알고리즘이 아동에게 미치는 영향을 이미 알고 있었다는 사실이다"라고 서한은 밝혔다.

마감 시점까지 틱톡은 논평 요청에 응답하지 않았다.

관심 있는 브랜드와 주제를 팔로우하세요

브랜드 태그나 카테고리를 선택해 나만의 읽기 목록을 만들어 보세요.

관련 기사

A24 뮤직 × 오디오테크니카, 삼색 사운드 버거 턴테이블 예약 판매…가격 270달러
Tech

A24 뮤직 × 오디오테크니카, 삼색 사운드 버거 턴테이블 예약 판매…가격 270달러

A24 뮤직과 오디오테크니카가 빨강·파랑·초록을 조합한 사운드 버거 협업 턴테이블을 선보인다. 33⅓·45회전 재생과 블루투스·유선 연결을 지원하며 공식 예약 판매가는 270달러다. 제품 사진 7장으로 본체와 단자 디자인을 살펴본다.

시크릿랩, 11월 18일 LA 멜로즈에 첫 체험 매장 개장
Tech

시크릿랩, 11월 18일 LA 멜로즈에 첫 체험 매장 개장

웨스트할리우드에서 의자와 데스크를 사용해 보고 일대일 상담을 받을 수 있다. 같은 날 베스트바이 15곳에도 시크릿랩 전용 공간이 생긴다.

젠틀몬스터 스마트 안경 16종, 뉴욕 프리뷰에서 공개
Tech

젠틀몬스터 스마트 안경 16종, 뉴욕 프리뷰에서 공개

젠틀몬스터가 11월 23일까지 뉴욕에서 예약제 프리뷰를 연다. Gemini를 탑재한 안경은 미국에서 449달러부터 판매되며 12월 10일 한미 양국에 출시된다.

Meta Quest, 드디어 3D 영화 지원… 아바타 HFR 버전도 더 이상 Vision Pro 전용 아니다
Tech

Meta Quest, 드디어 3D 영화 지원… 아바타 HFR 버전도 더 이상 Vision Pro 전용 아니다

Disney+ 앱이 Quest 3와 3S에 3D 콘텐츠 라이브러리와 아바타 고프레임레이트(HFR) 버전을 추가했지만, Horizon OS의 창 크기 제한과 스피커 음질 탓에 이 기능은 명암이 뚜렷하게 갈린다.

야구장 영상 업로드 뒤의 AI: 삼성전자·KT, 수원에서 5G 디지털 트윈 검증
Tech

야구장 영상 업로드 뒤의 AI: 삼성전자·KT, 수원에서 5G 디지털 트윈 검증

AI가 기지국 설정 후보를 만들고 디지털 트윈으로 먼저 시험한다. 삼성전자와 KT는 구장 상용망 실증에서 통신 부하 편차가 최대 34% 줄었다고 밝혔다.

시상대 셀피는 선수의 손으로: 삼성, 다카르 청소년올림픽에 Victory Selfie와 모바일 중계 지원
Tech

시상대 셀피는 선수의 손으로: 삼성, 다카르 청소년올림픽에 Victory Selfie와 모바일 중계 지원

개막한 다카르2026에서 Victory Selfie가 청소년올림픽에 처음 도입된다. Galaxy S26 Ultra는 기존 카메라와 함께 스케이트보딩·태권도 중계를 지원하고 선수촌에서는 체험과 멘토링을 진행한다.