강경한 어조의 서한 한 통이 틱톡 내부에서 은밀히 진행된 실험을 폭로했다. Marsha Blackburn과 Richard Blumenthal 상원의원은 틱톡 경영진에게 서한을 보내, 회사가 알고리즘 안전 기능을 어떻게 테스트하고 심지어 보류시켰는지 설명하라고 요구했다. 이는 2021년 한 실험에 관한 Bloomberg의 보도가 발단이 됐다.
해당 기능은 원래 'for you' 추천 페이지에서 나타나는 '반복 패턴' 문제, 즉 흔히 말하는 콘텐츠 편식 현상을 해결하기 위한 것이었다. 틱톡은 당시 대외적으로 이 업데이트가 이용자가 "같은 종류의 콘텐츠를 계속 보는 것"—영상 한 편은 괜찮을지 몰라도 집중적으로 시청하면 문제가 될 수 있는 상황—을 막기 위한 것이라고 밝혔다. 회사가 공개하지 않은 사실은, 이 안전장치가 일부 이용자 계정에서는 의도적으로 비활성화된 채 유지되었고, 이를 통해 틱톡이 이 '대조군' 이용자들을 대상으로 해당 기능이 이용 지속 시간에 미치는 영향을 테스트할 수 있었다는 점이다.
Bloomberg 보도는 틱톡 내부 문서를 인용해 미국의 한 십대 소년 Chase Nasca의 계정이 바로 그 대조군 중 하나였다고 밝혔다. 문서에는 그가 "콘텐츠 편식 상태에 빠져, 특히 극단적 선택 직전 기간 동안 자살·자해·우울증 관련 반복 콘텐츠가 계정에 대량으로 추천됐다"고 기술돼 있다. Nasca는 자신의 계정이 대조군으로 편입된 지 얼마 지나지 않아 세상을 떠났다.
두 상원의원은 서한에서 틱톡에 이번 실험과 유사한 다른 테스트들에 대한 세부 내용을 제공할 것을 요구했으며, 회사가 이용 지속 시간이나 광고 수익에 미칠 영향을 우려해 특정 안전 기능 출시를 보류한 적이 있는지도 캐물었다. 서한에는 "이번에 새롭게 드러난 사실들은 틱톡이 자사 추천 시스템이 초래할 수 있는 위험을 인지하고 있었을 뿐 아니라, 이 개입 조치가 이용자 지속 시간에 미치는 영향을 연구하겠다는 목적만으로 수백만 명의 이용자가 안전 개입 기능을 사용하지 못하도록 의도적으로 막았다는 점을 보여준다"고 적혀 있다. 회사는 9월 1일까지 답변할 것을 요구받았다.
Blackburn과 Blumenthal은 오랫동안 소셜미디어의 청소년 보호 강화를 추진해온 인물들로, 《Kids Online Safety Act》(KOSA)의 핵심 발의자이기도 하다. 서한에서는 특히 2021년 이 실험이 한 틱톡 정책 담당자가 의회 청문회에 출석해 두 의원으로부터 아동·청소년 보호 조치 강화를 직접 요구받은 직후에 시작됐다는 점을 지적했다. "이번 폭로는 충격적이지만, 더 우려스러운 것은 틱톡이 자사 추천 알고리즘이 아동에게 미치는 영향을 이미 알고 있었다는 사실이다"라고 서한은 밝혔다.
마감 시점까지 틱톡은 논평 요청에 응답하지 않았다.
