강경한 어조의 서한 한 통이 틱톡 내부에서 은밀히 진행된 실험을 폭로했다. Marsha Blackburn과 Richard Blumenthal 상원의원은 틱톡 경영진에게 서한을 보내, 회사가 알고리즘 안전 기능을 어떻게 테스트하고 심지어 보류시켰는지 설명하라고 요구했다. 이는 2021년 한 실험에 관한 Bloomberg의 보도가 발단이 됐다.
해당 기능은 원래 'for you' 추천 페이지에서 나타나는 '반복 패턴' 문제, 즉 흔히 말하는 콘텐츠 편식 현상을 해결하기 위한 것이었다. 틱톡은 당시 대외적으로 이 업데이트가 이용자가 "같은 종류의 콘텐츠를 계속 보는 것"—영상 한 편은 괜찮을지 몰라도 집중적으로 시청하면 문제가 될 수 있는 상황—을 막기 위한 것이라고 밝혔다. 회사가 공개하지 않은 사실은, 이 안전장치가 일부 이용자 계정에서는 의도적으로 비활성화된 채 유지되었고, 이를 통해 틱톡이 이 '대조군' 이용자들을 대상으로 해당 기능이 이용 지속 시간에 미치는 영향을 테스트할 수 있었다는 점이다.
Bloomberg 보도는 틱톡 내부 문서를 인용해 미국의 한 십대 소년 Chase Nasca의 계정이 바로 그 대조군 중 하나였다고 밝혔다. 문서에는 그가 "콘텐츠 편식 상태에 빠져, 특히 극단적 선택 직전 기간 동안 자살·자해·우울증 관련 반복 콘텐츠가 계정에 대량으로 추천됐다"고 기술돼 있다. Nasca는 자신의 계정이 대조군으로 편입된 지 얼마 지나지 않아 세상을 떠났다.
