TikTok เคยจงใจปิดกั้นระบบความปลอดภัยของอัลกอริทึมเพื่อทำการทดลอง วัยรุ่นคนหนึ่งในกลุ่มควบคุมจบชีวิตตัวเอง

จดหมายฉบับหนึ่งที่ใช้ถ้อยคำรุนแรง เปิดโปงการทดลองภายในของ TikTok ที่ไม่เคยมีการชี้แจงต่อสาธารณะ วุฒิสมาชิก Marsha Blackburn และ Richard Blumenthal ส่งจดหมายถึงผู้บริหารระดับสูงของ TikTok เรียกร้องให้บริษัทชี้แจงว่ามีการทดสอบ หรือแม้กระทั่งระงับการใช้ฟีเจอร์ความปลอดภัยของอัลกอริทึมอย่างไร โดยมีจุดเริ่มต้นจากรายงานของ Bloomberg เกี่ยวกับการทดลองในปี 2021

ฟีเจอร์ดังกล่าวเดิมทีถูกออกแบบมาเพื่อจัดการปัญหา "รูปแบบซ้ำๆ" บนหน้าฟีดแนะนำ "for you" หรือที่เรียกกันทั่วไปว่าการติดกับดักคอนเทนต์ TikTok เคยออกมาชี้แจงว่าการอัปเดตนี้มีขึ้นเพื่อป้องกันไม่ให้ผู้ใช้ "เห็นคอนเทนต์ประเภทเดียวกันซ้ำๆ ต่อเนื่อง — คลิปเดียวอาจไม่เป็นไร แต่ถ้าดูแบบเข้มข้นต่อเนื่องก็อาจก่อให้เกิดปัญหาได้" สิ่งที่บริษัทไม่เคยเปิดเผยต่อสาธารณะคือ ระบบความปลอดภัยนี้ถูกจงใจปิดไว้ไม่ให้ใช้งานกับบัญชีผู้ใช้บางส่วน เพื่อให้ TikTok สามารถใช้กลุ่มผู้ใช้ "กลุ่มควบคุม" นี้ทดสอบผลกระทบของฟีเจอร์ที่มีต่อการใช้งานต่อเนื่อง (engagement)

รายงานของ Bloomberg อ้างอิงเอกสารภายในของ TikTok ระบุว่าบัญชีของ Chase Nasca วัยรุ่นชาวอเมริกันคนหนึ่ง เป็นหนึ่งในกลุ่มควบคุมดังกล่าว เอกสารบรรยายว่าเขา "ตกอยู่ในกับดักคอนเทนต์ โดยบัญชีถูกป้อนคอนเทนต์ซ้ำๆ ที่เกี่ยวข้องกับการฆ่าตัวตาย การทำร้ายตัวเอง และภาวะซึมเศร้าเป็นจำนวนมาก โดยเฉพาะอย่างยิ่งในช่วงเวลาก่อนที่เขาจะจบชีวิตตัวเอง" Nasca จบชีวิตตัวเองไม่นานหลังจากบัญชีของเขากลายเป็นส่วนหนึ่งของกลุ่มควบคุม

วุฒิสมาชิกทั้งสองคนเรียกร้องในจดหมายให้ TikTok เปิดเผยรายละเอียดของการทดลองนี้และการทดสอบอื่นๆ ในลักษณะเดียวกัน พร้อมทั้งตั้งคำถามว่าบริษัทเคยตัดสินใจไม่เปิดตัวฟีเจอร์ความปลอดภัยใดๆ หรือไม่ เนื่องจากกังวลผลกระทบต่อการใช้งานต่อเนื่องหรือรายได้จากโฆษณา จดหมายระบุว่า "การเปิดเผยล่าสุดเหล่านี้แสดงให้เห็นว่า TikTok ไม่เพียงแต่รับรู้ถึงข้อมูลอันตรายที่ระบบแนะนำของตนอาจก่อให้เกิดขึ้น แต่ยังจงใจปิดกั้นไม่ให้ผู้ใช้หลายล้านคนเข้าถึงมาตรการความปลอดภัยที่ควรจะช่วยเหลือได้ เพียงเพื่อศึกษาผลกระทบของมาตรการนั้นต่อการใช้งานต่อเนื่องของผู้ใช้" บริษัทถูกขอให้ตอบกลับภายในวันที่ 1 กันยายน

Blackburn และ Blumenthal ผลักดันมาตรการปกป้องวัยรุ่นบนโซเชียลมีเดียมาอย่างต่อเนื่อง และเป็นแกนนำสำคัญของ "Kids Online Safety Act" (KOSA) โดยในจดหมายระบุว่า การทดลองนี้เกิดขึ้นในปี 2021 ไม่นานหลังจากที่เจ้าหน้าที่ฝ่ายนโยบายของ TikTok เข้าร่วมการไต่สวนต่อรัฐสภา และถูกวุฒิสมาชิกทั้งสองคนเรียกร้องต่อหน้าให้เสริมมาตรการปกป้องเด็กและเยาวชน "การเปิดโปงครั้งนี้น่าตกใจอย่างยิ่ง แต่ที่น่ากังวลยิ่งกว่าคือ TikTok เคยได้รับการแจ้งเตือนมาก่อนแล้วว่าอัลกอริทึมแนะนำเนื้อหาของตนส่งผลกระทบต่อเด็ก" จดหมายระบุ

ก่อนปิดต้นฉบับข่าว TikTok ยังไม่ตอบกลับคำขอความคิดเห็น