TikTok、アルゴリズムの安全機能をあえて温存し実験か 対照群に入った少年が自殺

厳しい言葉で綴られた一通の書簡が、TikTok社内で外部に説明されてこなかったある実験の存在を明るみに出した。Marsha Blackburn上院議員とRichard Blumenthal上院議員は、Bloombergが報じた2021年の実験に関する記事を受け、TikTokがどのようにアルゴリズムの安全機能をテスト、あるいは意図的に保留していたのかを説明するよう求める書簡をTikTok幹部に送付した。

問題の機能は、「おすすめ」フィード上で起きる「同じパターンの繰り返し」、いわゆるコンテンツの繭化に対処するためのものだった。TikTokは当時、このアップデートについて「同じ種類のコンテンツばかりを見続けてしまう状態――1本の動画自体は問題なくても、それが集中すると弊害になりかねない」ことを防ぐためだと説明していた。しかし公にされていなかったのは、この安全機能が一部ユーザーのアカウントではあえて無効のまま維持されていたことだ。TikTokはこの「対照群」ユーザーを利用し、機能がユーザーのエンゲージメントに与える影響を測定していたという。

Bloombergの報道は、TikTok社内文書を引用し、アメリカ人少年Chase Nasca氏のアカウントがこの対照群の一つだったと指摘している。文書には、彼が「コンテンツの繭に陥り、特に自殺直前の時期に、自殺・自傷・うつに関する類似コンテンツを大量に配信され続けていた」と記されている。Nasca氏は、自身のアカウントが対照群に組み込まれてほどなくして自ら命を絶った。

両上院議員は書簡の中で、TikTokに対しこの実験および類似の他のテストについて詳細を提供するよう要求。さらに、エンゲージメントや広告収益への影響を懸念して、ある安全機能の導入を見送った事例がなかったかについても追及した。書簡には「これらの新たな事実は、TikTokが自社のレコメンドシステムが引き起こしうる害について認識していただけでなく、そのエンゲージメントへの影響を調べるためだけに、数百万人ものユーザーから安全対策を意図的に遠ざけていたことを示している」と記されている。TikTokには9月1日までの回答が求められている。

BlackburnとBlumenthal両氏は長年、ソーシャルメディアにおける未成年保護の強化を訴えており、「子どものオンライン安全法(Kids Online Safety Act、KOSA)」の主要な推進者でもある。書簡では特に、この2021年の実験が、TikTokの政策担当者が議会公聴会に出席し、両議員から未成年保護対策の強化を直接求められた直後に開始されていた点が指摘されている。「これらの事実は衝撃的だが、それ以上に不安を覚えるのは、TikTokが自社のレコメンドアルゴリズムが子どもに与える影響について、以前から知らされていたという点だ」と書簡は述べている。

本記事の締め切り時点で、TikTokからコメントの回答は得られていない。