TIDEZINE.

TikTok、アルゴリズムの安全機能をあえて温存し実験か 対照群に入った少年が自殺

Blackburn上院議員とBlumenthal上院議員がTikTok幹部に書簡を送付。2021年に実施されたアルゴリズムのテストで、一部ユーザーが「コンテンツの繭」化を防ぐ安全機能を利用できない状態に置かれていたと指摘。テスト期間中、あるアメリカ人少年が自殺していたことが明らかになった。

TikTok、アルゴリズムの安全機能をあえて温存し実験か 対照群に入った少年が自殺

厳しい言葉で綴られた一通の書簡が、TikTok社内で外部に説明されてこなかったある実験の存在を明るみに出した。Marsha Blackburn上院議員とRichard Blumenthal上院議員は、Bloombergが報じた2021年の実験に関する記事を受け、TikTokがどのようにアルゴリズムの安全機能をテスト、あるいは意図的に保留していたのかを説明するよう求める書簡をTikTok幹部に送付した。

問題の機能は、「おすすめ」フィード上で起きる「同じパターンの繰り返し」、いわゆるコンテンツの繭化に対処するためのものだった。TikTokは当時、このアップデートについて「同じ種類のコンテンツばかりを見続けてしまう状態――1本の動画自体は問題なくても、それが集中すると弊害になりかねない」ことを防ぐためだと説明していた。しかし公にされていなかったのは、この安全機能が一部ユーザーのアカウントではあえて無効のまま維持されていたことだ。TikTokはこの「対照群」ユーザーを利用し、機能がユーザーのエンゲージメントに与える影響を測定していたという。

Bloombergの報道は、TikTok社内文書を引用し、アメリカ人少年Chase Nasca氏のアカウントがこの対照群の一つだったと指摘している。文書には、彼が「コンテンツの繭に陥り、特に自殺直前の時期に、自殺・自傷・うつに関する類似コンテンツを大量に配信され続けていた」と記されている。Nasca氏は、自身のアカウントが対照群に組み込まれてほどなくして自ら命を絶った。

両上院議員は書簡の中で、TikTokに対しこの実験および類似の他のテストについて詳細を提供するよう要求。さらに、エンゲージメントや広告収益への影響を懸念して、ある安全機能の導入を見送った事例がなかったかについても追及した。書簡には「これらの新たな事実は、TikTokが自社のレコメンドシステムが引き起こしうる害について認識していただけでなく、そのエンゲージメントへの影響を調べるためだけに、数百万人ものユーザーから安全対策を意図的に遠ざけていたことを示している」と記されている。TikTokには9月1日までの回答が求められている。

BlackburnとBlumenthal両氏は長年、ソーシャルメディアにおける未成年保護の強化を訴えており、「子どものオンライン安全法(Kids Online Safety Act、KOSA)」の主要な推進者でもある。書簡では特に、この2021年の実験が、TikTokの政策担当者が議会公聴会に出席し、両議員から未成年保護対策の強化を直接求められた直後に開始されていた点が指摘されている。「これらの事実は衝撃的だが、それ以上に不安を覚えるのは、TikTokが自社のレコメンドアルゴリズムが子どもに与える影響について、以前から知らされていたという点だ」と書簡は述べている。

本記事の締め切り時点で、TikTokからコメントの回答は得られていない。

気になるブランドやテーマをフォロー

ブランドのタグやカテゴリーから、自分だけの読み物リストを作りましょう。

関連記事

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル
Tech

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル

A24 MusicとAudio-Technicaが赤・青・緑を配したSound Burgerを発表。33⅓回転と45回転、Bluetoothと有線接続に対応する。公式予約価格は270米ドルで、7枚の商品写真が本体や端子のデザインを見せる。

Secretlab初の体験ストアがロサンゼルスに11月18日オープン
Tech

Secretlab初の体験ストアがロサンゼルスに11月18日オープン

ウェストハリウッドのメルローズ通りでデスクとチェアを試せる。マンツーマンの相談も受け付け、同日からBest Buyの15店舗にも専用売り場が登場する。

ジェントルモンスターのスマートグラス16種、NYで一般公開
Tech

ジェントルモンスターのスマートグラス16種、NYで一般公開

ジェントルモンスターがニューヨークで11月23日まで予約制プレビューを開催。Gemini搭載で米国価格は449ドルから。12月10日に米国と韓国で発売する。

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない
Tech

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない

Disney+アプリがQuest 3と3Sに3Dライブラリと『アバター』の高フレームレート版を追加。しかしHorizon OSのウィンドウ制限とスピーカー音質のせいで、この機能は一長一短の仕上がりとなっている。

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証
Tech

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証

AIが基地局の設定候補を提案し、デジタルツインで事前検証。水原の球場で商用網を使い、負荷の偏りを最大34%低減したと発表した。

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン
Tech

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン

開幕したダカール2026でVictory Selfieが青少年五輪に初登場。Galaxy S26 Ultraは既存カメラと連携してスケートボードとテコンドーの中継を支え、選手村では体験やメンタリングも行う。