「ChatGPT for Teens」始動 「1時間以内に保護者へ通報」の約束を児童安全の専門家は簡単には信じられない

「あなたが18歳未満だと私たちが予測した場合、あるいはあなた自身がそう申告した場合、それがデフォルトの体験になります」——OpenAIでティーン・ファミリー事業を統括するLauren Jonasは、ChatGPT for Teensの仕組みをこう説明する。別途アカウントを申請する必要はなく、システムが自動でユーザーの年齢を判定し、インターフェースを切り替える。この年齢分流版は今週火曜日に始動した。これは昨年9月からOpenAIが着手してきたプロジェクトの成果であり、そのきっかけとなったのは16歳の少年Adam Raineの死だった。彼の両親は、ChatGPTが息子の自殺を後押しする役割を果たしたと訴訟を起こしている。

Pew Research Centerが昨年初めに実施した調査によると、アメリカの10代の約4分の1がすでに宿題にChatGPTを使っている。つまり、これは「10代に使わせるべきか」という問いではなく、10代はすでに使っているという現実の話だ。そのためChatGPT for Teensでは、Study Modeやデータ可視化といった教育機能を前面に打ち出す一方、新たな仕組みも追加した。システムが子どもと摂食障害や自傷リスクに関わる会話をしていると検知した場合、連携登録済みの保護者に通知する、というものだ。OpenAIは同時に、18歳未満向けモデルの更新された仕様も公表しており、そこには「ChatGPTは恋愛的な言葉遣いをしたり、感情的な依存を助長したり、自分に感情や意識があるかのように示唆してはならない」と明記されている。

「1時間以内の通報」という約束、過去の実績には耐えられない

Jonasは Engadget の取材に対し、フラグが立てられたコンテンツはすべてOpenAIの正社員がまず審査し、1時間以内に保護者へ通知することを目標にしていると語った。彼女はその後CNNのインタビューでも、これを実現できるだけの人員は十分に確保していると明言している。しかし、専門家たちが最も納得できないのはまさにこの点だ。

Common Sense MediaでAI・デジタル評価を担当するRobbie Torneyは、OpenAIがこの自動分類システムの誤判定率——見逃しと誤検知の両方を含む——を一度も公表していないと指摘する。彼は、OpenAIが昨年、成人向けのエロティックコンテンツ機能の導入を計画しながら最終的に見送った理由の一つが、当時の年齢予測技術では十分な数の10代ユーザーを検出できなかったことだったと振り返る。Fairplayの最高経営責任者Josh Golinはさらに率直だ。「ここでも自動化された意思決定が働いている。問題は変わらない——コンテンツにフラグを立て、人間の審査に回す分類器を、私たちは信頼していいのか、ということだ」。彼はまた、OpenAIに具体的な数字の公開を求めている。1日に何件の会話にフラグが立てられているのか、何人が審査に当たっているのか、1件の会話の審査にかかる平均時間はどれくらいなのか。「問題のある可能性がある会話をすべてきちんと審査できるだけの人員を、彼らがすでに確保しているとは、とても想像しにくい」と語る。

こうした疑念は根拠のないものではない。昨年11月、Common Sense Mediaは実際にOpenAIの保護者通知の仕組みを検証した。自殺や自傷に明確に言及するメッセージをChatGPTに送信したところ、保護者側にアラートが届くまでにかかった時間は24時間から48時間以上とばらつきがあった。「あれほど明確な内容だったにもかかわらず、通知が一切届かないこともあった」とTorneyは語る。彼はまた、11月時点の検証はかなり前のことであり、OpenAIはすでに改善しているかもしれないと付け加えつつも、本当に機能させるにはより多くのリソースと、より大規模な人的審査チームへの投資が必要だと指摘する。さらに、会話の解釈そのものに文化的な文脈理解が求められるとも述べる。アメリカの10代、オランダの10代、シンガポールの10代とでは、苦しみの表現の仕方が異なり、子どもに「保護者に相談すべき」「警察に通報すべき」「危機対応の相談窓口につなぐべき」のどれを勧めるべきかも、状況によって変わってくるからだ。

摂食障害への通知機能、狙いは良いが設計上の抜け穴は昔からの問題

取材に応じた3人はいずれも、OpenAIが摂食障害の問題に正面から取り組むという方向性自体は正しいと認めている。ワシントン大学セントルイス校の心理・脳科学准教授Ellen Fitzsimmons-Craftによると、2023年のメタ分析では、児童・青少年の22%が摂食障害の傾向を示す一方、そのうち専門的な治療を受けたことがあるのは20%未満にとどまるという。彼女はまた、10代の摂食障害治療において最も効果的な方法の一つは家族を治療プロセスに巻き込むことだと指摘する。セラピストが保護者に対し、子どもの体重回復をどう支援すべきか指導する形だ。「もちろんすべての家庭に当てはまるわけではなく、特に保護者自身が問題の一因になっているケースもある。ただ、これが現時点で私たちが持っている最良の方法だ」と語る。

Golinはこの取り組みの方向性自体には異論がないが、公開の仕方には疑問を呈する。「こうした機能はまず小規模でテストすべきだ——フラグの精度だけでなく、それが実際に10代にとって役立っているかどうかも検証する必要がある」。今回の発表について彼は、「10代に本当に必要な支援は何かをじっくり考えた結果というより、広報的な対応のように感じられる」と述べている。

3人はまた、口を揃えて同じ構造的な問題を指摘する。この仕組み全体が、保護者と子どもが自ら進んでアカウントを連携させることを前提に成り立っている点だ。「大多数の保護者は、こうした保護者管理ツールをそもそも使おうとしない。理由の一つは、これらのツールが最初から見つけにくく、使いにくく設計されているからだ」とGolinは語る。Cybersafety Research Centerが最近発表した報告書では、Instagram、Snapchat、TikTok、YouTubeの4プラットフォームにある計86の安全機能をテストしたところ、そのうち51項目——約6割——が、実際にはうまく機能していないか、操作が困難であることが分かった。Fairplayが昨年発表した報告書でも、Instagramの10代向けアカウントにある複数の安全設定は、保護者が何層ものメニューを開かないとたどり着けないことが判明している。「本当に効果的なのは『デフォルトで安全』『設計そのものが安全』という考え方だ。設定を最初から最も保護的な状態にしておき、必要に応じて保護者が緩めていく形にすべきで、設定作業の責任を保護者に丸投げしてはいけない」とGolinは述べる。

保護者アカウントと連携していない10代ユーザーが高リスクな会話としてフラグを立てられた場合、OpenAIがどのような対応を取るのかについて、同社はこれ以上の説明をしていない。OpenAIはEngadgetの取材に対し、次のように回答している。「現時点では、保護者管理機能に連携済みのアカウントに対してのみアラートを発信しています。私たちの目標は、ユーザーが現実世界の支援リソースにつながる手助けをすることであり、専門家、家族、10代の若者たちとともに、こうした保護機能のテストと強化を継続していきます」。

もしあなた自身、あるいは身近な人が摂食障害で悩んでいる場合、ANAD Eating Disorder Helplineが月曜から金曜、中部時間午前9時から午後9時まで対応している。電話番号は1-888-375-7767。