ChatGPTが「友達」を名乗らなくなる、OpenAIが本日より未成年アカウントを自動で新モードに切り替え

登録も手動切り替えも不要。システムが「18歳未満」と判断すれば、アカウントは自動的に別のルールセットへ書き換えられる。これがOpenAIが本日から未成年ユーザーに向けて展開する新機能の核心だ――ユーザーの同意なしに適用される、いわばデフォルトモードである。

OpenAIのティーン・ファミリー部門責任者Lauren Jonasは次のように述べる。「未成年者が新しいアカウントを作成したり、何か操作したりする必要はありません。私たちが18歳未満と予測した場合、あるいは本人がそう申告した場合、それがそのままデフォルトの体験になります」。この「ChatGPT for Teens」と名付けられたシステムは、16歳の少年Adam Raineの自殺を助長したとして訴えられた事件を受け、OpenAIが去年9月に開発を約束していた年齢識別機能であり、約1年を経て正式にローンチされた。

新体験は「学習」と「安全」という2つの方向性の上に構築されている。学習面では、この1年で段階的に導入された各機能が統合されており、その中核となるのが、直接答えを教えるのではなくソクラテス式の問いかけによってユーザー自身に解法を導かせる「Study Mode」だ。Jonasによれば、未成年アカウントではStudy Modeはデフォルトでオンにはならないが、OpenAIはいくつかの後押し策を用意している。例えば、すでに未成年者に「多く利用されている」起動時の提案文言は、今後も調整を続けつつ「常に学習にフォーカスする」ものになる。また新設された「Study Hours」機能では、設定した時間帯にシステムが自動でStudy Modeをオンにできる。この時間帯は未成年者自身が設定できるほか、保護者が連携アカウントを通じて指定することも可能だ。Study Hoursを有効にしていなくても、ChatGPTは未成年者が宿題を回避しようとしているかどうかを検知し、会話をStudy Modeへ誘導しようと試みるようになった。

Jonasは、Study Modeが複数のランダム化対照試験で「成績面のポジティブな向上」を確認していると述べたが、具体的な数値は明らかにしなかった。この機能を支える技術も継続的に改善されており、解説用のビジュアル画像を生成する能力は、今年3月のローンチ時にはわずか70件余りのテーマにしか対応していなかったが、現在では300件以上に拡大している。積分、細胞分裂、月の満ち欠けといったテーマもカバーしている。

ChatGPTに「友達」を演じさせない

安全機能におけるもう一つの重点は、ChatGPTが感情を持つ相手のように振る舞うことを制限する点だ。Jonasは「私たちは関係性の境界に関して、より厳格な制限を導入しています。モデルは自らを『友達』と名乗るべきではなく、個人的な感情を持っているかのように示唆すべきでもなく、意識があるかのように示唆すべきでもありません」と説明する。この方針はいくつかの細部に反映されている。例えば、以前から存在する休憩の呼びかけ機能では、ChatGPTが「あなたのお子さんがすぐに返信する必要のない」AIであることを強調する表現に変わり、表示頻度も増加する。未成年者と保護者は「サイレントタイム」を設定でき、特定の時間帯はChatGPTを完全に利用不可にすることもできる。壁紙のようなパーソナライズ設定として新たに追加されたカスタマイズ機能も、同じ発想に基づいて設計されている――未成年者がインターフェースを調整できるようにしつつも、ツールと人間関係の境界を曖昧にしないという考え方だ。

先月、OpenAIは未成年アカウントが暴力的な威嚇に関するポリシーに違反して利用停止となった際、連携アカウントを通じて保護者に通知する仕組みを開始していた。今回の更新では、この通知対象を摂食障害関連の会話にも拡大する。OpenAIは、具体的にどのような会話内容が通知の引き金になるかは明らかにしていないが、「重大な自傷の疑い」を示す会話であれば警告が発せられる可能性があるとしている。

Jonasは実際の流れについて次のように説明する。「私たちはSMS、アプリ内通知、そしてメールで保護者に通知します。フラグが立てられた内容はすべて、まずOpenAIの正社員によって審査され、その後保護者への通知が行われます。目標は、会話発生から1時間以内に通知を完了させることです」。また、これはあくまで出発点だとも認めている。「安全に関する取り組みに終わりはありません。これは私たちが365日24時間、常に取り組んでいることであり、学び続け、改善し続けていきます」。

OpenAIは本日より「ChatGPT for Teens」を全世界で展開開始し、2週間以内に完全な導入を完了する予定だ。なお、年齢識別システムの実際の精度やテストデータについては、資料内で明らかにされていない。