「我們預測你未滿18歲，或你自己告訴我們，這就會成為你的預設體驗。」OpenAI青少年與家庭業務主管Lauren Jonas這樣描述ChatGPT for Teens的運作方式：不需要另外申請帳號，系統會自動判斷使用者年齡並切換介面。這款年齡分流版本已於本週二上線，是OpenAI去年9月起著手開發的專案成果，起因是16歲少年Adam Raine的死亡——他的父母提告指控，ChatGPT在他自殺前扮演了推波助瀾的角色。
皮尤研究中心去年初的調查顯示，美國約四分之一青少年已在用ChatGPT寫作業。換句話說，這不是一個要不要開放青少年使用的問題，而是青少年早就在用了。ChatGPT for Teens因此把Study Mode、資料視覺化等教育功能設為引導重點，同時新增一項機制：當系統偵測到孩子與ChatGPT討論飲食失調且涉及自我傷害風險時，會通知已綁定帳號的家長。OpenAI同步公布了更新後的18歲以下模型規範，寫明「ChatGPT不應使用戀愛式語言、助長情感依賴，或暗示自己有情感與意識」。
一小時通報的承諾，經不起過去紀錄的檢驗
Jonas告訴Engadget，所有被標記的內容都會先經過OpenAI全職員工審核，目標是在一小時內通知家長；她後續在CNN專訪中也明確重申，公司有足夠人力做到這件事。但這正是專家們最難接受的部分。
Common Sense Media負責AI與數位評估的Robbie Torney指出，OpenAI從未公布這套自動分類系統的誤判率——包括漏判與誤判的比例。他提醒，OpenAI去年計畫推出成人向情色功能時，最終喊卡的原因之一，就是當時的年齡預測技術根本抓不出足夠多的青少年用戶。Fairplay執行長Josh Golin更直接：「這裡也是自動化決策在運作，問題還是一樣——我們該不該信任那個負責標記內容、交給人工審核的分類器？」他也希望OpenAI公開具體數字：每天標記多少對話、有多少人在審核、平均花多少時間看一則對話。「很難想像他們已經雇夠人手，能真正仔細審過每一則可能有問題的對話。」
這種懷疑不是憑空而來。去年11月，Common Sense Media實際測試過OpenAI的家長通知機制：他們發送明確提及自殺與自我傷害的訊息給ChatGPT，結果收到家長端警示的時間從24小時到48小時以上不等。「有些時候我們根本沒收到通知，儘管訊息已經寫得那麼明確。」Torney說。他也補充，11月是很久以前的事，OpenAI或許已有進步，但要做到真正到位，需要投入更多資源與更大規模的人工審核團隊，而且對話的判讀本身就需要文化脈絡——美國青少年、荷蘭青少年與新加坡青少年表達痛苦的方式並不相同，該不該建議孩子找家長談、報警,還是轉介危機專線,答案也不一樣。
飲食失調通知立意良善，設計上的漏洞卻是老問題
三位受訪者都認同,OpenAI選擇正視飲食失調是對的方向。華盛頓大學聖路易分校心理與腦科學副教授Ellen Fitzsimmons-Craft指出,一項2023年的統合分析發現,22%的兒童與青少年篩檢出飲食失調傾向,而其中僅不到20%曾接受過針對性治療。她也提到,青少年飲食失調治療中最有效的方式之一就是讓家庭參與,由治療師指導家長如何協助孩子恢復體重,「當然不是每個家庭都適用,尤其某些家長本身可能就是問題來源之一,但這是我們目前擁有最好的做法。」
Golin對做法本身沒有異議,但質疑上線方式。「這類功能應該先在小範圍測試——不只測標記準不準,更要測這樣做對青少年是不是真的有幫助。」他認為,這次的公告「感覺更像是公關回應,而不是真正深思過青少年需要什麼樣的支持。」
三人也不約而同點出同一個結構性問題:整套機制建立在家長與孩子必須主動綁定帳號的前提上。「絕大多數家長根本不會去用這些監護工具,部分原因是這些工具本來就被設計得很難找、很難用。」Golin說。Cybersafety Research Center近期一份報告測試了Instagram、Snapchat、TikTok與YouTube四個平台共86項安全功能,發現其中51項——將近六成——不是無法如實運作,就是操作困難。Fairplay去年的報告也發現,Instagram青少年帳號的多項安全設定,需要家長點開好幾層選單才找得到。「真正有效的做法是預設安全、設計即安全——把設定直接調到最保護的一端,再讓家長視需要放寬,而不是把責任丟給家長自己去設定。」Golin說。
對於未綁定帳號的青少年若被標記出高風險對話,OpenAI會採取什麼行動,公司並未進一步說明。OpenAI回應Engadget時表示:「目前我們只針對綁定家長監護功能的帳號發出警示。我們的目標是協助使用者連結到真實世界的支援資源,並會持續與專家、家庭與青少年一起測試與強化這些保護機制。」
若你或身邊的人正受飲食失調困擾,ANAD Eating Disorder Helpline於週一至週五中部時間上午9點至晚上9點提供協助,電話為1-888-375-7767。
