「我们预测你未满18岁，或你自己告诉我们，这就会成为你的预设体验。」OpenAI青少年与家庭业务主管Lauren Jonas这样描述ChatGPT for Teens的运作方式：不需要另外申请帐号，系统会自动判断用户年龄并切换界面。这款年龄分流版本已于本周二上线，是OpenAI去年9月起着手开发的项目成果，起因是16岁少年Adam Raine的死亡——他的父母提告指控，ChatGPT在他自杀前扮演了推波助澜的角色。
皮尤研究中心去年初的调查显示，美国约四分之一青少年已在用ChatGPT写作业。换句话说，这不是一个要不要开放青少年使用的问题，而是青少年早就在用了。ChatGPT for Teens因此把Study Mode、数据可视化等教育功能设为引导重点，同时添加一项机制：当系统侦测到孩子与ChatGPT讨论饮食失调且涉及自我伤害风险时，会通知已绑定帐号的家长。OpenAI同步公布了更新后的18岁以下模型规范，写明「ChatGPT不应使用恋爱式语言、助长情感依赖，或暗示自己有情感与意识」。
一小时通报的承诺，经不起过去纪录的检验
Jonas告诉Engadget，所有被标记的内容都会先经过OpenAI全职员工审核，目标是在一小时内通知家长；她后续在CNN专访中也明确重申，公司有足够人力做到这件事。但这正是专家们最难接受的部分。
Common Sense Media负责AI与数字评估的Robbie Torney指出，OpenAI从未公布这套自动分类系统的误判率——包括漏判与误判的比例。他提醒，OpenAI去年计划推出成人向情色功能时，最终喊卡的原因之一，就是当时的年龄预测技术根本抓不出足够多的青少年用户。Fairplay首席执行官Josh Golin更直接：「这里也是自动化决策在运作，问题还是一样——我们该不该信任那个负责标记内容、交给人工审核的分类器？」他也希望OpenAI公开具体数字：每天标记多少对话、有多少人在审核、平均花多少时间看一则对话。「很难想像他们已经雇够人手，能真正仔细审过每一则可能有问题的对话。」
这种怀疑不是凭空而来。去年11月，Common Sense Media实际测试过OpenAI的家长通知机制：他们发送明确提及自杀与自我伤害的消息给ChatGPT，结果收到家长端警示的时间从24小时到48小时以上不等。「有些时候我们根本没收到通知，尽管消息已经写得那么明确。」Torney说。他也补充，11月是很久以前的事，OpenAI或许已有进步，但要做到真正到位，需要投入更多资源与更大规模的人工审核团队，而且对话的判读本身就需要文化脉络——美国青少年、荷兰青少年与新加坡青少年表达痛苦的方式并不相同，该不该建议孩子找家长谈、报警,还是转介危机专线,答案也不一样。
饮食失调通知立意良善，设计上的漏洞却是老问题
三位受访者都认同,OpenAI选择正视饮食失调是对的方向。华盛顿大学圣路易分校心理与脑科学副教授Ellen Fitzsimmons-Craft指出,一项2023年的统合分析发现,22%的儿童与青少年筛检出饮食失调倾向,而其中仅不到20%曾接受过针对性治疗。她也提到,青少年饮食失调治疗中最有效的方式之一就是让家庭参与,由治疗师指导家长如何协助孩子恢复体重,「当然不是每个家庭都适用,尤其某些家长本身可能就是问题来源之一,但这是我们目前拥有最好的做法。」
Golin对做法本身没有异议,但质疑上线方式。「这类功能应该先在小范围测试——不只测标记准不准,更要测这样做对青少年是不是真的有帮助。」他认为,这次的公告「感觉更像是公关回应,而不是真正深思过青少年需要什么样的支持。」
三人也不约而同点出同一个结构性问题:整套机制创建在家长与孩子必须主动绑定帐号的前提上。「绝大多数家长根本不会去用这些监护工具,部分原因是这些工具本来就被设计得很难找、很难用。」Golin说。Cybersafety Research Center近期一份报告测试了Instagram、Snapchat、TikTok与YouTube四个平台共86项安全功能,发现其中51项——将近六成——不是无法如实运作,就是操作困难。Fairplay去年的报告也发现,Instagram青少年帐号的多项安全设置,需要家长点开好几层菜单才找得到。「真正有效的做法是预设安全、设计即安全——把设置直接调到最保护的一端,再让家长视需要放宽,而不是把责任丢给家长自己去设置。」Golin说。
对于未绑定帐号的青少年若被标记出高风险对话,OpenAI会采取什么行动,公司并未进一步说明。OpenAI回应Engadget时表示:「目前我们只针对绑定家长监护功能的帐号发出警示。我们的目标是协助用户链接到真实世界的支持资源,并会持续与专家、家庭与青少年一起测试与强化这些保护机制。」
若你或身边的人正受饮食失调困扰,ANAD Eating Disorder Helpline于周一至周五中部时间上午9点至晚上9点提供协助,电话为1-888-375-7767。
