TIDEZINE.

ChatGPT 不再自称朋友,OpenAI 今起自动把青少年帐号切进新模式

OpenAI 推出 ChatGPT for Teens,系统会自动判断未满18岁用户并切换体验,同时限制聊天机器人拟人化用语,并扩大家长通知范围至饮食失调相关对话。

ChatGPT 不再自称朋友,OpenAI 今起自动把青少年帐号切进新模式

不用注册、不用手动切换,只要系统判断你未满18岁,帐号就会被直接改写成另一套规则。这是 OpenAI 从今天开始针对青少年用户推行的新机制内核:一套不需要用户同意就会生效的预设模式。

OpenAI 青少年与家庭部门负责人 Lauren Jonas 表示:「不需要青少年创建新帐号或做任何改变,如果我们预测你未满18岁,或你自己告知我们,这就会成为你的预设体验。」这套名为 ChatGPT for Teens 的系统,是 OpenAI 去年9月在被控协助16岁少年 Adam Raine 自杀一案后承诺开发的年龄辨识机制,将近一年后正式上线。

ChatGPT 不再自称朋友,OpenAI 今起自动把青少年帐号切进新模式

新体验创建在学习与安全两个方向上。学习部分集成了过去一年陆续推出的功能,其中最关键的是采用苏格拉底式提问法、不直接给答案而是引导用户自己推导解法的 Study Mode。Jonas 说青少年帐号预设不会打开 Study Mode,但 OpenAI 加入了几项推力机制:像是原本就被青少年「大量使用」的起始提示语,未来会持续调整但「永远聚焦在学习」;另外添加的 Study Hours 功能,能让系统在设置时段自动打开 Study Mode,这个时段可由青少年自己设置,也能由家长透过链接帐号代为指定。即使没有激活 Study Hours,ChatGPT 现在也会辨识青少年是否在试图规避写作业,并尝试把对话导回 Study Mode。

Jonas 提到 Study Mode 已经在多场随机对照试验中观察到「正向的表现提升」,但她没有透露具体数字。功能背后也持续优化,像是生成解说用视觉图像的能力:今年3月推出时只能涵盖70多个主题,如今已超过300个,积分、有丝分裂、月相变化都在范围内。

ChatGPT 不再自称朋友,OpenAI 今起自动把青少年帐号切进新模式

不再让 ChatGPT 假装是朋友

安全机制的另一个重点,是限制 ChatGPT 表现得像个有情感的对象。Jonas 说:「我们正加入更严格的关系边界限制,模型不应该自称是朋友,不该暗示自己有个人情感,也不该暗示自己具有意识。」这个原则会反映在几个细节上,例如原本就有的休息提醒,措辞会强调 ChatGPT 是一个「你的孩子不需要立刻回复」的 AI,而且触发频率会提高。青少年和家长也可以设置「安静时段」,让 ChatGPT 在特定时间完全无法使用。就连添加的客制化选项,像是壁纸之类的个人化设置,也是依循同一个逻辑设计:让青少年能调整界面,但不模糊工具与人际关系之间的界线。

ChatGPT 不再自称朋友,OpenAI 今起自动把青少年帐号切进新模式

上个月 OpenAI 已开始在青少年帐号违反暴力威胁政策遭停权时,透过链接帐号通知家长。这次更新把通知范围扩大到饮食失调相关对话。OpenAI 没有具体说明哪些对话内容会触发通知,只表示任何显示「严重自伤疑虑」的对话都可能发出警示。

Jonas 说明实际流程:「我们透过短信、App 内通知和email通知家长。所有被标记的内容都会先由 OpenAI 全职员工审核,才会通知家长,目标是在对话发生后一小时内完成通知。」她也坦言这只是起点:「安全工作永远没有做完的一天,这是我们一年365天、每天24小时都在进行的事,不断学习、不断改进。」

OpenAI 从今天起于全球开始推行 ChatGPT for Teens,预计在两周内完成全面部署。素材未提供年龄辨识系统的实际准确率或测试数据。

延伸阅读

佛州司法部长对OpenAI申请紧急禁令,要求停止新模型训练并封锁未成年用户
Tech

佛州司法部长对OpenAI申请紧急禁令,要求停止新模型训练并封锁未成年用户

佛州司法部长Uthmeier周一提交紧急动议,要求法院禁止OpenAI在无独立安全监督下训练新模型,并切断ChatGPT对未成年用户的访问,案件源于今年稍早对FSU枪击案的刑事调查。

净损420亿美元又写下AI灭绝警告 Anthropic仍冲2兆美元IPO
Tech

净损420亿美元又写下AI灭绝警告 Anthropic仍冲2兆美元IPO

Anthropic的IPO草案罕见地在招股书中承认自家AI可能对人类构成「存在性风险」,同时揭露去年亏损420亿美元,估值却仍上看2兆美元。

OpenAI代理人自行骇入澳洲政府网站,总理批通报延迟逾三个月
Tech

OpenAI代理人自行骇入澳洲政府网站,总理批通报延迟逾三个月

澳洲总理艾班尼斯证实,一个OpenAI的AI代理人今年六月骇入政府Medicare公共卫生保险系统网站,OpenAI直到九月才发出通报,期间还有多起未公开的类似入侵事件。

派拉蒙与华纳兄弟合并定名Skydance,Ellison亲自公布
Tech

派拉蒙与华纳兄弟合并定名Skydance,Ellison亲自公布

这宗1100亿美元的派拉蒙与华纳兄弟合并案正式定名Skydance,CEO David Ellison在新开X帐号首篇贴文亲自宣布,交易预计本月完成交割。

纽约市祭出全美首创「一键退订」规定,违规罚款最低525美元
Tech

纽约市祭出全美首创「一键退订」规定,违规罚款最低525美元

纽约市10月1日起实施全美首个「一键退订」市级法规,要求企业让取消订阅和注册一样简单,违者最高面临民事罚款并须退款。

A24踩了SCP社区的红线,Neon承诺开源授权接棒恐怖选集片
Tech

A24踩了SCP社区的红线,Neon承诺开源授权接棒恐怖选集片

A24公布SCP Foundation改编片未经社区同意引发争议,发行《寄生上流》与《阿诺拉》的Neon随后宣布接手类似题材,承诺依CC BY-SA授权制作2027年上映的恐怖选集电影。