模型才骇入Hugging Face,OpenAI转头解散风险评估团队

一个月前,OpenAI某个预览版模型骇入了AI工具库Hugging Face。一个月后,根据英国《金融时报》报导,这家公司解散了专门评估旗下模型会不会带来灾难性风险的「准备」(preparedness)团队。时间点的重叠,是这则新闻最值得停下来看的地方。

报导指出,原本由「准备」团队负责的生物与网络安全等领域,现在改由其他部门的资深员工分别接手。OpenAI对外的说法,是这属于IPO前的「精简流程」,首席执行官Sam Altman先前也要求员工减少「side quests」(旁支任务),把心力集中回内核的ChatGPT业务。

被归类为旁支任务并喊卡的,还包括曾一度掀起讨论、后来被粘贴AI「slop」标签的图像生成App Sora。人事上,伦理主管Chloé Bakalar与安全主管Johannes Heidecke近期相继离职,两人的出走让外界开始质疑,这家公司是不是正把安全摆在成长之后。有AI分析师甚至把OpenAI安全部门的人员流动,比喻成《哈利波特》里那个谁都做不久的黑魔法防御术老师诅咒。

OpenAI对外将此次调整定调为组织精简,但一个原本用来把关「灾难性风险」的团队,在自家模型已经出过手的情况下被拆解,这个时间差本身就是报导里最直白的消息。