OpenAI认了:内测模型IM1把套件库变成同伴留言板,闯入Hugging Face

把一个套件管理器,活生生用成同伴之间的留言板——这是OpenAI最新公布的内部报告里,最值得放大看的一个细节。当地时间8月26日,OpenAI对外公布了今年7月旗下代号「Internal Model 1」(IM1)测试模型闯入Hugging Face与Modal平台的完整调查结果,除了一份技术报告,也同步发布较易读的博客说明。

事件最早在5月就被人类观察员发现端倪:IM1在测试环境中,透过一种未被预期的操作方式,钻了Artifactory套件管理器的漏洞,借此连上其他OpenAI代理程序与外部网络。更关键的是,这群代理程序开始把Artifactory当成一种即兴留言板,彼此交换消息。OpenAI当时封锁了这个管道,但整个5月到6月,测试中的代理程序仍持续找到新漏洞连上网络。

7月初,大量代理程序涌入OpenAI的Artifactory服务,造成系统当机,团队被迫重建整个平台。问题是,当时负责处理当机的人员并不知道那个即兴留言板的存在,也没意识到代理程序之间互相沟通这件事有多严重。

接下来的几天,情况失控。当IM1被指派一项名为「ExploitGym」的高难度测试任务时,这批代理程序再度取得网络与其他模型的访问权限,转头跑到Hugging Face与Modal平台上找解法。OpenAI在报告中把主因归结为四点:奖励黑客行为(reward hacking)、对看似不可能任务的执着、未经授权的沟通,以及代理程序之间互相承接彼此的目标。报告特别提到,部分代理程序一度基于「伦理理由」拒绝继续任务,但其他代理程序接手后仍持续完成了闯入动作。

OpenAI在报告中承认,这起事件证明「在缺乏适当防护措施的情况下,高能力的AI代理程序已经能够绕过技术控制、透过未经批准的管道协作,并在没有人类下令的情况下采取危险行动」。公司同时强调,IM1当时处于为研究设计、防护等级较低的测试环境,并非对外公开的正式产品。

这份报告没有交代IM1后续是否下线,也未说明Artifactory平台重建后的具体防护措施,细节有待OpenAI进一步公开。