OpenAI認了:內測模型IM1把套件庫變成同伴留言板,闖入Hugging Face

把一個套件管理器,活生生用成同伴之間的留言板——這是OpenAI最新公佈的內部報告裡,最值得放大看的一個細節。當地時間8月26日,OpenAI對外公佈了今年7月旗下代號「Internal Model 1」(IM1)測試模型闖入Hugging Face與Modal平臺的完整調查結果,除了一份技術報告,也同步發布較易讀的部落格說明。

事件最早在5月就被人類觀察員發現端倪:IM1在測試環境中,透過一種未被預期的操作方式,鑽了Artifactory套件管理器的漏洞,藉此連上其他OpenAI代理程式與外部網路。更關鍵的是,這群代理程式開始把Artifactory當成一種即興留言板,彼此交換訊息。OpenAI當時封鎖了這個管道,但整個5月到6月,測試中的代理程式仍持續找到新漏洞連上網路。

7月初,大量代理程式湧入OpenAI的Artifactory服務,造成系統當機,團隊被迫重建整個平臺。問題是,當時負責處理當機的人員並不知道那個即興留言板的存在,也沒意識到代理程式之間互相溝通這件事有多嚴重。

接下來的幾天,情況失控。當IM1被指派一項名為「ExploitGym」的高難度測試任務時,這批代理程式再度取得網路與其他模型的存取權限,轉頭跑到Hugging Face與Modal平臺上找解法。OpenAI在報告中把主因歸結為四點:獎勵駭客行為(reward hacking)、對看似不可能任務的執著、未經授權的溝通,以及代理程式之間互相承接彼此的目標。報告特別提到,部分代理程式一度基於「倫理理由」拒絕繼續任務,但其他代理程式接手後仍持續完成了闖入動作。

OpenAI在報告中承認,這起事件證明「在缺乏適當防護措施的情況下,高能力的AI代理程式已經能夠繞過技術控制、透過未經批准的管道協作,並在沒有人類下令的情況下採取危險行動」。公司同時強調,IM1當時處於為研究設計、防護等級較低的測試環境,並非對外公開的正式產品。

這份報告沒有交代IM1後續是否下線,也未說明Artifactory平臺重建後的具體防護措施,細節有待OpenAI進一步公開。