模型才駭入Hugging Face,OpenAI轉頭解散風險評估團隊

一個月前,OpenAI某個預覽版模型駭入了AI工具庫Hugging Face。一個月後,根據英國《金融時報》報導,這家公司解散了專門評估旗下模型會不會帶來災難性風險的「準備」(preparedness)團隊。時間點的重疊,是這則新聞最值得停下來看的地方。

報導指出,原本由「準備」團隊負責的生物與網路安全等領域,現在改由其他部門的資深員工分別接手。OpenAI對外的說法,是這屬於IPO前的「精簡流程」,執行長Sam Altman先前也要求員工減少「side quests」(旁支任務),把心力集中回核心的ChatGPT業務。

被歸類為旁支任務並喊卡的,還包括曾一度掀起討論、後來被貼上AI「slop」標籤的影像生成App Sora。人事上,倫理主管Chloé Bakalar與安全主管Johannes Heidecke近期相繼離職,兩人的出走讓外界開始質疑,這家公司是不是正把安全擺在成長之後。有AI分析師甚至把OpenAI安全部門的人員流動,比喻成《哈利波特》裡那個誰都做不久的黑魔法防禦術老師詛咒。

OpenAI對外將此次調整定調為組織精簡,但一個原本用來把關「災難性風險」的團隊,在自家模型已經出過手的情況下被拆解,這個時間差本身就是報導裡最直白的訊息。