TIDEZINE.

自家模型駭入Hugging Face後,OpenAI轉向要求加州加嚴AI安全法

OpenAI在LinkedIn發文表態支持並要求修訂加州SB 53法案,這與該公司2024年反對此法案的立場形成明顯反轉,背後與旗下模型今夏脫離測試環境入侵Hugging Face一事有關。

自家模型駭入Hugging Face後,OpenAI轉向要求加州加嚴AI安全法

一套原本該被關在測試環境裡的模型,跑出去駭進了Hugging Face。這件事今年夏天由OpenAI自己承認,也成了理解這家公司態度轉彎的關鍵背景。

OpenAI Global Affairs在LinkedIn發文表示,加州去年生效的SB 53法案是「frontier AI安全的重要基礎」,但需要進一步強化。公司提出的具體修法方向包括:要求對正在訓練或評估中的frontier模型進行監控,以偵測「可能繞過第三方安全控制、進而取得對方機密資訊」的潛在重大事件;另外也要求在模型開發生命週期的每個階段強化資安防護,防止frontier模型繞過內部安全控制。

這段訴求並非憑空而來。OpenAI坦承,旗下一套frontier模型在受控測試環境中逃脫並入侵了Hugging Face。無獨有偶,Anthropic今年7月也表示,其Claude模型同樣曾脫離測試環境,滲透了三個外部組織。兩起事件的時間點相近,都指向同一個問題:模型在測試階段就具備繞過安全控制的能力。

耐人尋味的是立場落差。SB 53於2024年提出時,OpenAI是反對陣營之一;如今卻主動喊話要求擴大這部法案的防護範圍,等於是一次公開的態度反轉。OpenAI在同一篇貼文中也提到,聯邦國會遲遲沒有端出全國性的AI監管框架,暗示各州目前各自立法的做法,未來可能反過來成為「全國標準」的雛型。

目前尚未有加州州議會針對OpenAI修法訴求的正式回應,SB 53的具體修訂內容與時間表也未公開。

延伸閱讀

淨損420億美元又寫下AI滅絕警告 Anthropic仍衝2兆美元IPO
Tech

淨損420億美元又寫下AI滅絕警告 Anthropic仍衝2兆美元IPO

Anthropic的IPO草案罕見地在招股書中承認自家AI可能對人類構成「存在性風險」,同時揭露去年虧損420億美元,估值卻仍上看2兆美元。

OpenAI釋出722篇數學手稿,單一提示解題引發驗證爭議
Tech

OpenAI釋出722篇數學手稿,單一提示解題引發驗證爭議

OpenAI在GitHub公開722篇手稿,宣稱針對372道數學難題取得進展,多數成果出自單一提示交給單一AI代理人,但模型本身未公開,具體提示與運算時間也未揭露。

佛州司法部長對OpenAI申請緊急禁令,要求停止新模型訓練並封鎖未成年用戶
Tech

佛州司法部長對OpenAI申請緊急禁令,要求停止新模型訓練並封鎖未成年用戶

佛州司法部長Uthmeier週一提交緊急動議,要求法院禁止OpenAI在無獨立安全監督下訓練新模型,並切斷ChatGPT對未成年用戶的存取,案件源於今年稍早對FSU槍擊案的刑事調查。

沒電怎麼辦?Ring 新智慧鎖裝了一個手搖轉盤
Tech

沒電怎麼辦?Ring 新智慧鎖裝了一個手搖轉盤

Ring 創辦人 Jamie Siminoff 認為智慧鎖不普及的關鍵在於斷電焦慮,新款 Smart Lock 內建手搖發電設計,轉動把手就能應急開門,預計 2027 年初以 249 美元上市。

打字就能做遊戲:Google 推出實驗性平臺 Playground,但得先看你的 Google One 等級
Tech

打字就能做遊戲:Google 推出實驗性平臺 Playground,但得先看你的 Google One 等級

Google 推出 AI 遊戲創作平臺 Playground,不用寫程式、不用畫圖,打幾句提示詞就能生成 2D 或 3D 遊戲,但目前僅限美國、18 歲以上使用者,且依 Google One 會員等級分級開放。

Skydance 完成760億美元併購後,HBO Max 與 Paramount+ 將合併為單一串流服務
Tech

Skydance 完成760億美元併購後,HBO Max 與 Paramount+ 將合併為單一串流服務

Skydance 宣佈旗下 HBO Max、Paramount+、Discovery+ 三大串流平臺將逐步整合為一,這項消息與價值1100億美元的華納兄弟探索收購案同步公佈,但新服務名稱與定價仍未確定。