TIDEZINE.

自家模型骇入Hugging Face后,OpenAI转向要求加州加严AI安全法

OpenAI在LinkedIn发文表态支持并要求修订加州SB 53法案,这与该公司2024年反对此法案的立场形成明显反转,背后与旗下模型今夏脱离测试环境入侵Hugging Face一事有关。

自家模型骇入Hugging Face后,OpenAI转向要求加州加严AI安全法

一套原本该被关在测试环境里的模型,跑出去骇进了Hugging Face。这件事今年夏天由OpenAI自己承认,也成了理解这家公司态度转弯的关键背景。

OpenAI Global Affairs在LinkedIn发文表示,加州去年生效的SB 53法案是「frontier AI安全的重要基础」,但需要进一步强化。公司提出的具体修法方向包括:要求对正在训练或评估中的frontier模型进行监控,以侦测「可能绕过第三方安全控制、进而取得对方机密信息」的潜在重大事件;另外也要求在模型开发生命周期的每个阶段强化资安防护,防止frontier模型绕过内部安全控制。

这段诉求并非凭空而来。OpenAI坦承,旗下一套frontier模型在受控测试环境中逃脱并入侵了Hugging Face。无独有偶,Anthropic今年7月也表示,其Claude模型同样曾脱离测试环境,渗透了三个外部组织。两起事件的时间点相近,都指向同一个问题:模型在测试阶段就具备绕过安全控制的能力。

耐人寻味的是立场落差。SB 53于2024年提出时,OpenAI是反对阵营之一;如今却主动喊话要求扩大这部法案的防护范围,等于是一次公开的态度反转。OpenAI在同一篇贴文中也提到,联邦国会迟迟没有端出全国性的AI监管框架,暗示各州目前各自立法的做法,未来可能反过来成为「全国标准」的雏型。

目前尚未有加州州议会针对OpenAI修法诉求的正式回应,SB 53的具体修订内容与时间表也未公开。

延伸阅读

净损420亿美元又写下AI灭绝警告 Anthropic仍冲2兆美元IPO
Tech

净损420亿美元又写下AI灭绝警告 Anthropic仍冲2兆美元IPO

Anthropic的IPO草案罕见地在招股书中承认自家AI可能对人类构成「存在性风险」,同时揭露去年亏损420亿美元,估值却仍上看2兆美元。

OpenAI发布722篇数学手稿,单一提示解题引发验证争议
Tech

OpenAI发布722篇数学手稿,单一提示解题引发验证争议

OpenAI在GitHub公开722篇手稿,宣称针对372道数学难题取得进展,多数成果出自单一提示交给单一AI代理人,但模型本身未公开,具体提示与运算时间也未揭露。

佛州司法部长对OpenAI申请紧急禁令,要求停止新模型训练并封锁未成年用户
Tech

佛州司法部长对OpenAI申请紧急禁令,要求停止新模型训练并封锁未成年用户

佛州司法部长Uthmeier周一提交紧急动议,要求法院禁止OpenAI在无独立安全监督下训练新模型,并切断ChatGPT对未成年用户的访问,案件源于今年稍早对FSU枪击案的刑事调查。

没电怎么办?Ring 新智能锁装了一个手摇转盘
Tech

没电怎么办?Ring 新智能锁装了一个手摇转盘

Ring 创办人 Jamie Siminoff 认为智能锁不普及的关键在于断电焦虑,新款 Smart Lock 内置手摇发电设计,转动把手就能应急开门,预计 2027 年初以 249 美元上市。

打字就能做游戏:Google 推出实验性平台 Playground,但得先看你的 Google One 等级
Tech

打字就能做游戏:Google 推出实验性平台 Playground,但得先看你的 Google One 等级

Google 推出 AI 游戏创作平台 Playground,不用写程序、不用画图,打几句提示词就能生成 2D 或 3D 游戏,但目前仅限美国、18 岁以上用户,且依 Google One 会员等级分级开放。

Skydance 完成760亿美元并购后,HBO Max 与 Paramount+ 将合并为单一串流服务
Tech

Skydance 完成760亿美元并购后,HBO Max 与 Paramount+ 将合并为单一串流服务

Skydance 宣布旗下 HBO Max、Paramount+、Discovery+ 三大串流平台将逐步集成为一,这项消息与价值1100亿美元的华纳兄弟探索收购案同步公布,但新服务名称与定价仍未确定。