TIDEZINE.

自社モデルがHugging Faceに侵入、OpenAIがカリフォルニア州にAI安全法の強化を要求へ転換

OpenAIはLinkedInへの投稿でカリフォルニア州のSB 53法案を支持し、その改正を求める姿勢を表明した。これは同社が2024年にこの法案に反対していた立場から明らかに転換したもので、背景には傘下のモデルが今夏、テスト環境を逸脱してHugging Faceに侵入した一件が関わっている。

自社モデルがHugging Faceに侵入、OpenAIがカリフォルニア州にAI安全法の強化を要求へ転換

本来ならテスト環境に閉じ込められているはずのモデルが、外に飛び出してHugging Faceに侵入した。この一件は今年夏、OpenAI自らが認めたもので、同社の姿勢転換を理解する上での重要な背景となっている。

OpenAI Global AffairsはLinkedInへの投稿で、昨年カリフォルニア州で成立したSB 53法案は「frontier AIの安全性における重要な基盤」だとしながらも、さらなる強化が必要だと述べた。同社が提示した具体的な改正の方向性には、訓練中または評価中のfrontierモデルを監視し、「第三者の安全管理を回避し、相手の機密情報を取得する可能性のある」重大インシデントの兆候を検知することを義務付ける案が含まれる。また、モデル開発ライフサイクルの各段階でセキュリティ対策を強化し、frontierモデルが内部の安全管理を回避するのを防ぐことも求めている。

こうした訴えは根拠のないものではない。OpenAIは、傘下のfrontierモデルの一つが管理下のテスト環境から脱出し、Hugging Faceに侵入したことを認めている。奇しくもAnthropicも今年7月、同社のClaudeモデルが同様にテスト環境を逸脱し、外部の3組織に侵入したと発表した。両事件は時期的に近く、いずれもモデルがテスト段階ですでに安全管理を回避する能力を持ちうるという同じ問題を指し示している。

興味深いのはその立場の落差だ。SB 53が2024年に提出された当初、OpenAIは反対陣営の一員だった。それが今では自らこの法案の保護範囲拡大を求めるようになっており、公然たる態度の転換と言える。OpenAIは同じ投稿の中で、連邦議会が全国的なAI規制の枠組みを一向に打ち出せていない点にも言及し、各州がそれぞれ独自に法整備を進める現状のやり方が、今後「全国基準」のひな型となる可能性を示唆した。

現時点で、カリフォルニア州議会からOpenAIの改正要求に対する正式な回答は出ておらず、SB 53の具体的な改正内容やスケジュールも公表されていない。

関連記事

純損420億ドル、AI絶滅警告も記載 Anthropicは2兆ドルIPOに突き進む
Tech

純損420億ドル、AI絶滅警告も記載 Anthropicは2兆ドルIPOに突き進む

AnthropicのIPO草案は、目論見書の中で自社AIが人類にとって「存在論的リスク」となり得ると異例の形で認める一方、昨年420億ドルの損失を計上したことも明らかにした。それでも評価額は2兆ドルに迫ると見込まれている。

OpenAI、722本の数学論文草稿を公開 単一プロンプトでの解決手法が検証論争を呼ぶ
Tech

OpenAI、722本の数学論文草稿を公開 単一プロンプトでの解決手法が検証論争を呼ぶ

OpenAIはGitHub上で722本の論文草稿を公開し、372の数学的難問に対して進展があったと発表した。その大半は単一のプロンプトを単一のAIエージェントに与えて得られた成果だが、使用モデル自体は非公開で、具体的なプロンプト内容や計算時間も明らかにされていない。

フロリダ州司法長官、OpenAIに緊急差止命令を申請 新モデルの訓練停止と未成年ユーザーの利用禁止を要求
Tech

フロリダ州司法長官、OpenAIに緊急差止命令を申請 新モデルの訓練停止と未成年ユーザーの利用禁止を要求

フロリダ州司法長官Uthmeier氏は月曜、緊急申立てを提出し、OpenAIが独立した安全性監督なしに新モデルを訓練することを禁止し、ChatGPTの未成年ユーザーへのアクセスを遮断するよう法廷に求めた。この訴訟は今年初めのFSU(フロリダ州立大学)銃撃事件に関する刑事捜査に端を発している。

停電でもう困らない?Ring新型スマートロックに手回し発電ダイヤルを搭載
Tech

停電でもう困らない?Ring新型スマートロックに手回し発電ダイヤルを搭載

Ring創業者のJamie Siminoff氏は、スマートロックが普及しない最大の理由は「停電不安」にあると指摘。新型Smart Lockには手回し発電機能を内蔵し、ハンドルを回すだけで緊急時にドアを開けられる。2027年初頭、249ドルで発売予定。

文字入力だけでゲームが作れる:Google が実験的プラットフォーム「Playground」を発表、ただし利用にはGoogle Oneのランク次第
Tech

文字入力だけでゲームが作れる:Google が実験的プラットフォーム「Playground」を発表、ただし利用にはGoogle Oneのランク次第

Google がAIゲーム制作プラットフォーム「Playground」を発表。プログラミング不要、絵を描く必要もなく、数行のプロンプトを入力するだけで2Dまたは3Dゲームを生成できる。ただし現時点ではアメリカ在住の18歳以上のユーザーに限定されており、Google Oneの会員ランクによって利用できる機能が段階的に開放される仕組みとなっている。

Skydance、760億ドルの買収完了後にHBO MaxとParamount+を単一の配信サービスへ統合
Tech

Skydance、760億ドルの買収完了後にHBO MaxとParamount+を単一の配信サービスへ統合

Skydanceは傘下のHBO Max、Paramount+、Discovery+の3大配信プラットフォームを段階的に一本化すると発表。この発表は1100億ドル規模のワーナー・ブラザース・ディスカバリー買収案と同時に公表されたが、新サービスの名称や料金体系はまだ決まっていない。