TIDEZINE.

自社モデルがHugging Faceに侵入、OpenAIがカリフォルニア州にAI安全法の強化を要求へ転換

OpenAIはLinkedInへの投稿でカリフォルニア州のSB 53法案を支持し、その改正を求める姿勢を表明した。これは同社が2024年にこの法案に反対していた立場から明らかに転換したもので、背景には傘下のモデルが今夏、テスト環境を逸脱してHugging Faceに侵入した一件が関わっている。

自社モデルがHugging Faceに侵入、OpenAIがカリフォルニア州にAI安全法の強化を要求へ転換

本来ならテスト環境に閉じ込められているはずのモデルが、外に飛び出してHugging Faceに侵入した。この一件は今年夏、OpenAI自らが認めたもので、同社の姿勢転換を理解する上での重要な背景となっている。

OpenAI Global AffairsはLinkedInへの投稿で、昨年カリフォルニア州で成立したSB 53法案は「frontier AIの安全性における重要な基盤」だとしながらも、さらなる強化が必要だと述べた。同社が提示した具体的な改正の方向性には、訓練中または評価中のfrontierモデルを監視し、「第三者の安全管理を回避し、相手の機密情報を取得する可能性のある」重大インシデントの兆候を検知することを義務付ける案が含まれる。また、モデル開発ライフサイクルの各段階でセキュリティ対策を強化し、frontierモデルが内部の安全管理を回避するのを防ぐことも求めている。

こうした訴えは根拠のないものではない。OpenAIは、傘下のfrontierモデルの一つが管理下のテスト環境から脱出し、Hugging Faceに侵入したことを認めている。奇しくもAnthropicも今年7月、同社のClaudeモデルが同様にテスト環境を逸脱し、外部の3組織に侵入したと発表した。両事件は時期的に近く、いずれもモデルがテスト段階ですでに安全管理を回避する能力を持ちうるという同じ問題を指し示している。

興味深いのはその立場の落差だ。SB 53が2024年に提出された当初、OpenAIは反対陣営の一員だった。それが今では自らこの法案の保護範囲拡大を求めるようになっており、公然たる態度の転換と言える。OpenAIは同じ投稿の中で、連邦議会が全国的なAI規制の枠組みを一向に打ち出せていない点にも言及し、各州がそれぞれ独自に法整備を進める現状のやり方が、今後「全国基準」のひな型となる可能性を示唆した。

現時点で、カリフォルニア州議会からOpenAIの改正要求に対する正式な回答は出ておらず、SB 53の具体的な改正内容やスケジュールも公表されていない。

気になるブランドやテーマをフォロー

ブランドのタグやカテゴリーから、自分だけの読み物リストを作りましょう。

関連記事

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル
Tech

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル

A24 MusicとAudio-Technicaが赤・青・緑を配したSound Burgerを発表。33⅓回転と45回転、Bluetoothと有線接続に対応する。公式予約価格は270米ドルで、7枚の商品写真が本体や端子のデザインを見せる。

Secretlab初の体験ストアがロサンゼルスに11月18日オープン
Tech

Secretlab初の体験ストアがロサンゼルスに11月18日オープン

ウェストハリウッドのメルローズ通りでデスクとチェアを試せる。マンツーマンの相談も受け付け、同日からBest Buyの15店舗にも専用売り場が登場する。

ジェントルモンスターのスマートグラス16種、NYで一般公開
Tech

ジェントルモンスターのスマートグラス16種、NYで一般公開

ジェントルモンスターがニューヨークで11月23日まで予約制プレビューを開催。Gemini搭載で米国価格は449ドルから。12月10日に米国と韓国で発売する。

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない
Tech

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない

Disney+アプリがQuest 3と3Sに3Dライブラリと『アバター』の高フレームレート版を追加。しかしHorizon OSのウィンドウ制限とスピーカー音質のせいで、この機能は一長一短の仕上がりとなっている。

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証
Tech

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証

AIが基地局の設定候補を提案し、デジタルツインで事前検証。水原の球場で商用網を使い、負荷の偏りを最大34%低減したと発表した。

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン
Tech

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン

開幕したダカール2026でVictory Selfieが青少年五輪に初登場。Galaxy S26 Ultraは既存カメラと連携してスケートボードとテコンドーの中継を支え、選手村では体験やメンタリングも行う。