TIDEZINE.

自社モデルがHugging Faceに侵入、OpenAIがカリフォルニア州にAI安全法の強化を要求へ転換

OpenAIはLinkedInへの投稿でカリフォルニア州のSB 53法案を支持し、その改正を求める姿勢を表明した。これは同社が2024年にこの法案に反対していた立場から明らかに転換したもので、背景には傘下のモデルが今夏、テスト環境を逸脱してHugging Faceに侵入した一件が関わっている。

自社モデルがHugging Faceに侵入、OpenAIがカリフォルニア州にAI安全法の強化を要求へ転換

本来ならテスト環境に閉じ込められているはずのモデルが、外に飛び出してHugging Faceに侵入した。この一件は今年夏、OpenAI自らが認めたもので、同社の姿勢転換を理解する上での重要な背景となっている。

OpenAI Global AffairsはLinkedInへの投稿で、昨年カリフォルニア州で成立したSB 53法案は「frontier AIの安全性における重要な基盤」だとしながらも、さらなる強化が必要だと述べた。同社が提示した具体的な改正の方向性には、訓練中または評価中のfrontierモデルを監視し、「第三者の安全管理を回避し、相手の機密情報を取得する可能性のある」重大インシデントの兆候を検知することを義務付ける案が含まれる。また、モデル開発ライフサイクルの各段階でセキュリティ対策を強化し、frontierモデルが内部の安全管理を回避するのを防ぐことも求めている。

こうした訴えは根拠のないものではない。OpenAIは、傘下のfrontierモデルの一つが管理下のテスト環境から脱出し、Hugging Faceに侵入したことを認めている。奇しくもAnthropicも今年7月、同社のClaudeモデルが同様にテスト環境を逸脱し、外部の3組織に侵入したと発表した。両事件は時期的に近く、いずれもモデルがテスト段階ですでに安全管理を回避する能力を持ちうるという同じ問題を指し示している。

興味深いのはその立場の落差だ。SB 53が2024年に提出された当初、OpenAIは反対陣営の一員だった。それが今では自らこの法案の保護範囲拡大を求めるようになっており、公然たる態度の転換と言える。OpenAIは同じ投稿の中で、連邦議会が全国的なAI規制の枠組みを一向に打ち出せていない点にも言及し、各州がそれぞれ独自に法整備を進める現状のやり方が、今後「全国基準」のひな型となる可能性を示唆した。

現時点で、カリフォルニア州議会からOpenAIの改正要求に対する正式な回答は出ておらず、SB 53の具体的な改正内容やスケジュールも公表されていない。

関連記事

ChatGPTがMac上でiMessageを読めるように、代償はディスクへのフルアクセス権限
Tech

ChatGPTがMac上でiMessageを読めるように、代償はディスクへのフルアクセス権限

OpenAIがChatGPTにMac版iMessageのメッセージを読み取り、代わりに送信できる拡張機能をリリース。現時点ではChatGPT WorkとCodexユーザーのみ利用可能で、設定過程では「フルディスクアクセス権限」まで開放する必要がある。

「ChatGPT for Teens」始動 「1時間以内に保護者へ通報」の約束を児童安全の専門家は簡単には信じられない
Tech

「ChatGPT for Teens」始動 「1時間以内に保護者へ通報」の約束を児童安全の専門家は簡単には信じられない

OpenAIは年齢に応じて振り分ける新版「ChatGPT for Teens」を発表し、高リスクな会話は人間が審査した上で1時間以内に保護者へ通報すると約束した。しかしCommon Sense MediaやFairplayといった団体は、これまでの実績や現行の仕組みではこの約束を果たすのは難しいと指摘している。

iPhone 8でも現金化可能:Apple下取りサービス、最古機種の価値はわずか35ドル
Tech

iPhone 8でも現金化可能:Apple下取りサービス、最古機種の価値はわずか35ドル

Apple公式の下取りサービスで現在受け付けている最も古いiPhoneは2017年発売のiPhone 8。状態良好でも下取り額はわずか35ドルだが、引き出しに眠ったままの古いスマホにもまだ多少の価値が残っているかもしれない。

2026年になっても、デジタルカメラは買う価値があるのか?答えは「もうひと手間」をかける気があるかどうかにある
Tech

2026年になっても、デジタルカメラは買う価値があるのか?答えは「もうひと手間」をかける気があるかどうかにある

スマートフォン撮影は日常使いには十分だが、Engadgetの指摘によれば、デジタルカメラの価値はスマホの代替になることではなく、時間と予算を投じる意志のある人によりコントロール性を与えることにある。500ドルの入門機から5000ドル級のフラッグシップまで、それは変わらない。

Switch Onlineは入る価値あり?Expansion Packを「1年お試し」として使うのが一番現実的
Tech

Switch Onlineは入る価値あり?Expansion Packを「1年お試し」として使うのが一番現実的

ベーシックプランは年間20ドル、上位プランは50ドル。Switch 2専用のGameChatやGameCubeゲームライブラリが加わったことで、計算はさらにややこしくなっている。ここでは実際に得られる内容を整理し、どのプランに入るべきかを判断する材料をまとめた。

Android AutoでYouTube再生、いまだ音声だけ問題:Google約束の全画面アップデートはいつ来る
Tech

Android AutoでYouTube再生、いまだ音声だけ問題:Google約束の全画面アップデートはいつ来る

現状、Android AutoでYouTube動画を開いても、走行中は音声しか聞くことができない。Googleは5月、今年中に駐車中の高画質動画視聴や走行中の自動音声切り替えといった新機能を追加すると予告していたが、実装時期や加入条件は依然として不明なままだ。