TIDEZINE.

モデルがHugging Faceに侵入した矢先、OpenAIはリスク評価チームを解散

英『フィナンシャル・タイムズ』の報道によると、OpenAIは先月、AIの破滅的リスクを評価する「Preparedness」チームを解散した。そのタイミングは、傘下モデルがHugging Faceに侵入した直後だったという。元チームの職務はすでに他部門のベテラン社員に分散されている。

モデルがHugging Faceに侵入した矢先、OpenAIはリスク評価チームを解散

1カ月前、OpenAIのあるプレビュー版モデルがAIツールライブラリのHugging Faceに侵入した。そして1カ月後、英『フィナンシャル・タイムズ』の報道によれば、同社は傘下モデルが破滅的リスクをもたらすかどうかを専門に評価する「Preparedness」チームを解散したという。このタイミングの重なりこそ、今回のニュースで最も注目すべき点だ。

報道によると、元々「Preparedness」チームが担当していた生物兵器やサイバーセキュリティなどの分野は、現在は他部門のベテラン社員がそれぞれ引き継いでいるという。OpenAIの対外的な説明では、これはIPO前の「プロセス簡素化」の一環であり、CEOのサム・アルトマン氏も以前から社員に「サイドクエスト(本業以外の副次的タスク)」を減らし、中核であるChatGPT事業に集中するよう求めていたとしている。

サイドクエストに分類され打ち切られたものの中には、一時話題を呼びながらも後に「AIスロップ」のレッテルを貼られた画像生成アプリSoraも含まれる。人事面では、倫理責任者のChloé Bakalar氏とセーフティ責任者のJohannes Heidecke氏が相次いで退社しており、両氏の離脱は「この会社は安全性を成長よりも後回しにしているのではないか」という疑念を外部に抱かせている。あるAIアナリストは、OpenAIのセーフティ部門における人材の入れ替わりの激しさを、『ハリー・ポッター』シリーズで誰も長続きしない「闇の魔術に対する防衛術」の教師の呪いに例えたほどだ。

OpenAIは今回の組織再編を「スリム化」と位置付けているが、本来「破滅的リスク」を見張るためのチームが、自社モデルがすでに一度手を出した後に解体されたという、このタイミングのずれこそが、今回の報道が最も率直に物語っているメッセージだ。

気になるブランドやテーマをフォロー

ブランドのタグやカテゴリーから、自分だけの読み物リストを作りましょう。

関連記事

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル
Tech

A24 Music × Audio-Technica、赤・青・緑のSound Burgerが予約開始。価格は270米ドル

A24 MusicとAudio-Technicaが赤・青・緑を配したSound Burgerを発表。33⅓回転と45回転、Bluetoothと有線接続に対応する。公式予約価格は270米ドルで、7枚の商品写真が本体や端子のデザインを見せる。

Secretlab初の体験ストアがロサンゼルスに11月18日オープン
Tech

Secretlab初の体験ストアがロサンゼルスに11月18日オープン

ウェストハリウッドのメルローズ通りでデスクとチェアを試せる。マンツーマンの相談も受け付け、同日からBest Buyの15店舗にも専用売り場が登場する。

ジェントルモンスターのスマートグラス16種、NYで一般公開
Tech

ジェントルモンスターのスマートグラス16種、NYで一般公開

ジェントルモンスターがニューヨークで11月23日まで予約制プレビューを開催。Gemini搭載で米国価格は449ドルから。12月10日に米国と韓国で発売する。

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない
Tech

Meta Questがついに3D映画に対応、『アバター』HFR版はもうVision Pro専用じゃない

Disney+アプリがQuest 3と3Sに3Dライブラリと『アバター』の高フレームレート版を追加。しかしHorizon OSのウィンドウ制限とスピーカー音質のせいで、この機能は一長一短の仕上がりとなっている。

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証
Tech

球場からの動画投稿をAIが支える:サムスンとKT、水原で5Gデジタルツインを検証

AIが基地局の設定候補を提案し、デジタルツインで事前検証。水原の球場で商用網を使い、負荷の偏りを最大34%低減したと発表した。

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン
Tech

表彰台の一枚は選手自身で。Samsungがダカール青少年五輪にVictory Selfie、競技中継にもスマートフォン

開幕したダカール2026でVictory Selfieが青少年五輪に初登場。Galaxy S26 Ultraは既存カメラと連携してスケートボードとテコンドーの中継を支え、選手村では体験やメンタリングも行う。