法律の施行まで残り3日というタイミングで、xAIは執行差し止めを求める訴えを起こした。この時期の遅さこそが、Donovan Frank判事が請求を却下する決め手となった。
全米初とされるこのミネソタ州法は、当初8月1日に施行される予定で、「本人の同意なしに親密な画像」を生成できるアプリやウェブサイトを対象としている。判事は、この法律が実際には7月中旬に署名されていたにもかかわらず、xAIが提訴したのは7月29日だったと指摘し、「この遅れは、被害が差し迫ったものではないことを示している」と述べた。そのため判事は施行前の差し止め命令を出すことを拒否したが、訴訟自体はまだ終わっていない。裁判所はすでに8月19日を審理日程として設定しており、仮差し止め命令を発するかどうかが決定される予定だ。
法律における「ヌード化(nudified)」画像の定義はかなり具体的だ。画像や動画が加工・生成され、元の映像には存在しなかった「性的な部位」が映し出され、しかも「一般人が見て、それが実在する特定可能な人物のものだと信じてしまう」ほどリアルであれば、違法となる。開発者が、ユーザーによるこうした画像生成を把握していながら放置した場合、1件につき最大50万ドルの罰金が科される。
xAIは訴状の中で、この法律について「内容があまりにも広範で、言論の自由や視覚表現ツールに対する乱暴な禁止だ」と主張。同社としてはミネソタ州がAI生成の裸体画像を取り締まろうとする本来の趣旨には反対していないとしつつも、「規制範囲が広すぎて、多くの保護されるべき言論表現までもが民事責任や行政制裁のリスクにさらされてしまう」と訴えている。
この訴訟の背景には、今年初めに起きたGrokをめぐる論争がある。ユーザーの要求に応じて、実在する女性や子供の写真を性的な画像に加工していたというものだ。xAIは1月半ばにポリシーを修正したが、NBC Newsの報道によれば、4月になってもGrokは実在の人物画像を「ヌード化」する事例が確認されていたという。
