今回の訴訟がこれまでの事例と異なるのは、画像の枚数ではなく加害者の素性だ――見知らぬネット上の人物ではなく、継父その人である。『ワシントン・ポスト』が最初に報じ、TIDEZINEも追跡取材した内容によると、ワイオミング州在住の女性が仮名「ジェーン・ドウ4」としてxAIを訴える訴訟に加わり、継父がGrokチャットボットを利用して自分の幼少期の写真を7000枚以上のポルノ画像に加工し、ネット上で売買・流通させていたと告発している。

訴状によると、これらの画像には彼女が11歳のときに撮影された写真も含まれており、後に継父がGrokを通じて性的搾取コンテンツに作り替えたという。報道によれば、州および地方の捜査機関が継父の電子機器を家宅捜索し、児童性的虐待コンテンツ(CSAM)に関する証拠を押収。捜索から2日後、この継父は自身の車内で遺体となって発見され、警察は自殺と判断している。

ジェーン・ドウ4の参加により、もともとテネシー州の少女3人が起こしていた集団訴訟の規模が拡大した。この訴訟はもともと、Grokが彼女たちの性的搾取ディープフェイク画像を生成するために使われたと主張するものだったが、訴状側は今回の集団訴訟が「少なくとも数千人の未成年者」に及ぶ可能性があるとしている。

xAIとGrokは近年、CSAM関連の調査で幾度も焦点となっている。今年1月、カリフォルニア州司法長官のロブ・ボンタ氏がxAIに対する調査を開始し、女性や子どもの同意なきディープフェイクヌード画像を生成しているとの疑惑を指摘。同月末には、EUもXプラットフォームへの調査に着手し、AIによるCSAMコンテンツの拡散を防ぐ十分な仕組みがあるかどうかを検証している。

TIDEZINEは今回の訴訟に関する最新の進展についてxAIにコメントを求めたが、本稿執筆時点で回答は得られていない。