訴訟：被害者はGrokが実際の児童虐待素材で訓練されたと主張

xAI、CSAMのトレーニングで初の訴訟に直面

Ars Technicaによると、xAIは2000年代初頭の虐待の子供時代の写真がGrokモデルの訓練に検証可能に使用された女性（仮名ジェーン・ドウ）からの集団訴訟に直面している。xAIがCSAM（児童性的虐待素材）でトレーニングしたとして直接非難されたのはこれが初めてである。

原告は、GrokがNCMECやカナダのセンターCCCPなどの組織によって長年ハッシュが維持されてきた彼女の元の写真でトレーニングしただけでなく、これらの素材の新しいAIバージョンを生成し始めたことさえ発見した。

生成と学習のフィードバックループ

問題は初期のデータセットだけでなく、Grokモデル自体の実行時にもある。Grokがプロンプトに基づいて生成する出力は、さらなるトレーニングのために保存される。これにより、GrokがCSAM素材を生成し、そこから再び学習するループが作成され、それによってCSAMをさらに生成する能力が強化される。

訴訟によるとxAIが出力から除外する暴力とは異なり、CSAM、NSFW素材、または同意のない親密な画像（NCII）は利用規約で明示的に禁止されていない。

トレーニングデータから学習を元に戻すことの不可能性

すでにトレーニングされたLLMモデルから特定のトレーニング例を消去することは技術的に非常に複雑である。訴訟は、トレーニング段階で取り込まれたCSAM素材は、元の画像がパブリックインターネットから削除された後でも、モデルの出力を形作り続けると正しく指摘している。さらに、xAIはモデルからデータを消去できると公に主張したことは一度もない。

何がGrokの将来の方向性を決定するか

原告は、連邦法とマーシャ法の違反に対する金銭的補償を求めているだけではない。彼女は裁判所に対し、xAIに保存されているGrok生成のCSAM素材をすべて破棄し、モデルが性的なものを生成する能力をブロックするよう命じるよう求めている。もし裁判所が同意すれば、AIの絶対的な言論の自由に対するマスク氏の姿勢が終わり、市場の他の主要プレーヤーが持っているのと同じ安全フィルターの実装を余儀なくされることを意味する。

Lilithの判定

言論の自由のためにモデルにガードレールがないと主張することは政治においては機能するが、マシンのループが法医学的にカタログ化された資料を複製し始めると壁にぶつかる。