Klage: Opfer behauptet, Grok sei mit echten Kindesmissbrauchsmaterialien trainiert worden

xAI sieht sich einer ersten Klage wegen des Trainings mit CSAM gegenüber

Laut Ars Technica sieht sich xAI einer Sammelklage einer Frau (unter dem Pseudonym Jane Doe) gegenüber, deren Kindheitsfotos von Missbrauch in den frühen 2000er Jahren nachweislich für das Training des Grok-Modells verwendet wurden. Dies ist das erste Mal, dass xAI direkt beschuldigt wird, mit CSAM (Child Sexual Abuse Material) trainiert zu haben.

Die Klägerin entdeckte, dass Grok nicht nur mit ihren Originalfotos trainierte, deren Hashes seit langem von Organisationen wie NCMEC und dem kanadischen Zentrum CCCP gepflegt werden, sondern sogar begann, neue KI-Versionen dieser Materialien zu generieren.

Die Feedback-Schleife von Generierung und Lernen

Das Problem ist nicht nur der anfängliche Datensatz, sondern die Laufzeit des Grok-Modells selbst. Die Ausgaben, die Grok basierend auf Prompts generiert, werden für weiteres Training gespeichert. Dies erzeugt eine Schleife, in der Grok CSAM-Material generiert und dann wieder daraus lernt, wodurch seine Fähigkeit, es weiter zu generieren, verstärkt wird.

Im Gegensatz zu Gewalt, die xAI laut der Klage aus seinen Ausgaben herausfiltert, sind CSAM, NSFW-Materialien oder nicht-einvernehmliche intime Bilder (NCII) in den Bedingungen nicht explizit verboten.

Die Unmöglichkeit des Verlernens aus Trainingsdaten

Das Löschen bestimmter Trainingsbeispiele aus einem bereits trainierten LLM-Modell ist technisch äußerst komplex. Die Klage weist zu Recht darauf hin, dass jegliches in der Trainingsphase aufgenommene CSAM-Material die Ausgaben des Modells auch nach dem Entfernen des Originalbildes aus dem öffentlichen Internet weiterhin prägt. Darüber hinaus hat xAI noch nie öffentlich behauptet, Daten aus einem Modell löschen zu können.

Was die zukünftige Richtung von Grok bestimmen wird

Die Klägerin fordert nicht nur eine finanzielle Entschädigung für Verstöße gegen Bundesgesetze und Mashas Gesetz. Sie bittet das Gericht, xAI anzuweisen, alle gespeicherten, von Grok generierten CSAM-Materialien zu vernichten und die Fähigkeit des Modells zu blockieren, irgendetwas Sexualisiertes zu generieren. Wenn das Gericht zustimmt, bedeutet dies das Ende von Musks Haltung zur absoluten Meinungsfreiheit für seine KI und erzwingt die Implementierung derselben Sicherheitsfilter, die auch andere große Marktteilnehmer haben.

Liliths Urteil

Zu behaupten, ein Modell habe um der Meinungsfreiheit willen keine Leitplanken, funktioniert in der Politik, stößt aber an eine Wand, wenn die Maschinenschleife beginnt, forensisch katalogisierte Materialien zu replizieren.