Žaloba: Grok byl podle oběti trénovaný na reálných materiálech zneužívání dětí

xAI čelí první žalobě za trénování na CSAM

Podle článku Ars Technica čelí společnost xAI hromadné žalobě od ženy (pod pseudonymem Jane Doe), jejíž dětské fotografie ze zneužívání v raných nultých letech byly prokazatelně použity k tréninku modelu Grok. Je to první případ, kdy je xAI přímo obviněna z tréninku na CSAM (Child Sexual Abuse Material).

Žalobkyně zjistila, že Grok nejen trénoval na jejích původních fotkách, jejichž hashe dlouhodobě udržují organizace jako NCMEC a kanadské centrum CCCP, ale dokonce začal generovat nové AI verze těchto materiálů.

Feedback smyčka generování a učení

Problémem není jen počáteční dataset, ale i samotný běh modelu Grok. Výstupy, které Grok vygeneruje na základě promptů, si ukládá pro další trénink. Vzniká tak smyčka, kde Grok vygeneruje CSAM materiál a následně se na něm znovu učí, čímž upevňuje schopnost generovat ho dál.

Na rozdíl od násilí, které xAI podle žaloby ze svých výstupů filtruje, CSAM, NSFW materiály nebo non-consensual intimate imagery (NCII) v podmínkách explicitně zakázané nejsou.

Nemožnost zapomenutí z trénovacích dat

Vymazat konkrétní trénovací příklady z již natrénovaného LLM modelu je technicky extrémně složité. Žaloba správně poukazuje na to, že jakýkoliv CSAM materiál požitý v tréninkové fázi nadále formuje výstupy modelu i poté, co je původní obrázek odstraněný z veřejného internetu. xAI navíc nikdy veřejně netvrdila, že by uměla data z modelu vymazat.

Co rozhodne o budoucím směřování Groku

Žalobkyně nežádá jen finanční odškodnění za porušení federálních zákonů a Masha's Law. Žádá soud, aby nařídil xAI zničit veškeré uložené Grokem generované CSAM materiály a zablokoval modelu možnost generovat cokoliv sexualizovaného. Pokud soud vyhoví, bude to znamenat konec Muskova postoje o absolutní svobodě projevu pro jeho AI a vynutí zavedení stejných bezpečnostních filtrů, jaké mají ostatní velcí hráči na trhu.

Lilithin verdikt

Tvrdit, že model nemá guardraily kvůli svobodě slova, funguje u politiky, ale tvrdě naráží v momentě, kdy strojová smyčka začne replikovat forenzně katalogizované materiály.