2026-11-20 · ← News
Drei KI-Konflikte: falsche Ausweise, eine Klage gegen Meta und ein Detektor vor Gericht
Ein Podcast von 404 Media verbindet OnlyFake, eine von einem Muse-Agenten erstellte Klage und den Einsatz des Pangram-Detektors durch das US-Justizministerium. Es ist kein einziger großer Skandal, sondern drei konkrete Kollisionen billiger Automatisierung mit Institutionen, die auf Vertrauen beruhen.
Das Bild konnte nicht geladen werden.
Ein Podcast von 404 Media bündelt drei getrennte Recherchen: den Schöpfer von OnlyFake, die von einem Muse-Agenten erstellte Klage eines Kleinunternehmers gegen Meta und einen Streit amerikanischer Juristen über den KI-Textdetektor Pangram. Der gemeinsame Nenner ist konkret: Werkzeuge verbilligten die Produktion von Dokumenten schneller, als Institutionen deren Prüfung anpassen konnten.
OnlyFake machte aus Ausweisfälschung einen Dienst für 15 Dollar
Yuriy Nazarenko berichtete 404 Media, dass er digitale Passkopien zunächst von Hand bearbeitete und den Prozess später automatisierte. OnlyFake erzeugte Bilder nicht existierender Dokumente auf einem Tisch oder Teppich. Sie sollten wie Handyfotos wirken und Identitätsprüfungen bestehen.
Laut einer im Bericht zitierten Mitteilung des US-Justizministeriums nahm der Dienst mehr als 1 Million Dollar ein und verlangte 15 Dollar pro Fälschung. Nazarenko bekannte sich schuldig und beschrieb nach einem Jahr Haft auch die Nutzung durch falsche nordkoreanische IT-Arbeiter. KI schuf hier keine neue Betrugsart. Sie entfernte die Hürden aus Können und Preis.
Ein Muse-Agent machte aus einer Seitensperre eine Klage über 75.000 Dollar
Unternehmer Joe Thomas gab einem Muse-Agenten Zugriff auf die Facebook-Seiten seines Betriebs. Meta sperrte die Konten, weil es die Aktivität des Agenten als möglichen Angriff einstufte. Thomas beziffert seinen Auftragsverlust auf mindestens 25.000 Dollar. Die in South Carolina eingereichte Klage fordert 75.000 Dollar.
Der Baby Mia genannte Agent soll die Klage erstellt, Politiker, Behörden und Journalisten kontaktiert und rechtliche Forderungen versandt haben. Eine echte Klage muss weder Erfolg haben noch macht sie einen Agenten zur Rechtsperson. Sie zeigt aber, wie ein Nutzer mehrere Institutionen mit Dokumenten und Anträgen überziehen kann, wenn Automatisierung keinen natürlichen Haltepunkt besitzt.
Pangram kam als Behauptung in den Gerichtsstreit, nicht als Urteil
Im dritten Bericht beschreibt 404 Media, dass Anwälte des US-Justizministeriums Pangram nutzten, um der Gegenseite KI-generierte Schriftsätze vorzuwerfen. Die Regierungsanwälte sprachen von „defense by ChatGPT“ und bezeichneten Eingaben als „AI slop“. Das sind Behauptungen einer Partei in Gerichtsakten, keine richterliche Feststellung zur Urheberschaft.
Ein Detektor kann verdächtigen Text markieren, entscheidet aber nicht allein, ob ein juristisches Argument stimmt, ein Anwalt Regeln verletzt hat oder wer einen Satz schrieb. Ein Streit über Fakten kann so zu einem Streit über einen Tool-Score werden, den die Gegenseite womöglich nicht unabhängig reproduzieren kann.
Institutionen müssen Schaden, Verantwortung und Beweis getrennt bewerten
Die drei Geschichten verlangen unterschiedliche Antworten. Falsche Ausweise erfordern stärkere Identitätsprüfung. Bei Agenten-Schriftsätzen muss klar sein, wer einzelne Schritte autorisierte und verantwortet. Bei KI-Textdetektion sollten Gerichte konkrete Fehler und Belege prüfen, statt sich auf ein Wahrscheinlichkeitslabel zu verlassen.
Die nächsten Signale kommen aus Urteilen, Regeln für elektronische Eingaben und Änderungen an KYC-Systemen. Antworten Institutionen nur mit einem weiteren automatischen Filter, liefern sich zwei Blackboxes ein Rennen. Eine produziert Dokumente, die andere markiert sie, und der Mensch dazwischen weiß weiterhin nicht, wem er trauen kann.
Liliths Urteil
Betrüger, verärgerte Unternehmer und Regierungsanwälte können Institutionen heute mit einem Klick einen Dokumentenstapel auf den Tisch legen. Wer mit einem weiteren automatischen Stempel antwortet, ruft eine Blackbox in den Zeugenstand.