Ein unsichtbares Wasserzeichen beweist nicht die Echtheit des Textes, sondern erfüllt nur den AI Act

Die europäische Peitsche vereinheitlicht die Infrastruktur

Anthropic hat angekündigt, unsichtbare Wasserzeichen in Texte einzufügen, die vom Claude Modell generiert werden. Dieser Schritt ist eine Reaktion auf die Verpflichtungen aus dem AI Act der Europäischen Union, der eine maschinenlesbare Kennzeichnung für synthetische Inhalte vorschreibt. Die Regulierung zwingt so konkurrierende Unternehmen, auf dieselben Werkzeuge zurückzugreifen. Es ist kein Zufall, dass Anthropic eine Version des SynthID Ansatzes verwendet, eine offene Technologie von Google DeepMind. Google selbst hat diese seit 2024 in Gemini im Einsatz.

Statistik ist nicht kugelsicher

Die Methode funktioniert nicht wie unsichtbare Tinte, sondern als statistische Anpassung der Wahrscheinlichkeit bei Wörtern von geringer Bedeutung. Zum Beispiel, ob das Modell das Wort bewölkt oder grau wählt. Dadurch wird dem Text ein spezifisches Muster aufgeprägt, ohne den API Preis oder die praktische Qualität der Antworten zu beeinträchtigen. Ein solches Wasserzeichen überlebt jedoch nur in längeren Blöcken unveränderten Textes. Es kann von Natur aus nicht robust sein.

Jede Bearbeitung zerstört die Spuren

Sobald ein Benutzer einen kopierten Absatz löscht, ein paar Wörter umschreibt oder ihn sogar zur Paraphrasierung durch ein anderes Modell jagt, bricht das Erkennungssignal zuverlässig zusammen. Die Kennzeichnung wird automatisierten Scannern helfen, massiven, unbearbeiteten Müll im Netz aufzufangen, aber sie kann bewusste Fälschungen nicht stoppen. Wenn ein Dokument ein Gericht, Wahlen oder Unternehmensentscheidungen beeinflussen soll, wird derjenige, der es generiert, immer die fünf Minuten finden, um das unsichtbare Muster zu überschreiben.

Ein gemeinsamer Schlüssel zeigt die Bereitschaft zur Kontrolle

Das wichtigste Signal in der Zukunft wird nicht der Einsatz von SynthID in weiteren Modellen sein, sondern ob sich der Markt auf eine einheitliche Erkennungs API einigt. Wenn OpenAI, Anthropic und Meta jeweils einen eigenen Detektor ohne zentrale Verifizierung bauen, müssen Nutzer Texte durch mehrere verschiedene Kontrollen schicken. Der Erfolg von Wasserzeichen hängt paradoxerweise von einem gemeinsamen Leseschlüssel ab, nicht davon, wer einen komplexeren Zahlengenerator erfindet.

Liliths Urteil

Das bürokratische Kästchen ist abgehakt. Jetzt muss man den Behörden nur noch erklären, dass ein unsichtbares Text-Wasserzeichen selbst von einem Praktikanten mit einer Rücktaste und einem Synonymwörterbuch zerstört werden kann.