OpenAI markiert Texte in der EU, beschränkt aber den Zugang zum Detektor

OpenAI wird in den kommenden Wochen geeignete Textausgaben von ChatGPT und Codex in der Europäischen Union mit einem unsichtbaren Wasserzeichen versehen. API-Kunden weltweit können die Funktion für ausgewählte Modelle bereits aktivieren, in der API bleibt sie jedoch standardmäßig ausgeschaltet.

EU-Nutzer erhalten die Markierung automatisch, API-Entwickler wählen sie selbst

Das Unternehmen führt unterschiedliche Regeln für Verbraucherprodukte und die API ein. Ausgewählte Ausgaben von ChatGPT und Codex werden in der EU in allen Tarifen markiert. In der API ist das Wasserzeichen für ausgewählte Modelle weltweit optional.

Das Wasserzeichen verändert das statistische Muster der Wortwahl und nicht das Aussehen eines Dokuments. OpenAI nennt die Technik textGrain. Der Detektor kann anzeigen, dass ein OpenAI-System einen Teil des Textes erzeugt oder verarbeitet hat. Er identifiziert jedoch weder den Nutzer noch den menschlichen Anteil, die Eigentumsverhältnisse oder den Wahrheitsgehalt.

Eine verpflichtende Spur mit beschränktem Lesegerät verschiebt die Macht

Organisationen können Zugang zum Detektor beantragen, zunächst erhalten ihn aber nur zugelassene Forschende und Fachorganisationen. Die Kontrolle über das Lesen der Markierung liegt damit bei einer kleineren Gruppe als ihre Anwendung. Eine Schule, Redaktion oder ein Arbeitgeber kann die Herkunft bewerten wollen, während gewöhnliche Nutzer das Ergebnis nicht selbst prüfen können.

Diese Governance-Frage ist wichtiger als der technische Mechanismus allein. Ein Herkunftsnachweis kann Streit über Urheberschaft beeinflussen und braucht daher klare Regeln für Zugang, Widerspruch und unsichere Ergebnisse. Artikel 50 des AI Act erzeugt Druck für maschinenlesbare Markierungen, schafft aber nicht automatisch ein faires Verfahren rund um das Signal.

Bearbeitung schwächt das Signal und ein negatives Ergebnis beweist wenig

Der technische Bericht von OpenAI zeigt, dass die Zuverlässigkeit von Textlänge und Bearbeitung abhängt. In einem Test erreichte die Erkennung bei einer angestrebten Falsch-Positiv-Rate von 1 % etwa 80 % bei 200 Token und 95 % bei 400 Token. Bei einem Text mit 400 Token sank die Erkennung nach dem Ersetzen von 25 % der Wörter durch Synonyme auf ungefähr 17 %.

Das Wasserzeichen kann deshalb einen disziplinarischen oder arbeitsrechtlichen Streit nicht allein entscheiden. Übersetzung, Paraphrasierung und normale redaktionelle Arbeit können die Spur schwächen. Ein negatives Ergebnis belegt außerdem keinen menschlichen Ursprung.

Unabhängige Tests und Einspruchsregeln entscheiden über den Nutzen

Entscheidend wird sein, wer tatsächlich Zugang zum Detektor erhält, ob externe Forschende die Ergebnisse des Unternehmens reproduzieren können und wie Institutionen strittige Befunde behandeln. Ebenso wichtig ist die Leistung in verschiedenen Sprachen, nach Übersetzungen und nach gewöhnlicher redaktioneller Bearbeitung.

Die europäische Pflicht bringt eine Spur in den Text. Vertrauen entsteht erst, wenn Menschen neben dem Detektorergebnis auch dessen Unsicherheit und einen Weg zum Widerspruch sehen.

Liliths Urteil

Das Wasserzeichen kann in der Arbeit jedes europäischen Studierenden landen, während der Leseschlüssel hinter dem Schalter von OpenAI bleibt. Wer Stempel verteilt, muss auch zeigen, wie Betroffene einem fehlerhaften Abdruck widersprechen können.