OpenAI markiert Texte in der EU, hält den Detektor aber unter Verschluss

OpenAI reagiert auf die Transparenzpflichten aus Artikel 50 des EU AI Act. In den kommenden Wochen versieht das Unternehmen geeignete Textausgaben von ChatGPT und Codex in allen Tarifen innerhalb der EU mit einem unsichtbaren Watermark. Global wird dies keine Standardeinstellung. API Kunden weltweit können die Markierung für ausgewählte Modelle einschalten, doch in der API bleibt sie standardmäßig deaktiviert.

textGrain verändert die Wortwahl statt das Dokument

Die Technologie namens textGrain bettet während der Generierung ein statistisches Signal in die Wortwahl ein. Ein Detektor mit demselben geheimen Schlüssel prüft anschließend, ob ein Text dieses Muster enthält. Leser sehen die Markierung nicht. Es handelt sich weder um versteckte Zeichen noch um Metadata, die beim Kopieren verschwinden.

OpenAI nimmt außerdem Bewerbungen für den Zugang zum Detektor an. Zunächst erhalten ihn nur zugelassene Forscher und Fachorganisationen nach Einzelfallprüfung. Das Werkzeug meldet, ob es ein OpenAI Watermark erkennt. Es identifiziert keine Nutzer und legt weder Prompts noch Gespräche offen. Das Unternehmen plant zudem eine Veröffentlichung als Open Source.

Die europäische Vorschrift schafft eine Markierung ohne öffentlichen Leser

Für Nutzer in der EU ändert sich die Texterzeugung, ohne dass ein öffentliches Prüfwerkzeug verfügbar ist. API Entwickler erleben die umgekehrte Situation: Sie können die Funktion weltweit aktivieren, doch sie bleibt standardmäßig aus. Dieser Unterschied trennt die Pflichterfüllung in OpenAIs eigenen Produkten von einem Werkzeug, das ein API Kunde selbst korrekt konfigurieren muss.

Ein Watermark kann lediglich anzeigen, dass ein OpenAI System einen Teil des Textes erzeugt oder verarbeitet hat. Es belegt weder Urheberschaft noch menschlichen Anteil, Eigentum oder Wahrheit. Ein negatives Ergebnis beweist ebenfalls keine menschliche Autorschaft.

Bearbeitung zerstört das Signal schneller als die Bedeutung

In von OpenAI veröffentlichten Tests mit einer angestrebten False Positive Rate von 1 % lag die Erkennung bei rund 80 % für Texte mit 200 Token und 95 % für 400 Token in einem Satz psychologischer Antworten. In einem Bearbeitungstest mit 400 Token fiel sie von etwa 92 % auf 66 %, nachdem 10 % der Wörter durch Synonyme ersetzt worden waren. Bei 25 % ersetzten Wörtern sank sie auf 17 %.

Das ist eine erhebliche Einschränkung für Schulen, Redaktionen und Moderationssysteme. Übersetzung, Paraphrase oder normale redaktionelle Arbeit können das Signal schwächen, während ein False Positive einer Person schaden kann, die den Text tatsächlich geschrieben hat. OpenAI begründet den Verzicht auf einen öffentlichen Detektor zum Start mit dem Risiko übersehener Markierungen und falscher Treffer.

Unabhängige Tests entscheiden über die Beweiskraft

Drei Signale werden wichtig: wie textGrain Übersetzungen und alltägliche Bearbeitung übersteht, welche Organisationen tatsächlich Zugang zum Detektor bekommen und ob die Open Source Veröffentlichung eine unabhängige Reproduktion der Firmenergebnisse erlaubt. Eine erkannte Markierung kann Provenance stützen, reicht aber nicht als alleiniger Beleg in einem Streit um einen Studenten, Mitarbeiter oder Autor.

Die Regulierung zwingt Anbieter, eine maschinenlesbare Spur in generierten Text einzubauen. Nun muss die Praxis zeigen, ob sie zuverlässig und fair genug gelesen werden kann, um mehr als ein Haken im Compliance Formular zu sein.

Liliths Urteil

OpenAI schreibt mit unsichtbarer Tinte auf europäische Texte und verleiht die Lupe nur an ausgewählte Labore. Eine Markierung ohne zuverlässig verfügbaren Leser schützt Compliance besser als einen Menschen, dem Täuschung vorgeworfen wird.