OpenAI oznaczy teksty w UE, lecz dostęp do detektora będzie przyznawać na wniosek

OpenAI w najbliższych tygodniach zacznie dodawać niewidoczny watermark do kwalifikujących się wyników tekstowych ChatGPT i Codexu w Unii Europejskiej. Klienci API na całym świecie mogą już włączyć go dla wybranych modeli, lecz w API funkcja pozostaje domyślnie wyłączona.

Użytkownik w UE dostanie oznaczenie automatycznie, a deweloper API opcjonalnie

Firma wprowadza dwa różne tryby dla produktów konsumenckich i API. Wybrane wyniki ChatGPT i Codexu w UE będą oznaczane we wszystkich planach. W API watermark jest globalną opcją dla wybranych modeli.

Watermark zmienia statystyczny wzorzec doboru słów, a nie wygląd dokumentu. OpenAI nazywa tę technologię textGrain. Detektor może wskazać, że system OpenAI wygenerował lub przetworzył część tekstu, lecz nie ustali użytkownika, udziału pracy człowieka, własności ani prawdziwości treści.

Obowiązkowy ślad z ograniczonym dostępem do odczytu przesuwa władzę

O dostęp do detektora można się ubiegać, ale początkowo otrzymają go tylko zatwierdzeni badacze i organizacje eksperckie. Odczyt oznaczenia znajdzie się więc w rękach węższej grupy niż ludzie, których teksty będą znakowane. Szkoła, redakcja lub pracodawca mogą chcieć oceniać pochodzenie tekstu, podczas gdy zwykły użytkownik sam nie sprawdzi wyniku.

Ta kwestia zarządzania jest ważniejsza niż sam mechanizm watermarku. Narzędzie do ustalania pochodzenia może wpływać na spory o autorstwo, dlatego wymaga jasnych zasad dostępu, odwołania i postępowania z niepewnym wynikiem. Artykuł 50 AI Actu wywiera presję na oznaczenia czytelne maszynowo, ale nie tworzy automatycznie uczciwej procedury wokół nich.

Redakcja osłabia sygnał, a wynik ujemny niewiele dowodzi

Raport techniczny OpenAI pokazuje, że skuteczność zależy od długości tekstu i skali zmian. W jednym teście, przy docelowym odsetku wyników fałszywie dodatnich wynoszącym 1 %, wykrywalność sięgała około 80 % dla 200 tokenów i 95 % dla 400 tokenów. W tekście liczącym 400 tokenów zastąpienie 25 % słów synonimami obniżyło ją do około 17 %.

Sam watermark nie powinien więc rozstrzygać sporu dyscyplinarnego ani pracowniczego. Tłumaczenie, parafraza i zwykła redakcja mogą osłabić ślad. Wynik ujemny nie potwierdza też, że tekst napisał człowiek.

Niezależne testy i zasady odwołania przesądzą o użyteczności

Warto obserwować, komu OpenAI faktycznie przyzna dostęp, czy niezależni badacze powtórzą wyniki firmy oraz jak instytucje będą rozpatrywać sporne wskazania. Liczyć się będzie również skuteczność w różnych językach, po tłumaczeniu i po zwykłej pracy redakcyjnej.

Europejski obowiązek doda do tekstu ślad. System zasłuży na zaufanie dopiero wtedy, gdy człowiek zobaczy nie tylko werdykt detektora, lecz także poziom niepewności i drogę odwołania.

Werdykt Lilith

Watermark może trafić do pracy każdego europejskiego studenta, a klucz do jego odczytu zostanie za ladą OpenAI. Kto rozdaje pieczątki, powinien też pokazać, jak odwołać się od błędnego odbicia.