textGrain wykrywa długi tekst, ale 25 % zmian obniża wynik do 17 %

OpenAI w ciągu kilku tygodni wprowadzi w UE niewidzialny watermark textGrain do kwalifikujących się tekstów z ChatGPT i Codexu we wszystkich planach. Technologia wpływa na dobór słów tak, aby w tekście pozostał sygnał statystyczny. Klienci API na całym świecie mogą ją włączyć dla wybranych modeli, ale firma nie ustawia jej globalnie jako opcji domyślnej.

Detektor nie będzie publiczny przy starcie. Dostęp mogą uzyskać zatwierdzeni badacze i organizacje eksperckie po indywidualnej ocenie. Narzędzie informuje jedynie, czy wykryło watermark OpenAI. Nie ma ujawniać użytkownika, promptu ani rozmowy.

UE dostaje oznaczenie, a reszta świata opcjonalny przełącznik

Regionalne wdrożenie odpowiada na przepisy UE dotyczące maszynowo czytelnego oznaczania treści generowanych. OpenAI pozostawia watermark w API jako dobrowolną opcję dla wybranych modeli i planuje udostępnić go również przez partnerów chmurowych.

Firma twierdzi, że textGrain dorównał lub przewyższył inne testowane rozwiązania, w tym SynthID for text. W opublikowanych benchmarkach nie stwierdziła istotnej różnicy jakości między tekstem oznaczonym i zwykłym.

Dłuższy i swobodniejszy tekst daje detektorowi więcej sygnału

Przy docelowym poziomie wyników fałszywie dodatnich równym 1 % detektor rozpoznał watermark w około 80 % odpowiedzi z psychologii o długości 200 tokenów i w 95 % odpowiedzi o długości 400 tokenów. Dla matematyki wyniki były wyraźnie gorsze, ponieważ model ma mniej swobody w doborze słów.

To wyznacza praktyczne zastosowanie. Watermark może pomóc dostawcy wykazać, że dłuższy i lekko zredagowany tekst pochodzi z obsługiwanego modelu. Nie ustala autora, poprawności treści, udziału człowieka ani własności tekstu.

Zwykła redakcja rozbiera ślad statystyczny

W teście na fragmentach długości 400 tokenów zastąpienie 10 % słów synonimami obniżyło wykrywalność z około 92 % do 66 %. Po zmianie 25 % słów zostało 17 %. Tłumaczenie, skracanie i głębsze przeredagowanie mogą osłabić sygnał na inne sposoby.

Wynik negatywny nie dowodzi więc ludzkiego autorstwa. Wynik pozytywny również nie jest wyrokiem wobec człowieka, bo OpenAI wyraźnie ostrzega przed rezultatami fałszywie dodatnimi i fałszywie ujemnymi. Ograniczony dostęp do detektora zmniejsza część ryzyka nadużyć, ale utrudnia niezależną kontrolę w zwykłej szkole, redakcji lub firmie.

O wartości zdecyduje obsługa niepewności, a nie sama pieczęć

Najważniejsze będzie to, jak zatwierdzone organizacje przedstawią wynik, długość badanego tekstu i granice wiarygodności. Bez tego kontekstu odpowiedź binarna może łatwo zamienić słaby sygnał statystyczny w bezpodstawne oskarżenie.

OpenAI zapowiada uzupełnienie raportu technicznego i późniejsze udostępnienie technologii jako open source. Dopiero powtarzalne testy w różnych językach, dziedzinach, tłumaczeniach i rzeczywistych procesach redakcyjnych pokażą, czy textGrain stanie się interoperacyjną warstwą provenance, czy głównie regulacyjną etykietą na nietkniętym tekście.

Werdykt Lilith

Tekst przechodzi przez dwóch redaktorów, a sygnał kurczy się z 92 % do 17 %. Kto robi z takiego śladu pieczątkę winy, myli laboratoryjny odcisk z dowodem osobistym autora.