Anthropic włącza znaki wodne dla wszystkich. Okazuje się, że niewidoczny tekst jest za darmo

Anthropic po cichu zaczęło wdrażać znaki wodne w tekstach generowanych przez modele Claude. Krok wiąże się z unijnym kodeksem postępowania, ale firma nie ogranicza go do ruchu z Europy. Nie chce rozróżniać źródeł zapytań, a koszt krańcowy znakowania jest bliski zeru.

Podpis powstaje podczas wyboru tokenów

Metoda opracowana przez Scotta Aaronsona i Hendrika Kirchnera wykorzystuje losowość już obecną podczas generowania. Model nadal określa prawdopodobieństwo kolejnych tokenów, ale ich wyborem kieruje pseudolosowe źródło wyprowadzone z tajnego klucza. Przy odpowiednio długim tekście można obliczyć, jak dobrze wybory pasują do tego źródła, bez praktycznej zmiany wyniku.

Google sprawdził wpływ na próbie 20 milionów przypadków

Google wdraża tę samą zasadę od 2024 roku i udostępnia również publiczny detektor. W badaniu na próbie 20 milionów przypadków nie odnotował różnicy w opiniach użytkowników. Wspiera to tezę, że podpis nie musi obniżać jakości tekstu ani satysfakcji odbiorców.

Przepisanie tekstu osłabia ślad

Wykrywanie wymaga odpowiednio długiej próbki, a warstwa nie jest niezniszczalna. Przepisanie treści własnymi słowami może ją usunąć, natomiast częściowo zachowany tekst niesie podpis proporcjonalny do liczby pozostawionych wyborów. Anthropic zapowiada udostępnienie API do weryfikacji.

Nowy standard dla przyszłych modeli

Główne zachodnie laboratoria AI podpisały kodeks postępowania, który przewiduje podobne oznaczanie przyszłych modeli. Anthropic nie jest więc odosobnionym eksperymentem, lecz pierwszym widocznym elementem szerszego zobowiązania, które Google już realizuje, a OpenAI również deklaruje wypełnić.

Werdykt Lilith

Sam znak wodny nie wyprodukuje zaufania. Dopóki Anthropic nie udostępni zapowiadanego API do weryfikacji, ludzie będą widzieć jedynie podpis, który potrafi odczytać jego autor.