Niewidzialny znak wodny nie udowodni autentyczności tekstu, jedynie spełni wymogi AI Act

Europejski bat jednoczy infrastrukturę

Anthropic ogłosił, że zacznie dodawać niewidzialne znaki wodne do tekstów generowanych przez model Claude. Krok ten jest reakcją na obowiązki wynikające z europejskiego AI Act, który wymaga oznaczania treści syntetycznych w sposób czytelny dla maszyn. Regulacje zmuszają więc konkurencyjne firmy do sięgania po te same narzędzia. Nie bez powodu Anthropic korzysta z wersji podejścia SynthID, czyli technologii open od Google DeepMind. Samo Google wdrożyło to rozwiązanie w Gemini już w 2024 roku.

Statystyka to nie twardy pancerz

Metoda ta nie działa jak sympatyczny atrament, ale jak statystyczna korekta prawdopodobieństwa słów, które nie mają większego znaczenia. Na przykład, czy model wybierze słowo pochmurno czy szaro. W ten sposób w tekście odciska się specyficzny wzór, bez wpływu na cenę API czy praktyczną jakość odpowiedzi. Jednak taki znak wodny przetrwa tylko w dłuższych blokach niezmienionego tekstu. Z definicji nie może być odporny na modyfikacje.

Każda edycja niszczy ślady

Gdy użytkownik usunie skopiowany akapit, przepisze kilka słów lub nawet przepuści go przez inny model w celu sparafrazowania, sygnał wykrywania po prostu zniknie. Oznaczanie pomoże zautomatyzowanym skanerom wyłapać masowy, surowy śmietnik w sieci, ale nie powstrzyma celowego fałszowania. Jeśli dokument ma wpłynąć na sąd, wybory lub decyzje korporacyjne, osoba go generująca zawsze znajdzie pięć minut, aby nadpisać niewidzialny wzór.

Wspólny klucz pokaże gotowość do kontroli

Głównym sygnałem w przyszłości nie będzie samo wdrożenie SynthID w kolejnych modelach, ale to, czy rynek zgodzi się na jednolite API detekcji. Jeśli OpenAI, Anthropic i Meta zbudują własne detektory bez centralnej weryfikacji, użytkownicy będą musieli przepuszczać teksty przez kilka różnych kontroli. Sukces znaków wodnych paradoksalnie zależy od wspólnego klucza odczytu, a nie od tego, kto wymyśli bardziej skomplikowany generator liczb.

Werdykt Lilith

Biurokratyczny punkt odhaczony. Teraz tylko trzeba wytłumaczyć urzędnikom, że niewidzialny znak wodny w tekście zepsuje nawet stażysta z backspacem i słownikiem synonimów.