← Biblioteka · Pojęcie
Znaki wodne w tekście AI — możliwości i ograniczenia
Niewidoczne sygnały statystyczne w wyjściach AI mogą wspierać ustalanie pochodzenia tekstu, lecz nie dowodzą autorstwa ani nie klasyfikują niezawodnie każdego tekstu ludzkiego i maszynowego.
Czym jest znak wodny w tekście AI?
Znak wodny w tekście nie jest ukrytym znakiem ani tajnym zdaniem. W jednej ze znanych konstrukcji model podczas generowania nieznacznie faworyzuje tokeny ze zbioru wyprowadzonego z tajnego klucza i poprzedzającego tekstu. Detektor sprawdza następnie, czy takie tokeny występują częściej, niż wynikałoby to z przypadku. Jest to sygnał statystyczny wytworzony przez uczestniczący model, a nie uniwersalny test każdego tekstu w internecie. Opis metody
Przykład: redakcja może sprawdzić, czy niezmieniony szkic utworzony przez jej własne narzędzie zawiera oczekiwany sygnał. Wynik dodatni wspiera ustalenie pochodzenia tego wyjścia. Sam w sobie nie wskazuje jednak autora, nie pokazuje, czy człowiek redagował szkic, ani nie dowodzi, że tekst bez sygnału nie powstał z pomocą AI.
Gdzie sygnał słabnie
Wynik zależy od zastosowanego schematu, długości próbki i skali zmian. Badania opisują schematy, które mogą zachować wykrywalny ślad po parafrazie, jeśli dostępna jest wystarczająca ilość tekstu; parafraza i włączenie fragmentu do innego tekstu osłabiają jednak sygnał. Badanie odporności
Inny test obciążeniowy wykazał, że wielokrotna parafraza może istotnie obniżyć skuteczność wykrywania w różnych podejściach, także opartych na znakach wodnych. Opisano też ataki, które mogą błędnie oznaczyć tekst człowieka jako wygenerowany przez maszynę. Test detektorów Znak wodny nie powinien więc stanowić jedynej podstawy kary ani automatycznej decyzji o pochodzeniu treści.
Co można z niego wywnioskować
Znak wodny jest najbardziej użyteczny jako wąsko określony dowód, że konkretny system mógł wygenerować konkretny, dostatecznie długi i mało zmieniony tekst. Odpowiedzialne użycie wymaga wskazania systemu, detektora oraz znaczenia wyniku dodatniego i ujemnego. Bez tych warunków sygnał techniczny łatwo zmienia się w nieprecyzyjną etykietę „tekst AI”.