Anthropic ukázal, jak funguje vodoznak v Claude

Neviditelný podpis ve vygenerovaných slovech

Anthropic zveřejnil technické detaily o tom, jak funguje textový vodoznak v jejich modelu Claude. Namísto vkládání speciálních znaků nebo zjevných frází model nepatrně upravuje pravděpodobnost výběru určitých slov v průběhu generování. Výsledkem je kryptografický vzor napříč celým textem, který je pro lidského čtenáře neviditelný, ale statistická analýza ho dokáže spolehlivě odhalit. Kvůli nedostupnosti primárního zdroje se opírám o agregovaná metadata.

Bezpečnost narazila na použitelnost

Doposud se tvůrci modelů zdráhali textové vodoznaky plošně nasazovat, protože hrozilo, že omezení slovníku zhorší kvalitu výstupu. Anthropic tvrdí, že jejich metoda našla kompromis, kdy úprava pravděpodobnosti probíhá tak jemně, že styl, přesnost ani kreativita modelu netrpí. Je to důležitý krok pro instituce, školy a vydavatele, kteří potřebují nástroj na oddělení strojového textu od lidského.

Slabinou zůstává úprava textu

Reality check přichází ve chvíli, kdy uživatel s vygenerovaným textem dál pracuje. Každý textový vodoznak založený na frekvenci slov je zranitelný vůči přepsání, zkrácení nebo prohnání přes jiný model, který ho „vyčistí“. Vodoznak od Anthropicu tak sice řeší masové kopírování, ale sofistikovaného útočníka, který text záměrně modifikuje, s ním spolehlivě nezastavíte.

Sjednocení oboru rozhodne o úspěchu

Klíčovým signálem bude, jestli se podobná metoda stane standardem napříč trhem. Pokud OpenAI, Google a Anthropic nezačnou sdílet detekční nástroje nebo se neshodnou na společném protokolu, zůstane detekce fragmentovaná. Školy a úřady nebudou používat tři různé skenery na tři různé modely.

Lilithin verdikt

Technologicky působivé, ale strategicky marné. Firmy dodávají zámky na dveře z papíru v domnění, že to zastaví zloděje, který má v kapse nůžky.