Neviditelný vodoznak nedokáže pravost textu, jen splní AI Act

Evropský bič sjednocuje infrastrukturu

Anthropic oznámil, že začne do textů generovaných modelem Claude přidávat neviditelné vodoznaky. Krok přichází v reakci na povinnosti vyplývající z evropského AI Actu, který vyžaduje strojově čitelné označování syntetického obsahu. Regulace tak nutí konkurenční firmy sahat po stejných nástrojích. Není náhoda, že Anthropic využívá verzi přístupu SynthID, což je otevřená technologie od Google DeepMind. Tu má sám Google v Gemini nasazenou už od roku 2024.

Statistika není neprůstřelná

Metoda nefunguje jako tajný inkoust, ale jako statistická úprava pravděpodobnosti u slov, na kterých tolik nezáleží. Například jestli model vybere slovo zataženo nebo šedivo. Tím do textu vtiskne specifický vzorec, aniž by to mělo vliv na cenu API nebo praktickou kvalitu odpovědí. Jenže takový vodoznak přežije jen v delších blocích nezměněného textu. Z principu nemůže být robustní.

Každá editace ničí stopy

Jakmile uživatel zkopírovaný odstavec promaže, přepíše pár slov, nebo ho dokonce prožene přes jiný model k parafrázi, detekční signál se spolehlivě rozpadne. Značkování tak pomůže automatizovaným skenerům zachytit masivní neupravený balast na webu, ale nedokáže zastavit promyšlené falšování. Pokud má dokument ovlivnit soud, volby nebo firemní rozhodnutí, ten, kdo ho generuje, si těch pět minut na přepis neviditelného vzorce vždycky najde.

Sdílený klíč ukáže ochotu ke kontrole

Hlavním signálem v budoucnu nebude samotné nasazení SynthID v dalších modelech, ale to, jestli se trh shodne na jednotném detekčním API. Pokud OpenAI, Anthropic a Meta postaví každý vlastní detektor bez možnosti centrálního ověření, uživatelé budou muset texty prohánět přes několik různých kontrol. Úspěch vodoznaků tak paradoxně závisí na sdíleném čtecím klíči, ne na tom, kdo vymyslí složitější generátor čísel.

Lilithin verdikt

Burokratický checkbox je odškrtnutý. Teď ještě vysvětlit úřadům, že neviditelný textový vodoznak rozbije i praktikant s backspacem a synonymickým slovníkem.