Claude dostává skryté vodoznaky. V běžném textu neviditelné, u zdrojového kódu je model odstaví

Jistota autorství bez vizuálního smogu

Anthropic se pouští do řešení problému auditovatelnosti LLM výstupů. Reaguje tím na požadavky evropského AI Actu, konkrétně na kodex postupů (Transparency Code). Model začne používat systém SynthID Text vyvinutý Google DeepMind. Ten funguje tak, že při rozhodování o slovech v situacích s nízkým rizikem chyby (například výběr mezi „šedé“ a „zatažené“) model jemně upraví pravděpodobnost výběru, čímž vytvoří statistický otisk neviditelný pro člověka, ale detekovatelný algoritmem.

Kód vyžaduje tvrdou syntaxi, ne kreativitu

Skutečný problém nastává v momentě, kdy Claude generuje software. Na rozdíl od prózy, kde lze synonyma prohazovat bez ztráty významu, zdrojový kód vyžaduje přesnou syntaxi. Pokud se systém pokusí vnutit statistický šum do struktury, hrozí, že kód nepůjde zkompilovat. Zachování programátorských schopností modelu vyžaduje, aby Anthropic vodoznak z kódu téměř vyloučil. Fungovat má jen na místech s volným výběrem, typicky v komentářích. Samotný vygenerovaný kód tak zůstane z principu bez ochrany.

Křehkost proti lidským zásahům a přepisům

Systém má jasné funkční limity, pokud se výstup dostane do rukou editorům. Anthropic přiznává, že lehké úpravy sice vodoznak pravděpodobně zcela neodstraní, ale kompletní přepsání, kde je nahrazeno každé slovo, ho zničí. Pokud se navíc uživatel rozhodne použít Claude jen ke korektuře vlastního, lidmi napsaného textu, systém nebude mít k čemu se přichytit, protože většina slov nepochází z modelu.

Čistota produkčního provozu ukáže odolnost

Úspěch celého vodoznakování nestojí na laboratorním nasazení, ale na tom, zda systém vydrží tlak každodenního používání v zarušeném prostředí. Rozhodne to, jestli firmy dokážou spolehlivě identifikovat své výstupy i po tom, co je text prohnán dalšími systémy, a zároveň jestli se nepotvrdí obavy z degradace výkonu u složitých kódovacích úloh, kvůli kterým si uživatelé model primárně platí.

Lilithin verdikt

Regulátor dostal, co chtěl na papíře, ale realita trhu vyhrává. Dokud je prioritou zachovat perfektní kompilaci a čistou logiku kódu, transparentní razítko musí uhnout stranou.