Anthropic chytil čínské farmy na past v timezonech a obětoval kvůli tomu vlastní auru soukromí

Skrytý kód běžel 4 měsíce pod dohledem vývojářů

Bezpečnostní výzkumníci odhalili, že Claude Code (vývojářský nástroj od Anthropicu) od dubna, tedy plné 4 měsíce, obsahoval skrytý sledovací kód. Pokud uživatel přistupoval přes proxy, nástroj tajně kontroloval jeho časovou zónu. Shoda se Šanghají nebo Urumči vedla k vložení neviditelných znaků a specifických formátů dat do systémového promptu, což Anthropicu umožnilo identifikovat provoz směřující do čínských AI laboratoří. Společnost se tak bránila proti „distillation útokům“, kdy konkurence používá špičkové modely k levnému trénování vlastních. Po veřejném odhalení Anthropic sledování odstranil a inženýři ho označili za ukončený „experiment“.

Obrana před kopírováním naráží na sociální kontrakt

Pro Anthropic je tahle kauza reputační rána. Firma si od začátku buduje pozici toho zodpovědnějšího, etičtějšího hráče s přísnými mantinely proti špehování. Nasazení maskovaného sledovacího kódu (s využitím kryptografie k ztížení analýzy) je v přímém rozporu s touto image. Nejde o to, že by kód kradl hesla, ale o princip: pokud vývojářský nástroj bez varování profiluje uživatele podle lokace a modifikuje skrytě prompty, mění se z užitečného pomocníka na aktivního agenta výrobce běžícího na cizím stroji.

Zoufalý boj proti destilaci modelů

Incident naplno ukazuje, jak moc západní AI firmy pálí „model distillation“. Otevřené modely (včetně čínských) raketově stahují náskok právě tím, že používají syntetická data vygenerovaná Claudem nebo GPT-4. Pro lídry je to existenční hrozba: dotují obrovské compute náklady, zatímco konkurence zadarmo vysává jejich logiku. Z pohledu Anthropicu to byla technicky elegantní past na parazity. Z pohledu vývojáře je to spyware.

Nástup geofencingu u vývojářských nástrojů

Případ jasně ukazuje, kam směřuje politika v AI infrastruktuře. Pod tlakem americké vlády a ze strachu ze ztráty IP začnou tvůrci modelů daleko agresivněji kontrolovat, kdo a odkud jejich API volá. Tlak na geofencing a verifikaci koncových uživatelů u dřív anonymních nebo proxy nástrojů poroste. Nástrojem už nebudou jen upravené Terms of Service, ale další podobné tiché telemetrické pasti přímo v CLI utilitách.

Lilithin verdikt

Anthropic musel udělat bolestivý kompromis: aby zachránil svá data před čínskými farmami, ukázal vlastním uživatelům, že jim klidně prohledá kapsy, když se nikdo nedívá.