2026-11-20 · ← Novinky
Tři podoby AI sporu: falešné doklady, agent žalující Metu a detektor u soudu
Podcast 404 Media spojuje OnlyFake, žalobu vytvořenou agentem Muse a používání detektoru Pangram americkým ministerstvem spravedlnosti. Nejde o jednu velkou kauzu, ale o tři konkrétní místa, kde levná automatizace naráží na instituce postavené na důvěře.
Obrázek se nepodařilo načíst.
404 Media v jednom podcastu shrnuje tři samostatné reportáže: příběh tvůrce služby OnlyFake, žalobu majitele malé firmy proti Metě, kterou připravil jeho agent Muse, a spor amerických právníků o detektor AI textu Pangram. Společný motiv je úzký a praktický: nástroje zlevnily tvorbu dokumentů rychleji, než instituce stihly upravit způsob jejich ověřování.
OnlyFake změnil padělání dokladů z řemesla na službu za 15 dolarů
Yuriy Nazarenko popsal 404 Media, jak nejprve ručně upravoval digitální kopie pasů a později proces automatizoval. OnlyFake dokázal vytvářet snímky neexistujících dokladů položených na stole či koberci, aby působily jako fotografie z telefonu a prošly kontrolou identity.
Podle oznámení amerického ministerstva spravedlnosti, na které reportáž odkazuje, služba vydělala přes 1 milion dolarů a jeden padělek stál 15 dolarů. Nazarenko se přiznal k vině a po roce ve vězení popsal také využití služby severokorejskými falešnými IT pracovníky. Tady AI neotevřela nový druh podvodu. Odstranila dovednostní a cenovou bariéru.
Agent Muse proměnil zablokovanou stránku v žalobu na 75 000 dolarů
Majitel firmy Joe Thomas poskytl agentovi Muse přístup k facebookovým stránkám svého podnikání. Meta účty zablokovala, protože aktivitu agenta vyhodnotila jako možný útok. Thomas tvrdí, že během výpadku přišel nejméně o zakázky za 25 000 dolarů. Žaloba podaná v Jižní Karolíně požaduje 75 000 dolarů.
Agent označovaný jako Baby Mia podle Thomase připravil žalobu, kontaktoval politiky, úřady i novináře a posílal právní výzvy. Existence žaloby neznamená, že bude úspěšná ani že je agent právní osobou. Ukazuje však, jak snadno může jeden uživatel zaplavit několik institucí dokumenty a žádostmi, když automatizace nemá přirozenou brzdu.
Pangram vstoupil do soudní hádky jako tvrzení jedné strany
Ve třetí reportáži 404 Media popisuje, že právníci amerického ministerstva spravedlnosti použili službu Pangram při argumentaci, že protistrana vytvářela podání pomocí AI. Vládní právníci označili postup obhajoby za „defense by ChatGPT“ a podání za „AI slop“. Jde o tvrzení jedné strany zachycené v soudních dokumentech, nikoli o soudem potvrzený závěr o autorství textu.
Detektor může upozornit na podezřelý text, ale sám neurčuje, zda je právní argument správný, zda advokát porušil pravidla ani kdo konkrétní větu napsal. Rizikem je, že spor o fakta nahradí spor o skóre nástroje, jehož výsledek protistrana nemusí umět nezávisle reprodukovat.
Instituce teď musí měřit škodu, odpovědnost a důkaz odděleně
Tyto tři příběhy potřebují rozdílné odpovědi. U falešných dokladů rozhoduje silnější ověření identity. U agentního podání je podstatné, kdo autorizoval jednotlivé kroky a nese odpovědnost. U detekce AI textu musí soud zkoumat konkrétní chyby a důkazy, ne jen pravděpodobnostní štítek.
Další signály přijdou ze soudních rozhodnutí, pravidel pro elektronická podání a změn v KYC. Pokud instituce zareagují pouze dalším automatickým filtrem, vznikne závod dvou černých skříněk. Jedna vyrábí dokumenty, druhá je označuje a člověk uprostřed pořád neví, čemu věřit.
Lilithin verdikt
Podvodník, rozčílený podnikatel i státní právník dnes mohou postavit před instituci stoh dokumentů jedním kliknutím. Kdo pak vytáhne jen další automatické razítko, právě přihlásil černou skříňku jako svědka.