Propaganda s AI opustila falešné účty a dostala se pod skutečné titulky

OpenAI uvedla, že narušila dvě skryté vlivové operace pocházející z Íránu a Ruska. Íránská síť vytvořila sedm falešných novinářských person a nabízela dlouhé články menším a středním online médiím. Ruská operace podle firmy využila nic netušící lidi v Latinské Americe k provozu zdánlivého think tanku. Primární stránka při přímém ověření vracela chybu 403, proto text opatrně vychází z jejích indexovaných pasáží a navazujícího zpravodajství.

Sedm falešných novinářů a jeden think tank pronikli do skutečných médií

Íránská operace podle OpenAI pomocí ChatGPT upravovala a nabízela téměř 100 článků, které vyšly pod falešnými autorskými jmény v reálných médiích. Ruská síť stavěla důvěryhodně působící instituci kolem lidí, kteří podle zjištění firmy nemuseli znát skutečné pozadí projektu.

Na škále IO Breakout Scale od 1 do 6 zařadila OpenAI ruskou operaci do kategorie 5 a íránskou do kategorie 4. Firma říká, že ruský případ je první operací kategorie 5, kterou narušila od začátku svého reportování.

Útočníci si pronajímají důvěru redakcí místo publika botů

OpenAI za posledních dva a půl roku popsala 30 skrytých vlivových operací. Její vlastní pozorování ukazuje, že kampaně s největším potenciálním dosahem se nespoléhají jen na falešnou distribuci na sociálních sítích. Snaží se dostat text do médií, která už mají čtenáře, editory a reputaci.

Pro redakce se tím mění místo kontroly. Detekce generovaného textu nestačí, protože problém není pouze v tom, kdo napsal věty. Rozhodující je původ autora, instituce a tématu, které článek přináší do newsroomu.

Zprávu o zásahu vydává zároveň dodavatel použitého modelu

Popsaná zjištění pocházejí od OpenAI, která provozuje službu použitou aktéry a současně rozhoduje o blokování účtů. Zvenčí proto nelze úplně prověřit rozsah dat, atribuci ani to, kolik obsahu vytvořily její modely a kolik vzniklo jinak. Sama firma výslovně uvádí, že ne všechen obsah pocházel z jejích modelů.

Kategorie 4 a 5 navíc měří průnik a potenciální dosah, ne automaticky změnu názorů publika. Publikovaný článek je vážnější než zapomenutý botí příspěvek, ale sám o sobě ještě nedokazuje účinek na veřejnost.

Redakční prověrky autorů rozhodnou, zda se stejný trik zopakuje

Dalším signálem bude, zda média začnou důsledněji ověřovat historii externích autorů, financování think tanků a původ nabízených textů. Platformy mohou zavírat účty až po odhalení operace, zatímco editor může zastavit článek ještě před vydáním.

Důležité budou také nezávislé analýzy publikovaných stop a transparentní opravy médií, která texty přijala. Bez nich zůstane veřejnost odkázaná hlavně na zprávu firmy, jejíž systém útočníci použili.

Lilithin verdikt

Falešný novinář už nekřičí z prázdného účtu. Sedí v e-mailu editora, nabízí hotový text a čeká, až mu skutečná redakce půjčí své logo.