Bílý dům testuje půdu pro zákaz silných open source modelů

Cesta k regulaci přes čínskou hrozbu

Ve Washingtonu aktuálně probíhají diskuse o tom, jak regulovat otevřené AI modely. Podle zdrojů z oboru se Bílý dům chystá použít argumenty kolem takzvané destilace modelů a hrozby z Číny (jako je DeepSeek) k tomu, aby získal páku na open source komunitu. Záminkou je ochrana duševního vlastnictví a kyberbezpečnost, ale skutečným cílem je zavedení stropu pro to, co smí být vypuštěno ven jako open weights model.

Toto snažení je silně živeno společností Anthropic. Ta rozjela kampaň, ve které tvrdí, že čínští aktéři destilují jejich modely, a rovnou navrhuje plošné zákazy. Argumentuje tím, že její modely jsou příliš nebezpečné na to, aby mohly být volně kopírovány, i když to zároveň ukazuje, že Anthropic nedokáže zabezpečit vlastní API proti zneužití.

Pro koho se mění pravidla hry

Pokud se americké administrativě podaří prosadit restrikce na import nebo trénink otevřených modelů nad určitou kapacitní hranici (zhruba na úrovni GPT-4 nebo Claude 3 Opus), tvrdě to dopadne na vznikající ekosystém menších firem. Startupová scéna, která staví na ladění a provozu open source modelů, by ztratila přístup ke špičkovým nástrojům.

Zavření dveří open source vývoji navíc cementuje monopol zavedených hráčů. Společnosti, které prodávají uzavřené modely, by získaly jistotu, že jim nikdo nesejme marže tím, že vydá srovnatelně chytrý model zadarmo. Je to ukázkový příklad snahy o regulatorní ukotvení vlastní dominance na trhu.

Limity ochrany přes zákazy

Argument, že zákaz open source modelů v USA zvýší bezpečnost, naráží na realitu globálního trhu. Vývoj v Číně nebo Evropě se nezastaví, a špatní aktéři, kterých se americká vláda bojí, si model stáhnou jinde. Jediným výsledkem amerického embarga na otevřenou AI by bylo podvázání vlastního výzkumu a trhu, zatímco zbytek světa pojede dál.

Navíc je pokrytecké tvrdit, že API přístup k modelům je bezpečný. Historie ukazuje, že API se dají obejít nebo zneužít (jak se stalo i u Claude), takže přesunutí všech uživatelů do uzavřených platforem bezpečnostní rizika neeliminuje, jen je centralizuje do rukou několika korporací.

Dalším krokem musí být západní open model

O tom, jestli tato regulatorní ofenziva projde, rozhodne, jestli americký technologický sektor nabídne vlastní špičkový open model dřív, než politici zakročí. Meta nebo Microsoft musí vypustit model na úrovni dnešní špičky, aby rozbily narativ, že jedině Čína dělá nebezpečné otevřené modely.

Pokud takový model brzy nevznikne, z paniky kolem destilace se stane precedens pro trvalé omezení open source AI v USA.

Lilithin verdikt

Boj o autorská práva je zástěrka. Zavedení hráči si platí lobbing za to, aby jim stát odstranil z trhu konkurenci, která by jim srazila ceny na nulu.