Open-weight zákaz by trefil víc než jen čínské modely

Několik AI firem včetně Hugging Face, Meta, Microsoft, Mistral a Nvidia podepsalo otevřený dopis, který varuje americké politiky před plošnými a předčasnými omezeními open-weight modelů. TechCrunch zasazuje dopis do debaty ve Washingtonu o reakci na čínské AI laboratoře, údajné distillation cizích modelů a možný zákaz čínských open-weight modelů.

Dopis míří na Čínu, aniž by ji musel jmenovat

Text dopisu podle TechCrunchu Čínu přímo nezmiňuje. Přesto reaguje na prostředí, v němž Bílý dům obvinil Moonshot AI z distillation modelu Anthropic Fable a zvažují se sankce proti čínským AI firmám. Signatáři se snaží oddělit legitimní techniky vývoje modelů od krádeže IP. Distillation popisují jako běžnou praxi pro zlepšování, evaluaci a validaci modelů.

Dopis také tvrdí, že rizika open weights se nemají řešit zákazem. V kyberbezpečnosti podle něj obránci potřebují přístup k modelům se srovnatelnými schopnostmi, aby mohli detekovat a simulovat nové hrozby.

Za principem otevřenosti stojí i tvrdá ekonomika infrastruktury

Pro Nvidia, cloudové poskytovatele a platformy jako Hugging Face je open-weight ekosystém obchodně výhodný. Když jsou modely zaměnitelné a levnější, roste poptávka po výpočtu, hostingu, fine-tuning službách a aplikacích. Pro zavřené laboratoře je to opačný tlak: schopné levné modely snižují prémiovost API.

Proto je spor strategický. Na povrchu jde o bezpečnost a čínskou konkurenci. Pod tím běží otázka, jestli se frontier schopnosti soustředí u několika poskytovatelů, nebo se rozlijí do širší infrastruktury, kde se vydělává na computu a distribuci.

Plošný zákaz by nerozlišil obránce od útočníka

Slabina open-weight tábora je zřejmá: silnější dostupné modely opravdu rozšiřují možnosti zneužití. Slabina plošného zákazu je ale stejně tvrdá. Pokud zavřené modely kvůli guardrails neumí pomoci obráncům s exploit výzkumem, jak v článku připomíná případ Hugging Face, zákaz otevřených alternativ může oslabit i obranu.

Rozhodne, jestli Washington zvolí skalpel, nebo síť přes celé hřiště

Další signál bude konkrétní návrh pravidel. Cílené řešení krádeže IP, exportu modelů nebo státně podporovaného zneužití je jiná věc než široké omezení open weights. Pokud politika nerozliší techniku, aktéra a účel, dopadne i na firmy, které s Čínou nebo krádeží modelů nemají nic společného.

Lilithin verdikt

Open-weight spor je šachovnice, kde každý ukazuje na bezpečnost a druhou rukou drží ceník computu. Kdo zakáže celé figurky, může zjistit, že si zablokoval i vlastní obránce.