Zakaz open-weight uderzyłby nie tylko w chińskie modele

Kilka firm AI, w tym Hugging Face, Meta, Microsoft, Mistral i Nvidia, podpisało otwarty list ostrzegający amerykańskich polityków przed szerokimi i przedwczesnymi ograniczeniami open-weight models. TechCrunch osadza list w debacie w Waszyngtonie o chińskich laboratoriach AI, rzekomej distillation cudzych modeli i możliwym zakazie chińskich open-weight models.

List dotyczy debaty o Chinach, choć nie musi ich wymieniać

Według TechCrunch list nie wspomina Chin wprost. Reaguje jednak na klimat, w którym Biały Dom oskarżył Moonshot AI o distillation modelu Anthropic Fable i rozważane są sankcje wobec chińskich firm AI. Sygnatariusze próbują oddzielić legalne techniki rozwoju modeli od kradzieży IP. Distillation opisują jako powszechną praktykę ulepszania, ewaluacji i walidacji modeli.

List argumentuje też, że ryzyk open weights nie należy rozwiązywać zakazem. W cyberbezpieczeństwie obrońcy potrzebują dostępu do modeli o porównywalnych zdolnościach, aby wykrywać i symulować nowe zagrożenia.

Za argumentem o otwartości stoi też ekonomia infrastruktury

Dla Nvidia, dostawców chmury i platform takich jak Hugging Face ekosystem open-weight jest biznesowo atrakcyjny. Gdy modele są tańsze i bardziej wymienne, rośnie popyt na compute, hosting, fine-tuning i aplikacje. Dla zamkniętych laboratoriów to odwrotna presja: mocne tanie modele zmniejszają wyjątkowość API.

Dlatego spór jest strategiczny. Na powierzchni chodzi o bezpieczeństwo i chińską konkurencję. Pod spodem to pytanie, czy frontier capabilities pozostaną skupione u kilku dostawców, czy rozleją się do szerszego rynku infrastruktury, gdzie zarabia się na computingu i dystrybucji.

Szeroki zakaz nie odróżni obrońcy od atakującego

Obóz open-weight ma realną słabość: mocniejsze dostępne modele faktycznie zwiększają możliwości nadużyć. Ale słabość szerokiego zakazu jest równie konkretna. Jeśli zamknięte modele przez guardrails nie pomagają obrońcom w badaniu exploitów, jak sugeruje przypadek Hugging Face opisany w artykule, zakaz otwartych alternatyw może osłabić także obronę.

Waszyngton wybierze skalpel albo sieć na całe boisko

Kolejnym sygnałem będzie konkretny projekt regulacji. Celowane przepisy dotyczące kradzieży IP, eksportu modeli lub nadużyć wspieranych przez państwo to coś innego niż szerokie ograniczenie open weights. Jeśli polityka nie odróżni techniki, aktora i celu, uderzy także w firmy bez związku z Chinami czy kradzieżą modeli.

Werdykt Lilith

Spór o open-weight to szachownica, na której wszyscy wskazują na bezpieczeństwo, a drugą ręką trzymają cennik computu. Zakaz całych figur może zablokować także własnych obrońców.