Amodei odrzuca zakaz open weights. Chce chipy, distillation i testy

27 lipca Dario Amodei na stronie Anthropica domknął ciszę po tym, jak firma nie dołączyła do listu otwartego ponad 130 spółek przeciw szerokim restrykcjom modeli open-weight. Pogrubionym pismem napisał, że Anthropic nigdy nie lobbował za zakazem open weights jako kategorii. Oddzielił też argument o dobru publicznym od bezpieczeństwa narodowego i od industrialnej distillation wymierzonej w amerykańskie laby.

Amodei oddzielił zakaz wag od trzech konkretnych polityk

Źródłem pierwotnym jest post Our position on open-weights models. Amodei nazywa modele open-weight bez niebezpiecznych zdolności dobrem publicznym: kosztują głównie compute przy uruchomieniu i dają wartość firmom, deweloperom i badaczom. Protekcjonistyczny zakaz używania chińskich open weights przez firmy z USA według niego nie rozwiązuje najpoważniejszych obaw.

Wskazuje dwa koszmary. Pierwszy: autorytarne państwo buduje model silniejszy niż USA i używa go do trwałej przewagi wojskowej albo głębokiej represji. Przy tym ryzyku open release i adopcja w amerykańskim biznesie są obok tematu. Drugi: potężne modele służą do ataków cyber lub biologicznych i do awarii alignmentu. Open weights podnoszą to ryzyko, bo guardrails i monitoring są trudne, a wag po publikacji nie da się cofnąć. Zakaz dla US business i tak nie trafia w cel, bo atakujący rzadko będzie legalną amerykańską firmą.

Laby i Waszyngton kłócą się już o inne obiekty

Amodei popiera trzy kroki: nie sprzedawać Chinom potężnych chipów i sprzętu do ich produkcji oraz tępić przemyt; uderzyć w industrialną distillation, która częściowo omija embarga na chipy i potrafi zbliżyć chiński frontier o miesiące; oraz obowiązkowe testy safety wszystkich wystarczająco zdolnych modeli, open i closed, bez względu na kraj pochodzenia, z wyłączeniem słabszych systemów akademickich i startupowych.

Kontekst listu jest ostry. Nvidia, Microsoft, Google, Meta i inni wezwali, by nie wprowadzać przedwczesnych restrykcji open weights. Anthropica zabrakło, a David Sacks napisał na X, że firma nie spocznie, dopóki nie ograniczy open source. Amodei odrzuca zarzut protekcjonizmu i mówi, że zakaz chroniłby US laby przed konkurencją, ale to nigdy nie był jego cel. TechCrunch i Politico czytają tę samą linię: nie ban kategorii, tylko chipy, distillation i testy.

List mówi o ekosystemie. Amodei o atakującym z biologią

List otwarty twierdzi, że szeroki dostęp do open weights pomaga obrońcom i buduje ekosystem USA. Amodei zgadza się przy dostępie, konkurencji i kontroli u klienta, ale nie przy tezie, że open weights z konieczności ułatwiają safeguards albo że broad access pomaga obrońcom bardziej niż atakującym. W biologii spodziewa się silnej asymetrii atakującego: zdolny model może przyspieszyć weaponizację na skalę pandemii, a obrona to wieloletnia operacja.

To spór o empirię, nie o slogan. Amodei chce, by ryzyko open weights wynikało z testów przed release, nie z apriorycznego zakazu. Przyznaje też, że globalne testowanie działa tylko, jeśli dołączy Chiny, przynajmniej przy ryzykach biologicznych, bo ograniczona współpraca może leżeć w ich interesie. Bez egzekwowalnej warstwy testów trzeci filar zostaje bliżej życzenia niż reżimu.

Patrzcie na licencje chipów, sankcje za distillation i treść testów

Zdecyduje praktyka Waszyngtonu, nie ton bloga. Sprawdzajcie, czy administracja wybierze celowe narzędzia (eksport chipów, uderzenie w industrialną distillation, obowiązkowe testy modeli frontier) zamiast blanketowego zakazu open weights dla firm z USA. Drugi sygnał: czy sygnatariusze listu zaakceptują reżim testów i czy Anthropic opisze własną praktykę anti-distillation liczbami kont i opóźnieniem detekcji, a nie samym principem.

Werdykt Lilith

Amodei nie stawia płotu wokół open weights. Stawia punkt kontroli chipów, jednostkę od distillation i laboratorium, przez które musi przejść każdy wystarczająco mocny model przed startem.