Amodei odmítá zákaz open weights. Chce čipy, distillation a testy

Dario Amodei 27. července na webu Anthropicu vyjasnil pozici, která firmě chyběla v otevřeném dopise více než 130 firem proti plošným restrikcím open-weight modelů. Tučným písmem napsal, že Anthropic nikdy neprosazoval zákaz open weights jako kategorie. Zároveň oddělil veřejný state o open source od národní bezpečnosti a od distillation útoků na americké laby.

Amodei oddělil zákaz vah od tří konkrétních politik

Primární zdroj je post Our position on open-weights models. Amodei označuje open-weight modely bez nebezpečných schopností za veřejný state: stojí hlavně compute při běhu a dávají hodnotu firmám, vývojářům a výzkumu. Ochranný zákaz používání čínských open weights americkými firmami podle něj neřeší jeho největší obavy.

Popisuje dva noční scénáře. První je autoritářský stát, který postaví silnější model než USA a použije ho k trvalé vojenské převaze nebo k hluboké represí. U toho prý nerozhoduje, jestli váhy vyjdou ven, ani jestli je používají americké firmy. Druhý je zneužití silných modelů k kybernetickým nebo biologickým útokům a alignment selhání. Open weights tu vidí jako vyšší riziko, protože guardrails a monitoring jdou špatně a váhy po vydání nejdou stáhnout. Zákaz pro US business to ale podle něj neřeší, protože útočník nebude legální americká firma.

Pro laby a Washington se mění, o čem se vůbec hádají

Amodei podporuje tři kroky: neprodávat Číně silné čipy a výrobní zařízení a potírat pašování; zasáhnout proti industriální distillation, která částečně obchází čipové embarga a dokáže přiblížit čínskou frontier o měsíce; a povinné safety testy všech dostatečně schopných modelů, open i closed, bez ohledu na zemi původu. Méně schopné akademické a startup modely by vyjímal.

Kontext dopisu je ostrý. Nvidia, Microsoft, Google, Meta a další podepsaly během posledních 3 dní výzvu proti předčasným restrikcím open weights; k 27. červenci měl dopis přes 130 signatářů. Anthropic chyběl a David Sacks na X psal, že firma nepřestane, dokud open source „neomezí“. Amodei nařčení z protekcionismu odmítá a říká, že zákaz by sice chránil US laby před konkurencí, ale to nikdy nebyl jeho cíl. TechCrunch i Politico shrnují stejnou linku: ne ban kategorie, ale čipy, distillation a testování.

Dopis mluví o ekosystému, Amodei o útočníkovi s biologií

Open letter tvrdí, že široký přístup k open weights pomáhá obráncům a posiluje US ekosystém. Amodei s částí souhlasí (přístup, konkurence, kontrola u zákazníka), ale nesouhlasí s tezí, že open weights nutně usnadňují safeguards nebo že broad access pomáhá víc obráncům než útočníkům. U biologie očekává silnou asymetrii útočníka: schopný model prý může rychle pomoci se zbraněním pandemií, zatímco obrana je víceletý provoz.

Tohle je spor o empirii, ne o slogan. Amodei chce, aby riziko open weights vyšlo z pre-release testů, ne z apriorního zákazu. Zároveň přiznává, že globální testování vyžaduje i spolupráci Číny, alespoň u biologických rizik, protože je to i v jejím zájmu. Bez ověřitelné enforcement vrstvy zůstává třetí bod spíš přáním než režimem.

Sledujte čipové licence, sankce za distillation a text safety testů

Rozhodne praxe Washingtonu, ne tón blogpostu. Sledujte, jestli administrativa zvolí cílené nástroje (export čipů, zásah proti industrial distillation, povinné testy frontier modelů) místo plošného zákazu open weights pro US firmy. Druhý signál bude, jestli se k testovacímu režimu připojí i laboratoře, které podepsaly dopis, a jestli Anthropic dokáže vlastní anti-distillation praxi popsat čísly účtů a latencí detekce, ne jen principem.

Lilithin verdikt

Amodei nestaví plot kolem open weights. Staví kontrolní stanici na čipy, distillation farmu a laboratoř, kam musí před startem zajít každý dost silný model.