Amodei odmítá zákaz open weights. Chce čipy, distillation a povinné testy

CEO Anthropicu Dario Amodei vydal oficiální pozici k open-weights modelům: Anthropic podle něj nikdy neprosazoval jejich zákaz jako kategorii. Open weights bez nebezpečných schopností označil za veřejný statek. Stojí jen compute na běh a dávají hodnotu firmám, vývojářům i výzkumu.

Text přišel v rozmezí zhruba 7 dní poté, co část washingtonské debaty zvažovala omezení čínských open-weights modelů pro americké firmy a po otevřeném dopisu na podporu open weights, který podepsaly jiné velké tech firmy. Anthropic v té frontě chyběl a lab čelil obvinění, že chce ban jako ochranu vlastního closed byznysu. Amodei to odmítá a říká, že protekcionistický zákaz jeho hlavní security starosti neřeší.

Místo banu opakuje tři zásahy. Zaprvé neprodávat silné čipy a výrobní zařízení do Číny a tlačit na pašování. Zadruhé tlumit průmyslovou distillation, která z levnějšího copy-cat tréninku drží čínský frontier zhruba o 2 až 6 měsíců za USA. Zatřetí povinné safety testy kyber, bio a alignment rizik pro všechny dostatečně schopné modely, open i closed, ideálně v globálním režimu.

Oficiální linie zní: ne ban kategorie, ale tři konkrétní brzdy

Amodei odděluje dva „noční můry“ scénáře. Primární je autoritářský stát se silnějším modelem pro vojenskou převahu nebo hlubokou represi. U toho je prý jedno, jestli váhy někdy vyjdou open: nebezpečnější může být tajný model jen pro armádu a tajné služby. Sekundární je misuse open weights pro kyber a bio útoky a alignment selhání. Tady open weights podle něj nesou vyšší riziko, protože guardrails a monitoring jdou špatně vynucovat a váhy po releasu nevezmeš zpět.

Plošný zákaz používání open weights americkými firmami prý ale nezasáhne špatné aktéry. Zato by chránil US laby před konkurencí. Amodei tvrdí, že to nikdy nebyl jeho cíl. Dopis na podporu open weights částečně chválí (přístup, konkurence, kontrola u zákazníka), nesouhlasí ale s tezí, že open weights nutně pomáhají obráncům víc než útočníkům. U biologie varuje před asymetrií útoku a obrany.

Pro open ekosystém rozhoduje, co přesně znamená „průmyslová distillation“

Pro US startupy, inference providery a týmy stavějící na Qwen, Llama nebo Kimi je praktická otázka jiná než morální spor o „open vs closed“. Když politika namíří na industrial-scale distillation bez úzké definice, může pod stejnou nálepku spadnout běžný distillation stack, eval harness i fine-tune pipeline. Nathan Lambert a část open komunity už dřív varovali, že kampaň proti čínským modelům umí sklouznout k regulatory capture ve prospěch closed labu.

Pro enterprise nákupčí v EU a ČR text neznamená okamžitý zákaz konkrétního checkpointu. Znamená tlak na compliance vrstvu: odkud model je, jestli prošel safety testem, jestli dodavatel neběží na sankcionovaném silikonu a jestli smí váhy zůstat on-prem. Closed API od Anthropicu z toho vychází jako cesta s jasnějším razítkem. Open weights zůstávají levnější a ovladatelnější, ale s rostoucí politickou daní.

Popření banu neanuluje dřívější restrikční stopu labu

Amodeiho esej je precizní v tom, co popírá. Je méně precizní v tom, co komunita čte z činů: absence podpisu pod industry letter, dřívější restrikce přístupu a důraz na čipy plus distillation. I když formálně nechce ban open weights, tři navrhovaná opatření zvedají bariéru vstupu pro každého, kdo nemá exportní licenci, právní tým a eval budget.

Druhý limit je empirický. Povinné testy „dostatečně schopných“ modelů znějí konsenzuálně, dokud nikdo nepoví prahy, auditora a sankci. Bez toho hrozí buď kosmetické checkboxy, nebo filtr, který open release prakticky zabije a closed labům nechá výjimku „my už testujeme interně“.

Definice distillation a první povinné testovací prahy rozhodnou víc než blogpost

Sledovat dál čtyři signály. Jak Washington formuluje případný zákaz čínských open weights pro US firmy. Jak úzce zákon a agency guidance definují industrial-scale distillation versus běžný research fine-tune. Které laby včetně Anthropicu podepíšou nebo odmítnou další industry letter. A jestli Trump administrativa i průmyslové návrhy safety testů dostanou číselné prahy a globální dosah, ne jen tiskovou shodu.

Když prahy zůstanou vágní, vyhraje lab s nejlepším lobbingem. Když budou úzké a měřitelné, open weights bez dangerous capabilities můžou zůstat tím public good, o kterém Amodei píše.

Lilithin verdikt

Amodei si koupil oddech od nálepky „chce ban“. Účet ale pořád posílá stejný: méně čipů pro rivaly, dražší kopírování frontieru a razítko před release, které umí vystavit jen laboratoř s budgetem na evals.