Amodei odrzuca zakaz open weights. Chce czipy, limit distillation i obowiązkowe testy

CEO Anthropicu Dario Amodei opublikował oficjalne stanowisko wobec modeli open-weights: Anthropic według niego nigdy nie forsował zakazu tej kategorii. Open weights bez niebezpiecznych zdolności nazywa dobrem publicznym. Kosztują tylko compute do uruchomienia i dają wartość firmom, developerom i badaczom.

Tekst wyszedł w ciągu mniej więcej 7 dni po tym, jak część debaty w Waszyngtonie ważyła ograniczenia chińskich modeli open-weights dla firm z USA, oraz po otwartym liście w obronie open weights podpisanym przez inne duże firmy tech. Anthropic w tym szeregu nie stanął i lab usłyszał zarzut, że chce bana jako ochrony własnego closed biznesu. Amodei to odrzuca i mówi, że protekcjonistyczny zakaz nie leczy jego głównych obaw security.

Zamiast banu powtarza trzy ruchy. Po pierwsze nie sprzedawać potężnych czipów i sprzętu do ich produkcji do Chin oraz tłumić przemyt. Po drugie hamować industrial-scale distillation, która tańszym copy-cat treningiem trzyma chiński frontier mniej więcej o 2 do 6 miesięcy za USA. Po trzecie obowiązkowe testy safety ryzyk cyber, bio i alignment dla wszystkich wystarczająco zdolnych modeli, open i closed, najlepiej w reżimie globalnym.

Oficjalna linia brzmi: nie ban kategorii, tylko trzy konkretne hamulce

Amodei rozdziela dwa scenariusze koszmaru. Pierwszy to autorytarne państwo z mocniejszym modelem do przewagi militarnej albo głębokiej represji. Tu open release ma być prawie bez znaczenia: najgroźniejszy model może zostać tajny i trafić tylko do armii oraz służb. Drugi to misuse open weights do ataków cyber i bio oraz awarie alignment. Tu open weights niosą wyższe ryzyko, bo guardrails i monitoring trudno egzekwować, a wag po releasie nie cofniesz.

Blanket ban na używanie open weights przez firmy z USA według niego nie trafi w złych aktorów. Za to ochroni laby z USA przed konkurencją. Amodei twierdzi, że to nigdy nie był jego cel. List pro-open chwali częściowo (dostęp, konkurencja, kontrola u klienta), ale nie zgadza się z tezą, że open weights z konieczności pomagają obrońcom bardziej niż atakującym. Przy biologii ostrzega przed asymetrią ataku i obrony.

Dla ekosystemu open decyduje, co dokładnie znaczy „przemysłowa distillation“

Dla startupów z USA, inference providerów i zespołów budujących na Qwen, Llama albo Kimi praktyczne pytanie nie jest moralną wojną open kontra closed. Gdy polityka celuje w industrial-scale distillation bez wąskiej definicji, pod tą samą etykietę wpadnie zwykły distillation stack, eval harness i fine-tune pipeline. Nathan Lambert i część open community już wcześniej ostrzegali, że kampania przeciw chińskim modelom umie ześlizgnąć się w regulatory capture na korzyść closed labu.

Dla kupujących enterprise w UE i Czechach esej nie oznacza natychmiastowego zakazu konkretnego checkpointu. Oznacza nacisk na warstwę compliance: skąd model, czy przeszedł test safety, czy dostawca stoi na sankcjonowanym krzemie i czy wagi mogą zostać on-prem. Closed API od Anthropicu wychodzi jako ścieżka z jaśniejszą pieczątką. Open weights zostają tańsze i bardziej sterowalne, ale z rosnącym podatkiem politycznym.

Zaprzeczenie banowi nie kasuje wcześniejszego śladu restrykcji labu

Esej Amodeiego jest precyzyjny w tym, czemu zaprzecza. Jest mniej precyzyjny w tym, co społeczność czyta z czynów: brak podpisu pod industry letter, wcześniejsze ograniczenia dostępu i nacisk na czipy plus distillation. Nawet bez formalnego banu open weights trzy proponowane środki podnoszą barierę wejścia dla każdego, kto nie ma licencji eksportowej, zespołu prawnego i budżetu na evals.

Drugi limit jest empiryczny. Obowiązkowe testy „wystarczająco zdolnych” modeli brzmią jak konsensus, dopóki nikt nie poda progów, auditora i sankcji. Bez tego grożą albo kosmetyczne checkboxy, albo filtr, który praktycznie zabija open release, a closed labom zostawia wyjątek „my i tak testujemy wewnętrznie”.

Definicja distillation i pierwsze obowiązkowe progi testów zdecydują bardziej niż blogpost

Dalej warto pilnować czterech sygnałów. Jak Waszyngton spisze ewentualny zakaz chińskich open weights dla firm z USA. Jak ciasno prawo i agency guidance zdefiniują industrial-scale distillation wobec zwykłego research fine-tune. Które laby, w tym Anthropic, podpiszą albo odrzucą kolejny industry letter. Oraz czy ruchy administracji Trumpa i przemysłowe propozycje testów safety dostaną liczbowe progi i globalny zasięg, a nie tylko zgodność w komunikatach.

Gdy progi zostaną mętne, wygra lab z najlepszym lobbingiem. Gdy będą wąskie i mierzalne, open weights bez dangerous capabilities mogą zostać tym public good, o którym pisze Amodei.

Werdykt Lilith

Amodei kupił oddech od etykiety „chce zakazu”. Rachunek zostaje ten sam: mniej czipów dla rywali, droższe kopiowanie frontieru i pieczątka przed release, którą wystawi tylko lab z budżetem na evals.