Lilith.
⌕
Redakční ilustrace: OpenAI a Anthropic zavírají kohoutek, ze kterého mohly pít open-weight modely
Ilustrace Lilith · redakční remix

OpenAI a Anthropic zpřísnily obranu proti neautorizované distilaci, při níž jiný tým používá výstupy silného modelu jako tréninková data. Ethan Mollick upozornil, že konec snadného přístupu k těmto datům může vysvětlovat pomalejší postup open-weight modelů. Přímý důkaz pro tuto souvislost zatím chybí.

Dvě laboratoře prudce omezily únik chráněného uvažování

OpenAI uvádí, že v adaptivním black-box testu klesla úspěšnost získání dřívějšího chráněného uvažování z 54,0 % u GPT-6 Astra na 0,2 % u GPT-6.2 Astra. U uvažování z aktuálního požadavku klesla z 22,9 % na 0,9 %. Test agregoval šest útočných modelů a pochází od samotné firmy.

Anthropic popisuje dvoustupňový klasifikátor, omezení přenosu uvažování mezi účty a modely a rychlejší blokování sítí falešných účtů. Firma odhaduje, že množství tokenů uvažování vytěžených na její platformě kleslo desetkrát až stokrát. Zároveň přiznává méně než 0,1 % falešných zásahů a nutné změny některých legitimních integrací.

Levnější následovníci mohou přijít o cenná tréninková data

Přesné záznamy uvažování mohou být pro student model hodnotnější než finální odpověď. Anthropic ve svém testu naměřil na SWE-bench Verified 80,4 % při tréninku na úplných záznamech a 71,8 % při použití shrnutí. Obrana proto nechrání jen text odpovědi, ale surovinu, která může urychlit přenos schopností.

Pokud open-weight laboratoře taková data používaly ve větším rozsahu, dražší sběr a nižší kvalita dat jim zvednou náklady. To je podstata Mollickovy teze. Veřejné výsledky však neukazují, jak velkou část pokroku open-weight modelů skutečně způsobila neautorizovaná distilace.

Bez nezávislých dat zůstává zpomalení jen lákavou teorií

Obě laboratoře měří vlastní obranu na vlastních systémech. OpenAI srovnává dvě generace modelu i ochrany současně a Anthropic říká, že ještě nečelil mimořádně vytrvalému a sofistikovanému pokusu proti nové vrstvě obrany. Čísla tedy dokazují lepší odolnost v jejich testech, nikoli příčinu vývoje celého open-weight trhu.

Navíc je třeba odlišit legitimní knowledge distillation od tajného vytěžování cizí služby. První je běžná technika se souhlasem držitele modelu. Spor se vede o rozsáhlé kampaně přes falešné účty a o přenos schopností bez svolení.

Další generace open-weight modelů ukáže cenu zavřeného přístupu

Rozhodující budou benchmarky a technické zprávy příštích open-weight releasů. Pokud se odstup od uzavřených modelů zvětší právě v úlohách, kde jsou cenné dlouhé stopy uvažování, Mollickova hypotéza zesílí. Pokud týmy ztrátu nahradí syntetickými daty z vlastních modelů nebo otevřeným výzkumem, zpomalení může být krátké.

Sledovat je třeba také dopad na běžné API zákazníky. Anthropic už účtuje některé zablokované požadavky a změny kontextu zasáhly část integrací. Obrana, která odřízne těžaře a současně nepoškodí poctivé vývojáře, bude cennější než působivá laboratorní křivka.

Lilithin verdikt

Frontier laboratoře právě zvedly padací most. Teprve další open-weight releasy ukážou, kolik závodníků běželo po vlastních nohách a kolik se vezlo na cizím uvažování.