Otevřené modely zaostávají za špičkou o tři měsíce. Lambert tvrdí, že destilace to nevysvětlí

Nathan Lambert zveřejnil záznam přednášky o otevřených modelech, kterou 22. října přednesl v kurzu AI Safety na Harvardu. Hlavní teze zní: otevřené modely jsou za uzavřenými jen pár měsíců. A to přesto, že americké laboratoře mají podle jeho podkladů desetkrát víc výkonu.

Čínské otevřené modely drží krok s desetinou výpočetního výkonu

Lambert dříve spoluvedl vývoj modelů Olmo v Ai2 a dnes řídí neziskovou Trillium Labs. Přednáška trvá 48 minut a podle jeho slov ji chce zhruba každého půl roku aktualizovat. Vychází z veřejných slajdů, na kterých stojí i čísla níže.

Podle indexu Artificial Analysis jsou otevřené modely za špičkou asi tři měsíce. Podle indexu Epoch AI pro práci s kódem asi pět. Americké otevřené modely jsou podle Lamberta pozadu o další tři až čtyři měsíce. Mezi nejsilnější nové modely řadí Xiaomi MiMo-V2.6-Pro s bilionem parametrů a skóre 46. Hned za ním je DeepSeek V4.1 Flash se skóre 45.

Na druhé straně stojí výpočetní výkon. Podle odhadů, které Lambert cituje, mají přední americké laboratoře zhruba desetkrát víc výkonu než ty čínské. Institut IFP čeká, že pět největších amerických laboratoří bude mít na konci roku 2026 v průměru 16krát víc výkonu než pět největších čínských.

Destilace je podle Lamberta pohodlné vysvětlení, ne hlavní motor

Americké laboratoře rády říkají, že Čína jen opisuje. Mluví o destilaci. Myslí tím hlavně získávání skrytého reasoning z jejich API a trénink na něm. Lambert připouští, že takové týmy v Číně běžně existují. Veřejný výzkum ale podle něj neukazuje, že by z cizích reasoning stop plynul snadný skok ve výkonu. Stále větší roli hraje reinforcement learning. Radar už dříve psal o jeho kritice toho, jak se slovo destilace používá v amerických úřadech.

Jako důkaz uvádí Xiaomi. To vysílalo trénink MiMo-V2.6 živě na veřejném dashboardu. Verze Pro prošla 30 kroky RL za 5 dní a 7 hodin, zpracovala 75 miliard tokenů a stála 2,62 milionu dolarů. Menší Flash vyšel na 854 tisíc dolarů. Lambertův závěr: i bez destilace by čínské laboratoře zůstaly silnou konkurencí. Dohánět špičku stojí mnohem méně výkonu než ji posouvat.

Pro firmy, které otevřené modely nasazují, je praktičtější jiná část přednášky: licence. MIT nebo Apache 2.0 mají třeba DeepSeek, Qwen, gpt-oss a Gemma 4. Kimi K3 a Muse Spark Open ale chtějí zvláštní smlouvu, jakmile služba nad modelem vydělá 20 milionů dolarů. GLM-5.3 chce nad 10 miliard dolarů bezpečnostní prověrku. Lambert připomíná, že u soudu se většina těch podmínek ještě nezkoušela.

Přednáška pro kurz bezpečnosti hlavně hájí otevřenost

Lambert je zastánce otevřených modelů a nijak to neskrývá. Studentům kurzu o bezpečnosti říká, že zákaz otevřených modelů by hlavně brzdil ekonomiku. Útočníci by se k nim dostali i tak. Uznává, že otevřené váhy některé škody opravdu zrychlují, třeba deepfaky bez souhlasu. Útoky, které ve slajdech uvádí, ale vedly hlavně přes uzavřené modely. Jeho argumentu to pohodlně nahrává.

Slabá místa přiznává i sám. Stahování z Hugging Face nazývá velmi nedokonalým měřítkem. O vlivu destilace podle něj existuje velmi málo veřejných dat, takže i jeho vlastní pozice je spíš odhad než důkaz. Čínské laboratoře také podle něj mohou dbát na veřejné benchmarky o něco víc a americké modely bývají vyváženější v okrajových úlohách.

Za půl roku se pozná, jestli náskok drží i po zamčení API

Lambert sám uvádí, že laboratoře teprve začínají API proti destilaci zabezpečovat. Pokud se mezera po zamčení API rozšíří, budou mít pravdu laboratoře. Pokud zůstane kolem tří měsíců, potvrdí se jeho čtení, že rozhoduje výzkum a vlastní RL.

Druhý signál je zájem o americké otevřené modely. Podle Lamberta si lidé stejně silné americké modely stahují dvakrát až pětkrát častěji než čínské. Pokud americké laboratoře doženou výkon, mohou firmám nabídnout model bez geopolitických otazníků. Do té doby za čínskými modely stojí výkon, stahování i zmínky ve výzkumu.

Lilithin verdikt

Kdo vysvětluje náskok soupeře opisováním, měl by vysvětlit i to, proč Xiaomi pustilo trénink svého modelu v přímém přenosu i s cenovkou 2,62 milionu dolarů. Až laboratoře API zamknou a mezera zůstane tři měsíce, zbude Americe výhoda, kterou stáhnout nejde: gigawatty v datacentrech.