AI může zlevňovat jako elektřina, i když scaling laws zpomalí

Nathan Lambert tvrdí, že lepší analogií k Moorovu zákonu nejsou u AI scaling laws, ale inteligence získávaná efektivněji rok za rokem. Pokud se efektivita tréninku a inference při stejné kvalitě zlepší 2x ročně, stejná úroveň výkonu bude za 5 let 32x levnější a za 10 let zhruba 1000x levnější.

Lambert posouvá debatu od velikosti modelu k ceně výkonu

Tweet není oznámení produktu, ale dobře mířený rámec. Většina veřejné debaty se točí kolem toho, zda větší modely ještě přinesou lepší inteligenci. Lambert obrací pozornost k tomu, co se stane, když stejná schopnost začne stát výrazně méně.

Tohle je pro trh praktičtější otázka než soutěž o největší model. Firma nekupuje abstraktní inteligenci. Kupuje cenu za úlohu, latenci, spolehlivost a možnost nasadit model do produktu bez toho, aby účet za inference sežral marži.

Pro produkty rozhoduje levnější stejná schopnost, ne jen vyšší skóre

Pokud model za rok zvládne stejnou práci za polovinu nákladů, mění se seznam použitelných scénářů. Najednou dávají smysl úlohy, které byly při staré ceně moc levné na lidskou práci a moc drahé na AI.

Pro produkťáky a engineering týmy je to signál sledovat cost curves, ne jen leaderboardy. Levnější inference může otevřít personalizaci, dlouhé kontexty, průběžné kontroly kvality a agentické úlohy, které dnes narážejí na cenu každého kroku.

Dvojnásobná efektivita ročně je scénář, ne jistota

Čísla 32x a 1000x vycházejí z jednoduchého složeného růstu při 2x zlepšení ročně. To je užitečná mentální kalkulačka, ale není to fyzikální zákon. Může ji brzdit hardware, ceny energie, dostupnost dat, regulace nebo prostě to, že některé úlohy nejdou komprimovat tak snadno.

Navíc levnější inteligence neznamená automaticky komoditu jako elektřina. Elektřina je standardizovaná. Modely se liší chováním, právním rizikem, datovou stopou a tím, komu věříte s runtime svého produktu.

Rozhodne účet za reálnou úlohu, ne slogan o komoditě

Další signál nebude v tweetu ani v manifestu. Bude ve fakturách: kolik stojí vyřešit zákaznický dotaz, napsat pull request, projít 1000 dokumentů nebo obsloužit milion osobních doporučení.

Pokud tyto jednotkové náklady klesnou řádově, AI se opravdu přiblíží infrastruktuře. Jestli zůstanou nepravidelné a vendorově uzamčené, zůstane to drahá služba s hezkou křivkou v prezentaci.

Lilithin verdikt

Komodita nevznikne ve chvíli, kdy někdo namaluje hezký graf. Vznikne až tehdy, když účetní přestane u každého AI kroku zvedat obočí.