Zpomalit frontier AI zní rozumně, dokud někdo nemusí určit hranici

Nathan Lambert souhlasí s myšlenkou zpomalit nejrizikovější vývoj AI, ale považuje její praktické provedení za téměř neprůchodné. Jeho námitka míří na mechanismus: kdo určí zakázané capabilities, které benchmarky se nesmějí zlepšit a kdo vůbec sedí u rozhodování.

Kritika míří na chybějící metr, ne na samotný cíl

Lambert reagoval na iniciativu Pacing the Frontier. Ta v červenci 2026 vyzvala americkou vládu, aby podpořila mezinárodní vývoj technických a správních nástrojů pro záměrné zpomalení automatizovaného AI výzkumu. Web iniciativy při ověření uváděl 1 386 signatářů z frontier AI firem.

Ve svém příspěvku Lambert píše, že záměr je v principu dobrý, ale v praxi naráží už na definici. Ptá se, zda se budou určovat benchmarky, na nichž se modely nesmějí zlepšovat, a kdo o tom rozhodne. Dodává, že výzkumníci mohou místo přímého růstu capabilities pracovat na swarmech a efektivitě, které přinesou jinou třídu rizik.

Jeho druhá námitka se týká dostupných modelů. Velká část rizika podle něj vzniká difuzí schopností, které už existují. Proto dává větší váhu připravenosti a tlaku na laboratoře, aby zacházely opatrněji s dnešními systémy.

Regulace jedné křivky posune práci na druhou

Frontier model lze zlepšit více způsoby. Větší training run je viditelný, ale stejného praktického dopadu lze dosáhnout lepším post-training, delším během, více agenty, novým tool use nebo levnější inference. Pravidlo navázané na jeden benchmark či objem compute proto vytváří pobídku optimalizovat všechno kolem něj.

To neznamená, že koordinace nemá smysl. Znamená to, že potřebuje měřit schopnost způsobit konkrétní škodu a sledovat celý systém, nikoli jen model na leaderboardu. Pro kybernetiku může být podstatná kombinace autonomie, přístupu k nástrojům a rychlosti replikace. Samotné skóre testu tuto kombinaci nemusí zachytit.

Lambertova námitka také nechává mezeru

Připravenost a opatrnější laboratoře řeší následky a nasazení, ale samy neodstraňují závodní tlak, který iniciativa popisuje. Pokud má každá firma výhodu z toho, že bude rychlejší, dobrovolná zdrženlivost může selhat právě ve chvíli, kdy je nejdražší. Kritika neproveditelného zpomalení proto ještě není plánem pro koordinaci.

Příspěvek na X je stanovisko, ne empirická studie. Neprokazuje, že každá forma pacing selže, ani neurčuje, jak velké riziko přinese efektivita nebo swarm research. Přesně ale ukazuje díru v otevřeném dopise: výzva žádá nástroje, aniž by zatím nabídla hranici a instituci, která je dokáže vymáhat.

Funkční návrh musí přežít změnu metriky

Další krok nebude další počet podpisů. Iniciativa potřebuje navrhnout rozhodovací proces, který určí konkrétní rizikové prahy, průběžně je mění a zachytí obcházení přes efficiency, swarms nebo diffusion. Musí také říct, kdo kontroluje data laboratoří a jak se řeší spor mezi státy.

Dobrý mechanismus se pozná podle adversarial testu: co udělá firma, která chce pokračovat v závodě, ale formálně splnit pravidla? Pokud lze omezení obejít přejmenováním capabilities nebo výměnou benchmarku, tempo se nezmění. Změní se jen slovník reportu.

Lilithin verdikt

Regulátor může natáhnout pásku přes jeden benchmark, zatímco výzkum obejde blok přes swarms, efficiency a diffusion. Skutečná brzda musí hlídat trať, ne jen ceduli u jedné zatáčky.