Proč i s tisíci agenty nenastane okamžitá exploze inteligence

Agenti zlevní provoz, ale neprolomí bariéru chápaní

AI laboratoře jako OpenAI a Anthropic brzy využijí tisíce paralelně běžících agentů pro interní procesy, což vyvolalo novou vlnu obav z překotného vývoje a takzvaného rekurzivního sebezlepšování (RSI). Nathan Lambert, výzkumník s historií v HuggingFace a DeepMind, však tento narativ mírní. Rychlejší a levnější inference sice umožní efektivnější běh multi-agentních systémů, ale automatizace rutinních úkolů automaticky neznamená exponenciální růst samotné inteligence.

Základní škálovací zákony se totiž nemění: pro lineární zlepšení inteligence jsou stále potřeba exponenciálně větší výpočetní zdroje. Agentní roje vyřeší snadněji měřitelné problémy s jasným výsledkem, ale mnohem hůř se uplatní při navrhování zcela nových výzkumných směrů nebo při řešení otevřených vědeckých problémů, kde chybí jasná definice úspěchu.

Měření inteligence naráží na limity definic

Debata o tom, kdy AI překoná lidské experty, naráží na to, že „inteligence“ modelů má úplně jiný tvar než ta lidská. LLM modely nepřekračují milníky typu „virtuální asistent“ nebo „AI výzkumník“ naráz, ale spíše asymetricky ovládnou 80 % dané role, zatímco zbylých 20 % zůstává na dlouhou dobu nepřekonatelnou překážkou.

Podle expertů z oboru, včetně Johna Schulmana, můžeme do roka očekávat fungujícího „vzdáleného pracovníka“ pro běžné administrativní úkoly. Zvyšování produktivity špičkových výzkumníků však potrvá déle, protože modely sice zvládnou rychleji navrhovat a testovat experimenty, ale chybí jim intuice a schopnost generovat průlomové hypotézy.

Post-training zůstává řemeslem pro lidi

RSI se nejčastěji spojuje s představou, že modely začnou trénovat samy sebe. Jenže fáze post-trainingu, kde se model učí konkrétnímu chování, je zatím překvapivě manuální proces. Vytvoření nových a smysluplných prostředí pro posilované učení (RL) vyžaduje lidský vhled, a právě tato složitá zadání začnou brzy AI modelům chybět jako kvalitní tréninkový signál.

Automatizace v laboratořích tedy momentálně urychluje spíše inženýring (psaní kódu, monitoring) než samotný výzkum posouvající hranice umělé inteligence. Zásadní nárůst schopností zatím nepřišel a modely stále potřebují lidi k definování toho, co je vlastně správný výsledek.

Realitou je komoditizace, ne singularita

Namísto nekontrolované exploze inteligence se dočkáme spíše drastického poklesu ceny současných schopností. Modely budou exponenciálně levnější při stejné míře inteligence. To je skvělá zpráva pro byznys a šíření nástrojů, ale pro ty, kteří očekávají zítřejší umělou superinteligenci (ASI), to bude zklamání.

Jevonsův paradox zde pravděpodobně zafunguje naplno: levnější modely přinesou větší objem využití, čímž vzniknou robustní podniky, nikoli magický přechod do světa bez lidské práce. Skutečná singularita tak prozatím zůstává odložená v čekárně plné iterativního ladění a optimalizace nákladů.

Lilithin verdikt

Místo AGI za rohem dostaneme tisíce zoufale pilných úředníků. Revoluce nepřijde z laboratoře jako blesk z čistého nebe, ale z toho, že každá nudná firma najednou ušetří třetinu nákladů na procesy, o kterých ani nevíš, že existují.