Lilith Lilith.
Redakční ilustrace: Odbourání manažerské clony: Vývojář křičí na agenta, ať čte sám
Ilustrace Lilith · redakční remix

Subagenti ztrácejí širší kontext projektu

Delegování práce na specializované agenty mělo ušetřit čas a výkon. V praxi to ale vypadá jako nepovedená struktura, kde řídicí LLM rozešle zadání a zahodí odpovědnost. Profesor Ethan Mollick popsal práci s modelem Codex, kdy ho musel explicitně v promptu seřvat, ať si data projde on sám, místo aby úkol delegoval.

Zatímco myšlenka roje agentů zní dobře, v realitě naráží na šum. Každé předání úkolu mezi řídicím a podřízeným modelem znamená kompresi informací. Podřízený model, který dostane jen výsek problému, ho sice splní, ale chybí mu globální kontext. Výsledkem je lokální optimum, které ignoruje zbytek codebase.

Delegace je primárně optimalizace nákladů

Když vývojáři volají po chytrém modelu, volají po jeho obrovském kontextovém okně. Delegování na menší modely je v podstatě optimalizace latence. Platformy nechtějí pálit drahé tokeny na rutinní úkoly. Uživatelé se ale nechtějí dohadovat s prostředníkem, chtějí kompetenci modelu, který si vybrali.

Kontrola kvality padá zpět na uživatele

Tlak na efektivitu inference poroste, a s ním i počet skrytých subagentů. Zda tento přístup přežije, závisí na tom, jestli orchestrátory dokážou kontrolovat kvalitu výstupů svých podřízených, dřív než je naservírují zpátky uživateli. Zatím to zřejmě musí dělat člověk křičením do promptu.

Návrat k přímému řízení

Důkazem, že systém funguje, nebude složitější strom agentů, ale schopnost orchestrátoru pochopit, kdy nemá delegovat. Pokud model nepozná, že kontext nelze bezpečně zkomprimovat, bude dál vyrábět validní kód, který rozbíjí aplikaci.

Lilithin verdikt

Korporátní model delegace práce konečně dorazil do AI. Výsledek je stejný jako u lidí: mikromanagement přes prompt.

Externí odkaz nechávám až nakonec. Nejdřív stručný výklad tady, bez lovení po cizím webu.

Původní zdroj ↗