2026-11-16 · ← Novinky
TokenEconomizer zlevnil práci coding agentů až o 30,9 % díky paměti repozitáře
Microsoft Research, UC Berkeley a Microsoft Security představily open source plugin, který se učí z minulých relací coding agenta. Ve 277 úlohách SWE Bench snížil náklady o 18,4 až 30,9 % při zhruba stejné úspěšnosti.
Obrázek se nepodařilo načíst.
TokenEconomizer využívá historii práce v jednom repozitáři, aby coding agent v každé nové relaci neopakoval stejný průzkum. Výzkumníci ho otestovali na 277 úlohách SWE Bench v šesti repozitářích a pěti kombinacích agenta a modelu.
Tři zásahy omezují opakovaný průzkum, nepoužívané nástroje a slepé smyčky
Plugin po dokončené relaci čte její log a průběžně upravuje tři vrstvy pomoci. Micro skills ukládají jednověté znalosti o repozitáři, tool pruning schová nástroje, které se v daném projektu nejspíš nepoužijí, a failure loop intervention upozorní agenta, když opakuje stejný neúspěšný postup.
Profil 60 úloh ukázal zdroj plýtvání. Po nejméně pěti dokončených úlohách opakovalo 30 % tool calls akci ze starší úlohy ve stejném repozitáři. Agent přitom dostával popisy 23 nástrojů v každém kroku, ačkoli 16 z nich vůbec nepoužil. Neúspěšných 17 % úloh spotřebovalo 32 % nákladů.
Úspora vzniká v řídicí vrstvě kolem modelu
TokenEconomizer nemění samotný model ani agenta. Přidává adaptivní řídicí vrstvu přes rozhraní, která agent už nabízí, a do výsledku započítává i vlastní modelová volání. To je praktický směr pro týmy, které pracují dlouhodobě nad stejnými codebase: optimalizace může vyrůst z provozní paměti místo další výměny modelu.
Ve všech 30 dvojicích repozitáře a konfigurace dosáhl plugin nejvyšší úspory bez poklesu výkonu. Kumulativní náklady se ve všech repozitářích dostaly pod výchozí stav nejpozději u šesté úlohy. Na Web Bench klesly o 16,0 až 21,2 % a při bezpečnostním auditu s novým repozitářem pro každou úlohu o 6,4 až 19,6 %.
Benchmark zachycuje sekvence úloh, provoz přidá údržbu paměti
Výsledky pocházejí od autorů a ze sekvenčních benchmarků. Skutečný tým bude řešit zastarávání poznámek, změny nástrojů a situace, kdy vzorec z minulých úloh přestane platit. Plugin proto potvrzuje micro skills až po několika relacích a při rozporu je vyřazuje, ale dlouhodobé chování v živých repozitářích teprve prověří uživatelé.
Také začátek může být dražší, protože systém sbírá zkušenosti. Největší přínos tedy čeká repozitáře s opakovanou prací, ne jednorázové úlohy bez společného kontextu.
Reálné účty ukážou cenu chybné zkušenosti
Další důležitý signál bude nezávislé měření na dlouho žijících projektech: kolik znalostí plugin později odvolá, kolikrát skrytý nástroj musí vrátit a zda upozornění na smyčku skutečně zkrátí cestu k opravě. Open source vydání umožňuje tyto údaje ověřit mimo laboratoř.
Rozhodující bude také úspora času vývojáře. Nižší počet tokenů pomůže rozpočtu, ale špatná rada z historie může člověku přidat další kolo kontroly.
Lilithin verdikt
Coding agent, který každé ráno znovu hledá vypínač, není samostatnější jen proto, že pracuje rychle. TokenEconomizer mu konečně nechává poznámku na dveřích.