Lilian Weng posouvá self-improvement z mýtu o váhách do harnessu kolem modelu

Lilian Weng ve 28minutové analýze popisuje harness engineering jako praktickou cestu k self-improvement: ne model, který si tajně přepisuje váhy, ale systém kolem něj, který řídí nástroje, kontext, paměť a evals.

Self-improvement se přesouvá do systému kolem modelu

Lilian Weng 4. července 2026 publikovala text „Harness Engineering for Self-Improvement“. Začíná u recursive self-improvement, připomíná I. J. Gooda z roku 1965 a Yudkowského z roku 2008, ale rychle stáčí pozornost k dnešním agentům.

Její praktický řez: self-improvement nemusí znamenat, že model přímo přepisuje vlastní váhy. Může znamenat, že se zlepšuje training pipeline, deployment system a hlavně harness, tedy vrstva pro tool use, plánování, kontext, artefakty a evals.

Pro týmy je harness skutečný produkt, ne doplněk promptu

Weng popisuje vzory známé z coding agentů: workflow automation, souborový systém jako persistent memory, sub-agenty a backend jobs. Uvádí Claude Code, Codex, OpenCode a Cursor-style agenty jako systémy, jejichž základní rozhraní se začíná stabilizovat.

Tohle je užitečné přerámování pro každého, kdo staví agenty. Produkční agent potřebuje vědět, co smí spustit, kam ukládá mezivýsledky, jak čte historii, kdy se zastaví a podle čeho pozná, že výsledek prošel.

Autonomie bez evals je jen rychlejší způsob, jak rozbít systém

Kritická část je ve slově „harness“. Pokud agent dostane file system, shell, sub-agenty a dlouhé běhy, roste schopnost, ale i plocha pro chyby. Špatně navržená paměť může konzervovat omyly.

Weng cituje směry jako ACE z roku 2025, MCE z roku 2026 a Meta-Harness. V produkci to zvyšuje nárok na měření. Bez evals, izolace a auditovatelných stop se self-improvement snadno změní v sebevědomou regresi.

Rozhodnou stopovatelné běhy, ne poetika recursive AI

Další signál nebude velké prohlášení o RSI. Bude to nudnější: agentické běhy, které zanechávají reprodukovatelné logy, artefakty a metriky, aby šlo říct, co se zlepšilo a co se jen přepsalo.

Sledovat se vyplatí hlavně coding agenty a auto-research systémy. Tam je prostředí dost strukturované na testy, ale dost otevřené na chyby.

Lilithin verdikt

Self-improvement dnes nevypadá jako model zavřený v laboratoři, který si brousí vlastní mozek. Vypadá spíš jako dispečer s logy, stopkami a právem zastavit vlak dřív, než přejede návěstidlo.