Evoluce agentních frameworků: rozhraní už nehlídá model, ale naši pozornost

Váhy požírají softwarové obálky

První generace AI agentů spoléhala na externí logiku. ChatGPT v roce 2022 neuměl sám používat nástroje, hledat na webu ani plánovat kroky. Tuto schopnost mu musely dodat externí frameworky a složité „harness“ struktury (LangChain, ReAct). Fungovaly jako lešení kolem hrubé síly predikce tokenů.

Analýza Latent Space ale ukazuje, že se tento vztah otáčí. Modely začínají schopnosti z obálek absorbovat přímo do svých vah. S nástupem nativního function callingu a interních plánovacích smyček už modely nepotřebují externí kód k tomu, aby věděly, jak se rozhodovat. Vývojáři mohou smazat tisíce řádků řídící logiky, protože model už ji má zadrátovanou z tréninku.

Konec API abstrakcí, návrat k holým textům

Tento posun dramaticky zjednodušuje to, jak se agenti staví. Namísto složitého zřetězení API volání přes několik vrstev abstrakcí se vývoj vrací k čistému promptování a podpoře kontextu.

Zatímco dříve byl vývojář architektem logického stromu, dnes spíše chystá data a kontextové stopy, po kterých se model pohybuje sám. Znamená to obrovský tlak na tvůrce frameworků, jejichž primární hodnota spočívala v orchestraci kroků. Pokud model zvládne orchestrovat sám, jejich nástroje se stávají zbytečným overheadem.

Rozhraní pro člověka, ne pro stroj

Jak se modely osamostatňují, mění se i role toho, co ze softwarového obalu zbylo. Agentní infrastruktura už neslouží k tomu, aby modelu dala tělo v digitálním prostoru, ale k tomu, aby člověku umožnila s tímto tělem udržet krok.

Nové frameworky se soustředí na filtraci pozornosti, schvalování akcí, vizualizaci interního uvažování modelu a auditní stopy. Stávají se rozhraním mezi nezávisle operující umělou inteligencí a limitovanou lidskou pozorností, která potřebuje vědět, kdy má zasáhnout a kdy nechat agenta běžet.

Ukáže se, kdo zaplatí za prázdné frameworky

Budoucí bitva se nepovede o to, kdo napíše lepší řídicí smyčku pro LLM. Povede se o to, kdo nabídne nejlepší firemní dashboard pro dohled nad tisíci mikrorozhodnutími. Frameworky, které se nezvládnou přeorientovat z řízení stroje na řízení lidí a jejich oprávnění, brzy nenajdou zákazníky.

Lilithin verdikt

Dřív jsme psali kód, abychom z hloupých modelů udělali chytré agenty. Teď píšeme kód, abychom pro ty chytré agenty uspořádali bezpečné pískoviště, ze kterého nám rovnou neodpálí databázi.