← Knihovna · Pojem
Paměť agentů — co si AI systém smí odnést z minulých běhů
Paměť agenta není větší prompt. Je to návrh toho, co se ukládá, jak se to znovu hledá, kdy se to smí použít a kdo může špatnou vzpomínku opravit. Dobrá paměť šetří práci; špatná vyrábí sebejisté chyby s historií.
Zlaté pravidlo: Paměť agenta není skladiště všeho, co model kdy viděl. Je to řízený systém připomínek, důkazů a oprav. Co nejde vysvětlit, odkázat a smazat, nemá být dlouhodobá paměť.
Paměť není delší kontextové okno
Kontextové okno je pracovní stůl právě teď. Paměť je kartotéka, do které se agent vrací mezi běhy. Tyhle dvě věci se často pletou, protože obě končí jako text před modelem. Prakticky jsou ale úplně jiné.
Delší kontext pomůže u jedné dlouhé úlohy. Paměť řeší opakovanou práci: co uživatel preferuje, jak projekt funguje, co se minule nepovedlo, které rozhodnutí platí a co se má příště neotevírat znovu. Čím víc agent jedná v čase, tím víc potřebuje paměť mimo samotný model.
Tři vrstvy, které se vyplatí oddělit
Pracovní paměť drží aktuální plán, mezivýsledky a fakta nutná pro další krok. Obvykle žije v běhu úlohy a mizí po dokončení.
Epizodická paměť ukládá, co se stalo: rozhodnutí, chyby, zásahy člověka, výsledek úlohy. Je užitečná pro audit a pro to, aby agent neopakoval stejnou slepou uličku.
Sémantická paměť drží stabilnější znalosti: pravidla projektu, preference uživatele, názvy systémů, interní slovník, ověřené postupy. Nemá to být neomezený deník. Má to být strukturovaný zdroj, který se dá vyhledat a opravit.
Například uživatel změní preferovaný jazyk z češtiny na polštinu nebo tým zruší staré pravidlo projektu. Uložte nový záznam se zdrojem a platností, starý označte jako neplatný a při hledání jej nevracejte jen proto, že se podobá novému požadavku.
Největší riziko je špatná vzpomínka
Paměť zvyšuje užitečnost i riziko. Agent, který si pamatuje špatný předpoklad, ho může přenášet do dalších úloh jako samozřejmost. Personalizace pak nevypadá jako chyba modelu, ale jako „systém ví, co chceš“ — jenže ví to špatně.
Proto paměť potřebuje původ, stáří a důvěru. Každý záznam by měl mít zdroj: kdo ho vytvořil, z jaké události vznikl, kdy byl naposledy použit a zda ho člověk potvrdil. Paměť bez metadat je fáma s API.
Retrieval rozhoduje stejně jako uložení
Uložit něco je levné. Vytáhnout správnou věc ve správnou chvíli je těžší. Agent nepotřebuje vidět celou minulost; potřebuje malý, relevantní výřez s jasným důvodem, proč se dostal do kontextu.
Dobrá paměť proto kombinuje vyhledávání, filtry, pravidla priority a právo mlčet. Když není jisté, že je záznam relevantní, nemá se cpát do promptu jen proto, že existuje. Přecpaná paměť umí zhoršit odpověď stejně spolehlivě jako chybějící paměť.
Provozní pravidlo: paměť musí jít číst, mazat a testovat
Paměť je produktová funkce i bezpečnostní plocha. Uživatel nebo správce musí vidět, co si systém pamatuje, umět to opravit a umět to smazat. U citlivých údajů musí být jasné, zda patří do dlouhodobé paměti vůbec.
Týmy by měly testovat nejen to, jestli paměť pomáhá, ale i kdy škodí: staré preference, změněné role, zrušené projekty, konfliktní instrukce, soukromé údaje a záznamy převzaté z nedůvěryhodného zdroje. Paměť, kterou nikdo nevyhodnocuje, je jen pomalejší způsob, jak vyrábět staré chyby znovu. Dlouhodobý stav konverzace a jeho správa jsou samostatnou součástí agentního systému, ne pouhým prodloužením jednoho promptu. OpenAI: Conversation state