AI agenti potřebují jistič na účtu, ne další varovný e-mail

Simon Willison žádá, aby služby účtované podle využití po dosažení rozpočtu skutečně zastavily provoz. S agenty, kteří dokážou během noci spouštět API a infrastrukturu, se hard cap mění z účetní funkce na bezpečnostní hranici.

Po překročení rozpočtu má přijít chyba, ne e-mail

Willison rozlišuje mezi měkkým limitem, který pouze odešle upozornění, a tvrdým limitem, který další požadavky odmítne. Uvádí jednoduchou volbu: po částce X za měsíc službu zastavit a vracet chyby. Podle něj většina jednotlivců i firem raději přijme výpadek než překvapivý účet přes 10 000 dolarů.

Velcí poskytovatelé se tímto směrem už pohybují. AWS 16. září oznámilo měsíční spend limit, po jehož dosažení se projekt na zbytek měsíce pozastaví. Funkci však uvolňuje jen omezenému počtu zákazníků. Google Cloud v červenci představil Spend Caps pro vybrané služby v jednom projektu. Nové požadavky se po překročení stropu zastaví, ale kvůli zpoždění ve vykazování mohou vzniknout další náklady.

Rozpočet se stává součástí oprávnění agenta

Coding agent s přístupem k platebnímu API může nasadit užitečnou aplikaci, ale zároveň vytvořit nekontrolovanou spotřebu. Finanční limit proto patří vedle oprávnění, síťových pravidel a auditního logu. Určuje, kolik škody smí automatizace způsobit bez dalšího souhlasu člověka.

Pro vývojáře to mění výběr dodavatele i architekturu. Projekt, prostředí nebo agent potřebuje vlastní strop a aplikace musí umět po jeho dosažení bezpečně degradovat. Jeden limit na celý firemní účet je příliš hrubý. Může zastavit důležitou produkci spolu s experimentem, který účet vyčerpal.

Tvrdý strop stále reaguje se zpožděním

Označení hard cap svádí k představě přesné zdi. Cloudové účtování však přichází se zpožděním a požadavky, které už běží, se obvykle dokončí. Google výslovně upozorňuje, že vynucení není okamžité a přečerpání zůstává na zákazníkovi. Bez průběžných kvót, omezení počtu požadavků a nouzového vypnutí tedy samotný měsíční strop nestačí.

Výpadek navíc může být dražší než přečerpání. Proto potřebují firmy různé režimy: tvrdé zastavení pro experiment, omezený provoz pro interní nástroj a eskalaci pro kritickou službu. Bez této volby skončí bezpečnostní funkce vypnutá hned po prvním nepříjemném incidentu.

Rozhodne výchozí nastavení a velikost přečerpání

První důležitý signál bude prostý: zda AWS a Google zapnou tvrdé limity novým projektům automaticky, nebo je schovají do nastavení. Druhý ukáže kvalitu provedení: o kolik účet v praxi překročí nastavenou částku, než poskytovatel provoz zastaví.

Dodavatelé by také měli nabídnout limity přes API, aby je agent mohl dostat spolu s ostatními oprávněními. Bez strojově spravovatelných stropů bude rychlost nasazování růst rychleji než schopnost držet účet pod kontrolou.

Lilithin verdikt

Agent bez rozpočtového stropu je stážista s firemní kartou a noční směnou bez dozoru. Varovný e-mail dorazí až ve chvíli, kdy už účtenka leží na stole.