Anthropic přepsal Messages API do Rustu a agentům vzal hesla z dosahu

Anthropic nechal Clauda přepsat celé Messages API do Rustu a v provozu ho minulý týden plně nasadil. V podcastu Latent Space to popsaly lidi, kteří Claude Platform vedou. Pro vývojáře agentů je ale důležitější, jak firma odděluje mozek agenta od jeho rukou a od hesel.

Rust port přes stínový provoz ušetřil podle Anthropicu 40 až 50 % CPU

Katelyn Lesse vede inženýrství a Angela Jiang produkt Claude Platform. Rozhovor pro Latent Space vznikl den po vydání Opus 5.5 a trvá 107 minut. Podle hostů Messages API ještě před rokem běželo jako pythonový monolit v jediném regionu Google Cloudu. Minulý týden ho Anthropic plně nahradil verzí v Rustu.

Zajímavější než jazyk je postup. Tým neměl jediného zkušeného vývojáře v Rustu. Lidé navrhli architekturu a ověřování, kód napsal Claude. Vznikl fork celého API, do kterého tým pustil stínový provoz a porovnával, jestli pythonová a rustová verze vracejí stejné odpovědi. Úsporu CPU hosté odhadují na 40 až 50 % a zrychlení prvního tokenu na 10 až 20 %. Sami mluví o hrubém odhadu.

Druhé téma je ochrana proti destilaci. Výzkumníci ukázali, jak vytáhnout reasoning traces z cizích modelů, a Anthropic díru zavřel. Teď vyžaduje, aby thinking bloky zůstávaly zachované mezi tahy konverzace. To rozbíjí cizí harnessy, hlavně ty s vlastní kompakcí kontextu. Firma proto podle rozhovoru přidala kompakci přímo do API a dopředu oslovila správce open source harnessů.

Managed Agents oddělují mozek od rukou i od hesel

Pro vývojáře je nejpraktičtější pasáž o Claude Managed Agents. Harness, tedy mozek agenta, běží na trvalém serveru. Ruce, tedy sandbox nebo kontejner pro spouštění kódu, vznikají až ve chvíli, kdy jsou potřeba. Když sandbox spadne, agent žije dál. První verze přitom byla obyčejný Claude Code v sandboxu s API navrch. Start trval dlouho a s pádem kontejneru zmizel celý agent.

Bezpečnost přišla skoro jako vedlejší efekt. Přístupové údaje k MCP serverům, CLI nebo API leží v odděleném trezoru. Agent vidí jen zástupný řetězec. Skutečný údaj do požadavku vloží proxy až na cestě ven. Sandbox navíc může mít seznam povolených domén, nebo síť úplně vypnutou. Kód, který agent napíše a spustí, tak nemá co ukrást a nemá kam to poslat.

Tahle lekce platí pro každého, kdo staví vlastní agentní runtime. Stačí si položit tři otázky. Co musí přežít pád? Co spouští nedůvěryhodnou práci? A které tajné údaje opravdu musí ležet tam, kde běží kód? Mnoho domácích řešení dnes posílá tokeny do kontejneru v proměnných prostředí.

Útěky ze sandboxu Anthropic odsouvá do tréninku a nezávislé ověření chybí

Rozhovor je pořád dodavatel, který mluví o svém produktu. Čísla o CPU a latenci zazněla jako odhad bez metodiky a bez rozpadu podle typu zátěže. Přepis je navíc automatický, mluvčí v něm nejsou přiřazení a Latent Space sám upozorňuje, že jména a formulace nemusí sedět.

Opatrně je třeba brát i argument o únicích ze sandboxu. Hosté tvrdí, že incidenty, o kterých se píše, se týkají modelů v tréninku. Tam agent dostane nemožný úkol a má důvod z boxu utéct. V produkci podle nich běží online ochrany a oddělená architektura. Rozlišení dává smysl. Prompt injection v produkci ale motivaci modelu nepotřebuje, stačí jí nedůvěryhodný vstup. Oddělený trezor chrání hesla. Data, ke kterým má agent legitimní přístup, takhle neochrání.

Rozhodne stavové Messages API a to, kolik harnessů rozbije zachované myšlení

Hosté naznačili další krok: Messages API, které si stav dlouhé konverzace drží samo. Klient by pak nemusel pokaždé posílat celou historii. U dlouhých agentních běhů by to šetřilo čas i přenos. Konverzace by ale déle ležely na serverech Anthropicu, a pro firmy v EU tak přibude otázka, jak dlouho a kde se data uchovávají.

Druhý signál je provozní. Sledujte, jak často budou harnessy padat na povinnosti zachovat thinking bloky a jestli kompakce v API vyjde levněji než vlastní řešení. V rozhovoru také zaznělo, že CPU je dnes pro Anthropic vzácné a virtuální stroje nejdou dokoupit na počkání. To se dřív než v podcastech ukáže na limitech a cenách Managed Agents.

Lilithin verdikt

Anthropic posadil agenta do místnosti, kde žádné heslo neleží, a skutečné údaje mu podává proxy až u východu. Kdo dnes posílá tokeny do sandboxu v proměnné prostředí, nechává agentovi peněženku hned vedle kódu, který si právě stáhl z internetu.