Codex Ultrafast zkrátil v OpenAI bezpečnostní vyšetřování z hodiny na 15 minut. Zákazníka stojí šestinásobek

OpenAI zveřejnila výpovědi vlastních inženýrů o tom, jak jim rychlý režim Ultrafast v Codexu mění práci při výpadcích. Největší přínos podle nich leží v pozornosti: už nemusí vyšetřovat souběžně s agentem, protože odpověď přijde dřív, než by sami něco našli.

Ultrafast prohledá logy i Slack dřív, než inženýr ztratí nit

Ultrafast je vysokorychlostní režim v Codexu a podle OpenAI se u jejích inženýrů stal výchozí volbou při incidentech. Text patří do série, ve které firma ukazuje vlastní interní nasazení. Aaron Friel, který incidenty obvykle řídí, založí kanál ve Slacku a nechá Codex problém sledovat, vyšetřovat a odpovídat na dotazy. Říká, že díky rychlosti může prohledat všechny kupky sena najednou.

Nejkonkrétnější číslo dává AJ Trbojevic, bezpečnostní architekt pro datacentra. Sesbírat strukturovaná i nestrukturovaná data, sjednotit je a připravit podklady pro rozhodnutí trvalo dřív hodinu až dvě. Teď to podle něj zabere 10 až 15 minut, někdy skoro v reálném čase. Sayan Sisodiya z týmu, který staví agentní jádro Codexu, nechává agenta procházet i Slack a hledat zmínky o podezřelých změnách.

Jeff Niu má jednoduché pravidlo: když odpověď od AI trvá déle než 30 sekund, zeptá se raději kolegy. S Ultrafast je podle něj většina jeho práce pod touto hranicí, a proto se víc pouští do velkých refaktoringů. Adam Perry si zase drží jedno dlouhé vlákno s Codexem, kterému říká chief of staff. Každé ráno mu shrne schůzky a zprávy, na které zapomněl odpovědět.

Rychlost mění, co se vyplatí agentovi svěřit

Ultrafast pro GPT-6.1 Sol spustila OpenAI 8. října. Podle oznámení pro vývojáře je až osmkrát rychlejší než standardní Sol. V API stojí 12 dolarů za milion vstupních a 60 dolarů za milion výstupních tokenů, tedy šestinásobek standardní ceny. V Codexu a ChatGPT Work ho mají tarif Pro 500, vybrané Enterprise účty s platbou podle spotřeby a Edu s kredity, u Enterprise ho musí zapnout admin. OpenAI uvádí i podporu datové rezidence v USA a EU, takže ho evropské firmy můžou zvažovat i pro data, která nesmí opustit Evropu.

Zajímavější než samotná čísla je to, co inženýři popisují mezi řádky. Adam Perry říká, že dřív zadal Codexu úkol a zároveň šel totéž hledat sám, protože na agenta nemělo cenu čekat. Pomalý agent tedy práci nešetřil, jen ji zdvojoval. Teprve když odpověď přijde do půl minuty, člověk přestane vyšetřovat souběžně.

Pro vedoucí týmů z toho plyne praktická otázka. Šestinásobná cena se vyplatí tam, kde čekání stojí víc než tokeny, typicky při výpadku. Pro běžné psaní kódu, kde nikdo nehoří, je to drahý luxus.

Svědky dělají zaměstnanci výrobce, kteří tokeny sami neplatí

Všechny výpovědi pocházejí od zaměstnanců OpenAI, kteří nástroj vyvíjejí nebo ho mají k dispozici bez rozpočtových starostí. Text neuvádí, kolik incidentů se měřilo, jak často Codex ukázal špatným směrem ani kolik vyšetřování stálo. Jediné tvrdé číslo, 10 až 15 minut místo hodiny či dvou, je odhad jednoho člověka.

Rychlá chybná odpověď je při incidentu nebezpečnější než pomalá. Kdo pustí agenta do logů, Slacku a prohlížeče, musí navíc řešit oprávnění: co agent smí číst, co smí změnit a kdo po něm výsledek zkontroluje. O těchto pojistkách text mlčí.

Rozhodnou čísla od firem, které Ultrafast platí z vlastního

Prvním signálem budou případové studie mimo OpenAI s počty incidentů a časem do opravy, ideálně od firem, které rychlý režim platí z vlastního rozpočtu. Druhým je, jestli se Ultrafast dostane do levnějších tarifů než Pro 500.

Sledovat se vyplatí i to, jak OpenAI popíše oprávnění agenta při incidentu. Firmy, které chtějí pustit Codex k produkčním logům, budou dřív než rychlost potřebovat jasný audit toho, co agent viděl a udělal.

Lilithin verdikt

Inženýr, který dřív hledal chybu souběžně s agentem, protože na něj nemělo smysl čekat, teď v klidu čte jeho odpovědi. OpenAI tak prodává hlavně půl minuty soustředění a účtuje si za ni šestinásobek ceny tokenu.