OpenAI přesunula nouzovou brzdu modelů do inference vrstvy. Zastavení trvá nejvýš 35 sekund

OpenAI nasadila Control Room, který ověřuje požadavky výzkumných úloh a po zásahu zastaví další výstup modelu nejvýš do 35 sekund. Bezpečnostní příkaz neleží v proměnlivém kódu experimentu, ale přímo v inference vrstvě.

Každá výzkumná úloha dostává vlastní propustku k modelu

Každá úloha s agentní inferencí musí mít schválený safety case a job ID. Inference engine se před odpovědí ptá Control Roomu, zda smí ID pokračovat. Po zastavení může kód dál běžet, ale nedostane další modelový výstup. OpenAI uvádí režim fail closed: výpadek Control Roomu znamená zamítnutí inference požadavků.

Bezpečnost se stěhuje z experimentu do společné infrastruktury

Výzkumný kód se mění rychle a každý tým ho skládá jinak. Kontrola v inference vrstvě vytváří jedno místo, které musí úloha překročit pokaždé, když chce další odpověď. Pro provozovatele agentů je tento vzor důležitější než název produktu: odděluje monitoring od mechanismu zastavení a lépe se audituje.

Tlačítko začíná fungovat až po rozhodnutí monitoru

Uváděných 35 sekund měří dobu od rozhodnutí zasáhnout k zastavení výstupu. Neříká nic o rychlosti odhalení ani správnosti rozhodnutí. Popis navíc pochází od OpenAI, takže chybí nezávislá data o dostupnosti, falešných poplaších a obcházení. Control Room nevypíná celý proces, pouze mu odebere další inference.

Incidenty ukážou, zda centrální brzda přežije vlastní poruchu

Rozhodnou data z reálných incidentů: kolik úloh systém pokrývá, jak se chová při výpadku sítě a zda lze obejít povinné job ID. Důležitá bude i publikace red teamingu této kontrolní vrstvy. Architektura dává smysl, ale bezpečnostní infrastruktura získává důvěru až při poruše.

Lilithin verdikt

Operátor může zatáhnout za brzdu, ale monitor musí nejdřív označit správný vlak a každé kolo projet kontrolním bodem. Control Room se osvědčí, až selže právě trať, která má hlídat ostatní.