OpenAI lleva el freno de emergencia de sus modelos a la capa de inferencia: tarda como máximo 35 segundos

OpenAI ha desplegado Control Room, que comprueba las solicitudes de investigación y detiene nuevas salidas del modelo en un máximo de 35 segundos tras decidir una intervención. La orden se aplica en la capa de inferencia y no en el código cambiante del experimento.

Cada carga de investigación recibe su propio pase al modelo

Toda carga con inferencia agéntica necesita un safety case aprobado y un job ID. El motor pregunta a Control Room si ese ID puede continuar. Tras la parada, el código puede seguir ejecutándose, pero no recibe más salidas. Según OpenAI, si Control Room falla, las solicitudes de inferencia se rechazan.

La seguridad sale del experimento y pasa a la infraestructura común

El código de investigación cambia deprisa y cada equipo lo monta de forma distinta. La comprobación en la capa de inferencia crea un punto común para cada respuesta. Para quienes operan agentes, el patrón importa más que el nombre porque separa monitorización y ejecución y facilita la auditoría.

El botón solo actúa después de la decisión del monitor

Los 35 segundos se cuentan desde la decisión de intervenir. No miden la velocidad de detección ni la precisión de la decisión. La descripción procede de OpenAI, por lo que faltan datos independientes sobre disponibilidad, falsas alarmas y evasión. El sistema corta la inferencia, pero no termina todo el proceso.

Los incidentes probarán la resistencia del freno central

Harán falta datos de incidentes reales: cobertura, comportamiento ante fallos de red y posibles rutas para evitar el job ID. También importarán los resultados de red teaming. La arquitectura es razonable, pero la infraestructura de seguridad gana confianza cuando algo se rompe.

El veredicto de Lilith

El operador puede tirar del freno, pero antes el monitor debe señalar el tren correcto y cada rueda debe pasar el control. Control Room demostrará su valor cuando falle la vía encargada de vigilar las demás.