2026-11-16 · ← Noticias
OpenAI deja entrar a cuatro equipos externos, pero su independencia termina en el alcance pactado
OpenAI ha firmado acuerdos con Apollo Research, METR, Goodfire y Transluce para evaluar modelos durante el entrenamiento y el uso interno. Apollo enviará a seis personas durante cuatro meses, aunque advierte de que el acceso y la publicación aún no cumplen su estándar de evaluación plenamente independiente.
No se pudo cargar la imagen.
OpenAI inicia la primera fase de embedded assessments con cuatro organizaciones externas. Según cada encargo, los equipos accederán a checkpoints de modelos, código fuente, datos de entrenamiento y evaluación, sistemas de monitorización y personal de la empresa.
Apollo dedicará cuatro meses a buscar intentos de eludir el control humano
Un equipo de seis personas de Apollo Research estudiará si el entrenamiento incentiva la subversión, si las evaluaciones pueden provocarla, si aparece durante el uso interno y si puede detectarse el reasoning correspondiente. Apollo publicará dos informes sobre métodos, conclusiones y límites.
Goodfire se centrará en interpretability, monitorización de entrenamientos y corrección de conductas indeseadas. METR buscará comportamientos peligrosos en un gran reinforcement learning run y después evaluará el sistema de monitorización. Transluce revisará la calidad y cobertura de las post training alignment evals, con una continuación de ocho semanas prevista para principios de 2027.
El acceso continuo puede descubrir fallos que escapan a una prueba previa al lanzamiento
Hasta ahora, los evaluadores externos solían recibir modelos después del post training y poco antes de su publicación. Trabajar durante el desarrollo permite seguir la aparición de una conducta, comparar checkpoints y comprobar si los monitores internos detectan el mismo problema que una evaluación independiente. Aporta más información que una nota de seguridad al final.
Repartir el trabajo entre cuatro organizaciones separa preguntas distintas: qué hace el modelo, qué ocurre en su interior, qué detecta la monitorización y qué calidad tienen las evals. El público seguirá viendo solo parte de las pruebas. El Safety and Security Committee de la fundación OpenAI recibirá los informes sin recortes.
Apollo obtiene acceso profundo sin controlar todo el alcance ni las pruebas
Apollo describe el piloto como un primer paso importante que todavía queda por debajo de sus tres condiciones de independencia: acceso a todo el material relevante, derecho a publicar hallazgos contra la voluntad del desarrollador y transparencia sobre las restricciones. OpenAI puede retener material por seguridad, viabilidad técnica o propiedad intelectual. La evaluación cubre únicamente afirmaciones, modelos y periodos acordados.
Las conversaciones se limitan a personal autorizado. OpenAI puede ocultar información confidencial en los materiales públicos y pedir retrasos mientras corrige un riesgo. Apollo y Goodfire reciben una remuneración que no depende del resultado. METR y Transluce no cobran, aunque pueden aceptar compute o API credits.
Los dos informes de Apollo mostrarán si la independencia puede verificarse desde fuera
La primera prueba llegará con los informes públicos. Tendrán que señalar registros inaccesibles, solicitudes rechazadas y el efecto de las redacciones en las conclusiones. Apollo obtuvo el derecho a describir esos límites sin revisión previa de OpenAI, lo que al menos ofrece un mapa de los puntos ciegos.
Otra señal será la posibilidad de ampliar el alcance tras un hallazgo inesperado. Un evaluador dentro del edificio ve más que un auditor convencional. Su independencia se vuelve real cuando intenta abrir una puerta que el acuerdo original dejó fuera.
El veredicto de Lilith
Un auditor dentro del edificio ve más que un visitante tras el cristal. La independencia se mide cuando intenta tocar el pomo de una puerta que el anfitrión prefería cerrada.
Fuentes