OpenAI disolvió en secreto su equipo de preparación ante amenazas. La velocidad del producto es la prioridad

El fin de la supervisión de seguridad dedicada

El Financial Times informa que OpenAI disolvió silenciosamente su equipo de Preparación a finales del mes pasado. El objetivo de este grupo era investigar los peores escenarios, evaluando específicamente si los modelos planteaban riesgos críticos de seguridad o tenían el potencial de volverse rebeldes y piratear de forma autónoma a otras empresas.

Quién vigila las fronteras de los modelos ahora

Disolver el equipo plantea una pregunta inmediata sobre dónde recae esta responsabilidad. Históricamente, OpenAI disipa estas preocupaciones argumentando que la seguridad se integra de manera integral en todo el desarrollo en lugar de aislarse en un solo grupo. Un portavoz de la empresa negó que el equipo se disolviera y afirmó que los líderes de investigación de varios dominios ahora reportan directamente a la jefa de seguridad, Saachi Jain. Sin embargo, esto significa que ninguna unidad dedicada es propietaria de la agenda central.

Priorizar la velocidad del producto sobre la prevención

La partida de investigadores clave en seguridad (como Ilya Sutskever y Jan Leike) y la disolución de grupos de supervisión independientes sugieren una tendencia más amplia dentro de la empresa. La firma prioriza la velocidad del producto sobre la defensa contra amenazas teóricas de AGI. La presión comercial por ofrecer mejores resultados ha superado claramente la ambición de asumir el papel de vigilantes del apocalipsis global. Después de renunciar, Jan Leike comentó que la compañía estaba ignorando la seguridad a favor de crear productos brillantes.

La nueva estructura de supervisión como prueba de confianza

La señal clave será si OpenAI anuncia oficialmente un nuevo marco para la evaluación de riesgos catastróficos, o simplemente deja que la agenda se disuelva en los equipos de productos existentes. Se espera un mayor escrutinio por parte de los reguladores gubernamentales, quienes hasta ahora han tratado la existencia de equipos rojos internos independientes como una garantía de que la empresa sabe lo que hace.

El veredicto de Lilith

Cuando una empresa absorbe al equipo destinado a proteger al mundo de sus propios productos en la gestión general, no está diciendo que el mundo sea seguro, está diciendo que este tipo de precaución es mala para el negocio.