Altman pide reglas globales para una IA que aún controlan unos pocos laboratorios

El 23 de septiembre, Sam Altman pidió al Consejo de Seguridad de la ONU estándares comunes para los sistemas de IA más capaces. OpenAI trasladó así el debate desde los principios corporativos hacia una pregunta más incómoda: quién mide, verifica y hace cumplir las reglas.

OpenAI llevó tres principios al Consejo de Seguridad

Altman intervino en la sesión 10228 junto a representantes de Anthropic, Hugging Face y la comunidad científica. Articuló su propuesta en torno a tres principios: las personas deben seguir en el centro de las decisiones, el progreso científico y económico debe beneficiarlas y la IA debe reforzar la capacidad de cada individuo.

Pidió estándares nacionales e internacionales complementarios para medir capacidades, evaluar riesgos y preservar una supervisión humana efectiva. También propuso informes rápidos de incidentes y canales seguros entre gobiernos, operadores de infraestructuras críticas y expertos técnicos.

La seguridad se convierte en una cuestión de legitimidad

La parte más relevante del discurso abordó la concentración de poder. Altman afirmó que las decisiones importantes no deben quedar únicamente en manos de laboratorios de San Francisco y que las empresas no pueden sustituir al proceso democrático.

Para los gobiernos, es una invitación a crear un lenguaje común sobre evals, supervisión y pruebas. Para las empresas de IA, implica aceptar reglas cuyo resultado quizá no controlen. Ese segundo punto distinguirá un cambio político real de una póliza reputacional bien diseñada.

El discurso fijó objetivos sin crear una inspección

Altman no ofreció un modelo de auditoría vinculante, un mecanismo de acceso independiente ni plazos para informar de incidentes. Tampoco resolvió la tensión entre los estándares globales y la autoridad nacional.

OpenAI sigue desarrollando, evaluando y lanzando sus propios modelos. Compartir términos ayuda, pero sin medición independiente cada proveedor todavía puede corregir su propio examen.

Las auditorías y el acceso a pruebas decidirán el resultado

La próxima señal útil será un protocolo, no otro discurso. Habrá que comprobar si los Estados armonizan la clasificación de incidentes graves, permiten evals independientes y definen qué pruebas debe aportar un laboratorio antes del despliegue.

Unos estándares verificables para modelos abiertos y cerrados podrían dar peso práctico al proceso de la ONU. Sin ellos, el control humano seguirá siendo una frase atractiva sin interruptor.

El veredicto de Lilith

Altman abrió el libro de inspecciones ante el Consejo de Seguridad, pero OpenAI aún escribe la mayoría de sus páginas. La cooperación empezará cuando un auditor independiente vea los mismos modelos e incidentes.