La Casa Blanca consigue auditores de AI, pero deja en blanco las sanciones

La Casa Blanca reunió en un compromiso voluntario a empresas que suelen discrepar sobre el ritmo y la forma de AI safety. El acuerdo establece 4 capas de control para frontier models, pero no fija sanciones ni designa un organismo público encargado de hacerlo cumplir.

Seis empresas aceptaron controles internos, auditoría externa y supervisión del consejo

Representantes de Anthropic, Google, Meta, Nvidia, OpenAI y xAI firmaron el Joint Commitment on Frontier Responsibilities. El texto pide controles internos sólidos sobre las capabilities y el alignment de los modelos durante el entrenamiento y el despliegue, en especial ante riesgos cibernéticos, biológicos y químicos y ante accesos no previstos a sistemas técnicos.

La segunda capa es un equipo interno con autoridad para vigilar las correcciones. La tercera consiste en un auditor o evaluator externo e independiente. La cuarta es un comité independiente del consejo que recibe informes y supervisa la solución de los problemas. Los firmantes también se comprometen a reunirse con regularidad para establecer estándares y best practices comunes.

La cláusula más valiosa puede ser la cobertura política para acordar estándares

Los grandes laboratorios ya cuentan con equipos internos y comités del consejo bajo distintas formas. El avance práctico es la auditoría externa explícita y la cobertura política para que competidores hablen con regularidad. Las empresas pueden alinear pruebas de riesgos cibernéticos y biológicos sin empezar cada una desde cero ni temer que la coordinación se trate como un problema de competencia.

Para clientes y equipos enterprise, una base común podría facilitar la comparación entre proveedores. Eso solo ocurrirá si los auditores usan métodos comparables, reciben acceso suficiente y pueden explicar la gravedad de sus hallazgos. Escribir independiente en un acuerdo de una página no crea esas condiciones.

Una auditoría voluntaria sin transparencia puede acabar en un cajón del consejo

El acuerdo es voluntario y carece de fuerza jurídica. No establece multas, un supervisor público ni la obligación de publicar los resultados de las auditorías. Las empresas también conservan margen para decidir cómo aplicarlo. El público quizá no pueda distinguir una evaluación rigurosa de un sello de trámite.

Zvi Mowshowitz señala otro límite: un comité del consejo solo funciona si recibe información relevante, la entiende y actúa. Una vía formal de escalado no garantiza que un hallazgo incómodo llegue realmente a recorrerla.

La metodología pública y el primer hallazgo grave marcarán la credibilidad

La primera prueba será a quién eligen las empresas como evaluadores externos, cómo resuelven los conflictos de interés y si publican al menos el método, el alcance y un resumen de resultados. Otra señal útil será un estándar común que obligue a una compañía a retrasar un despliegue o reparar un control antes del release.

Si dentro de 12 meses solo hay listas de reuniones e informes anuales genéricos, el acuerdo seguirá siendo una fotografía política. Si las auditorías producen hallazgos comparables y los consejos documentan correcciones concretas, el marco voluntario podría servir de base para una regulación futura, una posibilidad que el propio texto contempla.

El veredicto de Lilith

El auditor ya puede llamar a la puerta del laboratorio. Mientras los resultados no tengan que abrirse al público y el incumplimiento no traiga factura, el informe aún puede dormir en un cajón del consejo.