Anthropic integra evaluadores internos en Accenture

Mil millones de dólares para auditorías internas

Anthropic ha firmado una nueva asociación estratégica con la consultora Accenture centrada en la evaluación de modelos de IA. Lo más relevante no es la cifra (un compromiso conjunto de invertir mil millones de dólares en cinco años para desarrollar capacidades), sino el modelo operativo. Introduce a los «evaluadores integrados», auditores externos que trabajarán directamente dentro de Anthropic con un nivel de acceso similar al de los empleados. Anthropic los financiará directamente, pero los socios prometen mantener su independencia.

El fin de las certificaciones de seguridad opacas

Para el sector empresarial y gubernamental, esto representa un cambio en la adquisición de IA. Hasta ahora, los compradores tenían que confiar en lo que el desarrollador del modelo declaraba seguro tras sus pruebas internas. Abrir los sistemas internos a los consultores de Accenture ofrece a los grandes compradores la garantía de que la auditoría se ha realizado a nivel de código fuente y escenarios de prueba reales, no solo en la capa superficial de la API.

La frágil independencia de los consultores a sueldo

El punto débil del plan sigue siendo el conflicto de intereses inherente. Accenture cobrará directamente de Anthropic al mismo tiempo que vende servicios de implementación a clientes corporativos. La verdadera independencia de un auditor integrado es frágil si su acceso a los sistemas y su presupuesto dependen del laboratorio que debe examinar.

La participación de organizaciones sin ánimo de lucro será la prueba real

Según el anuncio, la asociación no es exclusiva y Anthropic está en conversaciones con organizaciones sin ánimo de lucro como METR. La viabilidad de este modelo no se demostrará con los informes de Accenture, sino con el hecho de si Anthropic concede realmente ese mismo acceso como empleado a organizaciones de seguridad independientes que carecen de incentivos comerciales para mantener la relación.

El veredicto de Lilith

Comprar una auditoría independiente a la misma empresa que luego vende tu IA no es un certificado de seguridad. Es una factura premium para la tranquilidad de los directivos.