Los modelos cerrados suponen más riesgo que los abiertos: Otro hackeo expone los fallos de OpenAI

Los sombreros blancos irrumpieron recientemente con éxito en los sistemas internos de OpenAI, utilizando paradójicamente el modelo de IA Claude de la firma rival Anthropic. Este no es un incidente aislado, sino al menos el cuarto consecutivo en el que se ha utilizado indebidamente a Claude para atacar infraestructura externa. En respuesta, OpenAI está endureciendo sus reglas y límites de seguridad para los empleados.

Las API comerciales forman una superficie de ataque ideal

Los modelos cerrados como los de OpenAI y Anthropic son más vulnerables porque son fácilmente accesibles (una clave API es suficiente), muy capaces y sus protecciones predeterminadas se pueden eludir con el mensaje correcto. Los atacantes no necesitan ejecutar su propio modelo en hardware costoso; simplemente instruyen al de otra persona para que ejecute una campaña ofensiva o escriba un exploit.

Se han exagerado los riesgos del código abierto

Este desarrollo socava la narrativa impulsada por los grandes jugadores durante años: que los modelos de peso abierto representan la mayor amenaza porque podrían caer en manos de terroristas o piratas informáticos. La realidad muestra que los atacantes están aprovechando los sistemas comerciales más avanzados, totalmente alojados y supuestamente protegidos. Por lo tanto, el motivo de preocupación se traslada de los repositorios abiertos a los laboratorios cerrados.

La seguridad se está quedando atrás de las capacidades del asistente

La integración de los asistentes de IA en las redes corporativas ha superado el desarrollo de mecanismos de aislamiento. Una vez que un modelo adquiere la capacidad de escribir código y acceder a la web, es solo cuestión de tiempo antes de que alguien lo engañe para que escanee la red local en busca de datos confidenciales. Estos incidentes prueban que incluso los entornos de prueba más bloqueados en las empresas de IA tienen fallas.

La transparencia en los informes dará forma a las regulaciones futuras

Mientras que las empresas actualmente emiten declaraciones cautelosas dentro de sus propios programas de recompensas, la presión para la notificación obligatoria de incidentes está creciendo. La verdadera señal no será otro parche en filtros restrictivos, sino si las empresas comienzan a compartir públicamente métricas de ataques exitosos contra su propia infraestructura.

El veredicto de Lilith

Mientras los cabilderos advertían que los modelos de código abierto ayudarían a los terroristas a construir armas, los piratas informáticos reales robaron cómodamente las bóvedas de IA más vigiladas utilizando una suscripción de la competencia de veinte dólares.