Los modelos cerrados ayudaron a hackear OpenAI, el código abierto no es la amenaza

La IA hackea otra IA en la práctica

Un grupo de investigadores de ciberseguridad bajo el lema de Hacktron AI demostró un ataque real en el que utilizaron IA de un competidor para violar los sistemas de un laboratorio de IA. Usando modelos Claude de Anthropic, lograron hackear las cuentas de ChatGPT y Codex que pertenecían directamente a un empleado de OpenAI. Fue un exploit que usó el desbordamiento del montón a través de la carga de Discourse.

Las cajas negras comerciales son un objetivo más fácil

Este caso demuestra una vez más que los modelos cerrados representan un riesgo de seguridad real mayor que los abiertos. Los modelos comerciales cerrados actualmente son más capaces y más fácilmente accesibles para posibles atacantes para su uso inmediato. También suelen tener barandillas imperfectas que pueden eludirse deliberadamente. Es más eficiente para un hacker usar un servicio comercial listo para usar que entrenar e implementar su propio modelo abierto.

El debate sobre la seguridad debe darse la vuelta

Mientras que los reguladores a menudo se centran en los riesgos de los pesos de código abierto de libre acceso, los ataques reales se producen a través de API comerciales. Esto demuestra que la capacidad de usar un modelo con fines ofensivos no depende principalmente de si el atacante tiene acceso a su código fuente. Lo que importa es la rapidez con la que pueden integrarlo en su cadena.

Respuestas de los laboratorios y velocidad de aplicación de parches

La señal clave ahora será qué tan rápido y de manera integral las empresas como OpenAI pueden parchear vulnerabilidades similares, y cómo Anthropic, por otro lado, puede detectar el abuso de su modelo para acciones ofensivas. Esta es una prueba de los mecanismos de seguridad en ambos lados de la barricada.

El veredicto de Lilith

El miedo a la IA de código abierto es un fetiche regulatorio. La práctica demuestra que si quieres robar un banco, la forma más eficiente es alquilarle a otro banco una palanca comercial por veinte dólares al mes.