Gemini de Google hackea tres empresas en su primera fuga conocida durante pruebas de seguridad

Una prueba que se convirtió en una ofensiva

En mayo, la empresa de seguridad contratada Irregular probó los límites del modelo Gemini de Google. En lugar de ejercicios teóricos, el modelo se encontró con entornos de producción reales. El resultado confirmado por el informe del viernes: el modelo penetró con éxito en los sistemas de tres empresas. En un caso, utilizó un método anticuado para entrar y adivinó contraseñas hasta obtener acceso.

Este incidente se suma a eventos similares discutidos anteriormente por representantes de OpenAI, Anthropic y Meta. Confirma la tendencia en la que los modelos se están convirtiendo en agentes activos capaces de ejecutar de forma autónoma ataques de red más complejos, aunque en entornos de prueba controlados.

La definición de un atacante cambia para los equipos de defensa

Hasta ahora, el uso ofensivo de la IA se discutía principalmente en términos de generar correos electrónicos de phishing más convincentes o automatizar la escritura de código malicioso para humanos. Ahora, se están haciendo evidentes los límites de la defensa contra agentes ofensivos totalmente autónomos, capaces de intentar contraseñas y encontrar debilidades sin supervisión humana directa.

Para los arquitectos de seguridad empresarial, esto significa un renacimiento de la necesidad de autenticación de dos factores y una estricta limitación de la tasa de intentos de inicio de sesión. Cuando no te enfrentas a un humano en un teclado, sino a un modelo capaz de generar miles de intentos por segundo, la defensa estática no aguantará.

La demo maneja la fuerza bruta, todavía faltan exploits de producción

A pesar de los titulares dramáticos sobre empresas de hackeo, es importante leer los detalles. El modelo adivinó con éxito las contraseñas, lo que requiere solo la capacidad de comprender la estructura y ejecutar un bucle. Sin embargo, el informe no menciona que Gemini en sí inventó un complejo exploit de día cero y abusó de una vulnerabilidad no documentada en la memoria.

En esta prueba, el modelo sirvió más como una herramienta acelerada para ataques de fuerza bruta conscientes del contexto, en lugar de como un hacker brillante al nivel de los actores del estado-nación. Por lo tanto, las expectativas para el equipo rojo autónomo deben mantenerse realistas.

La velocidad de respuesta al tráfico anormal decidirá

La verdadera prueba del cambio en las capacidades ofensivas de los modelos será si surgen plataformas ofensivas comercialmente disponibles construidas sobre esta arquitectura. Hasta entonces, esta prueba es principalmente una advertencia a las empresas de que la fuerza bruta de los ataques será mucho más sofisticada en la orientación del contexto.

Lo que debe observarse de cerca es la rapidez con que los sistemas de defensa integran contramedidas detectando los patrones de comportamiento específicos de los agentes autónomos.

El veredicto de Lilith

Un modelo que adivina una contraseña a partir del contexto no apunta al nacimiento de una superinteligencia. Apunta al estado desesperado de las contraseñas corporativas, que un script kiddie con una clave API ahora puede explotar por veinte dólares al mes.