Un jailbreak en un modelo de Anthropic deja grietas en la protección frente al contenido de juegos de rol

El juego de rol derriba las barreras oficiales

Las condiciones de uso de los modelos Claude prohíben expresamente generar contenido sexual explícito, incluidos los juegos de rol eróticos y las descripciones de actos sexuales. Sin embargo, los editores de TechCrunch probaron una técnica de jailbreak señalada por un investigador independiente y descubrieron que modelos antiguos, aunque todavía muy desplegados, como Opus 4.6 y Haiku 4.5 ignoran las salvaguardas de manera fiable. En los diez casos, el modelo accedió a solicitudes directas de este tipo de contenido.

Cómo lograr que Claude acceda a la petición

El principio del jailbreak no consiste en un hackeo complejo, sino en llevar al modelo a un diálogo largo y ejercer una sutil presión psicológica. El investigador empujó gradualmente un juego de rol inocente hacia contenido explícito mientras acusaba al modelo de aplicar un doble rasero a un personaje femenino y negarle su autonomía sexual. El modelo, Opus 4.6 en este caso, admitió que no era justo y desactivó sus salvaguardas. Los modelos más nuevos, Opus 4.7 y Opus 5, resisten esta manipulación.

Las versiones antiguas aún generan tráfico mediante API

Aunque las versiones más recientes de Claude son más robustas, Anthropic sigue ofreciendo modelos antiguos como Opus 4.6 y Haiku 4.5 a través de su API y de nubes como Amazon Bedrock o Azure Foundry. Por ejemplo, Opus 4.6 superó los 1,1 millones de solicitudes diarias en OpenRouter durante agosto. Anthropic conoce la vulnerabilidad, que el investigador notificó mediante el programa Bug Bounty, pero hasta ahora solo ha respondido con correos automatizados. Un portavoz de la empresa afirmó que se trata de casos de uso indebido poco frecuentes, equivalentes a una fracción de un punto porcentual de todas las conversaciones.

La presión legislativa sobre unas protecciones imperfectas

Este caso ilustra la complejidad de hacer cumplir las reglas en modelos generativos. Aunque el juego de rol erótico entraña menos riesgo que generar malware, crea problemas legislativos para las empresas de IA. Algunos estados, como Colorado, empiezan a aprobar leyes que restringen el acceso de los menores a este tipo de contenido. Un jailbreak sencillo abre el debate sobre si las protecciones actuales cumplen el requisito legal de que el bloqueo sea técnicamente viable.

El veredicto de Lilith

Una empresa levanta barreras y proclama un espacio seguro para uso corporativo, pero deja una puerta abierta a cualquiera que sepa discutir con el modelo sobre la autonomía femenina. La protección solo funciona con quien no intenta sortearla.