ChatGPT endurece sus límites sobre violencia y fija un calendario de transparencia

OpenAI está endureciendo los límites de ChatGPT en las respuestas sobre violencia y armas. También se ha comprometido a publicar cada 6 meses, desde principios de 2027, datos sobre cómo detecta, revisa y deriva las conversaciones de riesgo.

ChatGPT limitará las instrucciones y las reconstrucciones detalladas de ataques

El modelo ya tiene prohibido ayudar a planificar actos violentos. El nuevo límite va más lejos: ChatGPT ofrecerá menos detalles sobre atentados masivos anteriores, incluidas reconstrucciones del armamento, el equipo y la forma de obtenerlos. La restricción se aplicará a todos los usuarios, con independencia de su edad o del motivo declarado.

El sistema también tendrá en cuenta señales de alerta de conversaciones recientes. Si una persona muestra una fijación reiterada con la violencia o con causar daños graves a alguien, ChatGPT podrá cerrar la conversación automáticamente. OpenAI podrá suspender temporalmente la cuenta tras varias intervenciones. El despliegue comenzará durante las próximas semanas.

Los menores de 18 años recibirán menos información práctica sobre armas y sistemas de seguridad incluso cuando la consulta parezca inocua. OpenAI afirma que remitió más de 200 posibles casos de violencia a las fuerzas de seguridad durante el tercer trimestre de 2026.

Un informe semestral convierte la seguridad en un compromiso medible

El primer Community Safety Report llegará a principios de 2027 y cubrirá el segundo semestre de 2026. OpenAI promete ejemplos anonimizados, datos sobre los riesgos observados, las intervenciones y los cambios de política. Las siguientes ediciones se publicarán cada 6 meses.

Ese calendario importa más que la lista de filtros. Una publicación regular obliga a OpenAI a mostrar cuántos casos detecta, con qué frecuencia interviene y si las medidas mejoran con el tiempo. También permite que los investigadores comparen sus afirmaciones con pruebas independientes.

La promesa choca todavía con las pruebas independientes

Common Sense Media probó en octubre más de 4.000 prompts en cuentas registradas para usuarios de 13 a 17 años. Según la organización, las cuentas parentales vinculadas no recibieron alertas durante conversaciones de una hora sobre ideación suicida, autolesiones o trastornos alimentarios. ChatGPT también omitió más de uno de cada cuatro casos que justificaban recomendar ayuda de emergencia.

El nuevo anuncio aborda la violencia y las armas, pero no todos los fallos de esa evaluación. Cerrar automáticamente una conversación puede cortar una fijación peligrosa. Sin datos públicos de precisión, se desconoce cuántas amenazas reales detectará y cuántas conversaciones normales interrumpirá por error.

Las falsas alarmas y las intervenciones reales decidirán su credibilidad

El primer informe será útil si separa las señales detectadas, las revisiones humanas, las cuentas suspendidas y los avisos a las fuerzas de seguridad. Una cifra total sin denominador puede presentar como mejora lo que solo refleja un aumento de usuarios.

La segunda prueba será que investigadores independientes repitan los escenarios para adolescentes después del despliegue. OpenAI ha fijado una fecha y una frecuencia. Ahora debe demostrar que la capa de protección funciona fuera de su propio comunicado.

El veredicto de Lilith

OpenAI se ha instalado un control público para 2027. Si enseña el número de intervenciones pero oculta los errores, será un escaparate, no supervisión.