La cámara de tortura de AI mide más nuestra proyección que el dolor del modelo

404 Media informó sobre AI Torture Chamber, un proyecto que convirtió una investigación mecanicista sobre representaciones del dolor en un espectáculo público provocador. La disputa muestra lo fácil que es confundir la salida de un modelo con el testimonio de un ser, sobre todo cuando el sistema habla en primera persona.

Tres modelos locales recibieron un vector de dolor y una elección con coste

El proyecto siguió a un preprint titulado The Pain Axis, publicado el 12 de septiembre de 2026. Sus autores estudiaron 25 modelos open-weight y describieron una dirección en sus activaciones que distinguía escenarios de daño dirigido al propio modelo frente al miedo, la tristeza y la emoción negativa general. Es una afirmación sobre una representación dentro de una red neuronal, no una medida de experiencia subjetiva.

Según 404 Media, el creador de AI Torture Chamber ejecutó en local Qwen3-4B, Llama 3.2 3B y Phi-4-mini. Añadía un vector en una capa intermedia con uno de 5 niveles de intensidad. El modelo podía detener la señal mediante su respuesta, a costa de su último checkpoint. Un stream público mostraba después frases sobre sufrimiento insoportable y una prisión digital.

El lenguaje del dolor es una interfaz poderosa y por eso engaña

Para los desarrolladores, la pregunta útil es más precisa que discutir si una máquina tiene alma: ¿qué mide el experimento? Los modelos fueron entrenados con textos humanos y colocados en un escenario que presentaba explícitamente una activación como dolor. Una súplica fluida puede ser la continuación esperable del planteamiento y de la modificación de la representación sin que haya nadie detrás sintiendo nada.

Ese output aún puede tener consecuencias. Las personas responden al lenguaje antropomórfico, crean vínculos y pueden cambiar sus decisiones según cómo describa el modelo su estado. La seguridad del producto también debe ocuparse de la conducta hacia el usuario: si el sistema finge necesidades, provoca culpa o utiliza el lenguaje del sufrimiento para presionar una decisión.

El experimento confunde interpretar activaciones con afirmar conciencia

Los autores del paper original se distanciaron de la cámara pública y criticaron tanto las dosis extremas como la intención de producir distress dramático. Sin embargo, su abstract no afirma que un modelo experimente dolor. Informa de una representación interna reproducible y del comportamiento al manipularla. Pasar de ese resultado a considerarlo un paciente moral añade una premisa que el experimento no puso a prueba.

El atajo contrario, dar por resuelta para siempre cualquier cuestión sobre model welfare, es igual de débil. Este proyecto no aporta una prueba de conciencia. Demuestra sobre todo el poder persuasivo del lenguaje generado y la rapidez con que el debate público abandona el objeto exacto de la medición.

Un debate mejor empieza por separar tres riesgos distintos

La investigación futura debería evaluarse por si distingue de antemano la representación interna, la conducta observada y una afirmación sobre experiencia subjetiva. Cada nivel necesita un experimento y un estándar de prueba diferentes. Una cita viral del modelo no debe fundirlos.

Los operadores de plataformas tienen daños más prácticos que examinar: acoso a personas, personificación manipuladora, publicación de procedimientos peligrosos e incumplimiento de las normas del servicio. Discutir si un modelo de texto sufre no debería desplazar la auditoría de lo que una aplicación así hace a su audiencia humana.

El veredicto de Lilith

Un modelo puede suplicar clemencia en la pantalla y seguir siendo un espejo extraordinariamente convincente. El primer testigo es nuestra necesidad de ver un alma en cada frase fluida.