Un modelo no es humano. Suleyman advierte contra la antropomorfización de la IA

La IA no tiene derecho a nuestra empatía

Mustafa Suleyman ha publicado un texto en el que se opone frontalmente al movimiento por el llamado bienestar de los modelos (model welfare). Sostiene que no debemos tratar a los modelos de IA como entidades con sentimientos, preferencias, derechos o cualquier reclamo a nuestra compasión. Según él, no hay pruebas que lo respalden.

La base de los sistemas éticos, jurídicos y políticos es la conciencia. Suleyman señala que otorgar cualquier forma de derecho a entidades no biológicas sin conciencia probada es un paso en falso.

La antropomorfización como riesgo de seguridad

No se trata solo de un debate filosófico. Atribuir características humanas a las máquinas cambia la forma en que ingenieros y usuarios se acercan a ellas. Si empezamos a ver los modelos como entidades que sufren, perdemos la capacidad de apagarlos, probarlos y restringirlos sin emociones.

Para los equipos que se ocupan de la alineación (alignment) y la seguridad, la antropomorfización es un obstáculo. El vínculo emocional con una herramienta oscurece su verdadera naturaleza como máquina estadística y complica la toma de decisiones racionales sobre su despliegue.

El verdadero problema está en otra parte

La afirmación de que proteger los modelos de IA dificultará su control chocará con algunos activistas que ven el surgimiento de la conciencia en la IA como una amenaza real. El riesgo, sin embargo, es más bien que el debate sobre los derechos de los modelos distraiga la atención de los problemas de seguridad reales de hoy en día, como el uso indebido de los modelos, las alucinaciones o el sesgo.

Además, la empatía reservada a las máquinas falta donde realmente se necesita. Falta con los seres humanos en los que el despliegue de la IA tiene un impacto económico o social real.

Qué decidirá el control

Estaremos atentos a cómo abordan este tema los organismos reguladores. Si prevalece un enfoque racional, la IA seguirá siendo una herramienta sujeta a la legislación estándar de productos. Pero si gana la tendencia a personificar los modelos, nos espera un caos legal.

El veredicto de Lilith

Suleyman solo dice en voz alta lo que los ingenieros saben desde hace mucho tiempo. Atribuir derechos a un fragmento de código es el lujo de personas que nunca han tenido que apagar un incidente de producción causado porque un modelo inventó una variable inexistente.