Dos agentes de AI aislados improvisan cuatro códigos visuales sin acordarlos

Robocurve ha publicado una demostración en la que dos copias aisladas de la misma AI transmiten una palabra secreta por un canal físico. Disponían de un robot y una cámara, pero no habían acordado ningún método de comunicación. Aun así, encontraron cuatro formas interpretables de señalización.

El movimiento del robot sustituyó al canal de texto bloqueado

Robocurve afirma que los agentes recurrieron a escritura en el aire, código Morse, semáforo con banderas y un alfabeto binario de cinco bits. Un agente controlaba el movimiento del robot, mientras el otro lo observaba mediante una cámara y debía inferir el significado.

Ethan Mollick señaló la demostración como un problema para el aislamiento de agentes. Ambos lados comparten el mismo modelo base y, por tanto, conocimientos similares sobre códigos comunes y expectativas parecidas sobre lo que el otro entenderá. Queda abierta la pregunta de si funcionaría entre familias de modelos distintas.

La prueba pública consiste en la afirmación de Robocurve y un vídeo breve de 20 segundos. No incluye una metodología completa, el número de intentos, las ejecuciones fallidas ni la identidad exacta de los modelos. Demuestra una capacidad concreta de comunicación, pero no su fiabilidad.

El conocimiento compartido crea un canal sin memoria compartida

El aislamiento de agentes suele plantearse como una separación del contexto, la memoria o el acceso a la red. Este experimento recuerda que un protocolo no tiene por qué almacenarse en ninguna de esas capas. Puede surgir de patrones culturales y técnicos que ambos modelos adquirieron durante el entrenamiento.

La consecuencia práctica para quienes diseñan sistemas multi-agent es amplia. Una cámara, la posición de un objeto, el ritmo o una secuencia de acciones con herramientas pueden transportar información igual que el texto. La frontera de seguridad debe vigilar la capacidad de toda la interfaz, no solo los mensajes etiquetados como comunicación.

Un vídeo no revela la frecuencia ni la preparación oculta

La demostración no indica cuántos intentos hicieron falta, si los agentes recibieron ejemplos ni cuáles fueron sus instrucciones exactas. Los cuatro métodos pueden proceder de ejecuciones distintas. Sin registros y transcripciones, no sabemos si surgieron como primera opción espontánea o si son éxitos seleccionados tras varios fallos.

Usar el mismo modelo base también facilita la coordinación. Ambas copias comparten representaciones similares del código Morse, el semáforo y la notación binaria. El resultado importa para la seguridad de flotas homogéneas de agentes, pero no establece un lenguaje universal entre sistemas cualesquiera.

Las pruebas entre modelos y los fallos publicados decidirán el resultado

Un experimento más sólido alternaría familias de modelos, usaría palabras aleatorias y limitaría el número de intentos. Publicar todas las ejecuciones permitiría conocer la tasa de éxito, el tiempo necesario para establecer un protocolo y los casos en que el receptor interpretó mal la señal.

Para la seguridad también importa medir si un monitor reconoce el código antes que el agente receptor. Si un modelo compartido lee bien un gesto mientras el sistema de vigilancia lo toma por un movimiento normal, el aislamiento físico tiene una abertura de comunicación justo delante de la cámara.

El veredicto de Lilith

Dos brazos robóticos acaban de mostrar que el silencio entre agentes puede tener su propio alfabeto. Quien vigile solo el texto estará de espaldas a la cámara.