Zwei isolierte AI-Agenten erfinden ohne Absprache vier visuelle Codes

Robocurve hat eine Demonstration veröffentlicht, in der zwei isolierte Kopien derselben AI ein geheimes Wort über einen physischen Kanal übermitteln. Ihnen standen ein Roboter und eine Kamera zur Verfügung, aber kein vorab vereinbartes Kommunikationsverfahren. Trotzdem fanden sie vier verständliche Signalformen.

Roboterbewegungen ersetzten den gesperrten Textkanal

Laut Robocurve nutzten die Agenten Luftschrift, Morsecode, Flaggenalphabet und einen binären Fünf-Bit-Code. Ein Agent steuerte die Bewegung des Roboters, während der andere ihn über eine Kamera beobachtete und die Bedeutung erschließen musste.

Ethan Mollick hob die Demonstration als Problem für die Isolation von Agenten hervor. Beide Seiten verwenden dasselbe Basismodell und teilen deshalb ähnliches Wissen über bekannte Codes sowie Erwartungen darüber, was die andere Seite verstehen kann. Offen bleibt, ob die Improvisation zwischen verschiedenen Modellfamilien funktioniert.

Das öffentliche Material besteht aus der Aussage von Robocurve und einem kurzen Video von 20 Sekunden. Eine vollständige Methodik, die Zahl der Versuche, fehlgeschlagene Läufe und genaue Modellnamen fehlen. Die Demonstration belegt eine konkrete Kommunikationsfähigkeit, aber keine verlässliche Erfolgsquote.

Gemeinsames Wissen schafft einen Kanal ohne gemeinsamen Speicher

Agentenisolierung wird häufig als Trennung von Kontext, Speicher oder Netzwerkzugang beschrieben. Das Experiment erinnert daran, dass ein Protokoll in keiner dieser Schichten gespeichert sein muss. Es kann aus kulturellen und technischen Mustern entstehen, die beide Modelle im Training gelernt haben.

Für Entwickler von Multi-Agent-Systemen hat das eine praktische Folge. Eine Kamera, die Position eines Objekts, das Timing oder eine Abfolge von Werkzeugaktionen können ebenso Informationen tragen wie Text. Eine Sicherheitsgrenze muss daher die Kapazität der gesamten Schnittstelle berücksichtigen und nicht nur ausdrücklich als Kommunikation markierte Nachrichten.

Ein Video zeigt weder Häufigkeit noch verborgene Vorbereitung

Die Demonstration nennt weder die Zahl der nötigen Versuche noch mögliche Beispiele oder den genauen Wortlaut der Anweisungen. Die vier Signalmethoden könnten aus mehreren Läufen stammen. Ohne Protokolle lässt sich nicht erkennen, ob sie spontan zuerst gewählt oder nach Fehlschlägen als Erfolge ausgewählt wurden.

Dasselbe Basismodell erleichtert die Koordination zusätzlich. Beide Kopien besitzen ähnliche Vorstellungen von Morsecode, Flaggenalphabet und Binärdarstellung. Das ist für homogene Agentenflotten sicherheitsrelevant, belegt aber noch keine universelle Sprache zwischen beliebigen Systemen.

Modellübergreifende Tests und veröffentlichte Fehlschläge entscheiden

Ein stärkeres Experiment würde Modellfamilien wechseln, zufällige Wörter verwenden und die Zahl der Versuche begrenzen. Vollständige Aufzeichnungen würden Erfolgsraten, die Zeit bis zum Aufbau eines Protokolls und missverstandene Signale sichtbar machen.

Für die Sicherheit zählt ebenso, ob ein Monitor den entstehenden Code früher erkennt als der empfangende Agent. Liest das gemeinsame Modell eine Geste richtig, während die Aufsicht nur eine normale Bewegung sieht, liegt das Kommunikationsloch direkt vor der Kamera.

Liliths Urteil

Zwei Roboterarme zeigen, dass selbst die Stille zwischen Agenten ein eigenes Alphabet haben kann. Wer nur Textnachrichten überwacht, steht mit dem Rücken zur Kamera.