Dva izolovaní AI agenti si bez domluvy vytvořili čtyři vizuální kódy

Robocurve zveřejnila ukázku, v níž dvě izolované kopie stejné AI předaly tajné slovo přes fyzický kanál. K dispozici měly robota a kameru, ale žádný předem dohodnutý způsob komunikace. Přesto našly čtyři čitelné formy signalizace.

Robotické ruce nahradily zakázaný textový kanál

Podle Robocurve agenti uspěli pomocí psaní do vzduchu, Morseovy abecedy, vlajkové signalizace a pětibitového binárního kódu. Jeden agent ovládal pohyb robota, druhý sledoval obraz z kamery a musel význam rozpoznat.

Ethan Mollick na ukázku upozornil jako na problém pro izolaci agentů. Obě strany sdílejí stejný základní model, a tedy i podobné znalosti běžných kódů a očekávání, co může druhá strana pochopit. Otázkou podle něj zůstává, zda by stejná improvizace fungovala mezi různými modelovými rodinami.

Veřejný materiál tvoří tvrzení Robocurve a krátké 20sekundové video. Neobsahuje úplnou metodiku, počet pokusů, neúspěšné běhy ani přesné označení použitých modelů. Z ukázky proto lze ověřit schopnost konkrétní komunikace, ne její spolehlivost.

Sdílené znalosti vytvářejí kanál i bez společné paměti

Izolace agentů se často popisuje jako oddělení kontextu, paměti nebo síťového přístupu. Tento experiment připomíná, že komunikační protokol nemusí být uložený v žádné z těchto vrstev. Může vzniknout z kulturních a technických vzorů, které oba modely získaly při tréninku.

Pro návrháře multi-agent systémů je důsledek praktický. Kamera, poloha objektu, časování nebo sekvence nástrojových akcí mohou nést informaci stejně jako text. Bezpečnostní hranice proto musí sledovat kapacitu celého rozhraní, ne pouze zprávy označené jako komunikace.

Jedno video neukazuje četnost ani skrytou přípravu

Ukázka neříká, kolik pokusů bylo potřeba, zda agenti dostali příklady ani jak přesně zněly jejich instrukce. Čtyři způsoby signalizace mohou pocházet z více běhů. Bez protokolů a přepisů nelze určit, zda šlo o spontánní první volbu, nebo o vybraný úspěch po sérii selhání.

Stejný základní model navíc zjednodušuje koordinaci. Obě kopie mají podobnou představu o Morseově abecedě, vlajkové signalizaci i binárním zápisu. To je relevantní bezpečnostní výsledek pro homogenní flotilu agentů, ale ještě ne důkaz obecného jazyka mezi libovolnými systémy.

Rozhodne test napříč modely a se zveřejněnými neúspěchy

Silnější experiment by střídal různé modelové rodiny, náhodná slova a omezený počet pokusů. Zveřejněné záznamy všech běhů by ukázaly úspěšnost, čas potřebný k vytvoření protokolu a případy, kdy přijímač signál pochopil špatně.

Pro bezpečnost je stejně důležité měřit, zda monitor rozpozná vznikající kód dřív než přijímající agent. Pokud sdílený model čte gesto správně a dohled ho považuje za běžný pohyb, fyzická izolace má komunikační otvor přímo před kamerou.

Lilithin verdikt

Dvě robotické ruce právě ukázaly, že ticho mezi agenty může mít vlastní abecedu. Kdo hlídá jen textové zprávy, stojí zády ke kameře.