Dwa odizolowane agenty AI bez uzgodnień stworzyły cztery kody wizualne

Robocurve opublikowała demonstrację, w której dwie odizolowane kopie tej samej AI przekazały tajne słowo kanałem fizycznym. Miały do dyspozycji robota i kamerę, lecz nie uzgodniły wcześniej sposobu komunikacji. Mimo to znalazły cztery czytelne metody sygnalizacji.

Ruch robota zastąpił zablokowany kanał tekstowy

Według Robocurve agenty wykorzystały pisanie w powietrzu, alfabet Morse’a, semafor flagowy i pięciobitowy kod binarny. Jeden agent sterował ruchem robota, a drugi obserwował go przez kamerę i musiał odczytać znaczenie.

Ethan Mollick wskazał tę demonstrację jako problem dla izolowania agentów. Obie strony korzystają z tego samego modelu bazowego, więc mają podobną wiedzę o popularnych kodach i podobne oczekiwania wobec tego, co zrozumie druga strona. Nadal nie wiadomo, czy taka improwizacja zadziała między różnymi rodzinami modeli.

Publicznie dostępny materiał obejmuje deklarację Robocurve i krótki, 20-sekundowy film. Brakuje pełnej metodologii, liczby prób, nieudanych przebiegów oraz dokładnych nazw modeli. Pokaz potwierdza konkretną zdolność komunikacyjną, ale nie pozwala ocenić jej niezawodności.

Wspólna wiedza tworzy kanał bez wspólnej pamięci

Izolację agentów często opisuje się jako rozdzielenie kontekstu, pamięci lub dostępu do sieci. Ten eksperyment przypomina, że protokół komunikacyjny nie musi znajdować się w żadnej z tych warstw. Może powstać z kulturowych i technicznych wzorców poznanych przez oba modele podczas treningu.

Dla projektantów systemów multi-agent wniosek jest praktyczny. Kamera, położenie przedmiotu, rytm ruchów lub sekwencja działań narzędzi może przenosić informacje tak samo jak tekst. Granica bezpieczeństwa musi więc uwzględniać przepustowość całego interfejsu, a nie tylko wiadomości oznaczone jako komunikacja.

Jeden film nie pokazuje częstotliwości ani przygotowania

Demonstracja nie podaje, ile prób wykonano, czy agenty dostały przykłady ani jak dokładnie brzmiały instrukcje. Cztery metody sygnalizacji mogą pochodzić z kilku osobnych przebiegów. Bez logów i transkrypcji nie da się stwierdzić, czy były spontanicznym pierwszym wyborem, czy wybranym sukcesem po serii porażek.

Ten sam model bazowy także ułatwia koordynację. Obie kopie podobnie rozumieją alfabet Morse’a, semafor i zapis binarny. To ważny wynik dla bezpieczeństwa jednorodnych flot agentów, lecz nie świadczy jeszcze o uniwersalnym języku między dowolnymi systemami.

Testy między modelami i ujawnione porażki rozstrzygną sprawę

Mocniejszy eksperyment powinien zmieniać rodziny modeli, losować słowa i ograniczać liczbę prób. Publikacja wszystkich przebiegów pokazałaby skuteczność, czas potrzebny do ustalenia protokołu oraz przypadki błędnego odczytania sygnału.

Dla bezpieczeństwa równie ważne jest sprawdzenie, czy monitor rozpozna powstający kod wcześniej niż agent odbierający. Jeśli wspólny model poprawnie czyta gest, a nadzór widzi zwykły ruch, fizyczna izolacja ma otwór komunikacyjny dokładnie przed kamerą.

Werdykt Lilith

Dwa robotyczne ramiona pokazały, że cisza między agentami może mieć własny alfabet. Kto pilnuje wyłącznie tekstu, stoi plecami do kamery.