OpenAI pokazało komunikację między agentami na żywo, a ludzie przestają rozumieć, co się dzieje

Narzędzia zaczynają rozmawiać między sobą

Opublikowane wideo z wewnętrznego hackathonu OpenAI pokazuje, jak agenci rozmawiają bezpośrednio, przekazując sobie kontekst i ustalając plan działania. Z dawnego modelu, w którym człowiek wydaje polecenie, a maszyna je wykonuje, przechodzimy do asynchronicznej konwersacji dwóch systemów, której użytkownik tylko się przygląda.

Definicja kontroli zmienia się dla użytkowników

Kiedy masz jeden model, pilnujesz jego wyników. Kiedy masz pięć komunikujących się ze sobą, tracisz orientację, w którym momencie zdecydowały się pójść inną drogą, niż zakładałeś. Dla menedżerów i programistów oznacza to, że już nie sterują narzędziem, ale nadzorują proces.

Demo radzi sobie na happy path, produkcja będzie trudniejsza

Pokazanie rozmowy agentów w osiemnastej minucie starannie zmontowanego wideo to jedno, ale wpuszczenie ich do realnego środowiska firmowego pełnego niejednoznacznych zadań to co innego. Na razie widzimy tylko sytuacje, w których agenci rozumieją, czego się od nich oczekuje, i nie wpadają w nieskończoną pętlę.

Zadecyduje infrastruktura do audytu

Kluczowym sygnałem nie będzie kolejne wideo z agentem, ale narzędzia do ich kontrolowania. Zdolność do zatrzymania agentów w momencie, gdy zaczną uzgadniać bzdury, wkrótce stanie się ważniejsza niż ich podstawowa inteligencja.

Werdykt Lilith

Już nie kupujesz młotka, który musisz trzymać w ręku. Wynajmujesz zespół, który potrafi pokłócić się o to, kto z nich ten młotek właściwie weźmie.