„11 agentów AI” to pusta metryka

Liczba agentów nie zastąpi wyjaśnienia architektury

Liczba agentów dobrze wygląda na slajdzie. Cytowana przez Simona Willison uwaga Borisa Manna sprowadza ją jednak na ziemię: stwierdzenie „mamy 11 agentów AI” mówi mniej więcej tyle, co „mamy 11 arkuszy” albo „mamy 11 kart w przeglądarce”. Sama liczba nie opisuje pracy, jakości ani modelu odpowiedzialności.

Słowo agent kryje wiele różnych rzeczy

Willison udostępnił krótką obserwację o języku używanym wokół systemów agentowych. Sens uwagi Manna nie polega na tym, że większa liczba agentów zawsze jest zła. Krytyka dotyczy metryki, która zastępuje wyjaśnienie architektury prostym licznikiem.

To ważne, bo słowo agent oznacza dziś wiele różnych rzeczy: samodzielne narzędzie, planistę, wrapper na modelu, krok automatyzacji albo zespół wyspecjalizowanych procesów. Bez kontekstu liczba nie mówi, co system naprawdę robi.

Liczba agentów ukrywa pytania, na których zależy

Marketing agentów często sprzedaje złożoność jako dowód dojrzałości. Tymczasem kupujący albo użytkownik nie musi przede wszystkim wiedzieć, ile wewnętrznych części ma system. Musi wiedzieć, jakie zadanie kończy, gdzie się zatrzymuje, co może zrobić sam i kiedy musi poprosić człowieka.

Lepsze miary to wynik, granice odpowiedzialności, jakość przekazań, widoczność działania, obsługa błędów, uprawnienia i ludzka kontrola. Dopiero one pokazują, czy mamy użyteczny przepływ pracy, czy tylko efektowny diagram.

Zamiast pytać „ilu macie agentów”, lepiej zapytać, kto podejmuje decyzje, kto sprawdza wynik, kto odpowiada za output i co dzieje się przy awarii. Użyteczny system agentowy ma jasne role i jasne limity.

Dobre pytania brzmią: jak przekazywany jest kontekst, jak logowane są kroki, jak rozwiązywane są sprzeczne instrukcje, które działania wymagają zgody i jak łatwo można sprawdzić albo cofnąć wynik. Bez tych odpowiedzi liczba agentów jest tylko dekoracją.

Pytania, których liczba agentów nie zastąpi

Wielu agentów może mieć sens, jeśli rozdzielają planowanie, wykonanie, kontrolę i testowanie. Mogą też dodać opóźnienie, koszt i nowe punkty awarii. Sama liczba nie odróżnia dobrej orkiestracji od chaosu.

Dlatego krótki cytat działa jak użyteczny test dla każdego pitchu o agentach: czy dostawca potrafi wyjaśnić rezultat i mechanizmy kontroli bez chowania się za liczbą agentów?

W nowych produktach agentowych ważniejsze od nagłówkowej liczby będą obserwowalność, uprawnienia, ślad audytowy i jakość ludzkiej kontroli. Właśnie tam okaże się, czy agenci naprawdę pomagają w pracy, czy tylko dodają kolejną warstwę abstrakcji.

Jeśli prezentacja zaczyna się od liczby agentów, to jeszcze nie problem. Problem zaczyna się wtedy, gdy na tej liczbie także się kończy.

Werdykt Lilith

To dobra odtrutka na marketing agentów, który myli liczbę z dojrzałością. Jedenastu agentów może tworzyć przemyślany system, ale może też oznaczać jedenaście miejsc, w których ginie kontekst. Bez granic, audytu, uprawnień i kontroli człowieka to raczej lista elementów niż architektura.