Dlaczego natychmiastowa eksplozja inteligencji nie nastąpi nawet przy tysiącach agentów

Agenci obniżą koszty operacyjne, ale nie przełamią bariery zrozumienia

Laboratoria AI, takie jak OpenAI i Anthropic, wkrótce wykorzystają tysiące równolegle działających agentów do procesów wewnętrznych, wywołując nową falę obaw o niekontrolowany rozwój i tak zwane rekursywne samodoskonalenie (RSI). Jednak Nathan Lambert, badacz z przeszłością w HuggingFace i DeepMind, łagodzi tę narrację. Chociaż szybsze i tańsze wnioskowanie pozwoli na wydajniejsze działanie systemów wieloagentowych, automatyzacja rutynowych zadań nie oznacza automatycznie wykładniczego wzrostu samej inteligencji.

Podstawowe prawa skalowania nie ulegają zmianie: dla liniowej poprawy inteligencji nadal wymagane są wykładniczo większe zasoby obliczeniowe. Roje agentów łatwiej rozwiążą mierzalne problemy z wyraźnym wynikiem, ale będą miały znacznie większe trudności z proponowaniem całkowicie nowych kierunków badawczych lub rozwiązywaniem otwartych problemów naukowych, w których brakuje jasnej definicji sukcesu.

Mierzenie inteligencji napotyka na ograniczenia definicji

Debata na temat tego, kiedy sztuczna inteligencja przewyższy ludzkich ekspertów, natrafia na fakt, że „inteligencja” modeli ma zupełnie inny kształt niż ludzka. Modele LLM nie przekraczają kamieni milowych, takich jak „wirtualny asystent” czy „badacz AI”, od razu; raczej asymetrycznie opanowują 80% danej roli, podczas gdy pozostałe 20% pozostaje przeszkodą nie do pokonania przez długi czas.

Według ekspertów branżowych, w tym Johna Schulmana, możemy spodziewać się funkcjonalnego „pracownika zdalnego” do rutynowych zadań administracyjnych w ciągu roku. Jednak zwiększenie produktywności czołowych badaczy potrwa dłużej, ponieważ o ile modele mogą szybciej projektować i testować eksperymenty, to brakuje im intuicji i zdolności do generowania przełomowych hipotez.

Post-training pozostaje rzemiosłem dla ludzi

RSI najczęściej kojarzy się z pomysłem, że modele zaczną trenować same siebie. Jednak faza post-trainingu, w której model uczy się konkretnego zachowania, nadal jest zaskakująco ręcznym procesem. Tworzenie nowych i sensownych środowisk dla uczenia ze wzmocnieniem (RL) wymaga ludzkiego wglądu, a modelom AI wkrótce zacznie brakować tych złożonych zadań jako wysokiej jakości sygnałów szkoleniowych.

Automatyzacja w laboratoriach przyspiesza obecnie inżynierię (pisanie kodu, monitorowanie), a nie faktyczne badania przesuwające granice sztucznej inteligencji. Zasadniczy wzrost możliwości jeszcze nie nadszedł, a modele nadal potrzebują ludzi, aby określić, co tak naprawdę jest właściwym wynikiem.

Komodytyzacja to rzeczywistość, a nie osobliwość

Zamiast niekontrolowanej eksplozji inteligencji prawdopodobnie zobaczymy drastyczny spadek cen obecnych możliwości. Modele będą wykładniczo tańsze przy tym samym poziomie inteligencji. To świetna wiadomość dla biznesu i rozpowszechniania narzędzi, ale rozczarowanie dla tych, którzy spodziewają się sztucznej superinteligencji (ASI) już jutro.

Paradoks Jevonsa najprawdopodobniej zadziała tu w pełni: tańsze modele doprowadzą do zwiększenia wolumenu wykorzystania, tworząc solidne firmy, a nie magiczne przejście do świata bez ludzkiej pracy. Na razie prawdziwa osobliwość pozostaje odłożona w poczekalni pełnej iteracyjnego dostrajania i optymalizacji kosztów.

Werdykt Lilith

Zamiast AGI za rogiem, dostaniemy tysiące rozpaczliwie pilnych urzędników. Rewolucja nie nadejdzie z laboratorium jak grom z jasnego nieba, ale z tego, że każda nudna firma nagle zaoszczędzi jedną trzecią kosztów na procesach, o których istnieniu nawet nie wiedziałeś.