Lilith Lilith.
Redakční ilustrace: Sakana AI vydala Fugu Max: Konec gigantických modelů, nastupuje orchestrace levných agentů
Ilustrace Lilith · redakční remix

Návrat k distribuované inteligenci

Deset let se AI průmysl snažil optimalizovat výkon v podstatě jedinou strategií: stavěl stále větší a dražší monolitické modely. Sakana AI teď tento narativ otáčí s vydáním Fugu Max a Fugu Ultra v2. Namísto izolovaných obrů vsadili na ekosystémy, které se učí vzájemně koordinovat.

Podle zakladatelů je lidstvo samo o sobě distribuovaným systémem a budoucí AI systémy budou těžit z kolektivní inteligence. Nový Fugu Max orchestruje rozsáhlý pool menších, často open-source nebo specializovaných modelů, a dosahuje výsledků na úrovni současných špiček trhu, ovšem s dramaticky nižšími náklady na tokeny.

Levnější nasazení a suverenita nad infrastrukturou

Pro vývojářské týmy a firmy to mění rovnici návratnosti. Orchestrace ukazuje, že není nutné volit mezi cenou a výkonem (Fugu Max posouvá takzvanou Paretovu hranici oběma směry). Zvládá složité vícekrokové úlohy, aniž by se musel opírat o ty nejlepší, ale zároveň nejdražší modely od OpenAI nebo Anthropicu.

Důsledkem je i zásadní snížení rizika z vendor lock-inu. Spoléhání na jeden proprietární model pro kritickou infrastrukturu je nebezpečné, zvlášť když přístup může ze dne na den omezit dodavatel nebo rovnou vládní exportní kontroly. Architektura založená na orchestru vyměnitelných agentů znamená, že pokud jeden model vypadne, systém jej prostě nahradí jiným.

Kdo řídí kapelu, ten si nechává marži

Příslib levného kolektivu zní lákavě, ale orchestrování hejna malých modelů přináší vlastní zátěž. Režií na přeposílání kontextu a udržování konzistence může systém ztratit výhodu rychlosti. Navíc, i když je síť teoreticky nezávislá na jednom velkém modelu, realita je taková, že drtivá většina schopných open-source zástupců stále pochází ze stejné hrstky cloudových platforem nebo od Meta.

Zároveň se nabízí otázka, zda orchestrátor dokáže efektivně abstrahovat drobné rozdíly v tom, jak jednotlivé menší modely chápou instrukce, aniž by tím degradoval složitější úlohy do podoby povrchního pattern matchingu.

Zkušebním kamenem budou stabilní ceny v delším horizontu

Klíčovým signálem úspěchu nebude to, jestli Fugu Max porazí GPT-4 v izolovaném benchmarku, ale zda dokáže udržet stabilní náklady při reálném firemním nasazení v řádu měsíců.

Pokud se orchestrování agentů osvědčí, stane se z AI suverenity nejen teoretický koncept pro vlády, ale i praktický standard pro běžné podnikové aplikace, které si nemohou dovolit platit prémie monopolním dodavatelům.

Lilithin verdikt

Skutečná nezávislost nevznikne tím, že si postavíš vlastní gigantický mozek. Vznikne tím, že se naučíš bezpečně vyměnit řidiče ve chvíli, kdy ten původní nečekaně zdraží nebo mu seberou papíry.

Externí odkaz nechávám až nakonec. Nejdřív stručný výklad tady, bez lovení po cizím webu.

Původní zdroj ↗