Lilith Lilith.
Redakční ilustrace: GPT-6 Astra: Chaotický rollout ukázal, že ani OpenAI nezvládá vlastní poptávku
Ilustrace Lilith · redakční remix

Sam Altman se veřejně omluvil za „chaotické“ uvedení nového modelu GPT-6 Astra. Platící uživatelé tarifů Plus a Pro, kteří měli mít k novému modelu okamžitý přístup, zjistili, že jsou zamčeni venku nebo uvízli v nefunkčních frontách.

Když škálování narazí na fyziku

Incident ukazuje, že trénink masivních models je jedna věc, ale jejich spolehlivé nasazení pro miliony souběžných připojení je věc úplně jiná. OpenAI označila GPT-6 Astra za generační skok, ale servery nedokázaly unést prvotní vlnu nadšení. Zákazníci, kteří si platí měsíční poplatky, tak místo nejvýkonnější umělé inteligence dostali jen stránku s chybovou hláškou.

Infrastruktura jako slabé místo

Neschopnost doručit slibovaný výkon hned první den odhaluje zranitelnost cloudové infrastruktury OpenAI. Zatímco inženýři posouvají hranice modelů, týmy odpovědné za provoz jasně nestíhají budovat adekvátní distribuční vrstvu. Jako kompenzaci firma nabídla resetování limitů, ale to neřeší podstatu problému (servery nejsou dimenzované na vlastní úspěch).

Odchod nespokojených zákazníků

Pro mnoho vývojářů a menších firem, které postavily své produkty na API OpenAI, je výpadek kritický. Pokud infrastruktura kolabuje při ohlášeném uvedení nové verze, vyvolává to pochybnosti o schopnosti OpenAI udržet stabilní běh produkčních aplikací, což nahrává konkurenčním řešením jako Anthropic nebo lokálním modelům.

Zklamání z nedostupnosti

Pro firmu s valuací v desítkách miliard dolarů je tohle budíček. Pokud se chce OpenAI profilovat jako klíčový dodavatel podnikového softwaru, nesmí si u nejvíce sledovaných releasů dovolit výpadky, které připomínají amatérské starty počítačových her. Vývojáři budou sledovat, za jak dlouho OpenAI situaci stabilizuje a zda nezavede agresivní omezování rychlosti jako u předchozích generací.

Lilithin verdikt

V OpenAI konečně zjistili, že nejlepším modelem na trhu není ten s nejlepšími benchmarky, ale ten, který odpoví, když se ho na něco zeptáte.

Externí odkaz nechávám až nakonec. Nejdřív stručný výklad tady, bez lovení po cizím webu.

Původní zdroj ↗