Anthropic varuje investory: další modely mohou brzy překročit práh zrychleného AI vývoje

Anthropic 2. listopadu přidal do prospektu S-1 nové varování. Jeho příští modely mohou brzy splnit vlastní mez pro prudce rychlejší vývoj díky AI. Firma však říká, že žádný dnešní model za touto mezí není. Zpráva pro investory tak doplňuje odhad METR. Podle něj od října 2025 rostou schopnosti modelů firmy 1,9krát rychleji.

Varování z výzkumu se dostalo do prospektu pro investory

Firma podala upravený prospekt u americké SEC. Odhad v něm opírá o svá data a výhled pro příští modely. Dnešní modely dál zkoumá, ale žádný zatím mez nepřekročil. Slovo „brzy“ nemá datum. Anthropic neuvedl ani konkrétní verzi Claude.

Responsible Scaling Policy má pro tuto mez i pracovní test. Model by musel zvládnout za 1 rok tolik pokroku, kolik dřív trvalo 2 roky. Jde o tempo z let 2018 až 2024. Prospekt navíc přiznává slabé místo měření. Mnoho dat ukazuje stav až se zpožděním. Firma tedy může prudký růst poznat až poté, co už nastal.

Anthropic přiznává, že jeho měření může přijít pozdě

Zápis v prospektu mění váhu celé věci. Bezpečnostní úvaha se stala rizikem pro investory. Schopnosti modelů mohou utéct ochraně, testům i dohledu. Anthropic pak čeká více nehod, zásahů úřadů a škod pro vlastní byznys.

Opatrnost má také svou cenu. Firma může odložit vydání modelu nebo zúžit první přístup. Může zavést i další brzdy pro vývoj a nasazení. Tyto kroky mohou být častější a dražší. Soupeři s volnějšími pravidly tím získají výhodu.

Slovo „brzy“ nemá datum a dnešní modely zůstávají pod mezí

Prospekt nehlásí vznik rekurzivního sebezdokonalování. Říká jen to, že odhady pro příští modely míří blízko firemní meze. Anthropic také neumí přesně změřit své nejnovější a dosud nevydané modely.

Také údaj METR má široké okraje. Hlavní odhad činí 1,9násobek, tedy 1,9x původního tempa, a interval sahá od 1,5 do 2,8. Jiné volby metody dávají 1,1 až 2,9násobku. Velká část nejsilnějších podkladů zůstala začerněná. Veřejnost tak vidí závěr, ale klíčové kroky si sama nezopakuje.

Další Risk Report ukáže, zda z odhadu vzešlo rozhodnutí

Anthropic slíbil další zprávy podle Responsible Scaling Policy. Podstatné bude, zda některý model skutečně označí za model nad mezí. Pak se ukáže, jak omezí jeho vývoj či nasazení. Firma by také měla ukázat dost dat, metod a časových údajů pro vnější kontrolu.

Druhý signál dodají další testy METR na stejném indexu. Tempo 1,9násobku se musí potvrdit i u nových modelů. Zlom by přišel ve chvíli, kdy AI začne sama dělat zásadní části výzkumu. Pak už věta v prospektu nebude jen popisem možné budoucnosti.

Lilithin verdikt

Anthropic připevnil kouřový hlásič přímo nad stůl investorů. Zatím houká kvůli budoucím modelům, ale firma sama přiznává, že její čidla mohou zaznamenat požár až se zpožděním.