Anthropic ostrzega inwestorów: przyszłe modele mogą wkrótce przekroczyć próg akceleracji AI

2 listopada Anthropic dopisał do prospektu S-1 ostrzeżenie, że przyszłe modele mogą wkrótce spełnić firmową definicję dramatycznego przyspieszenia rozwoju dzięki AI. Firma wyraźnie zaznacza, że żaden obecny model nie przekroczył tego progu. Nowy zapis łączy formalną informację dla inwestorów z szacunkiem METR, według którego od października 2025 r. tempo wzrostu możliwości modeli Anthropica zwiększyło się 1,9 raza.

Ostrzeżenie o bezpieczeństwie trafiło do prospektu dla inwestorów

W poprawionym dokumencie złożonym w amerykańskiej SEC Anthropic wskazuje, że ocena opiera się na danych wewnętrznych i przewidywaniach dotyczących przyszłych modeli. Żaden obecny model nie został uznany za przekraczający próg, a firma nadal analizuje materiał. Słowo „wkrótce“ nie oznacza tu konkretnej daty ani wskazanej wersji Claude.

Responsible Scaling Policy wyznacza roboczy próg w punkcie, w którym model potrafiłby zmieścić dwa lata postępu z tempa obserwowanego w latach 2018 do 2024 w jednym roku. Prospekt przyznaje też, że znaczna część dowodów pochodzi ze wskaźników opóźnionych. Anthropic może więc rozpoznać istotne przyspieszenie dopiero po fakcie.

Anthropic przyznaje, że pomiar może przyjść za późno

Umieszczenie tej informacji w prospekcie zmienia jej charakter. Hipoteza z obszaru bezpieczeństwa stała się ryzykiem na tyle istotnym, że firma opisuje je inwestorom. Jeśli rozwój możliwości wyprzedzi zabezpieczenia, mechanizmy alignment i ochronę systemów, Anthropic liczy się z incydentami, interwencją regulatorów oraz szkodami dla własnej działalności.

Ostrożność ma również wymierną cenę. Firma może opóźniać premiery modeli, ograniczać ich początkową dostępność i wdrażać dodatkowe środki spowalniające rozwój lub deployment. Takie działania mogą być częstsze i droższe, a zarazem osłabiać pozycję wobec konkurentów działających według luźniejszych zasad.

„Wkrótce“ nie ma daty, a obecne modele pozostają pod progiem

Prospekt nie ogłasza rekurencyjnego samodoskonalenia. Informuje jedynie, że wewnętrzne szacunki dotyczące przyszłych modeli wskazują na możliwość rychłego osiągnięcia własnego progu. Anthropic przyznaje przy tym, że ma ograniczone możliwości pomiaru najnowszych i jeszcze niewydanych modeli.

Także wynik METR wymaga ostrożności. Szacunek 1,9 raza ma przedział ufności od 1,5 do 2,8, a alternatywne warianty metodologiczne dają wartości od 1,1 do 2,9 raza. Duża część najmocniejszych dowodów wewnętrznych została utajniona, więc opinia publiczna może oceniać wniosek, ale nie odtworzy jego kluczowych etapów.

Następny Risk Report musi przełożyć szacunek na decyzję

Anthropic zapowiada kolejne raporty zgodnie z Responsible Scaling Policy. Najważniejszym sygnałem będzie formalne uznanie któregoś modelu za przekraczający próg oraz związane z tym ograniczenia rozwoju lub wdrożenia. Równie ważna będzie publikacja metodologii, danych i ram czasowych pozwalających niezależnie sprawdzić nowy szacunek.

Drugim sygnałem będą kolejne pomiary METR na tym samym indeksie. Jeżeli tempo 1,9 raza utrzyma się przy nowszych modelach, a AI zacznie samodzielnie wykonywać ważne części badań, zdanie z prospektu przestanie opisywać wyłącznie możliwą przyszłość.

Werdykt Lilith

Anthropic zamontował czujnik dymu tuż nad stołem inwestorów. Na razie alarm dotyczy przyszłych modeli, lecz firma sama przyznaje, że jej czujniki mogą wykryć pożar z opóźnieniem.