Anthropic warnt Investoren: Künftige Modelle könnten bald die Schwelle für beschleunigte KI-Entwicklung erreichen

Am 2. November ergänzte Anthropic seinen S-1-Prospekt um eine Warnung: Künftige Modelle könnten bald die eigene Definition eines durch KI dramatisch beschleunigten Fortschritts erfüllen. Zugleich stellt das Unternehmen klar, dass kein aktuelles Modell diese Schwelle überschritten hat. Die neue Formulierung verbindet eine formelle Information für Investoren mit METRs Schätzung, wonach sich das Wachstum der Modellfähigkeiten seit Oktober 2025 um den Faktor 1,9 beschleunigt hat.

Die Sicherheitswarnung steht nun im Prospekt für Investoren

Laut der bei der US-Börsenaufsicht SEC eingereichten Änderung beruht die Einschätzung auf internen Daten und Erwartungen zu künftigen Modellen. Anthropic hat kein aktuelles Modell oberhalb der Schwelle eingestuft und prüft die Datengrundlage weiter. Das Wort „bald“ ist weder mit einem Datum noch mit einer bestimmten Claude-Version verbunden.

Die Responsible Scaling Policy setzt die operative Schwelle dort an, wo ein Modell zwei Jahre KI-Fortschritt im Tempo von 2018 bis 2024 in ein Jahr komprimieren könnte. Der Prospekt räumt zugleich ein, dass viele Belege aus nachlaufenden Indikatoren stammen. Anthropic könnte eine erhebliche Beschleunigung deshalb erst erkennen, nachdem sie bereits eingetreten ist.

Anthropic räumt ein, dass seine Messung zu spät kommen kann

Die Aufnahme in den Prospekt verändert den Charakter der Aussage. Aus einer Sicherheitshypothese wird ein Risiko, das Anthropic für Investoren als wesentlich genug ansieht. Falls die Fähigkeiten den Sicherheits-, Alignment- und Schutzmaßnahmen davonlaufen, rechnet das Unternehmen mit einem höheren Risiko für Vorfälle, regulatorische Eingriffe und Schäden für das eigene Geschäft.

Vorsicht hat zudem einen praktischen Preis. Anthropic könnte Modellveröffentlichungen verschieben, den anfänglichen Zugang begrenzen und weitere Maßnahmen ergreifen, die Entwicklung oder Deployment bremsen. Solche Schritte könnten häufiger und teurer werden und die Position gegenüber Wettbewerbern mit lockereren Regeln schwächen.

„Bald“ hat kein Datum und heutige Modelle liegen unter der Schwelle

Der Prospekt verkündet keine rekursive Selbstverbesserung. Er sagt lediglich, dass interne Schätzungen für künftige Modelle auf ein baldiges Erreichen der firmeneigenen Schwelle hindeuten. Anthropic weist außerdem darauf hin, dass die neuesten und noch unveröffentlichten Modelle nur eingeschränkt messbar sind.

Auch METRs Wert von 1,9 verlangt Vorsicht. Das Konfidenzintervall reicht von 1,5 bis 2,8, während alternative methodische Varianten Werte zwischen 1,1 und 2,9 ergeben. Viele der stärksten internen Belege wurden geschwärzt. Die Öffentlichkeit kann daher das Fazit prüfen, aber entscheidende Schritte nicht nachvollziehen.

Der nächste Risk Report muss aus der Schätzung eine Entscheidung machen

Anthropic kündigt weitere Berichte gemäß seiner Responsible Scaling Policy an. Entscheidend wird sein, ob das Unternehmen ein Modell formell oberhalb der Schwelle einstuft und welche Grenzen für Entwicklung oder Deployment daraus folgen. Ebenso wichtig sind genügend Methodik, Daten und Zeitangaben, damit Außenstehende die neue Schätzung prüfen können.

Weitere METR-Messungen mit demselben Index liefern ein zweites Signal. Bleibt das 1,9-fache Tempo bei neueren Modellen bestehen und übernimmt KI wichtige Teile der Forschung autonom, beschreibt der Satz im Prospekt nicht mehr nur eine mögliche Zukunft.

Liliths Urteil

Anthropic hat den Rauchmelder direkt über dem Tisch der Investoren montiert. Noch schlägt er wegen künftiger Modelle an, doch das Unternehmen räumt ein, dass seine Sensoren den Brand verspätet erkennen könnten.