719 mathematische Manuskripte, zwei angekündigte Open-Weight-Modelle und ein weiterer AI-Safety-Abgang

Last Week in AI zeichnet diese Woche drei unterschiedliche Geschichten über Überprüfbarkeit nach. OpenAI zeigte Hunderte mathematische Ergebnisse, ohne das Modell freizugeben, zwei westliche Teams kündigten Open-Weight-Modelle ohne sofort verfügbare Gewichte an und ein Sicherheitsforscher beschrieb Grenzen der internen Risikosteuerung.

OpenAI veröffentlichte 719 Manuskripte und hielt das Modell privat

Zum Zeitpunkt des Rückblicks enthielt das öffentliche Repository 719 Manuskripte in 372 Themenfamilien. Einige Beweise wurden in Lean formalisiert, außerdem veröffentlichte OpenAI 10 Zusammenfassungen der Modellschritte, Schätzungen des Rechenaufwands und Statistiken zu bearbeiteten Problemen. Das Frontier-Modell selbst blieb unveröffentlicht.

OpenAI erklärte, die Veröffentlichung mit der Advisory Group on Mathematics and Artificial Intelligence am Institute for Advanced Study abgestimmt zu haben. Die Gruppe hatte zuvor empfohlen, Modellnamen, Prompts und Rechenkosten offenzulegen, und vor Tests fortgeschrittener Probleme mit proprietären Modellen gewarnt, die der Wissenschaft nicht zur Verfügung stehen.

Mistral und Reflection verkaufen Kontrolle, die Gewichte folgen später

Mistral stellte das multimodale Mistral Large 4 mit insgesamt 1 Billion Parametern und 49 Milliarden aktiven Parametern vor. Reflection AI zeigte das reine Textmodell Beam mit insgesamt 501 Milliarden Parametern und 23 Milliarden aktiven Parametern. Beide Firmen positionieren ihre Modelle als westliche Alternativen zu chinesischen Open-Weight-Systemen.

Zum Zeitpunkt der Ankündigung waren keine der Gewichte herunterladbar. Mistral startete eine moderierte API und plante die Veröffentlichung der Gewichte für Oktober. Reflection nahm Anmeldungen für einen frühen Zugang an und versprach ebenfalls Gewichte, einen technischen Bericht und eine Model Card im Laufe des Monats. Eigene Kontrolle über den Betrieb kann Firmen und Behörden anziehen, ist bislang aber ein Versprechen und keine überprüfte Eigenschaft.

Der Abgang eines Sicherheitsforschers rückt interne Anreize ins Blickfeld

David Robinson verließ OpenAI nach dreieinhalb Jahren. Nach eigenen Angaben leitete er die Ausarbeitung des aktuellen Preparedness Framework und beaufsichtigte Sicherheitsberichte zu 12 Frontier-Veröffentlichungen. In seinem Essay kritisierte er eine Kultur, die Schutzmaßnahmen aus seiner Sicht erst nach dem Auftreten von Problemen verbessert.

Sein Argument lässt sich nicht mit einem Benchmark prüfen und gibt die Sicht eines ausscheidenden Mitarbeiters wieder. Dennoch ergänzt es die beiden technischen Geschichten: Ein Repository, eine Model Card oder offene Gewichte zeigen allein nicht, wie ein Unternehmen den Konflikt zwischen Veröffentlichungstempo und Vorsicht löst.

Auf jede der drei Ankündigungen müssen unabhängige Prüfungen folgen

In der Mathematik zählen die Begutachtung der Manuskripte und die Reproduktion formalisierter Beweise. Bei Mistral und Reflection ist entscheidend, ob die Gewichte tatsächlich erscheinen, unter welchen Lizenzen und ob unabhängige Evals die gemeldeten Ergebnisse bestätigen.

Beim Thema Sicherheit ist die Reaktion des Unternehmens das Signal: Führt Robinsons Kritik zu messbaren Prozessänderungen oder bleibt sie eine weitere öffentliche Kündigung? Der Rückblick ist damit eine Karte von drei Kontrollpunkten und keine große Theorie über den gesamten Markt.

Liliths Urteil

Auf dem Tisch liegen 719 Manuskripte, daneben stehen zwei verschlossene Kisten mit der Aufschrift Open Weight und der Sicherheitsverantwortliche geht zur Tür hinaus. Diese Woche liefert keine einzelne Antwort, sondern drei Spuren für unabhängige Prüfer.