2026-11-16 · ← News
OpenAI lässt vier externe Teams hinein, doch ihre Unabhängigkeit endet am vereinbarten Umfang
OpenAI hat Vereinbarungen mit Apollo Research, METR, Goodfire und Transluce über Prüfungen während Training und interner Nutzung geschlossen. Apollo entsendet sechs Personen für vier Monate, warnt aber, dass Zugang und Veröffentlichung noch nicht seinem Standard einer vollständig unabhängigen Prüfung entsprechen.
Das Bild konnte nicht geladen werden.
OpenAI startet die erste Phase eingebetteter Prüfungen mit vier externen Organisationen. Je nach Auftrag erhalten die Teams Zugang zu Modell Checkpoints, Quellcode, Trainings und Evaluationsdaten, Monitoringsystemen sowie Beschäftigten des Unternehmens.
Apollo sucht vier Monate lang nach Versuchen, menschliche Kontrolle zu unterlaufen
Ein sechsköpfiges Team von Apollo Research untersucht, ob Training Subversion fördert, ob Evaluierungen sie auslösen können, ob sie im internen Einsatz vorkommt und ob sich relevantes Reasoning erkennen lässt. Apollo plant zwei öffentliche Berichte zu Methoden, Ergebnissen und Grenzen.
Goodfire konzentriert sich auf Interpretability, Trainingsmonitoring und unerwünschtes Verhalten. METR sucht in einem großen Reinforcement Learning Lauf nach gefährlichem Verhalten und prüft später das Monitoring. Transluce bewertet Qualität und Abdeckung der Post Training Alignment Evals. Eine breitere achtwöchige Fortsetzung ist für Anfang 2027 vorgesehen.
Laufender Zugang kann Fehler finden, die ein Test vor dem Release übersieht
Externe Prüfer erhielten Modelle bisher meist nach dem Post Training und kurz vor der Veröffentlichung. Arbeit während der Entwicklung erlaubt ihnen, entstehendes Verhalten zu verfolgen, Checkpoints zu vergleichen und interne Monitore gegen unabhängige Tests zu prüfen. Das liefert mehr Erkenntnis als eine einmalige Sicherheitsnote am Ende.
Die Aufteilung auf vier Organisationen trennt verschiedene Fragen: was das Modell tut, was in ihm passiert, was Monitoring erkennt und wie gut Evals sind. Die Öffentlichkeit sieht dennoch nur einen Teil der Belege. Ungekürzte Berichte soll das Safety and Security Committee der OpenAI Foundation erhalten.
Apollo erhält tiefen Zugang ohne volle Kontrolle über Umfang und Belege
Apollo nennt das Pilotprojekt einen wichtigen ersten Schritt, der seine drei Bedingungen vollständiger Unabhängigkeit noch nicht erfüllt: Zugang zu sämtlichem relevantem Material, Veröffentlichung auch gegen den Willen des Entwicklers und Transparenz über Einschränkungen. OpenAI kann Material aus Sicherheitsgründen, wegen technischer Machbarkeit oder zum Schutz geistigen Eigentums zurückhalten. Die Prüfung umfasst zudem nur vereinbarte Aussagen, Modelle und Zeiträume.
Gespräche sind auf autorisierte Beschäftigte beschränkt. OpenAI darf vertrauliche Belege in öffentlichen Unterlagen schwärzen und um Aufschub zur Behebung eines Risikos bitten. Apollo und Goodfire werden unabhängig vom Ergebnis bezahlt. METR und Transluce nehmen kein Honorar an, können aber Compute oder API Credits nutzen.
Zwei Apollo Berichte zeigen, ob Außenstehende die Unabhängigkeit prüfen können
Der erste Test kommt mit den öffentlichen Berichten. Sie müssen fehlende Unterlagen, abgelehnte Anfragen und den Einfluss von Schwärzungen auf Schlussfolgerungen benennen. Apollo darf diese Grenzen ohne vorherige Prüfung durch OpenAI beschreiben. Leser erhalten damit zumindest eine Karte der blinden Flecken.
Ein zweites Signal ist, ob sich der Umfang nach einem unerwarteten Fund erweitern lässt. Ein Prüfer im Gebäude sieht mehr als ein gewöhnlicher Auditor. Unabhängigkeit zeigt sich aber erst, wenn er eine Tür öffnen will, die im ursprünglichen Vertrag fehlte.
Liliths Urteil
Ein Prüfer im Gebäude sieht mehr als ein Besucher hinter Glas. Unabhängigkeit misst sich daran, ob er die Klinke einer Tür anfassen darf, die der Gastgeber geschlossen halten wollte.
Quellen