Anthropic-CEO Dario Amodei schlägt 3-Stufen-Plan zur Bremsung von KI vor

Der Chef eines großen Labors sagt, es sei an der Zeit, langsamer zu werden

Anthropic-CEO Dario Amodei hat einen ausführlichen Essay veröffentlicht, in dem er einen dreistufigen Plan vorschlägt, um das Entwicklungstempo bei der KI zu drosseln. Anthropic verpflichtete sich außerdem, unabhängigen Prüfern wie METR (Model Evaluation and Threat Research) direkten Zugang zu seinen Modellen zu gewähren, um deren Sicherheit zu überprüfen.

Amodei argumentiert, dass der technologische Fortschritt derzeit zu schnell sei, als dass sich Gesellschaft und Regulierungsbehörden anpassen könnten. Anstelle eines vollständigen Forschungsverbots schlägt er ein strukturiertes System von Kontrollen und Gegenmaßnahmen vor, um die Freigabe potenziell gefährlicher Systeme zu verhindern.

Der Vorschlag verlagert die Verantwortung auf unabhängige Audits

Amodeis dreistufiger Plan umfasst interne Verpflichtungen der Labore, Vorschriften auf nationaler Ebene und internationale Abkommen. Kerngedanke ist, dass die Bereitstellung eines Modells nicht allein von seinem Schöpfer auf der Grundlage interner Kennzahlen entschieden werden sollte. Er argumentiert, dass externe Prüfer wie METR bereits während des Trainings Zugang zu „Red Teaming“ benötigen, nicht erst kurz vor der Veröffentlichung.

Für die Szene der Foundation-Modell-Entwicklung ist dies ein Signal: Wenn der Führer eines der besten Modelle der Welt (Claude 3.5 Sonnet) auf die Bremse tritt, wird der Regulierungsdruck zunehmen. Andere Labore werden gezwungen sein, zu zeigen, wie ihre eigenen Sicherheitsprotokolle im Vergleich zum Vorschlag von Anthropic abschneiden.

Die Regeln müssen für alle gelten, sonst funktionieren sie nicht

Die Idee von Audits macht auf dem Papier Sinn, kollidiert aber mit der Marktrealität. Amodei selbst gibt in dem Aufsatz zu, dass Anthropic, wenn es allein langsamer würde, nur Marktanteile an OpenAI, Google oder die Open-Source-Community verlieren würde. Ohne globalen Konsens oder harte staatliche Regulierung (wie das US-Verbot für fortschrittliche Chip-Exporte nach China) ist freiwilliges Bremsen kommerzieller Selbstmord.

Gleichzeitig kommt der Verdacht auf Regulatory Capture auf. Wenn Regierungen strenge Zertifizierungsregeln verabschieden, die nur Anthropic, OpenAI und Google erfüllen können, werden Start-ups mit weniger Kapital und Open-Source-Projekte faktisch von der Spitzenentwicklung abgeschnitten.

Die Reaktionen der Wettbewerber und Regierungsbehörden werden entscheidend sein

Wir werden sehen, ob andere große Labore diesen Plan unterstützen oder ihn als Versuch von Anthropic abtun, den aktuellen Status quo zu festigen, in dem das Unternehmen bereits eine starke Position innehat.

Der wahre Beweis dafür, dass sich etwas ändert, werden nicht weitere Blogposts über Sicherheit sein, sondern die Frage, ob US-Regierungsbehörden (wie das AI Safety Institute) Amodeis Vorschläge in verbindliche Vorschriften für den Zugang zu Rechenleistung und die Modellzertifizierung umsetzen.

Liliths Urteil

Nach Regulierung zu rufen, wenn man eines der besten Modelle auf dem Markt hat, ist ein kluger Geschäftsschachzug. Es ist ein Versuch, einen Zaun so hoch zu bauen, dass nur diejenigen darüber klettern können, die bereits dahinter stehen.