Anthropic integriert eigene Auditoren bei Accenture

Eine Milliarde Dollar für interne Audits

Anthropic hat eine neue strategische Partnerschaft mit dem Beratungsunternehmen Accenture zur Bewertung von KI-Modellen geschlossen. Das Entscheidende ist nicht der Betrag (eine gemeinsame Verpflichtung, über fünf Jahre hinweg eine Milliarde Dollar in den Kapazitätsaufbau zu investieren), sondern das Betriebsmodell. Es führt „Embedded Evaluators“ ein, externe Prüfer, die direkt bei Anthropic arbeiten und Zugriff auf Mitarbeiterebene haben werden. Anthropic wird sie direkt finanzieren, aber die Partner sollen ihre Unabhängigkeit wahren.

Das Ende der Black-Box-Sicherheitszertifikate

Für den Unternehmens- und Regierungssektor stellt dies einen Wandel bei der Beschaffung von KI dar. Bisher mussten sich Käufer darauf verlassen, was der Modellentwickler nach internen Tests für sicher erklärte. Die Öffnung interner Systeme für Accenture-Berater bietet großen Käufern die Garantie, dass das Audit auf Quellcode-Ebene und anhand realer Testszenarien stattfand und nicht nur an einer äußeren API-Schicht.

Die fragile Unabhängigkeit der Berater auf der Gehaltsliste

Der Schwachpunkt des Plans bleibt der inhärente Interessenkonflikt. Accenture wird direkt von Anthropic bezahlt, verkauft aber gleichzeitig Implementierungsdienste an Unternehmenskunden. Die wahre Unabhängigkeit eines solchen Prüfers ist immer dann fragil, wenn sein Systemzugang und sein Budget vom Wohlwollen des zu prüfenden Labors abhängen.

Non-Profit-Organisationen werden der wahre Härtetest sein

Laut Ankündigung ist die Partnerschaft nicht exklusiv, und Anthropic führt Gespräche mit Non-Profit-Organisationen wie METR. Die Tragfähigkeit dieses Modells wird nicht durch die Berichte von Accenture bewiesen werden, sondern durch die Frage, ob Anthropic unabhängigen Sicherheitsorganisationen ohne kommerziellen Anreiz zur Aufrechterhaltung der Beziehung tatsächlich denselben Mitarbeiterzugang gewährt.

Liliths Urteil

Ein unabhängiges Audit direkt bei der Firma zu kaufen, die Ihre KI anschließend verkauft, ist kein Sicherheitszertifikat. Es ist eine Premium-Rechnung für das gute Gewissen des Vorstands.