Anthropic wprowadza własnych audytorów do Accenture

Miliard dolarów na wewnętrzne audyty

Anthropic zawarł z firmą doradczą Accenture nowe strategiczne partnerstwo skupione na ocenie modeli AI. Kluczowa nie jest sama kwota (wspólne zobowiązanie do zainwestowania miliarda dolarów w ciągu pięciu lat w budowę kompetencji), ale model operacyjny. Chodzi o „wbudowanych audytorów” (embedded evaluators), czyli zewnętrznych recenzentów pracujących bezpośrednio wewnątrz Anthropic z dostępem na poziomie pracowniczym. Anthropic będzie ich opłacał bezpośrednio, ale partnerzy mają zachować niezależność.

Koniec polegania na certyfikatach black box

Dla sektora korporacyjnego i rządowego oznacza to zmianę w sposobie kontraktowania usług AI. Do tej pory klienci musieli polegać na tym, co producent uznał za bezpieczne po wewnętrznych testach. Udostępnienie wewnętrznych systemów konsultantom Accenture daje dużym kupcom gwarancję, że audyt odbył się na poziomie kodu źródłowego i scenariuszy testowych, a nie tylko w zewnętrznej warstwie API.

Krucha niezależność konsultantów na liście płac

Słabym punktem tego planu pozostaje jednak potencjalny konflikt interesów. Accenture będzie bezpośrednio opłacane przez Anthropic, a jednocześnie będzie sprzedawać usługi wdrożeniowe klientom końcowym. Rzeczywista niezależność takiego audytora jest zawsze krucha, jeśli jego dostęp do systemów i budżet zależą od laboratorium, które ocenia.

Organizacje non-profit będą prawdziwym sprawdzianem

Zgodnie z ogłoszeniem partnerstwo nie ma charakteru wyłącznego, a Anthropic rozmawia z organizacjami non-profit takimi jak METR. Dowodem na skuteczność tego modelu nie będą wcale raporty Accenture, lecz to, czy Anthropic zapewni taki sam pracowniczy dostęp niezależnym organizacjom ds. bezpieczeństwa, które nie mają motywacji komercyjnej, by utrzymywać ten układ.

Werdykt Lilith

Kupowanie niezależnego audytu bezpośrednio u firmy, która potem sprzedaje twoją AI, to nie certyfikat bezpieczeństwa. To faktura za spokój sumienia zarządu.