Anthropic nasazuje vlastní auditory přímo do Accenture

Miliarda dolarů na audity uvnitř firmy

Anthropic uzavřel s konzultační firmou Accenture nové strategické partnerství zaměřené na hodnocení AI modelů. Zásadní není samotná částka (společný závazek investovat během pěti let jednu miliardu dolarů na budování kapacit), ale samotný model spolupráce. Půjde o takzvané „embedded evaluators“, tedy externí hodnotitele, kteří budou pracovat přímo uvnitř Anthropicu se zaměstnaneckým přístupem. Anthropic je bude platit napřímo, ale partneři si udrží nezávislost.

Konec spoléhání na black box certifikace

Pro enterprise sektor a státní sféru to představuje posun v nákupu AI. Dosud se zákazníci museli spoléhat na to, co výrobce modelu prohlásí za bezpečné po interním testování. Otevření interních systémů pro konzultanty Accenture dává velkým kupcům záruku, že audit proběhl na úrovni zdrojového kódu a reálných testovacích scénářů, nejen na povrchové API vrstvě.

Křehká nezávislost konzultantů na výplatní pásce

Slabým místem plánu zůstává střet zájmů. Accenture bude placeno přímo Anthropicem a zároveň bude prodávat implementační služby koncovým zákazníkům. Skutečná nezávislost takového auditora je vždy křehká, pokud je jeho přístup do systémů i jeho rozpočet závislý na vůli samotné laboratoře.

Rozhodne zájem dalších neziskovek

Podle oznámení není partnerství exkluzivní a Anthropic jedná i s neziskovými organizacemi jako METR. Důkazem funkčnosti tohoto modelu nebudou reporty od Accenture, ale to, jestli stejný „zaměstnanecký“ přístup k modelům Anthropic skutečně poskytne i nezávislým bezpečnostním organizacím, které nemají komerční motivaci spolupráci udržet.

Lilithin verdikt

Kupovat nezávislý audit přímo u firmy, která pak vaši AI prodává dál, není certifikát bezpečnosti. Je to faktura za pocit klidu představenstva.