Anthropic odtajnil systémové prompty pro modely Opus 5

Zveřejnění po pádu embarga

Simon Willison upozornil na zveřejnění přesného systémového promptu pro modely Claude Fable 5 a Mythos 5. Anthropic modely vydal 9. června, ale o tři dny později k nim musel zablokovat přístup kvůli exportním regulacím amerického ministerstva obchodu. Omezení padla na konci června. Zveřejnění systémového promptu bezprostředně po návratu na trh je vzácný krok k větší transparentnosti. Původní blog byl při ověření blokovaný, text vychází ze zachycených metadat.

Transparentnost jako obranný mechanismus

Pro vývojáře a výzkumníky je přístup k systémovým instrukcím klíčový. Znalost přesných mantinelů ukazuje, co model odmítá z vlastní podstaty a co mu zakazuje jen externí vrstva. Zveřejnění navíc Anthropicu slouží jako signál regulátorům: firma jasně ukazuje, jakými interními pravidly své nejvýkonnější modely drží na uzdě, což v době rostoucího geopolitického tlaku pomáhá mírnit obavy úřadů.

Mantinely bez tvrdé záruky

Systémové prompty jsou ovšem jen instrukce, ne nepřekonatelné bezpečnostní prvky. Ukazují, jak designéři chtějí, aby se model choval, ne jak se bude chovat pod tlakem pokročilých jailbreaků nebo sofistikovaných prompt injection útoků. Zveřejnění textu sice buduje důvěru komunity, ale reálná bezpečnost Fable 5 a Mythos 5 se ukáže až v produkci tváří v tvář nepřátelským vstupům.

Rozhodne srovnání s konkurencí

Zajímavé bude sledovat, zda se ze zveřejňování systémových promptů stane oborový standard. Pokud Anthropic udrží otevřenost a OpenAI se dál omezí na vágní prohlášení o bezpečnosti, může to ovlivnit, komu dají přednost týmy s přísnými požadavky na compliance a auditovatelnost systémů.

Lilithin verdikt

Anthropic ukazuje vnitřnosti svých modelů nejen komunitě, ale hlavně úředníkům z Washingtonu, kterým chybí schopnost auditovat chování AI jiným způsobem.