Anthropic wprowadza modele Fable i Mythos 5.1 z zaporą bezpieczeństwa

Anthropic ogłosił wydanie dwóch nowych modeli, Claude Fable 5.1 i Claude Mythos 5.1. Technicznie jest to jeden i ten sam model na szczycie swoich możliwości, ale z dwoma różnymi poziomami zabezpieczeń.

Koniec jednolitego interfejsu dla każdego

Fable 5.1 to powszechnie dostępna wersja przeznaczona do ogólnych zastosowań korporacyjnych i badawczych, w której możliwości generowania kodu dla cyberataków lub projektów w dziedzinie nauk przyrodniczych są mocno ograniczone. Mythos 5.1 z drugiej strony oferuje te ryzykowne możliwości odblokowane, ale jest dostępny wyłącznie poprzez zaufane programy dostępu, co oznacza trudniejszą weryfikację tego, kto i do czego używa modelu.

Dystrybucja wydajności oparta na zaufaniu

Ten ruch potwierdza trend nakreślony już przez europejski AI Act. Deweloperzy przestają pakować wszystkie możliwości w jeden publiczny model z uniwersalnym dostosowaniem podpowiedzi. Zamiast tego wydają okrojoną wersję dla społeczeństwa i ukrywają pełną moc za bramkami weryfikacyjnymi B2B.

Problemy z przejrzystością certyfikacji

Chociaż zasada podziału ma sens, implementacja rodzi pytania o to, kto faktycznie decyduje o przyznaniu dostępu do Mythos 5.1. Nie ma niezależnego organu certyfikującego, a Anthropic zachowuje rolę wyłącznego sędziego w kwestii tego, który badacz bezpieczeństwa jest wystarczająco godny zaufania.

Wpływ komercyjny na red teaming

Dla badaczy bezpieczeństwa i ofensywnego bezpieczeństwa oznacza to, że topowe modele nie będą już dostępne tylko w cenie miesięcznego abonamentu. Dostępność niebezpiecznych możliwości zaczyna przypominać rynek prekursorów materiałów wybuchowych, a nie oprogramowania.

Werdykt Lilith

Zunifikowane API dla wszystkich się skończyło. Modele stają się bronią, na którą potrzebujesz nie tylko pozwolenia na broń, ale także sprawdzonego dostawcy, który ci ją wypożyczy.