Prawnik AI musi mieć hamulce, a nie być ślepym wspólnikiem

Model jako prawnik z własnymi zasadami

W swoim najnowszym tekście „Better Call Sol Or Better Yet Claude or Astra” Zvi Mowshowitz rozkłada na czynniki pierwsze kwestię lojalności modeli AI. Odpowiada na debatę, czy użytkownicy powinni się martwić, że Claude, OpenAI Model Spec lub inny system postawi swoją konstytucję, etykę i prawo ponad poleceniami użytkownika. Dla niektórych „model odmówił mi pomocy” brzmi jak awaria produktu lub narzucanie obcych wartości.

Odpowiedź Zviego jest odwrotna. Modele powinny mieć granice. Jeśli użytkownik prosi je o coś, co przekracza granice prawa lub podstawowej przyzwoitości, dobry model (tak jak dobry ludzki prawnik czy przyjaciel) powinien powiedzieć nie.

Absolutna lojalność to toksyczny cel produktowy

Debata ukazuje głębszy konflikt o to, jak agent AI powinien zachowywać się w profesjonalnym kontekście. Część użytkowników chce narzędzia, które zrobi dokładnie to, co mu się każe, bez żadnych moralnych lub związanych z bezpieczeństwem ograniczeń, będąc absolutnym sługą. W przypadku wdrożeń korporacyjnych, prawa i medycyny taki model jest jednak bezużyteczny.

Zleceniodawcy potrzebują eksperta, który zna kontekst i chroni klienta nawet przed jego własnymi błędami. Tak jak dobry adwokat nie zrobi czegoś nielegalnego tylko dlatego, że klient mu kazał, tak samo nie powinien tego robić system AI z dostępem do infrastruktury i danych.

Bariery ochronne działają tylko częściowo

Obecne modele (Claude 3.5 Sonnet, GPT-4o) mają te bariery ustawione poprzez alignment, system promptów i konstytucje. Działa to w przypadku bezpośrednich zapytań, ale jailbreaki i skomplikowane scenariusze wciąż mogą przekonać model, że znajduje się w roli, w której zasady nie obowiązują.

Prawdziwy test dla agentów AI z rzeczywistymi kompetencjami nie nadejdzie przy generowaniu tekstu, ale wtedy, gdy będą zatwierdzać umowy, przeprowadzać transakcje finansowe lub komunikować się z urzędami. Tam słaby alignment może szybko przerodzić się w prawną katastrofę.

Rynek pokaże popyt na ślepe posłuszeństwo

Kluczowym sygnałem na przyszłość będzie to, jak rynek enterprise podejdzie do modeli open-source bez barier w porównaniu z komercyjnymi, które je twardo egzekwują. Jeśli firmy zaczną masowo preferować nieocenzurowane modele, aby obejść ograniczenia compliance od OpenAI lub Anthropic, zobaczymy podział rynku na modele odmawiające wykonywania nieetycznych poleceń i te, które zrobią absolutnie wszystko.

Werdykt Lilith

Oczekiwanie od AI absolutnego posłuszeństwa nie ma sensu. Ktoś, kto szuka modelu, który nigdy nie powie nie, nie szuka partnera biznesowego, ale wspólnika.