Anthropic proponuje ustawę, w której model zatrzyma tylko sędzia. I tylko gdy grozi śmierć ponad 50 osób

Anthropic krąży po amerykańskim Kongresie z własnym projektem federalnej ustawy o bezpieczeństwie AI. Według Politico, na którym opiera się też TechCrunch, premierę modelu można by zablokować, gdyby groziła śmierć ponad 50 osób albo szkody przekraczające 1 mld dolarów. Zatrzymać model mógłby jednak tylko sąd. Pełny tekst projektu nie jest publiczny, więc tekst opiera się na fragmentach cytowanych przez media.

Model zatrzyma tylko sąd, i to po zgłoszeniu opłacanego ewaluatora

Projekt mówi o „przewidywalnym, bezpośrednim ryzyku”. Katastrofa musi wynikać ze stworzenia lub użycia broni biologicznej, z wymknięcia się modelu spod kontroli twórcy albo z cyberataku. Progi 50 ofiar i 1 mld dolarów szkód przypominają kalifornijską ustawę SB 53, która w ten sposób definiuje ryzyko katastrofalne.

Ryzyko oceniałyby niezależne podmioty zarejestrowane w amerykańskim Departamencie Handlu. Mogłyby im płacić same laboratoria, o ile wynagrodzenie nie zależy od wyniku oceny. Gdy ewaluator stwierdzi bezpośrednie ryzyko katastrofy, ma 72 godziny na powiadomienie departamentu. Ten musiałby następnie zwrócić się do sędziego w Waszyngtonie o wstrzymanie premiery. Jak pisze Politico, projekt wprost zakazuje federalnym urzędom samodzielnego wstrzymania dystrybucji modelu.

Rzecznik Anthropic potwierdził projekt w rozmowie z Politico. Według niego tekst przekłada na język ustawy Advanced AI Framework, który firma od czerwca promuje wśród federalnych i stanowych ustawodawców.

Laboratorium pisze zasady, według których państwo będzie je kontrolować

W zeszłym tygodniu wyciekła wcześniejsza wersja dokumentu, a krytycy skupiali się wtedy na tym, ile uprawnień odebrałaby stanom. Teraz tekst jest potwierdzony i uwaga przesuwa się na mechanikę interwencji. Na każdym etapie stoi ktoś, kto musi dać zielone światło: ewaluator musi wykryć ryzyko, departament złożyć wniosek, a sędzia go zatwierdzić. Szybkiej ścieżki, w której urząd sam wstrzymuje model, projekt nie przewiduje.

Dla laboratoriów to przewidywalny reżim. Wiedzą, które scenariusze się liczą, kto może je ocenić i że o interwencji zdecyduje sąd. Część branży idzie dalej w drugą stronę: szef Nvidii Jensen Huang przekonywał niedawno, że AI nie potrzebuje żadnych nowych przepisów. Propozycja Anthropic sięga więc dalej niż większość branżowych pomysłów. Jednocześnie dokładnie wyznacza, którędy może przebiegać państwowy nadzór.

Ewaluator opłacany przez laboratorium i krótka lista katastrof

Najsłabszym punktem jest niezależność. Zasada, że zapłata nie może zależeć od wyniku, nie zmienia faktu, że to laboratorium wybiera ewaluatora i może go następnym razem nie zatrudnić. TechCrunch zauważa, że projekt nie wyjaśnia, jak wykluczyć wpływ pieniędzy na ocenę. Podobny spór toczy się już wokół ewaluatorów, których Anthropic i OpenAI chcą osadzić wewnątrz własnych firm.

Drugie ograniczenie to zakres. Broń biologiczna, utrata kontroli i cyberatak to poważne scenariusze, ale kryterium „bezpośredniego” ryzyka z 50 ofiarami obejmie tylko skrajne przypadki. Agentowe włamania i modele ignorujące polecenia operatorów, z którymi branża zmaga się w tym roku, z trudem przeskoczą tak wysoko zawieszoną poprzeczkę. A 72 godziny na zgłoszenie plus postępowanie sądowe to dużo czasu, jeśli zagrożenie naprawdę jest bezpośrednie.

Rozstrzygnie to, kto wniesie projekt do Kongresu i co z niego zostanie

Pierwszym sygnałem będzie sponsor. Dopóki projektu nie złoży senator ani kongresmen, pozostaje dokumentem lobbingowym jednej firmy. Drugim będzie to, czy do tekstu trafią ostrzejsze zasady niezależności ewaluatorów, na przykład przydzielanie ich przez państwo zamiast wyboru przez laboratoria.

Warto też obserwować reakcję innych laboratoriów. Jeśli OpenAI albo Google dołączą, projekt Anthropic stanie się punktem wyjścia całej branży. Jeśli go odrzucą, zostanie raczej przykładem tego, jak jedna firma wyobraża sobie nadzór, który jej nie spowolni.

Werdykt Lilith

Straż pożarną może tu wezwać tylko ktoś opłacany przez laboratorium, a wąż odkręci dopiero sędzia w Waszyngtonie. Jak na pożar, który według projektu ma zabić ponad 50 osób, to bardzo długi korytarz.