Biały Dom wpisał audytorów AI, ale zostawił pusty katalog kar

Biały Dom zebrał we wspólnym dobrowolnym zobowiązaniu firmy, które zwykle spierają się o tempo i kształt AI safety. Porozumienie wprowadza 4 warstwy kontroli frontier models, ale nie wskazuje sankcji ani państwowego organu odpowiedzialnego za egzekwowanie zasad.

Sześć firm przyjęło kontrolę wewnętrzną, audyt zewnętrzny i nadzór rady

Joint Commitment on Frontier Responsibilities podpisali przedstawiciele Anthropic, Google, Meta, Nvidia, OpenAI i xAI. Dokument przewiduje solidne kontrole wewnętrzne nad capabilities i alignment modeli podczas treningu oraz wdrożenia, zwłaszcza w obszarze zagrożeń cybernetycznych, biologicznych i chemicznych oraz niezamierzonego dostępu do systemów technicznych.

Drugą warstwą ma być wewnętrzny zespół z uprawnieniami do pilnowania napraw. Trzecia to niezależny audytor lub evaluator z zewnątrz. Czwarta obejmuje niezależny komitet rady dyrektorów, który otrzymuje raporty i nadzoruje usuwanie problemów. Sygnatariusze mają też regularnie się spotykać, aby ustalać wspólne standardy i best practices.

Najcenniejszy zapis może dawać polityczną osłonę wspólnym standardom

Duże laboratoria już mają wewnętrzne zespoły i board committees w różnych formach. Praktycznym krokiem naprzód jest wyraźny audyt zewnętrzny oraz polityczna osłona regularnych rozmów konkurentów. Firmy mogą ujednolicać testy ryzyk cybernetycznych i biologicznych bez zaczynania od zera i bez obawy, że sama koordynacja zostanie potraktowana jako problem dla konkurencji.

Wspólna baza może ułatwić klientom i zespołom enterprise porównywanie dostawców. Stanie się tak tylko wtedy, gdy audytorzy zastosują porównywalne metody, dostaną odpowiedni dostęp i potrafią opisać wagę ustaleń. Samo słowo niezależny na jednej stronie dokumentu nie tworzy tych warunków.

Dobrowolny audyt bez jawności może skończyć w szufladzie rady

Porozumienie jest dobrowolne i prawnie niewiążące. Nie przewiduje kar, państwowego egzekutora ani obowiązku publikacji wyników audytu. Firmy zachowują też swobodę sposobu wdrożenia. Opinia publiczna może więc nie odróżnić rzetelnej oceny od proceduralnej pieczątki.

Zvi Mowshowitz wskazuje kolejny limit: komitet rady działa tylko wtedy, gdy dostaje istotne informacje, rozumie je i reaguje. Formalna ścieżka eskalacji nie gwarantuje, że niewygodne ustalenie rzeczywiście nią przejdzie.

Wiarygodność pokażą jawna metoda i reakcja na pierwsze poważne ustalenie

Pierwszym testem będzie wybór zewnętrznych evaluatorów, sposób zarządzania konfliktem interesów oraz publikacja przynajmniej metod, zakresu i podsumowania wyników. Drugim sygnałem stanie się wspólny standard, który skłoni którąś firmę do opóźnienia wdrożenia albo naprawy kontroli przed releasem.

Jeżeli po 12 miesiącach zobaczymy tylko listę spotkań i ogólne raporty roczne, porozumienie pozostanie politycznym zdjęciem. Jeżeli audyty przyniosą porównywalne ustalenia, a rady udokumentują konkretne naprawy, dobrowolne ramy mogą stać się podstawą przyszłych regulacji. Taką możliwość dopuszcza sam tekst.

Werdykt Lilith

Audytor może już zapukać do drzwi laboratorium. Dopóki wyników nie trzeba pokazać publicznie, a za porażkę nie przychodzi rachunek, raport może spokojnie zasnąć w szufladzie rady.