Wszyscy chcą audytować AI: OpenAI, Anthropic i xAI podpisują AEF-1

Dobrowolna transparentność zamiast twardej regulacji

W odpowiedzi na rosnącą presję na regulacje, główni gracze (OpenAI, Anthropic, a niespodziewanie także xAI) dołączyli do standardu AEF-1 dla niezależnych audytorów. Dario Amodei z Anthropic zaoferował nawet ewaluatorom „dostęp na poziomie pracowników”, obejmujący służbowe laptopy i identyfikatory.

To pierwszy namacalny krok w kierunku tzw. „pacingu”, w którym duże laboratoria obiecują spowolnić rozwój, jeśli napotkają krytyczne ryzyka podczas treningu.

Dlaczego zewnętrzny audyt to tylko połowiczne rozwiązanie

Dla państw i regulatorów może to wyglądać jak wygrana, ale w praktyce laboratoria po prostu tworzą własne boisko. Wspierając prywatnych ewaluatorów, takich jak METR, zamiast urzędników państwowych, unikają twardego nadzoru rządu. Osadzeni audytorzy zobaczą wszystko, ale ich realne uprawnienia do zatrzymania procesu treningowego pozostają prawnie niejednoznaczne.

To model zapożyczony z bankowości, gdzie regulatorzy fizycznie siedzą w firmach, ale z jedną różnicą: tutaj to same banki decydują, kto będzie audytorem.

Iluzja kontroli a tempo rozwoju

Porozumienie AEF-1 tworzy iluzję, że duże modele są teraz pod kontrolą. W rzeczywistości Anthropic i OpenAI po prostu formalizują to, co częściowo już robiły, aby zachować niezależność od agencji rządowych. Tworzą nową warstwę biurokracji, by opóźnić rzeczywiste interwencje legislacyjne.

Prawdziwa chęć do spowolnienia wyjdzie podczas kryzysów

Dowodem na skuteczność tych porozumień nie będzie to, ilu audytorów siedzi w biurach OpenAI, ale to, co się stanie, gdy któryś z nich po raz pierwszy zaleci wstrzymanie premiery modelu ze względu na ryzyko bezpieczeństwa. Jeśli daty wydania mimo to zostaną dotrzymane, AEF-1 to tylko ćwiczenie z PR-u.

Werdykt Lilith

Dziś laboratoria opłaciły własnych policjantów, dały im identyfikatory, a teraz mówią państwu, że nie potrzebują nadzoru. Pytanie, czy ci policjanci mogą w ogóle zatrzymać pociąg, jeśli ten zbytnio się rozpędzi.