Altman chce globalnych reguł dla AI, którą wciąż kontroluje kilka laboratoriów

23 września Sam Altman wezwał Radę Bezpieczeństwa ONZ do ustanowienia wspólnych standardów dla najbardziej zaawansowanych systemów AI. OpenAI przeniosło w ten sposób debatę z firmowych deklaracji na trudniejsze pytanie: kto będzie reguły mierzył, weryfikował i egzekwował.

OpenAI przedstawiło Radzie Bezpieczeństwa trzy zasady

Altman wystąpił podczas 10228. posiedzenia obok przedstawicieli Anthropic, Hugging Face i środowiska naukowego. Oparł przemówienie na trzech zasadach: ludzie mają pozostać w centrum decyzji, postęp naukowy i gospodarczy ma służyć ludziom, a AI ma wzmacniać sprawczość jednostki.

Wezwał do uzupełniających się standardów krajowych i międzynarodowych dotyczących pomiaru możliwości, oceny ryzyka i realnego nadzoru człowieka. Zaproponował też szybkie raportowanie incydentów oraz bezpieczne kanały między rządami, operatorami infrastruktury krytycznej i ekspertami technicznymi.

Bezpieczeństwo staje się pytaniem o legitymację

Najważniejsza część wystąpienia dotyczyła koncentracji władzy. Altman powiedział, że kluczowych decyzji nie powinny podejmować wyłącznie laboratoria z San Francisco, a firmy nie mogą zastępować procesu demokratycznego.

Dla rządów to zaproszenie do stworzenia wspólnego języka dla evals, nadzoru i dowodów. Dla firm AI oznacza to również zgodę na reguły, których wyniku nie będą kontrolować. Właśnie ten element pokaże, czy mamy do czynienia ze zmianą stanowiska, czy z polityczną polisą.

W przemówieniu zabrakło mechanizmu kontroli

Altman wskazał cele, lecz nie przedstawił wiążącego audytu, zasad niezależnego dostępu do modeli ani terminów raportowania incydentów. Nie rozwiązał też napięcia między standardem globalnym a kompetencjami państw.

OpenAI nadal jednocześnie buduje, ocenia i wprowadza modele na rynek. Wspólne pojęcia pomagają, ale bez niezależnych pomiarów każdy producent może nadal sam sprawdzać własny egzamin.

O wyniku zdecydują audyty, raporty i dostęp do dowodów

Kolejnym istotnym sygnałem będzie protokół, a nie następne przemówienie. Trzeba obserwować, czy państwa uzgodnią definicje poważnych incydentów, dopuszczą niezależne evals i określą dowody wymagane przed wdrożeniem modelu.

Weryfikowalne standardy dla modeli otwartych i zamkniętych mogą nadać procesowi ONZ praktyczne znaczenie. Bez nich kontrola człowieka pozostanie atrakcyjnym hasłem bez wyłącznika.

Werdykt Lilith

Altman otworzył przed Radą Bezpieczeństwa księgę kontroli, lecz większość wpisów nadal sporządza OpenAI. Współpraca zacznie się, gdy niezależny audytor zobaczy te same modele i incydenty.