Lilith.
⌕
Ilustracja redakcyjna: Helen Toner przenosi nadzór nad AI z zaufania do prezesów na egzekwowalne reguły
Ilustracja Lilith · remiks redakcyjny

Helen Toner w rozmowie z The Verge odrzuca pogląd, że bezpieczeństwo najpotężniejszych systemów AI można oprzeć na charakterze kilku prezesów. Była członkini rady OpenAI głosowała za odwołaniem Sama Altmana, po czym obserwowała jego powrót i rozpad pierwotnego mechanizmu nadzoru.

OpenAI pokazało, że rada bez realnej siły nie utrzyma hamulca

Rada organizacji non profit OpenAI miała chronić pierwotną misję przed presją wzrostu i zysku. Gdy w 2023 roku sięgnęła po najmocniejszy środek i odwołała CEO, decyzja szybko upadła. Toner mówi, że zagłosowałaby tak samo ponownie, choć przyznaje, że rada mogła zbudować mocniejsze relacje z kierownictwem firmy.

Jej główna teza dotyczy więc instytucji, a nie oceny jednego menedżera. Jeśli przyszłość zależy od wiarygodności pojedynczej osoby, wadliwa jest sama konstrukcja nadzoru. CSET, którym dziś kieruje Toner, liczy około 50 osób i od 2019 roku przekłada kwestie technologiczne oraz bezpieczeństwa na materiały dla amerykańskich decydentów.

Progi bezpieczeństwa powinny spowalniać laboratorium, które nie nadąża

Toner opisuje laboratoria wykorzystujące AI w coraz większej części własnych badań, a jednocześnie niemające czasu na wdrożenie wszystkich znanych zabezpieczeń. Proponuje jasny próg oceny i zarządzania ryzykiem przed treningiem lub premierą kolejnego modelu. Spełnienie warunków pozwala iść dalej. Ich niespełnienie powinno oznaczać więcej czasu na przygotowanie.

Dla firm kupujących AI kluczowe jest przejście od obietnic do procesu. Odpowiedzialność da się sprawdzić dopiero wtedy, gdy istnieją obowiązkowe testy, zapis decyzji i organ spoza zespołu produktowego, który może zatrzymać premierę.

Giełda może przynieść zarówno kontrolę, jak i presję na wzrost

Toner nie przedstawia wejścia laboratorium AI na giełdę wyłącznie jako zagrożenia. Spółki publiczne podlegają bardziej sformalizowanym zasadom zarządzania, raportowania i zewnętrznej kontroli niż prywatne laboratoria. Oczekiwania inwestorów mogą jednak jeszcze przyspieszyć wyścig o możliwości modeli. Liczą się konkretne uprawnienia niezależnych komitetów, nie ich nazwy.

Wywiad przedstawia stanowisko jednej byłej członkini rady, a nie audyt dzisiejszego OpenAI. Jej doświadczenie jest jednak rzadkim testem mechanizmu stworzonego właśnie na moment konfliktu między misją a kierownictwem.

Pierwszym prawdziwym sprawdzianem będzie niewygodna decyzja

Nowe reguły nabiorą znaczenia, gdy komitet bezpieczeństwa opóźni drogi model, regulator zażąda niewygodnych danych albo rada odrzuci plan kierownictwa. Do tego czasu dobrowolne zobowiązania pozostają obietnicami. Warto śledzić opublikowane progi, kompetencje niezależnego nadzoru i przypadki, w których nadzór naprawdę zmienił decyzję laboratorium.

Werdykt Lilith

Toner proponuje prosty test: hamulec awaryjny poznaje się po tym, czy zatrzyma pociąg wbrew maszyniście, a nie po tabliczce przy dźwigni.