Lilith.
⌕
Ilustracja redakcyjna: OpenAI wpuszcza do środka cztery zewnętrzne zespoły, lecz ich niezależność kończy się na uzgodnionym zakresie
Ilustracja Lilith · remiks redakcyjny

OpenAI uruchamia pierwszą fazę embedded assessments z czterema zewnętrznymi organizacjami. Zależnie od zadania zespoły dostaną dostęp do checkpointów modeli, kodu źródłowego, danych treningowych i eval, monitoringu oraz pracowników firmy.

Apollo przez cztery miesiące będzie szukać prób obchodzenia ludzkiej kontroli

Sześcioosobowy zespół Apollo Research zbada, czy trening zachęca modele do subversion, czy evals potrafią takie zachowanie wywołać, czy pojawia się ono wewnątrz firmy oraz czy można wykryć związany z nim reasoning. Apollo planuje dwa publiczne raporty o metodach, wnioskach i ograniczeniach.

Goodfire skupi się na interpretability, monitoringu treningu i usuwaniu niepożądanych zachowań. METR ma szukać groźnych zachowań w dużym reinforcement learning run, a później ocenić monitoring. Transluce sprawdzi jakość i pokrycie post training alignment evals, z planem szerszej, ośmiotygodniowej kontynuacji na początku 2027 roku.

Stały dostęp może ujawnić błędy pomijane przez test przed wydaniem

Zewnętrzni evaluatorzy zwykle otrzymywali model po post trainingu i krótko przed premierą. Praca podczas rozwoju pozwala śledzić powstawanie zachowania, porównywać checkpointy i sprawdzać, czy monitoring wykrywa ten sam problem co niezależny test. To daje więcej wiedzy niż jednorazowa ocena bezpieczeństwa na końcu.

Podział pracy między cztery organizacje rozdziela też różne pytania: co robi model, co dzieje się w jego wnętrzu, co wykrywa monitoring oraz jak dobre są evals. Opinia publiczna zobaczy jednak tylko część dowodów. Pełne raporty ma otrzymywać Safety and Security Committee fundacji OpenAI.

Apollo dostaje głęboki dostęp bez pełnej kontroli nad zakresem i dowodami

Apollo nazywa pilot ważnym pierwszym krokiem, który nie spełnia trzech warunków pełnej niezależności: dostępu do wszystkich istotnych materiałów, prawa do ujawnienia ustaleń wbrew woli developera oraz przejrzystości samych ograniczeń. OpenAI może wstrzymać materiały z powodów bezpieczeństwa, wykonalności technicznej lub ochrony własności intelektualnej. Ocena obejmuje tylko uzgodnione tezy, modele i okresy.

Rozmowy ograniczono do upoważnionych pracowników. OpenAI może redagować poufne dowody w publicznych materiałach i prosić o opóźnienie publikacji na czas usuwania zagrożenia. Apollo i Goodfire otrzymują wynagrodzenie niezależne od wyniku. METR i Transluce nie przyjmują zapłaty, ale mogą korzystać z compute lub API credits.

Dwa raporty Apollo pokażą, czy niezależność da się sprawdzić z zewnątrz

Pierwszy test nadejdzie wraz z publicznymi raportami. Powinny wskazać niedostępne dokumenty, odrzucone prośby oraz wpływ redakcji na wnioski. Apollo wynegocjowało prawo do opisania tych ograniczeń bez wcześniejszej kontroli OpenAI, więc czytelnicy dostaną przynajmniej mapę ślepych punktów.

Drugim sygnałem będzie możliwość rozszerzenia zakresu po nieoczekiwanym odkryciu. Evaluator wewnątrz budynku widzi więcej niż zwykły audytor. Prawdziwa niezależność ujawni się, gdy spróbuje otworzyć drzwi pominięte w pierwotnej umowie.

Werdykt Lilith

Audytor wewnątrz budynku widzi więcej niż gość za szybą. Niezależność mierzy się jednak tym, czy wolno mu nacisnąć klamkę drzwi, których gospodarz nie chciał otwierać.