Dwanaście głosów z laboratoriów AI ostrzega przed ryzykiem, lecz nie wskazuje wspólnego planu

Projekt frominside.ai organizacji Palisade Research opublikował rozmowy z 12 obecnymi lub byłymi pracownikami OpenAI, Google DeepMind i Anthropica. Część z nich szacuje ryzyko zagłady ludzkości na dziesiątki procent, ale z serii nie wynika ani jedna diagnoza, ani wspólny plan zarządzania rozwojem.

Badacze nadają skrajnemu ryzyku twarz i konkretne liczby

Geoffrey Irving, wcześniej związany z OpenAI i Google DeepMind, ocenił prawdopodobieństwo zagłady ludzkości na około 50 %. Neel Nanda z Google DeepMind mówił o co najmniej 10 %. Daniel Kokotajlo stwierdził, że ludzie nie potrafią kontrolować systemów superinteligentnych i nie mogą dopuścić do takiej sytuacji.

Serwis gromadzi 12 opublikowanych pełnych rozmów oraz montaże tematyczne. Uczestnikami są obecni i byli pracownicy trzech czołowych laboratoriów. Palisade informuje, że nagrało 22 wywiady, a część udostępni dopiero po późniejszej zgodzie rozmówców. Wypowiedzi przedstawiają osobiste poglądy, a nie stanowiska pracodawców.

Najmocniejszym sygnałem jest konflikt ludzi wewnątrz wyścigu

Projekt pokazuje więcej niż obawę przed hipotetycznym systemem. Widać w nim ludzi, którzy uznają ryzyko za wyjątkowo poważne, a mimo to pozostają w laboratoriach. Nanda mówi, że odszedłby, gdyby nie wierzył, iż jego praca bezpośrednio ogranicza ryzyko egzystencjalne. Inni odeszli, ponieważ stracili zaufanie do wewnętrznych zobowiązań albo chcieli nadzoru państwa.

Dla firm AI jest to problem governance. Badacz bezpieczeństwa może ograniczać ryzyko, a jednocześnie legitymizować dalszy rozwój. Opinia publiczna słyszy więc ostrzeżenie od osoby zatrudnionej przez firmę sprzedającą coraz potężniejsze systemy. Mary Phuong nazwała to napięcie wprost, zachęcając do podejrzliwości wobec jej słów, ponieważ płaci jej laboratorium.

Dwanaście rozmów nie jest badaniem całej branży

Palisade otwarcie przyznaje, że uczestnicy nie stanowią reprezentatywnej próby. Organizacja rekrutowała przez własne kontakty, a na rozmowę częściej zgłaszały się osoby przekonane, że mają pilne ostrzeżenie. Nadmiernie reprezentowane są zespoły bezpieczeństwa i zwolennicy spowolnienia rozwoju najbardziej zaawansowanych modeli.

Dokładny procent podany przez jedną osobę również nie jest pomiarem prawdopodobieństwa. To osobisty osąd, mniej lub bardziej skalibrowany, bez obserwowalnej serii przypadków. Filmy dowodzą, że obawy istnieją wewnątrz laboratoriów i że część specjalistów traktuje je poważnie. Nie dowodzą, że 50 % to właściwy szacunek ani że wszyscy badacze widzą ryzyko tak samo.

O wadze rozmów zdecydują konkretne propozycje instytucjonalne

Kolejny krok musi przełożyć obawy na decyzje podlegające kontroli. Potrzebne są reguły wdrażania bardzo zaawansowanych modeli, niezależne evals, raportowanie incydentów, ochrona wewnętrznych krytyków oraz jasna możliwość zatrzymania rozwoju lub premiery. Bez tych mechanizmów nawet najmocniejsze świadectwo pozostanie łatwym do udostępnienia filmem.

Warto obserwować, czy obecni pracownicy podadzą konkretne progi, po których przekroczeniu odejdą albo zażądają interwencji regulatora. Taka granica oddziela osobisty lęk od zobowiązania, za które ktoś jest gotów ponieść konsekwencje zawodowe.

Werdykt Lilith

Kamera pokazała ludzi stojących w środku wyścigu i krzyczących, że tor kończy się urwiskiem. Teraz trzeba zobaczyć, kto sięgnie po hamulec.