Exodus z powodu ryzyka z Anthropic wywoluje lawine wyznan

Rezygnacja badacza Jacoba Coxona z Anthropic, ktory publicznie ostrzegal przed ryzykiem AI, przelamala milczenie w czolowych laboratoriach. Evan Hubinger, szef zespolu ds. alignmentu w Anthropic, potwierdzil nastepnie, ze laboratorium nie ma jeszcze planu bezpiecznego opanowania superinteligencji i osobiscie szacuje ryzyko zaglady ludzkosci w ciagu dziesieciu lat na ponad 10 procent. Do tego stanowiska, publicznie lub w aluzjach, zaczeli przylaczac sie rowniez badacze z OpenAI i Google DeepMind.

Klienci kupuja infrastrukture od inzynierow apokalipsy

Ta lawina ujawnia przepasc miedzy marketingiem a wewnetrzna kultura laboratoriow. Podczas gdy na zewnatrz Anthropic i OpenAI sprzedaja narzedzia korporacyjne do zwiekszania produktywnosci, kluczowi inzynierowie budujacy te systemy sa przekonani, ze ich wlasny produkt moze wkrotce zabic wszystkich. Dla nabywcow korporacyjnych i regulatorow zmienia to rownanie: nie buduja zaleznosci od stabilnych dostawcow oprogramowania, ale od zespolow, ktore same nie wierza w dlugoterminowe bezpieczenstwo swojego dziela.

Wewnetrzna panika nie zatrzymuje pracujacych serwerow

Mimo ze odsetek osob obawiajacych sie zaglady jest wysoki, same laboratoria nadal trenuja coraz wieksze modele i pozyskuja miliardowe inwestycje. Ostrzezenia plyna z zespolow badawczych ds. alignmentu, a nie od kierownictwa decydujacego o strategii komercyjnej.

Obawy o superinteligencje moga zderzyc sie ze sciana danych

Obecne zagrozenia wynikaja z ekstrapolacji obecnego tempa rozwoju, ktora moze okazac sie bledna, jesli modele napotkaja limity syntetycznych danych.

Odplyw kadr inzynierskich pokaze prawdziwa skale

Prawdziwa miara nie bedzie liczba przerazonych tweetow, ale to, czy na odejscie zdecyduja sie inzynierowie z glownych zespolow treningowych. Jesli laboratoria zaczna tracic ludzi zdolnych do skalowania modeli, bedzie to wyrazny sygnal, ze wewnetrzna nieufnosc uderzyla w mozliwosci produkcyjne, a nie tylko w zespoly oplacane za szukanie ryzyk.

Werdykt Lilith

Na posiedzeniach zarzadow nie omawia sie juz SLA, ale to, czy dostawca chmury przypadkiem nie wykasuje cywilizacji. Arogancja nie jest juz twierdzenie, ze zmienisz swiat, ale mowienie tego podczas pakowania plecaka ewakuacyjnego.