OpenAI zmienia kurs i chce zaostrzenia kalifornijskiego prawa o AI

OpenAI nieoczekiwanie zmienia stanowisko wobec regulacji sztucznej inteligencji w Kalifornii. Firma wcześniej sprzeciwiała się ustawie SB 53, która wprowadziła wymogi przejrzystości i ochronę sygnalistów w dużych przedsiębiorstwach AI. Teraz chce, aby Kalifornia dopisała do tego samego prawa kolejne zabezpieczenia.

Kalifornia ma wypełnić lukę federalną

OpenAI tłumaczy zmianę brakiem znaczącej legislacji federalnej. Firma popiera teraz podejście, które nazywa odwróconym federalizmem: poszczególne stany miałyby obrać zgodny kierunek w zakresie podstawowych zabezpieczeń i stworzyć fundament przyszłego standardu krajowego.

Nie chodzi więc wyłącznie o pojedynczy przepis kalifornijski. Firma chce ram stanowych, które już teraz będą ze sobą zgodne, a później mogą złożyć się na wspólne minimum dla całego kraju.

Monitoring zaczyna się już podczas treningu

Jedna z proponowanych zmian nakładałaby obowiązek monitorowania najbardziej zaawansowanych modeli podczas treningu lub oceny pod kątem możliwych poważnych incydentów. Nadzór rozpoczynałby się przed wdrożeniem, gdy laboratorium nadal bada możliwości i ryzyka modelu. OpenAI chce uniknąć scenariusza, w którym 95% problemów rozwiązuje się dopiero w gotowym produkcie.

Taki wymóg rozszerzyłby ustawę od ogólnej przejrzystości ku konkretnym mechanizmom kontroli podczas rozwoju. To właśnie na tym etapie firmy mogą wykryć problem, zanim model trafi do użytkowników.

Cyberbezpieczeństwo obejmuje cały cykl rozwoju

OpenAI chce również mocniejszych zabezpieczeń cybernetycznych w całym cyklu rozwoju modelu. W swoim stanowisku odwołuje się do niedawnych incydentów, które zdaniem firmy pokazują, że zabezpieczenia trzeba aktualizować wraz z pojawianiem się nowych zagrożeń.

Propozycja łączy bezpieczeństwo zachowania modelu z ochroną infrastruktury używanej do treningu, oceny i eksploatacji. Zaostrzone wymogi dotyczyłyby więc kilku etapów rozwoju, a nie jednej końcowej kontroli.

Zgodne przepisy stanowe mogą wyprzedzić Kongres

Wzajemna zgodność podobnych ram stanowych jest warunkiem podejścia proponowanego przez OpenAI. Firma twierdzi, że taka zbieżność może stworzyć rdzeń późniejszego standardu krajowego nawet bez ustawy federalnej.

Jeśli kolejne stany pójdą w zgodnym kierunku, SB 53 przestanie być wyłącznie lokalnym reżimem. Może stać się jednym z elementów wspólnej amerykańskiej podstawy bezpieczeństwa najbardziej zaawansowanych modeli.

Werdykt Lilith

OpenAI najpierw sprzeciwiała się SB 53, a teraz chce większej liczby zabezpieczeń. Gdy gigant odkrywa urok zgodnych przepisów i jednocześnie przywołuje niedawne incydenty, wyczucie chwili jest niemal tak ciekawe jak sama ustawa.