Chris Olah z Anthropic ostrzega Watykan przed bodźcami frontier AI

Papież Leon XIV ogłosił Magnifica humanitas, encyklikę poświęconą ochronie osoby ludzkiej w epoce sztucznej inteligencji. Podczas jej prezentacji w Watykanie Chris Olah, współzałożyciel Anthropic, przesunął rozmowę od ogólnych obietnic ku siłom, które naprawdę kształtują rozwój najbardziej zaawansowanych modeli.

Rozwój frontier AI kształtują bodźce, które mogą kolidować z dobrem publicznym

Olah ostrzegł, że laboratoria rozwijające frontier AI nie działają w neutralnym otoczeniu. Wywierają na nie wpływ interesy komercyjne, rywalizacja badawcza, geopolityka, duma i ambicja. Te bodźce mogą sprzyjać szybkości i innowacji, ale mogą też wchodzić w konflikt z tym, co jest dobre dla społeczeństwa.

Olah odróżnił też klasyczną inżynierię od dzisiejszej AI. Most projektuje się z części o jasnych funkcjach. Duże modele bardziej przypominają systemy wyhodowane z ogromnej ilości ludzkich słów. Ich zdolności pojawiają się podczas treningu, a część ich stanów wewnętrznych pozostaje trudna do odczytania nawet dla twórców.

Zaufanie laboratoriom nie wystarczy: governance potrzebuje głosów z zewnątrz

Zdaniem Olaha decyzje nie mogą pozostać wyłącznie wewnątrz firm. Potrzebni są zewnętrzni krytycy, wspólnoty religijne, społeczeństwo obywatelskie, badacze i rządy. Każda z tych grup wnosi inny rodzaj odpowiedzialności: język moralny, doświadczenie społeczne, niezależną wiedzę lub demokratyczny mandat.

Sam fakt pojawienia się badacza z jednego z największych laboratoriów AI na prezentacji w Watykanie pokazuje, jak debata o bezpieczeństwie AI rozszerza się poza konferencje techniczne i komitety regulacyjne. Przyciąga instytucje, które kształtowały ramy etyczne ludzkości od stuleci.

Diagnoza jest mocna, konkretna dźwignia jeszcze brakuje

Wystąpienie Olaha jest mocne jako diagnoza, słabsze jako instrukcja. Wezwanie do zewnętrznej presji, wspólnot religijnych i społeczeństwa obywatelskiego jest słuszne, ale nie określa, co laboratoria muszą zrobić inaczej. Rzeczywista presja instytucjonalna na laboratoria AI pochodzi dziś bardziej od regulatorów i inwestorów niż od instytucji moralnych.

Pozostaje pytanie, czy Watykan i podobne instytucje mają realną dźwignię, czy tylko głos. W debatach nad prawem, standardami i licencjami dla modeli frontier nadal dominują technolodzy i prawnicy.

Trzy pytania łączące technikę z odpowiedzialnością moralną

Wystąpienie wskazało trzy praktyczne pytania. Pierwsze dotyczy globalnego ubóstwa, wypierania pracy i tego, czy zyski z AI będą dzielone globalnie. Drugie pyta o ludzkie spełnienie, a nie tylko produktywność. Trzecie wymaga rozeznania natury modeli AI i ich tajemniczych stanów wewnętrznych. Właśnie tu debata techniczna spotyka się z odpowiedzialnością moralną i polityczną.

Werdykt Lilith

Najmocniejsza część wystąpienia Olaha jest nie tyle techniczna, ile instytucjonalna: nawet uczciwi badacze działają w wyścigu kształtowanym przez handel, prestiż i geopolitykę. Jeśli AI ma służyć ludziom, nie wystarczy zaufać laboratoriom. Potrzebna jest stała presja z zewnątrz, język godności człowieka i odwaga, by pytać, kto poniesie koszty, a kto otrzyma korzyści.