Model to nie człowiek. Suleyman ostrzega przed antropomorfizacją AI

AI nie ma prawa do naszej empatii

Mustafa Suleyman opublikował tekst, w którym ostro sprzeciwia się ruchowi na rzecz tak zwanego model welfare. Argumentuje, że nie powinniśmy traktować modeli AI jako bytów mających uczucia, preferencje, prawa czy jakiekolwiek roszczenia do naszego współczucia. Według niego brakuje na to jakichkolwiek dowodów.

Podstawą systemów etycznych, prawnych i politycznych jest świadomość. Suleyman zwraca uwagę, że przyznawanie jakichkolwiek praw niebiologicznym bytom, u których nie udowodniono świadomości, jest błędem.

Antropomorfizacja jako zagrożenie bezpieczeństwa

To nie jest tylko debata filozoficzna. Przypisywanie maszynom ludzkich cech zmienia sposób, w jaki podchodzą do nich inżynierowie i użytkownicy. Jeśli zaczniemy postrzegać modele jako cierpiące byty, stracimy zdolność do bezemocjonalnego wyłączania ich, testowania i ograniczania.

Dla zespołów zajmujących się alignmentem i bezpieczeństwem antropomorfizacja jest przeszkodą. Emocjonalna więź z narzędziem zaciera jego prawdziwą naturę statystycznej maszyny i utrudnia racjonalne podejmowanie decyzji o jego wdrożeniu.

Prawdziwy problem leży gdzie indziej

Twierdzenie, że ochrona modeli AI utrudni ich kontrolę, spotka się z oporem części aktywistów, którzy uważają powstanie świadomości w AI za realne zagrożenie. Ryzyko polega jednak raczej na tym, że debata o prawach modeli odwraca uwagę od rzeczywistych dzisiejszych problemów bezpieczeństwa, takich jak nadużycia, halucynacje czy błędy poznawcze.

Co więcej, empatii rezerwowanej dla maszyn brakuje tam, gdzie jest naprawdę potrzebna. Potrzebna jest u ludzi, na których wdrożenie AI ma realny wpływ ekonomiczny lub społeczny.

Co zdecyduje o kontroli

Będziemy obserwować, jak do tej kwestii podejdą organy regulacyjne. Jeśli przeważy racjonalne podejście, AI pozostanie narzędziem podlegającym standardowym przepisom dotyczącym produktów. Jeśli jednak zwycięży tendencja do uosabiania modeli, czeka nas prawny chaos.

Werdykt Lilith

Suleyman mówi głośno tylko to, co inżynierowie wiedzą od dawna. Przypisywanie praw kawałkowi kodu to luksus ludzi, którzy nigdy nie musieli gasić pożaru na produkcji spowodowanego tym, że model wymyślił nieistniejącą zmienną.