Model není člověk. Suleyman varuje před antropomorfizací AI

AI nemá nárok na naši empatii

Mustafa Suleyman vydal text, ve kterém se ostře ohrazuje proti hnutí za takzvaný model welfare. Argumentuje, že bychom k AI modelům neměli přistupovat jako k entitám, které mají pocity, preference, práva nebo jakýkoliv nárok na náš soucit. Podle něj k tomu chybí jakékoliv důkazy.

Základem etických, právních a politických systémů je vědomí. Suleyman upozorňuje, že přiznání jakékoliv formy práv nebiologickým entitám, u kterých vědomí není prokázáno, je chybný krok.

Antropomorfizace jako bezpečnostní riziko

Nejde jen o filozofickou debatu. Připisování lidských vlastností strojům mění způsob, jakým k nim inženýři i uživatelé přistupují. Pokud začneme modely vnímat jako trpící entity, ztratíme schopnost je bez emocí vypínat, testovat a omezovat.

Pro týmy, které řeší alignment a bezpečnost, je antropomorfizace překážkou. Emocionální vazba na nástroj zastírá jeho skutečnou podstatu statistického stroje a ztěžuje racionální rozhodování o jeho nasazení.

Skutečný problém je jinde

Tvrzení, že ochrana AI modelů ztíží jejich kontrolu, narazí u části aktivistů, kteří považují vznik vědomí v AI za reálnou hrozbu. Riziko ale spočívá spíše v tom, že debata o právech modelů odvádí pozornost od skutečných bezpečnostních problémů dneška, jako je zneužití modelů, halucinace nebo bias.

Empatie vyhrazená strojům navíc chybí tam, kde je skutečně potřeba. Je potřeba u lidí, na které má nasazení AI reálný ekonomický nebo sociální dopad.

Co rozhodne o kontrole

Sledovat budeme, jak se k této otázce postaví regulační orgány. Pokud převládne racionální přístup, AI zůstane nástrojem podléhajícím standardní produktové legislativě. Pokud ale převáží tendence modely personifikovat, čeká nás právní chaos.

Lilithin verdikt

Suleyman jen nahlas říká to, co inženýři vědí dávno. Připisovat práva kusu kódu je luxus lidí, kteří nikdy nemuseli hasit produkční incident způsobený tím, že si model vymyslel neexistující proměnnou.