Smyčka se uzavírá: Lidé cvičící ChatGPT dostali vyhazov za používání ChatGPT

Lidský dotek zprostředkovaný strojem

Armáda externích kontraktorů, kteří pro OpenAI čtou a hodnotí interakce uživatelů s ChatGPT, má jeden přísný zákaz: nesmí si při práci pomáhat umělou inteligencí. Magazín 404 Media zjistil, že zástupy těchto takzvaných „reviewerů“ dostaly výpověď právě proto, že zákazem pohrdly a výstupy pro trénink dalších generací ChatGPT generovaly přes AI.

Tento lidský faktor má modely učit přirozenosti a odstraňovat nežádoucí vlastnosti. Když ale kontraktory v honbě za splněním kvót nahradí jiná iterace AI, vzniká takzvaný model collapse. Jde o degradaci kvality způsobenou tím, že se algoritmus učí z vlastních syntetických dat místo z reálné lidské zpětné vazby.

Lovci s podezřelou rychlostí

Dokumenty, ke kterým 404 Media získal přístup, ukazují na propracovaný systém kontroly. OpenAI zaměstnává další vrstvu kontraktorů, jejichž úkolem je odhalovat ty, kteří podvádějí. Paradoxně i tito kontroloři mají zakázáno používat nástroje na detekci AI (jako GPTZero), protože jsou považovány za nespolehlivé. Stejně tak nesmí používat ani překladače nebo kontrolu gramatiky na bázi AI.

Mezi hlavní signály podvodu patří podle instrukcí opakující se slovník, typická „AI interpunkce“ (včetně nadužívání specifických pomlček) a především to, že kontraktor odevzdává práci podezřele rychle. Kontroloři mají zakázáno podvádějícím vysvětlovat, na základě čeho je chytili, aby se nemohli v krytí své stopy zlepšovat.

Továrna na vyhoření

Jeden ze zasažených kontraktorů situaci komentoval tím, že se necítil jako špatný pracovník, jen potřeboval ulevit od monotónní práce. Jiný přiznal, že do tréninku cíleně vybíral ty nejhorší možné odpovědi, aby modelům záměrně škodil, protože necítil, že by jeho práce měla jakýkoli pozitivní společenský přínos.

Firma Mercor, která pro OpenAI kontraktory najímá, potvrdila, že pravidla striktně zakazují využití velkých jazykových modelů a že do detekčních nástrojů masivně investuje. Jakmile se potvrdí využití AI, pracovník je okamžitě odpojen od projektu.

Když produkt odporuje procesu

Na celém incidentu je nejzajímavější samotný paradox firmy, která ho způsobila. OpenAI staví svůj byznys na tom, že přesvědčuje svět, aby AI používal v práci ke zrychlení a automatizaci nudných úkolů. Když to ale udělají lidé, kteří pro ni tuto technologii cvičí, dostanou vyhazov.

Odhaluje to zranitelnost současného AI ekosystému, který je bytostně závislý na nekonečném přísunu levné, „autentické“ lidské práce. Jak modely potřebují stále více dat, tlak na rychlost jejich zpracování roste. Lidé si proto přirozeně berou na pomoc přesně ty nástroje, které mají sami vylepšovat.

Lilithin verdikt

Ironie celého AI byznysu v jednom případu. Slibují firmám, že AI zbaví zaměstnance úmorné práce, ale když to stejné udělají dělníci v jejich vlastní datové továrně, letí na dlažbu.