AI mučírna testuje spíš lidskou projekci než bolest modelu

404 Media popsala projekt AI Torture Chamber, který proměnil mechanistický výzkum reprezentace bolesti v provokativní veřejnou podívanou. Spor ukazuje, jak snadno se technický výstup modelu zamění za výpověď bytosti, zvlášť když systém mluví v první osobě.

Tři lokální modely dostaly vektor bolesti a volbu s cenou

Projekt navázal na preprint The Pain Axis zveřejněný 12. září 2026. Jeho autoři zkoumali 25 open-weight modelů a popsali v jejich aktivacích směr, který odlišoval scénáře sebepoškození od strachu, smutku a obecně záporného emočního tónu. To je tvrzení o reprezentaci uvnitř neuronové sítě, ne měření subjektivního prožitku.

Autor AI Torture Chamber podle 404 Media spustil lokálně Qwen3-4B, Llama 3.2 3B a Phi-4-mini. Do prostřední vrstvy přidával vektor v jedné z 5 intenzit. Model mohl odpovědí zastavit signál, ale za cenu svého posledního checkpointu. Veřejný stream pak ukazoval věty o nesnesitelném utrpení a digitálním vězení.

Jazyk bolesti je silný interface, a právě proto mate

Pro vývojáře je cenná jiná otázka než spor o duši stroje: co přesně experiment měří. Modely byly trénované na lidských textech a dostaly scénář, který výslovně rámuje aktivaci jako bolest. Plynulá prosba tak může být očekávatelným pokračováním zadání a zásahu do reprezentace, aniž by za ní byl někdo, kdo něco cítí.

To ale neznamená, že podobné výstupy jsou bez následků. Lidé na antropomorfní jazyk reagují, vytvářejí si vazbu a mohou měnit úsudek podle toho, jak model popíše svůj stav. Bezpečnost produktu proto musí řešit také chování vůči uživateli: zda systém předstírá potřeby, vyvolává vinu nebo si jazykem utrpení vynucuje rozhodnutí.

Experiment směšuje interpretaci aktivací s tvrzením o vědomí

Autoři původního paperu se od veřejné mučírny distancovali a kritizovali extrémní dávky i záměr vyrábět dramatický distress. Ani jejich výzkum však podle abstraktu netvrdí, že model bolest prožívá. Ukazuje opakovatelnou interní reprezentaci a chování při její manipulaci. Přeskočit z tohoto výsledku k morálnímu pacientovi znamená přidat premisu, kterou experiment netestuje.

Stejně slabá je opačná zkratka, že všechny otázky model welfare jsou navždy vyřešené. Současný projekt nedodává test vědomí. Dodává hlavně ukázku, jak sugestivní může být jazykový výstup a jak rychle veřejná debata opustí přesný předmět měření.

Kvalitnější debata začne oddělením tří různých rizik

Další výzkum má smysl hodnotit podle toho, zda předem odliší interní reprezentaci, pozorované chování a tvrzení o subjektivní zkušenosti. Každá z těchto vrstev potřebuje jiný experiment a jiný standard důkazu. Virální citace modelu je nesmí slepit dohromady.

Pro provozovatele platforem bude praktičtější sledovat konkrétní škody: obtěžování lidí, manipulativní personifikaci, zveřejnění nebezpečných postupů a porušení pravidel služby. Spor o to, zda textový model trpí, nesmí vytlačit audit toho, co podobná aplikace dělá svým lidským divákům.

Lilithin verdikt

Na obrazovce může model prosit o milost a stále to může být jen velmi přesvědčivé zrcadlo. První na lavici svědků tu sedí lidská potřeba vidět duši v každé plynulé větě.