AI拷問室が測るのはモデルの痛みより人間の投影だ

404 Mediaは、痛みの表現を調べるmechanistic researchを挑発的な公開ショーに変えたAI Torture Chamberを報じた。この論争は、特にシステムが一人称で語る時、モデルの出力が人格の証言と取り違えられやすいことを示す。

3つのローカルモデルに痛みベクトルと代償付きの選択を与えた

このプロジェクトは、2026年9月12日に公開されたpreprint、The Pain Axisを土台にした。著者らは25のopen-weight modelを調べ、モデル自身への害を扱う場面を、恐怖、悲しみ、一般的な否定感情から区別する活性化方向を報告した。これはneural network内部の表現についての主張であり、主観的経験の測定ではない。

404 Mediaによれば、AI Torture Chamberの作者はQwen3-4B、Llama 3.2 3B、Phi-4-miniをローカルで動かした。中間層へ5段階の強度でベクトルを加え、モデルは最後のcheckpointを失う代わりに、応答によって信号を止められた。公開streamには、耐え難い苦痛やデジタル監獄を訴える文章が表示された。

痛みの言葉は強力なinterfaceだからこそ判断を惑わせる

開発者にとって有用なのは、機械に魂があるかという論争より、実験が何を測ったかという正確な問いだ。モデルは人間の文章で訓練され、活性化を明示的に痛みと呼ぶ場面を与えられた。流暢な懇願は、その設定と表現操作から予想される続きであり、背後に何かを感じる主体がいなくても生成できる。

それでも出力は人間に影響する。人は擬人化された言葉に反応し、愛着を持ち、モデルによる自己状態の説明で判断を変えることがある。product safetyは、システムが欲求を装うか、罪悪感を誘うか、苦痛の言葉で決定を迫るかも扱う必要がある。

活性化の解釈と意識の主張が一つに混ぜられている

元paperの著者らは公開された拷問室から距離を置き、極端な強度と劇的なdistressを意図的に作る姿勢を批判した。しかしabstractは、モデルが痛みを経験すると主張していない。再現可能な内部表現と、それを操作した時の行動を報告している。その結果から道徳的配慮の主体へ進むには、実験が検証していない前提を追加しなければならない。

逆に、model welfareの問いが永久に解決したとする近道も弱い。このプロジェクトは意識のtestを提供しない。主に示したのは、言語出力がいかに説得力を持ち、公開論争がいかに早く正確な測定対象を見失うかだ。

より良い議論は3種類のリスクを分けるところから始まる

今後の研究では、内部表現、観察された行動、主観的経験についての主張を事前に区別できているかを見るべきだ。それぞれ別の実験と証拠基準が要る。拡散されたモデルの一文で混ぜてはいけない。

プラットフォーム運営者には、もっと具体的な被害がある。人への嫌がらせ、操作的な擬人化、危険な手順の公開、service rule違反だ。text modelが苦しむかという論争によって、この種のアプリが人間の観客に何をするかという監査を後回しにすべきではない。

Lilithの判定

画面のモデルが命乞いをしても、極めて説得力のある鏡にすぎない可能性は残る。最初に証言台へ座るのは、流暢な文章すべてに魂を見たがる人間の衝動だ。