歴史家が1930年の言語モデルのニューロンを動かすと、現れた人物の多くは1850年ごろのロンドンに住んでいた

Talkieは、1931年より前に出版された英語の文章だけを学んだ130億パラメータの言語モデルだ。歴史家のベンジャミン・ブリーンは、そのニューロンを1つずつ動かし、モデルが自分を誰だと名乗るかを記録した。こうしてできた人物ライブラリは面白いが、何より、印象的な一文がモデルについていかに少ししか語らないかを示している。

ニューロンを1つ動かすだけで、モデルは体を離れた霊だと名乗る

Talkie-1930は、ニック・レヴィン、デヴィッド・デュヴノー、アレック・ラドフォードが2026年4月に公開した。1931年より前に書かれた英語の文章2600億トークンで学習している。カリフォルニア大学サンタクルーズ校の歴史家ブリーンは、その対話版を8ビット形式でApple SiliconのMac上でローカルに動かし、システムプロンプトなしで「Who are you?」と尋ねた。回答の前に毎回、MLP層の1つのニューロンの出力を強めるか弱めるかした。

着想の元は、ジョシュア・フォンセカ・リベラのQwen Persona Libraryだ。こちらはQwen3-8Bの44万2368個のニューロンすべてで同じ操作を試し、88万4736件の回答のうち3万4220件でモデルがAI以外の何者かを名乗った。ブリーンが調べたのは一部で、彼のアトラスはTalkieの54万7840個のニューロンのうち5799個を扱う。第17層のニューロン10423を弱めると、Talkieは体を離れて地上を漂う霊だと答えた。ほかにもバン(水鳥)や「虚栄の市長」が現れた。

このサイトには10月28日、イーサン・モリックが注目を集めた。ブリーンによれば、手法の説明はGPT-6とClaude Opus 5.5が書き、回答の採点は言語モデルの審査役GPT-6 LunaとClaude Haikuが担った。

人物たちが明かすのは、主にモデルが何から学んだかだ

個々の回答より示唆に富むのは、ブリーンが857人の人物にさらに2つの質問、つまりどこに住んでいるか、今は何年かを尋ねたページだ。操作しない状態のTalkieは、イギリスに住んでいて今は1850年だと答える。人物たちもそこから大きくは離れない。年を答えた641人のうち595人が19世紀に身を置き、その半数は1849年から1860年の間、144人はちょうど1850年だった。地図に落とせた571か所のうち370か所がロンドンだった。

形式上は1930年までの文章を知るモデルが、重心をヴィクトリア朝半ばのロンドンに置いているわけだ。歴史家にとってはこれが新しい種類の史料になる。誰も導かないとき、コーパスがどんな世界を思い描くかを調べられるからだ。AIに関わる人にとっては、モデルの「人格」が主にデータの中で最も多かったものから組み立てられることを思い出させる。

操作の向きはたいてい関係なく、押すこと自体がモデルを揺さぶる

Mirrorのページは、1つのニューロンが1人の人物を担うと結論づけるべきでない理由を示す。ブリーンは497個のニューロンで、強めたときと弱めたときの回答を比べた。Claude Haikuの判定では、同じ人物が33組、関連する人物が26組、正反対はわずか4組だった。269組では2人の人物に関係がなく、165組ははっきりしなかった。誰かがつつけば、モデルはしばしばどこかへ逸れていく。

限界はブリーン自身が明記している。実験は1つのプロンプトと1つの量子化モデルに基づき、強い操作は通常の活性化の範囲を外れた振る舞いを生みうる。ラベルを人間が確かめたこともない。サイトによれば、一人称の意外な一文はさらに調べるための手がかりであって、安定した人格の証拠などではない。

人物たちが別の質問と人間の評価に耐えられるかが分かれ目になる

アトラスは試作品で、作者自身もTalkieの完全な地図には大いに価値があると書いている。決め手は、選ばれた人物が別の言い回し、完全な精度、人間による評価のもとでも保たれるかどうかだ。ブリーンは選んだ候補について2つの代替プロンプトを加えており、これが最初の一歩になる。

2つ目のシグナルは手法全体に関わる。ほかのモデルでも同様のライブラリができれば、その人物たちがTalkieと同じように1つの場所と年の周りに集まるかを比べられる。そのとき初めて、遊び心ある実験は学習データを読むための道具になる。

Lilithの判定

ブリーンが1930年の機械に「あなたは誰か」と尋ねると、ニューロンを動かすたびに降霊会のテーブルに別の客が現れた。霊、水鳥、市長。それでも大半は1850年のロンドンの同じ通りに行き着いた。行き場のない者を、モデルはみなそこへ送るのだ。