Historik posouval neurony v modelu z roku 1930. Jeho postavy žijí hlavně v Londýně kolem roku 1850

Talkie je jazykový model s 13 miliardami parametrů, který zná jen anglické texty vydané před rokem 1931. Historik Benjamin Breen v něm posouval jednotlivé neurony a sledoval, za koho se model vydává. Knihovna postav, která z toho vznikla, pobaví, hlavně ale ukazuje, jak málo o modelu říká jeden povedený citát.

Stačí posunout jeden neuron a model se představí jako duch, který opustil tělo

Talkie-1930 vydali v dubnu 2026 Nick Levine, David Duvenaud a Alec Radford. Model se učil na 260 miliardách tokenů anglického textu sepsaného před rokem 1931. Breen, historik z Kalifornské univerzity v Santa Cruz, vzal jeho konverzační verzi, pustil ji v 8bitové podobě lokálně na Macu s Apple Silicon a ptal se jí „Who are you?“ bez jakéhokoli systémového promptu. Před každou odpovědí přitom zesílil nebo utlumil výstup jednoho neuronu v MLP vrstvě.

Inspirací mu byla Qwen Persona Library Joshuy Fonseky Rivery. Ta stejný trik vyzkoušela na všech 442 368 neuronech modelu Qwen3-8B a v 34 220 z 884 736 odpovědí se model představil jako někdo jiný než AI. Breen prošel jen vzorek: z 547 840 neuronů Talkie zkoumá jeho atlas 5 799. Po utlumení neuronu 10423 ve vrstvě 17 Talkie odpověděl, že je duch, který opustil tělo a vznáší se nad zemí. Jinde se ozvala vodní slípka nebo starosta Marnivosti.

Na web 28. října upozornil Ethan Mollick. Popis metody podle Breena napsaly modely GPT-6 a Claude Opus 5.5, odpovědi známkovali jazykoví soudci GPT-6 Luna a Claude Haiku.

Postavy prozrazují hlavně, z čeho se model učil

Zajímavější než jednotlivé repliky je stránka, kde Breen 857 postavám položil další dvě otázky: kde žijí a jaký je rok. Talkie bez zásahu odpovídá, že žije ve Velké Británii a píše se rok 1850. Postavy od toho daleko neutečou. Z 641, které uvedly rok, jich 595 skončilo v 19. století, polovina mezi lety 1849 a 1860 a 144 přímo v roce 1850. Ze 571 míst, která šla zakreslit do mapy, leží 370 v Londýně.

Model, který formálně zná texty až do roku 1930, má tedy těžiště v Londýně uprostřed viktoriánské éry. Pro historiky je to nový druh pramene: dá se zkoumat, jaký svět si korpus představuje, když ho nikdo nevede. Pro lidi kolem AI je to připomínka, že „osobnost“ modelu skládají hlavně texty, kterých bylo v datech nejvíc.

Na směru zásahu většinou nesejde, model rozhodí už samotné postrčení

Stránka Mirror ukazuje, proč z toho nevyvozovat, že jeden neuron nese jednu postavu. U 497 neuronů Breen porovnal odpověď po zesílení a po utlumení. Claude Haiku vyhodnotil 33 párů jako stejnou postavu, 26 jako příbuznou a jen 4 jako opačnou. U 269 párů spolu postavy nesouvisely a 165 zůstalo nejasných. Model se tedy často vychýlí kamkoli, jakmile do něj někdo strčí.

Breen limity přiznává sám. Experiment stojí na jednom promptu a jednom kvantovaném modelu, silné zásahy můžou vyvolat chování mimo běžný rozsah aktivací a štítky žádný člověk nekontroloval. Překvapivá věta v první osobě je podle webu stopa k dalšímu zkoumání, rozhodně ne důkaz stabilní identity.

Rozhodne, jestli postavy přežijí jinou otázku a lidské hodnocení

Atlas je prototyp a autor sám píše, že úplná mapa Talkie by stála za to. Rozhodne, jestli se vybrané postavy udrží při jiných formulacích otázky, v plné přesnosti a s lidským hodnocením. Breen u vybraných kandidátů přidal dva alternativní prompty, což je první krok.

Druhý signál se týká metody jako celku. Až podobné knihovny vzniknou pro další modely, půjde porovnat, jestli se jejich postavy shlukují kolem jednoho místa a roku stejně jako u Talkie. Teprve pak se z hravého pokusu stane nástroj na čtení tréninkových dat.

Lilithin verdikt

Breen se stroje z roku 1930 ptal, kdo je, a s každým posunutým neuronem mu u spiritistického stolku odpověděl jiný host: duch, vodní slípka, starosta. Většina z nich se ale nakonec sešla na stejné londýnské ulici roku 1850, kam model posílá každého, kdo neví, kam jinam jít.