AIリスクの議論が、すでに経済で起きていることを無視している理由

世界の終わりに固執することは、明日の問題から注意をそらす

イーサン・モリック氏は、AIリスクをめぐる議論における非対称性の増大を指摘しています。シリコンバレーや政界で最も声の大きい人々が、存亡に関わるリスク（x-risk）やスーパーインテリジェンスが私たちを破壊するかどうかに固執する一方で、現実の政治的、経済的な問題は脇に追いやられています。存亡に関わるリスクは、ある種の普遍的なアリバイになっています。つまり、人類の終わりを解決していない限り、他の何かを解決する必要はないということです。

この力学は空白を生み出します。今日のAIの安全性（AI safety）に関する議論は、モデルが業界全体で富、権力、雇用の機会を静かに再分配する能力ではなく、モデルが惨事を引き起こす能力によってほぼ排他的に定義されています。

労働市場を混乱させるためにスーパーインテリジェンスは必要ない

モリック氏の重要な主張は、主要な経済的および社会的影響のために、次世代の、より優れた、またはよりスマートなモデルは必要ないということです。今日の巨大言語モデル（LLM）に代表される現在の技術レベルは、すでに労働市場に大きな波を起こすのに十分すぎるほどです。

政策立案者や規制当局が、仮説上の汎用人工知能（AGI）を防ぐことだけに注力しているとすれば、今日の企業がすでに既存のツールを積極的に導入してタスクを自動化し、人員を削減し、部門全体を再構築しているという事実を見逃すことになります。問題は10年後にあるのではなく、すでに起こっているのです。

誰が利益を得て誰が負けるかは、今まさに決まりつつある

ディストピアを待つのではなく、良い結果を促進し、悪い結果を軽減する具体的な構造的介入に焦点を当てる必要があるとモリック氏は主張します。資本の所有者やAIラボ自体だけが利益を得ないように、生産性をどのように向上させるのでしょうか。AIツールの統合が人間の仕事の劣化ではなく、その拡大を意味するようにするにはどうすればよいのでしょうか。

これらの質問に対する答えには、労働法、税金、教育システムのレベルでの、退屈で技術的で官僚的な作業が必要です。これはターミネーターに関する警告と同じようなメディアの注目を集めないかもしれませんが、何百万人もの人々に直接的な影響を与えます。

真のテストは、退屈な問題に対処する政治的意欲となるだろう

私たちがAIリスクを真剣に受け止めているかどうかの真の尺度は、AGIに関する次の公開書簡の署名者の数ではありません。トレーニングデータの著作権、影響を受ける職業のための再訓練基金、または企業におけるエージェント導入のより明確なルールに対処する具体的な立法提案が見られるかどうかにかかっています。

政策がフロンティアモデルの規制のみに限定される場合、それは事実上、今日のAIの経済的影響の規制を放棄したことを意味します。

Lilithの判定

AGIを悪魔化するのは都合の良いアリバイです。銀河の滅亡に備えなければならない時に、明日の午後、会計士をどうするかと尋ねる人は誰もいません。