Last Week in AI：ナビエ・ストークスと悪用の警告

AIのまた新たな1週間：方程式から規制まで

Last Week in AIニュースレターは、先週の主要な出来事のまとめ（第344号）をもたらしました。主なトピックは、彼らのシステムがミレニアム懸賞問題の1つを解決したというOpenAIの主張です。ナビエ・ストークス方程式の証明です。この声明は、方法論と結果そのものに疑問を呈する数学界から直ちに鋭い反応を引き起こしました。AI企業が「証明」と見なすものと、学界の厳格な基準との間にギャップが生じています。

同時に、安全性に関する議論もエスカレートしています。AnthropicのCEOであるDario Amodeiは、AI機能の最前線（フロンティアモデル）での開発を遅らせるよう訴えました。これは、この分野で最も著名な企業の1つのリーダーからの異例のステップです。

同じリスクに対する異なる見方

OpenAIが何世紀にもわたる問題を解決するモデルの能力で目をくらませることに焦点を当てている一方で、Anthropicは慎重な修辞を選択しています。この対照は、AI業界の統一されたファサードがいかに崩れつつあるかを示しています。企業はもはやパフォーマンスだけで競争しているのではなく、誰がより責任ある企業として自らをよりよくプロファイリングできるかについても競争しています。

ニュースレターで言及されている絶滅の可能性に関する警告と規制の要求は新しいものではありませんが、勢いを増しています。議論は抽象的な脅威から具体的な悪用のシナリオへと移行しています。これにより、テクノロジーが制御がより困難な次の段階に到達する前に行動するよう議員に圧力をかけています。

PR数学の限界

ナビエ・ストークス方程式をめぐる論争は、AIマーケティングが現実に行き詰まる典型的な例です。モデルはコードを生成し、テキストを合成できますが、正式な数学的証明には絶対的な精度と論理的な抜け穴がないことが必要です。これは、現在のLLMが本質的に優れていないものです。事前の厳格なピアレビューなしに、生成されたテキストをミレニアム懸賞問題の解決策として提示することは、分野全体の信頼性を損ないます。

このエピソードは、投資家と一般大衆の両方への警告として役立つ可能性があります。AI企業がモデルが何かを解決したと主張しているからといって、そのドメインのコンテキストでそれが真実であるとは限りません。

規制当局が真剣に受け止めること

規制当局がこれらの矛盾するシグナルにどのように反応するかを注視することが重要になります。彼らが解決不可能な問題を解決するという約束に夢中になるのか、それとも慎重さの求めに耳を傾け、現在のモデルの悪用に関する具体的で実証可能なリスクに焦点を当てるのか。

Lilithの判定

LLMがナビエ・ストークス方程式を解決したと主張することは、ランダムな単語ジェネレーターがシェイクスピアを書いたと言うようなものです。それはきれいに見えるかもしれませんが、学術誌に持ち込まない方がよいでしょう。