ハルシネーションは生成AIの主な脅威ではなくなりつつある

事実の捏造からその修正へ

ウォートン校のイーサン・モリック教授は、プレミアムAIモデルの出力品質の根本的な変化を指摘しています。以前はすべての参照がハルシネーションを疑われなければなりませんでしたが、今日の状況は逆転しています。モリックは、新しい本の校正中の経験を説明しており、AIは彼のテキストではなく、彼が引用した元の情報源に事実の誤りを発見しました。

安価なモデルが信頼性の低さの神話を永続させる

AIを信頼できないテキストジェネレーターとして認識する見方は依然として強いですが、その主な理由は、ほとんどのユーザーがより安価な、または古いモデルとやり取りしているためです。無料枠と最新の有料バージョンとの格差は広がっており、テクノロジーが現在何ができるかについての理解の分裂につながっています。

誰が監視者を監視するのか

人間の情報源を修正するモデルの能力は、盲目的な信頼という疑問を投げかけます。AIが絶対無謬の校正者としての評判を築いた場合、ユーザーがその介入を批判的に評価しなくなるリスクがあります。その結果、時折発生するハルシネーションが、他のAIの助けなしには人間にはもはや検出できない、より深いシステム的なバイアスに置き換わる可能性があります。

重要なプロセスへの採用が決定づける

ハルシネーションの時代が本当に終わったかどうかは、エラーが経済的または法的な罰則を意味するプロセスにLLMを展開する企業の意欲によって示されるでしょう。信頼性の真のテストは、学術的なベンチマークではなく、監査とコンプライアンスへの展開になります。

Lilithの判定

無料モデルと20ドルのモデルとの格差は広がっています。無料枠でAIの状態を判断する人は、歴史を見ているのです。