OpenAIはエージェントをエンジニアの手から一般ユーザーへと押し進める

ラボから現実世界へ

OpenAIは、単にプログラマー向けの高度なツールとして機能するだけでなく、AIエージェントを作成するという野心を隠していない。目標は、このテクノロジーをマスユーザーに提供することだ。Tim Fernholz氏がTechCrunchで指摘しているように、エンジニアがAPIを微調整し、エッジケースを処理する環境から、一般ユーザーが最初の試行で機能的な結果を期待する世界への移行は、技術的にも製品の観点からも非常に厳しいものだ。エージェントは壊れやすいスクリプトであることをやめ、信頼できる委任者にならなければならない。

一般ユーザーにとって、信頼の境界は変化している

開発者はモデルが幻覚を起こす可能性があることを理解し、出力をレビュー用のドラフトとして扱うが、平均的な消費者にはそうする時間も気も起きない。エージェントがフライトを予約したり請求書を支払ったりすることになっている場合、エージェントはミスを犯してはならない。この変化は、モデルの信頼性と安全性に多大な圧力をかけている。AIがどれだけ賢い回答を生成するかではなく、ユーザーに代わって外界のツールをどれだけ安全に操作できるかということが重要になる。

UIの複雑さとユーザーの期待が足かせになるだろう

最大の落とし穴はモデル自体のインテリジェンスではなく、ユーザーインターフェースの設計と期待値の管理だろう。エージェントに自由な裁量が与えられた場合、エージェントが望ましくないアクションを実行するのをどのように防ぐのか。すべてのステップで確認が必要な場合、それは役に立たなくなる。自律性と制御の適切なバランスを見つけることは、OpenAI（および他のすべての市場参加者）にとって今年最も困難な製品上の課題となるだろう。これまでのチャットインターフェースでは、これにはもはや十分ではないだろう。

顧客の財布が真の価値を示すだろう

すべての人が自分のAIエージェントを持つかどうかは、技術のデモによって決まるわけではない。それは、ユーザーがこれらのシステムに自分のデータやお金へのアクセスを委ね、その対価を支払う意思があるかどうかによって決まる。ROIが時間の節約によって明確に測定できる開発者セグメントでの成功は、デジタルサービスが無料であることに人々が慣れており、エージェントのミスが直接財布に響く消費者セグメントに自動的に波及するとは限らない。

Lilithの判定

開発者向けのエージェントを構築するのは、彼らが間違いを許容するため簡単だ。一般ユーザー向けに構築するということは、銀行と検索エンジンを混同している人に委任状を渡すことを意味する。