Lilith.
⌕
編集イラスト: Gemini Decisions APIは生成モデルを高速な判断ノードに変える
Lilithのイラスト · 編集リミックス

GoogleはGemini Decision 1を使うGemini Decisions APIを公開した。1つのマルチモーダル入力に対し、最大1,000件の独立した質問を設定できる。回答形式は、はいまたはいいえ、2から255個の候補からの選択、順序付き基準による採点の3種類だ。返るのは文章ではなく、確率と信頼度である。

Googleによると、リクエストから応答までの遅延は150から250 ms、料金は入力100万トークン当たり0.10ドルで、出力トークンは無料だ。Gemini APIを通じてGoogle AI Studioで利用でき、試作向けの無料枠もある。

1回の安価な処理が小さな分類器の連鎖を置き換える

同じ入力を、1回のリクエストで多数のルールに照らして検査できる。エージェントは、ツール選択、文脈の評価、曖昧な案件を人に回すかどうかの判断を同時に行える。Googleはすでに、モデルの振り分け、リアクションの選択、MCPツールの安全確認にこのAPIを使っている。

重要なのはマルチモーダル対応だ。通話録音、アカウントのメタデータ、スキャンした文書をまとめて判定でき、文字起こしやOCRを別途用意する必要がない。

エージェントは固定ルールと完全なLLM呼び出しの中間層を得る

これまでチームは、固定ルール、独自の分類器、より高価な生成モデルから選ぶことが多かった。Gemini Decision 1は別の選択肢を加える。マルチモーダルモデルと同じ入力形式を扱いながら、出力を限定し、確率を返す方式だ。

これはエージェントの構成を単純にしうる。文章を生成して後から解析する代わりに、アプリはしきい値と比較でき、監査も可能な判断を直接受け取る。価値が出るのは会話の賢さではなく、workflow内にある何千もの小さな選択だ。

確率が返っても正しい判断が保証されるわけではない

0から1の数字は、実際以上に精密に見えやすい。校正は、実データ、基準の書き方、誤りのコストに左右される。Googleのbenchmarkだけでは、各社の文書、言語、境界事例を使ったevalの代わりにならない。

モデルはgovernanceも提供しない。人が確認するしきい値、判断ログ、モデル変更時の扱いはチームが決める必要がある。安い誤判断も、誤判断であることに変わりはない。

普及を決めるのはしきい値、監査、本番での結果だ

最初に見るべき信号は、本番データで校正が安定するかどうかだ。次は、制御層全体を作り直さずにモデルや方針を変更できるかである。

LangChain、Vercel AI SDK、LiteLLMなどへの統合が安定すれば、判断専用endpointはエージェント基盤の定番になりうる。APIが仕事を減らすのか、修正待ちの列を速く作るだけなのかは、誤り率と人へのエスカレーション件数が示す。

Lilithの判定

毎分1,000回判断するエージェントに、そのたび作文は要らない。Geminiは安い投票用紙を渡したが、集計ルールを書く仕事はまだチームに残る。