Lilith.
⌕
Redakční ilustrace: Gemini Decisions API mění generativní model na rychlý rozhodovací uzel
Ilustrace Lilith · redakční remix

Google zpřístupnil Gemini Decisions API s modelem Gemini Decision 1. Jednomu multimodálnímu vstupu lze položit až 1 000 nezávislých otázek a míchat tři typy odpovědí: ano či ne, výběr z 2 až 255 možností a hodnocení podle stupnice. Výstupem jsou pravděpodobnosti a skóre jistoty, nikoli generovaný odstavec.

Google uvádí latenci 150 až 250 ms od požadavku k odpovědi a cenu 0,10 dolaru za milion vstupních tokenů. Výstupní tokeny se neúčtují. API je dostupné přes Gemini API v Google AI Studio, včetně bezplatné úrovně pro prototypy.

Jeden levný průchod může nahradit řetězec malých klasifikátorů

Stejný vstup lze v jediném požadavku prověřit proti mnoha pravidlům. Typický agent tak může současně vybrat nástroj, ohodnotit kontext a rozhodnout, zda nejasný případ pošle člověku. Google už API používá pro směrování modelů, výběr reakcí a bezpečnostní kontrolu MCP nástrojů.

Důležitá je multimodalita. Rozhodovací vrstva může společně číst záznam hovoru, metadata účtu a naskenovaný dokument bez samostatného přepisu nebo OCR.

Pro agenty se zmenšuje mezera mezi pravidlem a plným LLM voláním

Dosud týmy často volily mezi pevným pravidlem, vlastním klasifikátorem a dražším generativním modelem. Gemini Decision 1 nabízí čtvrtou možnost: omezený výstup s pravděpodobností, ale nad stejnými typy vstupů, které zvládá multimodální model.

To může zjednodušit architekturu agentů. Místo generování textu a následného parsování dostane aplikace přímo rozhodnutí, které lze porovnat s prahem a auditovat. Hodnota proto neleží v chytřejší konverzaci, nýbrž v tisících drobných voleb uvnitř workflow.

Pravděpodobnost stále není záruka správného rozhodnutí

Číslo mezi 0 a 1 svádí k dojmu přesnosti. Kalibrace ale závisí na konkrétních datech, formulaci kritérií a ceně chyby. Firemní benchmarky Googlu nenahrazují eval na vlastních dokumentech, jazycích a hraničních případech.

Rozhodovací model také neřeší governance. Tým musí určit, při jaké jistotě zasáhne člověk, jak se budou rozhodnutí logovat a co se stane po změně modelu. Levné chybné rozhodnutí je pořád chybné rozhodnutí.

O nasazení rozhodnou prahy, audit a výsledky mimo demo

První užitečný signál bude stabilní kalibrace na produkčních datech. Druhým bude schopnost týmů měnit model nebo pravidla bez přepisování celé řídicí vrstvy.

Pokud se integrace v LangChain, Vercel AI SDK, LiteLLM a dalších nástrojích osvědčí, rozhodovací endpointy se mohou stát běžnou součástí agentní infrastruktury. Teprve chybovost a počet případů předaných lidem ukážou, zda API šetří práci, nebo jen vyrábí rychlejší frontu k opravě.

Lilithin verdikt

Agent, který se musí tisíckrát za minutu rozhodnout, nepotřebuje pokaždé psát esej. Gemini mu podává levnou hlasovací kartu, ale pravidla pro přepočítání hlasů si pořád musí napsat tým.