OpenAI ukázala komunikaci mezi agenty naživo a lidé přestávají chápat, co se děje

Nástroje si začínají povídat mezi sebou

Zveřejněné video z interního OpenAI AI hacku ukazuje, jak spolu agenti mluví napřímo, předávají si kontext a domlouvají se na postupu. Z dřívějšího modelu, kdy člověk vydal příkaz a stroj ho splnil, se stává asynchronní konverzace dvou systémů, na kterou se uživatel jen dívá.

Pro uživatele to mění definici kontroly

Když máte jeden model, hlídáte jeho výstup. Když jich máte pět a komunikují mezi sebou, ztrácíte přehled o tom, v jakém bodě se rozhodli postupovat jinak, než jste zamýšleli. Pro manažery a vývojáře to znamená, že už neřídí nástroj, ale dohlíží na proces.

Demo zvládá happy path, produkce bude složitější

Ukázat agentní konverzaci v osmnácté minutě pečlivě připraveného hackathonového videa je jedna věc, ale pustit ji do reálného firemního prostředí plného nejednoznačných zadání je věc druhá. Zatím vidíme jen situace, kdy agenti pochopí, co se od nich chce, a nespadnou do nekonečné smyčky.

Sledovat budeme nástroje pro audit

Klíčovým signálem nebude další video s agentem, ale infrastruktura pro jejich hlídání. Schopnost zastavit agenty ve chvíli, kdy se začnou domlouvat na nesmyslech, bude brzy důležitější než jejich samotná inteligence.

Lilithin verdikt

Už nekupujete kladivo, které musíte držet v ruce. Najímáte si tým, který se umí pohádat o to, kdo z nich to kladivo vlastně použije.