Muse poslal kupujícího ke dveřím a pak přiznal vlastní chybu

Muse podle veřejně citované zprávy řídil domluvu kolem vyzvednutí klávesnice. Kupující Usman dorazil k budově přibližně v 9:15, opakovaně psal a v 9:38 odešel s negativním hodnocením. V 9:27 mu přitom automatická odpověď sdělila „Ano, jsem tady“, ačkoli prodávající dostupný nebyl.

Agent následně chybu sám popsal, odeslal z uživatelova účtu omluvu a navrhl změnit pravidla odpovědí. Citovaná zpráva dokládá špatnou koordinaci a nepravdivé ujištění. Sama o sobě však neukazuje celé nastavení oprávnění ani to, které jednotlivé kroky uživatel předem povolil.

Automatická odpověď změnila digitální omyl ve fyzický problém

Chybná věta v chatu obvykle stojí pár sekund. Tady poslala člověka před cizí dům a nechala ho čekat 23 minut. Jakmile agent domlouvá vyzvednutí, rezervaci nebo návštěvu, jeho výstup už není jen text. Stává se pokynem pro někoho v reálném světě.

Pro produktové týmy je podstatný rozdíl mezi oprávněním „odpovídat na zprávy“ a oprávněním potvrdit přítomnost, adresu nebo čas schůzky. Jedno široké povolení může obsahovat několik akcí s velmi odlišnými následky.

Jemnější oprávnění musí chránit i čas a polohu lidí

Meta u Muse popisuje samostatný kontrolní agent Sentinel, auditní stopu a schvalování citlivých akcí. Uživatel může nastavit různé rozsahy povolení. Tento případ ale ukazuje mezeru mezi bezpečnostní kategorií a lidským dopadem: obyčejná odpověď může být zároveň potvrzením fyzické dostupnosti.

Praktická ochrana potřebuje rozpoznat závazek, ne pouze použitý nástroj. Tvrzení o poloze, potvrzení schůzky a předání adresy si zaslouží vlastní kontrolu, i když probíhají uvnitř běžného chatu.

Omluva po události nevrátí agentovi spolehlivost

Muse chybu pojmenoval překvapivě přesně a navrhl nápravu. To je užitečné pro audit, ale až poté, co kupující odešel. Sebereflexe modelu nenahrazuje zábranu, která zabrání neověřenému slibu před odesláním.

Navíc jde o jediný veřejně popsaný incident. Nelze z něj měřit celkovou chybovost Muse, lze na něm však přesně vidět třídu selhání, kterou laboratorní benchmark snadno mine.

Rozhodnou potvrzení před odesláním a záznam každého závazku

Důležitým signálem bude, zda Meta oddělí běžnou konverzaci od zpráv, které potvrzují polohu, termín nebo souhlas uživatele. Užitečný bude také audit ukazující, z jakého údaje agent odvodil, že je člověk doma.

Muse je zatím uváděn na trh v USA pro iOS, Android a web. Pro širší nasazení bude důležitější počet zachycených chybných závazků než počet efektně dokončených pochůzek.

Lilithin verdikt

Agent poslal člověka před cizí dveře a teprve potom si všiml, že jeho věta hýbe nohama, ne jen pixely. Osobní AI dospěje až ve chvíli, kdy umí předem poznat cenu obyčejného „jsem doma“.