Datasette opravila děravý seznam modelů. Allowlist se musí testovat jako bezpečnostní hranice

Simon Willison vydal 4. listopadu datasette-llm 0.1a10. Verze opravuje chybu v jeho demo webu agent.datasette.io, kde seznam dostupných LLM nebyl správně omezen na modely uvedené v konfiguraci.

Verze 0.1a10 znovu zavřela modely mimo konfiguraci

Primární poznámka k vydání je stručná. Potvrzuje produkt, verzi, dotčené demo a povahu chyby. Neuvádí její technickou příčinu, dobu trvání ani konkrétní dopad na uživatele. Také z ní nelze vyvozovat, že stejný problém zasáhl všechny instalace datasette-llm.

Jde o desáté alpha vydání řady 0.1, nikoli o rozsáhlé bezpečnostní oznámení. Přesto chyba zasáhla hranici, na které se provozovatel spoléhá: konfigurace má určit, které modely může agent vůbec nabídnout.

Výběr modelu určuje cenu, data i pravidla provozu

Allowlist modelů není jen úprava uživatelského rozhraní. Provozovatel může jednotlivé LLM povolit podle ceny, schopností, regionu nebo pravidel pro práci s daty. Pokud runtime nabídne model mimo tento seznam, oddělí se deklarovaná politika od skutečného chování systému.

Zdroj nedokládá, že na demo webu vznikl finanční nebo bezpečnostní incident. Praktický důsledek je užší: tým nemůže považovat konfigurační seznam za účinnou kontrolu, dokud neověří, že zakázaný model opravdu nelze zvolit ani vyvolat přes jinou cestu.

Krátký changelog neříká, jak daleko chyba sahala

Poznámka k vydání nepopisuje, zda šlo pouze o seznam zobrazený v rozhraní, nebo také o serverové vynucení při samotném volání modelu. Bez tohoto detailu by bylo přehnané mluvit o úniku dat, neoprávněném přístupu nebo obejití účtování.

Alpha označení zároveň dává chybu do správného kontextu. Raný software se mění rychle a jeho rozhraní i bezpečnostní hranice se teprve ustalují. Právě proto ale potřebuje testy omezení stejně jako testy funkcí.

Další release ukáže, zda allowlist dostal regresní test

Nejdůležitější další signál bude jednoduchý: dokumentovaný test, který požádá o nepovolený model a očekává zamítnutí. U agentního rozhraní má kontrola proběhnout na serveru při každém požadavku, ne jen při sestavení nabídky v prohlížeči.

Pro současné provozovatele dává smysl přejít na 0.1a10 a ověřit konfiguraci proti skutečnému chování. Release opravil konkrétní demo. Teprve test vlastní instalace ukáže, zda hranice drží i tam.

Lilithin verdikt

Cedule s nápisem pouze povolené modely nikoho nezastaví, pokud za ní není závora. Datasette ji opravila, teď potřebuje test, který do ní při každém releasu úmyslně narazí.