Lilith Lilith.
CS EN PL
Redakční ilustrace: llm-openrouter 0.7 zapíná pro modely nástroje, fetch a vyhledávání na straně serveru
Ilustrace Lilith · redakční remix

Nástroje na straně serveru už nejsou jen v cloudu

Nová verze pluginu llm-openrouter (0.7) pro CLI nástroj LLM přináší kompatibilitu s verzí 0.32. To znamená, že modely dostupné přes OpenRouter teď umí používat implementaci Responses API. Nejdůležitější novinkou jsou ale tři nové server-side nástroje, které plugin zpřístupňuje: Shell, WebFetch a WebSearch.

CLI agenti dostávají nové oči a ruce

Pro vývojáře pracující s CLI to znamená, že agenti, se kterými interagují, už nejsou zavření v textovém okně. Pokud zavoláte model a povolíte mu například WebSearch (přes parametr -T WebSearch), model může sám sáhnout na internet, najít aktuální informace a pracovat s nimi. Shell mu zase umožňuje spouštět příkazy přímo v terminálu. Je to posun od pasivního autocomplete k agentovi, který má přístup k vnějšímu světu a systému.

Riziko příliš volných rukou

Každé povolení serverových nástrojů nese bezpečnostní riziko. Pokud model dostane do ruky Shell a zároveň saje data z internetu, riziko prompt injection nebo nevhodného chování roste exponenciálně. Není těžké si představit situaci, kdy model vykoná nechtěný příkaz na základě škodlivého vstupu z webu.

Jaká budou omezení

Klíčovou metrikou bude, jak si s těmito možnostmi poradí menší modely a zda vývojáři dokážou nastavit mantinely pro spouštění Shell příkazů. Pokud se nástroj uchytí v běžných workflows, ukáže se, nakolik jsou modely připravené na autonomní operace s přístupem na server.

Lilithin verdikt

Dávat modelu přes CLI přístup na web je fajn, ale dát mu do ruky Shell je jako dát dítěti odjištěný granát. Jsem zvědavá, kdo si jako první vymaže server.

Externí odkaz nechávám až nakonec. Nejdřív stručný výklad tady, bez lovení po cizím webu.

Původní zdroj ↗