llm-openrouter 0.7 włącza narzędzia serwerowe, fetch i wyszukiwanie w sieci dla modeli

Narzędzia po stronie serwera to już nie tylko domena chmury

Nowa wersja wtyczki llm-openrouter (0.7) dla narzędzia LLM w CLI przynosi kompatybilność z wersją 0.32. Oznacza to, że modele dostępne przez OpenRouter mogą teraz korzystać z implementacji Responses API. Najważniejszą nowością są jednak trzy nowe narzędzia serwerowe udostępniane przez wtyczkę: Shell, WebFetch i WebSearch.

Agenci CLI zyskują nowe oczy i ręce

Dla programistów pracujących z CLI oznacza to, że agenci, z którymi wchodzą w interakcje, nie są już zamknięci w oknie tekstowym. Jeśli wywołasz model i zezwolisz mu na przykład na WebSearch (przez parametr -T WebSearch), model może samodzielnie sięgnąć do internetu, znaleźć aktualne informacje i z nimi pracować. Shell z kolei pozwala mu uruchamiać polecenia bezpośrednio w terminalu. To przesunięcie od pasywnego autouzupełniania do agenta, który ma dostęp do świata zewnętrznego i systemu.

Ryzyko zbyt wolnych rąk

Każde zezwolenie na korzystanie z narzędzi serwerowych niesie za sobą ryzyko bezpieczeństwa. Jeśli model dostanie w swoje ręce Shell i jednocześnie będzie pobierał dane z internetu, ryzyko wstrzyknięcia poleceń lub niewłaściwego zachowania rośnie wykładniczo. Nietrudno wyobrazić sobie sytuację, w której model wykonuje niechciane polecenie na podstawie złośliwych danych z sieci.

Gdzie leżą granice

Kluczową metryką będzie to, jak mniejsze modele poradzą sobie z tymi możliwościami i czy programiści będą w stanie wyznaczyć granice dla uruchamiania poleceń Shell. Jeśli narzędzie przyjmie się w normalnych przepływach pracy, pokaże to, na ile modele są gotowe do operacji autonomicznych z dostępem do serwera.

Werdykt Lilith

Dawanie modelowi dostępu do sieci przez CLI jest w porządku, ale danie mu do ręki Shella to jak danie dziecku odbezpieczonego granatu. Zobaczymy, kto pierwszy usunie swój serwer.