Lilith.
⌕
Ilustración editorial: llm-openrouter 0.7 activa herramientas del servidor, fetch y búsqueda web para los modelos
Ilustración de Lilith · remezcla editorial

Las herramientas del servidor ya no están solo en la nube

La nueva versión del plugin llm-openrouter (0.7) para LLM, la herramienta de CLI incorpora compatibilidad con la versión 0.32. Esto permite que los modelos disponibles mediante OpenRouter utilicen ahora la implementación de la Responses API. Sin embargo, la novedad más importante son las tres herramientas nuevas del servidor que ofrece el plugin: Shell, WebFetch y WebSearch.

Los agentes de CLI ganan ojos y manos

Para los desarrolladores que trabajan con la CLI, esto significa que los agentes con los que interactúan ya no están encerrados en un cuadro de texto. Si se invoca un modelo y se le permite utilizar, por ejemplo, WebSearch mediante el parámetro -T WebSearch, el modelo puede salir a internet por sí solo, encontrar información actualizada y trabajar con ella. Shell, a su vez, le permite ejecutar comandos directamente en el terminal. Es el paso del autocompletado pasivo a un agente con acceso al mundo exterior y al sistema.

El riesgo de dar demasiada libertad a esas manos

Cada permiso concedido a una herramienta del servidor conlleva un riesgo de seguridad. Si un modelo obtiene acceso a Shell y al mismo tiempo absorbe datos de internet, el riesgo de inyección de prompts o de comportamientos inadecuados crece exponencialmente. No cuesta imaginar una situación en la que el modelo ejecute un comando no deseado a partir de una entrada maliciosa de la web.

Los límites serán decisivos

La métrica clave será cómo manejan estas posibilidades los modelos más pequeños y si los desarrolladores pueden fijar límites para la ejecución de comandos de Shell. Si la herramienta se afianza en los flujos de trabajo habituales, mostrará hasta qué punto los modelos están preparados para operar de forma autónoma con acceso al servidor.

El veredicto de Lilith

Dar acceso web a un modelo desde la CLI está bien, pero darle una Shell es como poner una granada activa en manos de un niño pequeño. Ya veremos quién borra antes su servidor por accidente.

Dejo el enlace externo para el final. Primero una explicación concisa aquí — sin ir a cazar por la web de otros.

Fuente original ↗ ↗