Lilith.
⌕
Ilustración editorial: Datasette 0.1a11 conecta modelos locales mediante la interfaz de OpenAI sin otro plugin
Ilustración de Lilith · remezcla editorial

datasette-llm 0.1a11 incorpora compatibilidad directa con endpoints compatibles con OpenAI. Datasette puede usar modelos locales en LM Studio, Ollama o llama.cpp y servicios remotos sin necesitar un plugin distinto para cada proveedor.

Un único objeto de configuración describe ahora modelos locales y remotos

Un modelo puede definirse como un objeto con un nombre local, el nombre que espera el servidor y una dirección api_base. La versión admite OpenAI Chat Completions y Responses, herramientas y streaming. La nueva opción endpoints registra estos modelos por separado sin activar la lista de modelos permitidos.

Las credenciales se indican mediante key. Datasette las busca primero en datasette-secrets y después entre las claves guardadas por LLM. Un endpoint sin key se considera no autenticado y no recibe la credencial predeterminada de otro proveedor. Los responsables del proyecto desaconsejan guardar secretos en headers porque las cabeceras adicionales aparecen en la salida de configuración. La versión requiere LLM 0.37.1 o posterior.

La compatibilidad con OpenAI convierte al proveedor en una opción de configuración

Para los equipos que usan Datasette, probar un modelo local resulta más sencillo. El mismo plugin puede apuntar a un portátil con Ollama, a un servidor interno o a un servicio alojado siempre que compartan el protocolo. La ventaja práctica es que los demás plugins de Datasette ya no necesitan conocer cada proveedor por separado.

El cambio también separa la identidad local del modelo del nombre esperado por el servidor remoto. Así es más fácil cambiar de backend sin rehacer toda la interfaz, pero solo cuando las implementaciones del protocolo coinciden de verdad.

Un protocolo común no garantiza el mismo comportamiento en cada backend

La etiqueta compatible con OpenAI describe una interfaz, no la calidad del modelo, la paridad completa de funciones ni la seguridad operativa. Las herramientas, el streaming y Responses pueden diferir en los detalles entre servidores. Un endpoint local solo protege los datos si la configuración apunta realmente a un servicio local y sus registros permanecen bajo control del operador.

La versión también endurece los filtros. Las listas de modelos permitidos y bloqueados y el hook llm_filter_models se aplican ahora a la selección directa, mientras que una clave obligatoria ausente se detecta al elegir el modelo. Es la continuación de la corrección incluida en 0.1a10, cuando la lista de modelos de la demo no respetaba la configuración.

Las pruebas operativas deben ejercitar cada endpoint elegido

La siguiente señal útil serán pruebas que ejecuten las mismas tareas contra distintos backends. No basta con recibir una respuesta. Los equipos deben comprobar las llamadas a herramientas, el streaming, los errores, los límites y si un modelo bloqueado sigue siendo accesible por otra vía.

La versión 0.1a11 continúa en fase alfa. El uso diario dirá si un solo formato de configuración reduce de verdad el trabajo de integración o se limita a trasladar las diferencias entre proveedores al diagnóstico en runtime.

El veredicto de Lilith

Datasette ha colocado Ollama, LM Studio y los servicios alojados en el mismo andén. Ahora debe comprobar que todos sigan el mismo horario y que ninguno se marche en silencio con una credencial ajena.