Nvidia lleva sus agentes del centro de datos a equipos con 4 GB

El 15 de octubre, Nvidia presentó los modelos abiertos Nemotron 3.5: Super VL, con 120.000 millones de parámetros, y dos variantes Bolt más pequeñas para uso local. Super VL y Bolt 74B-A9B ya están disponibles; la empresa prevé lanzar Bolt E4B el 23 de octubre.

Super VL apunta a tareas empresariales y Bolt funciona en local

Super VL está pensado para agentes especializados que trabajan con texto, imágenes, documentos y vídeo. Nvidia afirma que su precisión al seguir instrucciones y usar herramientas iguala la del Nemotron 3 Ultra, de mayor tamaño, pese a contar con alrededor de una quinta parte de sus parámetros.

Bolt 74B-A9B utiliza cuantización de 2 bits para caber en 24 GB de memoria y abordar tareas locales como navegar por la web o depurar código. El Bolt E4B, que requiere 4 GB, se dirige a agentes conversacionales y físicos.

Las empresas pueden adaptar el modelo a sus propias reglas

La propuesta empresarial va más allá del rendimiento. Las organizaciones pueden seguir entrenando Super VL con sus datos, herramientas y procesos, y ejecutarlo en su propia infraestructura. Nvidia cita a EY, Ramp, Salesforce y otras compañías, aunque esa lista no demuestra por sí sola el rendimiento en producción cotidiana.

Para los equipos de TI, la gama cubre distintos presupuestos de memoria y cálculo. Un modelo local puede reducir el envío de tareas sensibles a la nube, pero la seguridad y el control de los datos siguen dependiendo de la configuración, los permisos y las actualizaciones.

Las comparaciones de rendimiento siguen dependiendo de Nvidia

La compañía habla de una velocidad hasta cinco veces superior a la de otros modelos de su categoría y aporta resultados de benchmarks. TechCrunch señala que estas comparaciones suelen formar parte del marketing de lanzamiento. Sin pruebas independientes con las mismas tareas, hardware y ajustes, las cifras no permiten calcular el ahorro para una empresa concreta.

Además, «local» no significa que cualquier PC pueda ejecutar un agente completo. Nvidia especifica 24 GB de memoria y hardware propio para Bolt 74B-A9B; el E4B, más pequeño, cubre usos distintos y menos exigentes.

Las estaciones de trabajo reales decidirán si cumple

Conviene observar resultados de despliegues en producción, no solo del ajuste del modelo, y comprobar si los agentes locales completan tareas largas sin intervención humana frecuente. En los equipos personales importarán la disponibilidad de hardware compatible, la velocidad y el consumo durante el uso diario.

Las empresas también tendrán que evaluar la auditoría, los permisos de acceso y las actualizaciones. Los pesos abiertos ofrecen más control, pero trasladan la responsabilidad operativa al equipo que los despliega.

El veredicto de Lilith

Nvidia amplía el mostrador desde la sala de servidores hasta el escritorio. Cada empresa elige dónde trabaja el agente, pero sigue pagando a quien lo vigila.