Nvidia bringt Agenten vom Rechenzentrum auf Geräte mit 4 GB

Am 15. Oktober stellte Nvidia die offenen Modelle Nemotron 3.5 vor: Super VL mit 120 Milliarden Parametern und zwei kleinere Bolt-Varianten für den lokalen Betrieb. Super VL und Bolt 74B-A9B sind verfügbar; Bolt E4B soll laut Unternehmen am 23. Oktober folgen.

Super VL zielt auf Unternehmensaufgaben, Bolt läuft lokal

Super VL ist für spezialisierte Agenten gedacht, die mit Text, Bildern, Dokumenten und Video arbeiten. Nvidia zufolge erreicht das Modell bei Instruktionsbefolgung und Tool-Nutzung eine ähnliche Genauigkeit wie das größere Nemotron 3 Ultra, obwohl es nur etwa ein Fünftel so viele Parameter hat.

Bolt 74B-A9B soll dank 2-Bit-Quantisierung in 24 GB Speicher passen und lokale Aufgaben wie Websuche oder Code-Debugging übernehmen. Das kleinere Bolt E4B benötigt 4 GB und richtet sich an dialogfähige sowie physische Agenten.

Unternehmen können das Modell an ihre Regeln anpassen

Das Angebot für Unternehmen dreht sich nicht allein um Leistung. Organisationen können Super VL mit eigenen Daten, Werkzeugen und Abläufen weitertrainieren und auf eigener Infrastruktur betreiben. Nvidia nennt EY, Ramp, Salesforce und weitere Firmen als Nutzer. Diese Namen belegen jedoch noch nicht, wie gut das Modell im Alltag funktioniert.

Für IT-Teams deckt die Reihe unterschiedliche Speicher- und Rechenbudgets ab. Ein lokales Modell kann verhindern, dass sensible Aufgaben in die Cloud gehen. Datenschutz und Kontrolle hängen aber weiterhin von Gerätekonfiguration, Berechtigungen und Updates ab.

Die Leistungsvergleiche beruhen bislang vor allem auf Nvidias Angaben

Nvidia spricht von bis zu fünffacher Geschwindigkeit gegenüber anderen Modellen seiner Klasse und verweist auf Benchmark-Ergebnisse. TechCrunch merkt an, dass solche Vergleiche bei Modellstarts zum Marketing gehören. Ohne unabhängige Tests mit denselben Aufgaben, Geräten und Einstellungen lassen sich daraus keine Einsparungen für ein konkretes Unternehmen ableiten.

„Lokal“ heißt außerdem nicht, dass jeder PC einen vollständigen Agentenbetrieb bewältigt. Für Bolt 74B-A9B nennt Nvidia 24 GB Speicher und eigene Hardware; das kleinere E4B ist für leichtere Einsätze gedacht.

Erst der Einsatz auf echten Arbeitsplätzen zeigt den Nutzen

Entscheidend sind Ergebnisse aus dem Produktivbetrieb, nicht nur nach dem Post-Training. Zu beobachten ist, ob lokale Agenten lange Aufgaben ohne häufige menschliche Eingriffe erledigen. Bei PC-Modellen zählen außerdem kompatible Geräte, Tempo und Stromverbrauch im Alltag.

Unternehmen müssen auch Auditierbarkeit, Zugriffsrechte und Aktualisierungen prüfen. Offene Gewichte geben ihnen mehr Kontrolle, übertragen aber die Betriebsverantwortung auf das Team, das sie einsetzt.

Liliths Urteil

Nvidia spannt den Verkaufstresen vom Serverraum bis zum Schreibtisch. Unternehmen wählen den Einsatzort des Agenten, die Rechnung für seine Aufsicht bleibt trotzdem bei ihnen.