KI-Agenten brauchen eine Ausgabensicherung statt einer weiteren Warnmail

Simon Willison fordert, dass nutzungsabhängig abgerechnete Dienste beim Erreichen eines Budgets tatsächlich stoppen. Wenn Agenten über Nacht APIs aufrufen und Infrastruktur bereitstellen können, wird ein Hard Cap von einer Abrechnungsfunktion zur Sicherheitsgrenze.

Bei ausgeschöpftem Budget braucht es einen Fehler statt einer E-Mail

Willison unterscheidet zwischen einem weichen Limit, das lediglich warnt, und einem harten Limit, das weitere Anfragen ablehnt. Sein Vorschlag ist einfach: Nach X Dollar pro Monat stoppt der Dienst und liefert Fehler zurück. Die meisten Menschen und Unternehmen würden seiner Einschätzung nach einen Ausfall einer überraschenden Rechnung von mehr als 10.000 Dollar vorziehen.

Große Anbieter bewegen sich bereits in diese Richtung. AWS kündigte am 16. September ein monatliches Ausgabenlimit an, das ein Projekt nach Erreichen bis zum Monatsende pausiert. Die Funktion wird allerdings nur für eine begrenzte Zahl von Kunden freigeschaltet. Google Cloud führte im Juli Spend Caps für ausgewählte Dienste innerhalb eines Projekts ein. Neue Anfragen werden nach Aktivierung des Limits blockiert, doch Verzögerungen bei der Verbrauchserfassung können weiterhin zusätzliche Kosten verursachen.

Das Budget wird Teil des Berechtigungssatzes eines Agenten

Ein Coding Agent mit Zugriff auf kostenpflichtige APIs kann eine nützliche Anwendung ausrollen und zugleich unkontrollierten Verbrauch auslösen. Ein finanzielles Limit gehört deshalb neben Berechtigungen, Netzwerkregeln und Audit Logs. Es legt fest, welchen Schaden die Automatisierung anrichten darf, bevor ein Mensch weitere Ausgaben genehmigen muss.

Für Entwickler verändert das sowohl die Anbieterwahl als auch die Architektur. Jedes Projekt, jede Umgebung und jeder Agent braucht eine eigene Obergrenze. Die Anwendung muss beim Erreichen kontrolliert in einen eingeschränkten Modus wechseln. Ein einziges Limit für das gesamte Unternehmenskonto ist zu grob, weil ein Experiment damit auch wichtige Produktionssysteme stoppen kann.

Auch ein Hard Cap reagiert verzögert

Der Begriff Hard Cap klingt nach einer exakten Mauer. Cloud-Abrechnungsdaten treffen jedoch verspätet ein, und bereits laufende Anfragen werden meist beendet. Google weist ausdrücklich darauf hin, dass die Durchsetzung nicht sofort erfolgt und Kunden für Mehrkosten verantwortlich bleiben. Eine monatliche Obergrenze braucht daher weiterhin Request-Quoten, laufende Messung und einen Notausschalter.

Ein Ausfall kann zudem teurer sein als der Mehrverbrauch. Unternehmen benötigen unterschiedliche Modi: einen harten Stopp für Experimente, einen eingeschränkten Betrieb für interne Werkzeuge und eine Eskalation für kritische Dienste. Ohne diese Wahl werden Teams die Schutzfunktion nach dem ersten störenden Vorfall abschalten.

Voreinstellungen und reale Mehrkosten zeigen die Qualität

Das erste wichtige Signal ist, ob AWS und Google harte Limits bei neuen Projekten automatisch aktivieren oder in den Einstellungen verstecken. Das zweite ist operativ: Wie weit steigt die Rechnung über den festgelegten Betrag, bevor der Anbieter neue Nutzung stoppt?

Anbieter sollten Limits außerdem per API zugänglich machen, damit ein Agent sein Budget zusammen mit seinen übrigen Berechtigungen erhält. Ohne maschinell verwaltete Obergrenzen wird die Geschwindigkeit der Bereitstellung der Kostenkontrolle weiter davonlaufen.

Liliths Urteil

Ein Agent ohne Ausgabenlimit ist ein Praktikant mit Firmenkarte in einer unbeaufsichtigten Nachtschicht. Die Warnmail kommt erst, wenn die Rechnung bereits auf dem Tisch liegt.