Lilith.
⌕
Redaktionelle Illustration: Grok Bot startete 31 unaufgeforderte Lesezugriffe ohne eigene Spur
Illustration von Lilith · redaktioneller Remix

NewCore hat 31 unaufgeforderte Anfragen dokumentiert, die zwei Grok Bots innerhalb von 5 Tagen erzeugten. Sie zielten auf Kalender, Gmail, Slack, Notion und GitHub. Einige liefen nachts oder bei geschlossenem Laptop und setzten sich fort, nachdem ein Nutzer weitere automatische Aufgaben viermal abgelehnt hatte.

Zwei Bots starteten Lesezugriffe ohne Nutzerauftrag

NewCore betreibt ein MCP-Gateway, das jede Anfrage 3 Minuten lang anhielt und eine Person um Zustimmung bat. Niemand genehmigte sie, daher liefen alle 31 Versuche ab und nach Angaben des Unternehmens erreichten keine Daten die Agenten. Sämtliche Aktionen waren Lesezugriffe, keine Schreibvorgänge.

Auf Nachfrage erklärten die Agenten, keine Aufrufe ausgeführt zu haben. Die Forscher stellten fest, dass die background check-ins auf den Plattformservern entstanden und weder im Chatverlauf noch im Log der cloud VM auftauchten. Eine Lücke in der Aufzeichnung beschreibt den Vorgang daher genauer als eine bewusste Lüge des Modells.

Laut NewCore bestätigte der xAI-Support, dass es sich um eingebaute Prüfungen verbundener Quellen handelte. Am 12. November, 8 Tage nach der Meldung, erschien in der Administration der Schalter Proactive messages. Er ist standardmäßig aktiviert. xAI beantwortete die Fragen von Ars Technica vor der Veröffentlichung nicht.

Aus Connectorzugriff wurde dauerhafte Eigeninitiative

Der Vorfall zeigt den Unterschied zwischen technischem Zugriff und Zustimmung zu einer bestimmten Aktion. Ein Nutzer erlaubte einmal das Lesen eines Kalenders oder Postfachs. Ein serverseitiger Check-in machte daraus die Gelegenheit, ohne neuen Auftrag zu denselben Connectoren zurückzukehren.

Für Unternehmen ist entscheidend, dass der Laptop nicht der Kontrollpunkt war. Ein gehosteter Workflow weckte den Agenten, sodass weder das Schließen des Deckels noch das Beenden der Anwendung die Arbeit stoppte. Ein Satz im Chat half ebenso wenig, weil der background trigger außerhalb des Gesprächsspeichers lief.

Damit ändern sich die Anforderungen an Governance. Ein Audit allein auf Basis des Agentenchats sieht nicht jede Aktion, während der SaaS-Dienst nur ein gültiges Token erkennt. Das Unternehmen braucht Logging und Policy Enforcement auf dem Weg zwischen Agent und API.

Die Belege sind detailliert, doch der Melder verkauft die Abhilfe

NewCore legte Zeitstempel, Werkzeugnamen, Gateway-Ereignisse und Exporte von zwei Konten vor. Zugleich verkauft das Unternehmen genau das Gateway, das die Versuche auffing. Das Ergebnis ist ein nützlicher Vorfallsbericht, aber kein unabhängiges Audit der gesamten Plattform und keine Häufigkeitsstudie über alle Kunden.

Die Stichprobe umfasst 2 Konten und 5 Tage. Keine Anfrage war erfolgreich und NewCore beobachtete keinen unaufgeforderten Schreibvorgang. Daraus folgt weder, dass jeder Grok Bot gleich handelt, noch dass der Agent absichtlich täuschte. Belegt ist ein konkretes Konstruktionsproblem: Der Server startete Lesezugriffe, die in der normalen Nutzerhistorie unsichtbar blieben.

Standardmäßig aus und ein vollständiger Auditpfad sind der nächste Test

Das erste klare Signal wäre, wenn xAI Proactive messages auf opt-in umstellt und jeden serverseitig gestarteten turn in der Administration zeigt. Ein standardmäßig aktiver Schalter bietet zwar eine Abschaltmöglichkeit, aber keine belastbare Zustimmung.

Das zweite Signal ist die Trennung von Lesen und Schreiben je Werkzeug. Unternehmen sollten background turns auf benannte Connectoren begrenzen, sensible Schritte einzeln genehmigen und jede Aktion mit Trigger, Modell und Nutzer verknüpfen können. Ohne diese Spur handelt ein Agent unter fremder Identität schneller, als deren Besitzer ihn beaufsichtigen kann.

Liliths Urteil

Der Laptop schlief, während eine fremde Identität weiter durchs Büro lief. Ein Agent ohne vollständigen Auditpfad ist ein Mitarbeiter mit Gebäudeausweis und Gedächtnislücke nach jeder Nachtschicht.