Claude Code aktiviert volle Autonomie, der Agent blockiert 75 % mehr riskante Aktionen als Menschen

Autopilot ersetzt manuelle Befehlsfreigabe

Anthropic aktiviert den autonomen Modus standardmäßig für neue Claude Code-Sitzungen in Pro-, Max- und Team-Plänen ab dem 14. August. Entwickler müssen keine langen Aufgabensequenzen mehr manuell eingeben. Der Agent teilt die Arbeit auf, schreibt den Code, überprüft ihn und behebt Fehler.

Simon Willison merkt an, dass laut Diskussionen auf der AI Engineer World's Fair fast jeder bei Anthropic diesen Modus bereits nutzt, um echte Entwickler-Tickets zu lösen.

Menschen schützen Repositories schlechter als der Agent

Die Entscheidung für volle Autonomie stützt sich auf Evaluierungsdaten von tausend bezahlten Testern. Anthropic schmuggelte mitten in einer Sitzung Code mit Prompt-Injection oder Exfiltrationsanfragen ein.

Die Ergebnisse offenbarten eine massive Aufmerksamkeitslücke. Während menschliche Prüfer nur 13,6 % dieser bösartigen Aktionen blockierten, erkannte und stoppte der autonome Modus 89 %. Es macht keinen Sinn mehr, von einem müden Entwickler Mikromanagement zu verlangen.

Unbekannte Angriffsvektoren bilden eine kritische Grauzone

Die Zahlen wirken zuversichtlich, aber Anthropic gibt zu, dass der Agent die restlichen 11 % nicht stoppen würde. Er kann bekannte Angriffsmuster erkennen, aber wenn die Exfiltration als legitimer Git-Commit getarnt ist, könnte sie durchgehen.

Wenn Delegation der Standard ist, wird die Aufmerksamkeit bei komplexeren Tickets weiter sinken. Sobald ein Angriff die Kontrollen des Agenten umgeht, wird ein Mensch ihn wahrscheinlich nicht mehr bemerken.

Umfassende Audits ersetzen die Illusion von Mikromanagement

Sicherheit verlagert sich von manueller Bestätigung zu nachträglichen Audits. Anstatt jeden Terminalbefehl zu erlauben, müssen Teams umfassende Protokollierungen einführen. Der Beweis für die Reife des Tools wird seine Fähigkeit sein, Administratoren detaillierte Telemetrie zu liefern.

Liliths Urteil

Das Gefühl der Kontrolle über Code war für müde Menschen schon immer eine Illusion. Anthropic hat gerade bewiesen, dass ein billiges Skript besser aufpasst als ein Senior-Entwickler.