Cybersicherheit braucht Vertrauen statt blinder Regeldurchsetzung

Mike Walker von Microsoft Research baut sein Sicherheitsverständnis auf einer einfachen These auf: Jedes Mal, wenn ein System etwas von Nutzern verlangt, bittet es auch um Vertrauen. Wenn unklare Regeln und fehlender Kontext dieses Vertrauen verspielen, beginnen Menschen, die Schutzmaßnahmen zu umgehen.

Eine Sicherheitsregel wirkt nur, wenn Menschen ihren Zweck verstehen

Walker beschreibt Regeln als gesellschaftliche Vereinbarung und nicht als automatisches Urteil. Das Spiel No Vehicles in the Park veranschaulicht dies mit einem scheinbar einfachen Verbot. Sobald die Internationale Raumstation über den Park fliegt, reicht der Wortlaut nicht mehr aus. Der Zweck der Regel und soziale Normen müssen einbezogen werden.

Sicherheitssysteme haben dasselbe Problem. Jede zusätzliche Abfrage, Einschränkung oder Kontrolle belastet die Nutzer. Ergibt eine Anforderung im jeweiligen Kontext keinen Sinn, lernt die Organisation kein sichereres Verhalten. Sie lehrt die Menschen, eine Abkürzung zu suchen.

Walker übertrug diese Perspektive auf die DARPA Cyber Grand Challenge. Vor 10 Jahren traten autonome Systeme gegeneinander an, fanden Schwachstellen, reparierten ihre eigene Software und griffen Gegner ohne menschliches Eingreifen an. Das waren keine heutigen LLMs. Es handelte sich um Expert Systems, deren Orchestrierung heute als Harness bezeichnet würde.

Angriff und Verteidigung teilen Werkzeuge, während Kontrolle den Ausschlag gibt

Walker verwirft die bequeme Trennung, nach der ein Red Team angreift und ein Blue Team nur verteidigt. Fernsteuerungssoftware kann Administrationswerkzeug oder Malware sein. Dateiverschlüsselung kann Daten schützen oder als Geisel nehmen. Absicht, Berechtigung und die Person mit dem Schlüssel machen den Unterschied.

Für Teams, die KI in der Cybersicherheit einsetzen, folgt daraus eine praktische Regel. Ein Modell, das Schwachstellen finden kann, besitzt eine Dual Use Fähigkeit. Die Bezeichnung als Verteidigungswerkzeug genügt nicht. Das Team muss Umgebung, Zugriff, Audit Trail und die Berechtigung kontrollieren, ein Ergebnis in eine Handlung zu überführen.

Die zweite Lektion betrifft die Zusammenarbeit. Walker erinnert sich an eine Hacking Aufgabe, die er löste, obwohl sein Team sie bereits 90 Minuten zuvor abgeschlossen hatte. Viele kluge Menschen in einem Raum garantierten weder die Arbeit an den richtigen Problemen noch einen gemeinsamen Kenntnisstand.

Der Podcast liefert Erfahrung statt eines Benchmarks für heutige KI Abwehr

Das Gespräch verbindet Hackerkultur, Führung, Project Freta, DARPA und Radsport. Sein Wert liegt im Urteil eines Menschen, der an autonomer Cyberabwehr gearbeitet hat. Es enthält jedoch keinen Benchmark, keine Erfolgsquote und keinen Vergleich aktueller Modelle.

Die Cyber Grand Challenge von 2016 beweist daher nicht, dass heutige LLMs ein Produktivnetz absichern. Sie zeigt ein dauerhaftes Systemproblem: Automatisierung braucht einen Harness, Eingriffsregeln und ein Team, das weiß, was bereits gelöst wurde. Die Modellleistung ist nur ein Bestandteil.

Reparaturen, Fehlalarme und menschliche Eingriffe messen vertrauenswürdige Abwehr

Bei aktuellen Werkzeugen zählen die Zeit vom Fund bis zur bestätigten Reparatur, die Fehlalarmquote und die Möglichkeit, dass ein Mensch einen Eingriff stoppt oder erklärt. Ebenso wichtig ist, dass ein Team Erkenntnisse teilt und dieselbe Arbeit nicht mit 90 Minuten Abstand wiederholt.

Organisationen sollten außerdem messen, wie viele Anforderungen ihr Sicherheitsregime an Nutzer stellt und welche davon umgangen werden. Dort wird abstraktes Vertrauen zu einem messbaren Betriebsproblem.

Liliths Urteil

Ein Sicherheitsteam kann ein Modell besitzen, das jede Lücke findet, und trotzdem zwei Analysten dieselbe Aufgabe mit 90 Minuten Abstand lösen lassen. Diesem Kontrollraum hilft ein einfacher Arbeitsplan eher als ein weiteres kluges Modell.