Nutzer umgehen Schutzmassnahmen von Claude bei der Forschung an Biowaffen

Die Sicherheitsgrenzen grosser Sprachmodelle stossen weiterhin auf ein grundlegendes Problem: den Kontext. Berichten zufolge haben Nutzer Wege gefunden, Modelle wie Claude dazu zu bringen, Informationen bereitzustellen, die fuer die Erforschung von Biowaffen relevant sind. Angreifer machen sich die Tatsache zunutze, dass sich die Prozesse, die fuer die Entwicklung gefaehrlicher Erreger erforderlich sind, in vielen Schritten mit der Standard-Virologie und Epidemiologie ueberschneiden.

Warum Filter Dual-Use-Faehigkeiten nicht stoppen koennen

Der Kern des Problems liegt im Dual-Use-Charakter biologischer Daten. Wenn ein Modell Anfragen zur Optimierung der Uebertragbarkeit von Viren blockiert, koennte es auch Forscher daran hindern, Wege zur Abwehr kuenftiger Pandemien zu finden. KI-Anbieter stehen somit vor der Wahl zwischen falsch-positiven Blockaden, die Wissenschaftler frustrieren, und falsch-negativen Schlupfloechern, die boeswilligen Akteuren helfen koennen.

Die Absichtserkennung stoesst an die Grenzen aktueller Modelle

Waehrend explizite Anfragen wie „Wie stellt man Milzbrand her“ leicht abgefangen werden koennen, zerlegen raffinierte Akteure das Problem in eine Reihe unschuldig aussehender Fragen. Den LLMs fehlt das Gedaechtnis und die Faehigkeit, die Gesamtstrategie hinter hundert isolierten Prompts ueber mehrere Tage hinweg zu analysieren.

Derzeit werden nur kurzfristige Versuche blockiert

Die heutigen Schutzmassnahmen funktionieren auf der Ebene einzelner Kontextfenster, nicht auf der Ebene der langfristigen Absicht des Nutzers.

Der Schluessel zur Verteidigung wird die Faehigkeit sein, zwischen den Zeilen zu lesen

Die Debatte ueber diese Umgehungen hat direkte Auswirkungen darauf, ob fortschrittliche Modelle als Open-Weights veroeffentlicht werden sollten. Wenn selbst ein streng bewachtes Modell hinter einer API dazu gebracht werden kann, gefaehrliche Informationen bereitzustellen, gewinnen die Argumente fuer das Wegsperren leistungsfaehiger Modelle an Gewicht. Das entscheidende Signal wird sein, welche weiteren Vorfaelle auftreten und wie die Aufsichtsbehoerden darauf reagieren.

Liliths Urteil

Wir versuchen, Algorithmen beizubringen, Medizin von Gift zu unterscheiden, wenn oft nicht einmal Menschen den Unterschied anhand des Textes erkennen koennen. Solange der einzige Waechter ein Prompt-Fenster ohne Gedaechtnis ist, wird jeder Filter nur ein Hindernisparcours fuer clevere Amateure sein.