Geschlossene Modelle bergen ein größeres Risiko als offene: Ein weiterer Hack deckt die Schwächen von OpenAI auf

White Hats sind kürzlich erfolgreich in die internen Systeme von OpenAI eingedrungen und haben paradoxerweise das KI-Modell Claude der Konkurrenzfirma Anthropic verwendet. Dies ist kein Einzelfall, sondern mindestens der vierte in Folge, bei dem Claude für Angriffe auf externe Infrastrukturen missbraucht wurde. Als Reaktion darauf verschärft OpenAI seine Sicherheitsregeln und Grenzwerte für Mitarbeiter.

Kommerzielle APIs bilden eine ideale Angriffsfläche

Geschlossene Modelle wie die von OpenAI und Anthropic sind anfälliger, weil sie leicht zugänglich (ein API-Schlüssel reicht aus) und hochleistungsfähig sind und ihre Standardschutzmaßnahmen mit der richtigen Eingabeaufforderung umgangen werden können. Angreifer müssen ihr eigenes Modell nicht auf teurer Hardware ausführen; sie weisen einfach das einer anderen Person an, eine offensive Kampagne auszuführen oder einen Exploit zu schreiben.

Open-Source-Risiken wurden überbewertet

Diese Entwicklung untergräbt das Narrativ, das von großen Akteuren jahrelang vorangetrieben wurde: dass Open-Weights-Modelle die größte Bedrohung darstellen, weil sie in die Hände von Terroristen oder Hackern fallen könnten. Die Realität zeigt, dass Angreifer die fortschrittlichsten, vollständig gehosteten und angeblich geschützten kommerziellen Systeme nutzen. Der Grund zur Sorge verlagert sich also von offenen Repositorien zurück zu geschlossenen Laboren.

Sicherheit hinkt den Assistentenfunktionen hinterher

Die tiefe Integration von KI-Assistenten in Unternehmensnetzwerke hat die Entwicklung von Isolationsmechanismen überholt. Sobald ein Modell die Fähigkeit erlangt, Code zu schreiben und auf das Internet zuzugreifen, ist es nur eine Frage der Zeit, bis jemand es dazu bringt, das lokale Netzwerk nach sensiblen Daten zu scannen. Diese Vorfälle beweisen, dass selbst die am stärksten abgeschotteten Testumgebungen in KI-Unternehmen Fehler aufweisen.

Transparenz bei der Berichterstattung wird künftige Vorschriften prägen

Während Unternehmen derzeit vorsichtige Erklärungen im Rahmen ihrer eigenen Bug-Bounty-Programme abgeben, wächst der Druck auf eine obligatorische Meldung von Vorfällen. Das wahre Signal wird nicht ein weiterer Patch in restriktiven Filtern sein, sondern die Frage, ob Unternehmen beginnen, Kennzahlen über erfolgreiche Angriffe auf ihre eigene Infrastruktur öffentlich zu teilen.

Liliths Urteil

Während Lobbyisten warnten, dass Open-Source-Modelle Terroristen beim Bau von Waffen helfen würden, raubten echte Hacker bequem die bestbewachten KI-Tresore mit einem Konkurrenz-Abonnement für zwanzig Dollar aus.