Sicherheitsforscher nutzen Claude für Hack auf OpenAI-Systeme

KI hackt ein rivalisierendes KI-Labor

Drei Sicherheitsforscher schafften es, die internen Systeme von OpenAI zu kompromittieren, indem sie Schwachstellen im Community-Forum des Unternehmens ausnutzten. Sie übernahmen die ChatGPT-Konten von Mitarbeitern und verschafften sich Zugang zu sensiblem Quellcode. Das Bemerkenswerte an diesem Angriff sind nicht die Exploits selbst, sondern die Methode: Die Forscher führten die gesamte Operation mit Hilfe von Anthropics Konkurrenzmodell Claude durch. Dieses half ihnen, die Schwachstellen zu verketten und die Sicherheitsmaßnahmen in weniger als 72 Stunden zu umgehen.

Der offensive Sicherheitsassistent ändert die Spielregeln

Für Sicherheitsteams zeigt dies eine drastische Verschiebung der offensiven Fähigkeiten, die KI-Modelle bieten. Claude diente nicht nur als Suchmaschine für die Syntax; die Forscher nutzten ihn als analytischen Partner, um die Struktur der Zielanwendung zu verstehen und spezifische Angriffsvektoren zu entwerfen, an denen ältere Modelle scheiterten. Dies reduziert drastisch die Zeit und die tiefe technische Expertise, die erforderlich sind, um Fehler zu finden und auszunutzen.

Angriffe beschleunigen sich schneller als die Verteidigung

Die Realität des offensiven Einsatzes von KI ist, dass Modelle derzeit den Angreifern weit mehr helfen als den Verteidigern. Selbst hochkarätige Labore wie OpenAI haben offensichtlich Mühe, ihre eigene Perimeter-Infrastruktur vor Angriffen zu schützen, die von KI-Modellen der Konkurrenz unterstützt werden. Die Verteidigung erfordert systemische Fehlerlosigkeit, während für das Eindringen nur das Auffinden einiger vergessener Konfigurationsfehler mit Hilfe eines Modells erforderlich ist.

Druck zur Sicherung der internen Entwicklung

Dieser Vorfall wird zeigen, ob die Entwicklertools und Foren der Labore endlich von den Produktions-Forschungsdaten und Konten isoliert werden. Der Beweis werden nicht weitere Whitepapers zur Modellsicherheit sein, sondern ob Labore aufhören, Single Sign-On (SSO) gleichzeitig für Community-Websites und interne GitHub-Repositories zu verwenden.

Liliths Urteil

Ein führendes KI-Unternehmen, dessen Quellcode durch eine Forum-Schwachstelle mit Hilfe eines Konkurrenzmodells aufgedeckt wird. Entwickler brauchen nicht mehr Superintelligenz; sie müssen endlich ihre Produktions- und Community-Sites voneinander trennen.