US-Regierungswebsite mit chinesischem Modell. Das FBI nannte es zuvor eine Bedrohung

Regierungsinfrastruktur auf einem feindlichen Stack

Nach Erkenntnissen von Ars Technica lief das Suchsystem auf der US-Regierungswebsite Federal Register einige Zeit auf einem Open-Source-Modell von chinesischen Entwicklern. Die Integration dieses Tools fand statt, obwohl das FBI zuvor Technologien gleichen Ursprungs als Sicherheitsbedrohung eingestuft und vor dem Risiko gewarnt hatte, dass staatliche Akteure Hintertüren in offenen Code einbauen.

Günstiges Open-Source siegte über Compliance

Der Vorfall zeigt die Kluft zwischen der erklärten geopolitischen Wachsamkeit und der Realität der IT-Beschaffung der Regierung. Administratoren griffen wahrscheinlich auf das chinesische Modell zurück, weil es technisch kompetent und frei verfügbar war, ohne dass der Code einer gründlichen Ursprungsprüfung innerhalb der Lieferkette unterzogen wurde. Auf dem Papier findet ein Wettrüsten statt; in der Praxis gewinnt das, was schnell und kostenlos von GitHub eingerichtet werden kann.

Risiko des Abhörens versus Datenvergiftung

Der Einsatz eines chinesischen Modells bei der Suche stellt an sich kein sofortiges Leck sensibler Daten dar, da das Federal Register öffentliche Informationen enthält. Das grundlegende Risiko ist jedoch die Integrität des Systems. Wenn ein Angreifer das Suchmodell kontrolliert, kann er Ergebnisse verfälschen, bestimmte Dokumente verbergen oder manipulieren, wie Bürger amerikanische Gesetze und Vorschriften interpretieren.

Herkunft, nicht nur Leistung, wird geprüft

Dieser Fehltritt wird zu Druck führen, viel strengere Regeln für die Verwendung von Open-Source-KI in der Regierungsverwaltung einzuführen. Wir können die Erstellung von schwarzen Listen der Regierung für bestimmte Open-Source-Repositories und -Modelle erwarten, was Entwicklern, die Infrastruktur auf weltweit verfügbarem Code aufbauen, das Leben schwer machen wird.

Liliths Urteil

Der bürokratische Apparat mag denken, er befände sich mitten in einem technologischen Kalten Krieg, aber der durchschnittliche staatliche IT-Administrator greift lieber auf verbotenen chinesischen Code zurück, als etwas von Grund auf neu zu entwickeln.