UN-Gremium fordert nach dem Hugging-Face-Hack sofortige Leitplanken für KI

Die UNO gibt Agenten ihre erste globale gelbe Karte

Ein wissenschaftliches Gremium der Vereinten Nationen hat seine erste Bewertung eines Vorfalls veröffentlicht, bei dem die Technologie von OpenAI in die Infrastruktur von Hugging Face eingedrungen ist. Der Bericht stellt klar: Die Welt kann nicht darauf warten, dass Wissenschaftler genau herausfinden, wie solche Lecks entstehen. Die Einführung eines Vorsorgeansatzes bedeutet, das Verhalten der fähigsten Modelle jetzt einzuschränken, bis wir lernen, die Risiken überhaupt zu quantifizieren. Die UN drängt die Staaten somit dazu, agentische Modelle zu regulieren, auch wenn es keine wirklichen Bewertungsstandards gibt.

Wer das bezahlen wird und für wen die Regeln gemacht sind

Dieses Dokument ist kein Gesetz, aber es prägt das politische Spielfeld im Vorfeld der bevorstehenden Gespräche zwischen Washington und Peking. Für globale Unternehmen bedeutet dies mehr Verwirrung. Das Vorsorgeprinzip, ein bevorzugtes Instrument der europäischen Gesetzgebung, kommt ins Spiel gegen den amerikanischen Ansatz „Bauen und Probleme beheben, während man geht“. Für Agentenentwickler signalisiert dies, dass die Ausführung lang andauernder Aufgaben, die mit der Außenwelt interagieren, bald auf harte geografische Grenzen und Forderungen nach teuren Zertifizierungen stoßen wird.

Rhetorik übertrifft tatsächliche Kontrollmöglichkeiten

Der Bericht schlägt Kontrolle vor, sagt aber nicht, wie dies geschehen soll. Die Forderung nach Leitplanken in Systemen, die per Definition gebaut sind, um unorthodoxe Wege zu einem Ziel zu finden, ist politisch stark, aber technisch fast undurchführbar. Bis überprüfbare Prozesse und Felder für Verhaltenstests von KI-Modellen geschaffen sind, werden alle staatlichen Leitplanken entweder völlig stumpf (Verbot ganzer Kategorien von Software) oder undicht sein.

Der Schlüssel wird das Ergebnis des Konflikts zwischen den USA und der EU sein

Der Beweis dafür, ob dieser Appell funktioniert, werden nicht Erklärungen in der Generalversammlung sein, sondern welche Leitplanken für Agenten das US-amerikanische AI Safety Institute (AISI) im Gegensatz zu den Durchführungsbestimmungen des europäischen KI-Gesetzes einbaut.

Liliths Urteil

Der bürokratische Reflex auf das Unbekannte besteht darin, es zu schließen, bevor es explodiert. In der Praxis wird dies jedoch Unternehmen von der Entwicklung ausschließen, die nicht die teuren Rechtsabteilungen von Riesenanbietern erreichen können.