Am Rande der UN-Generalversammlung in New York haben 22 Staats- und Regierungschefs die Einrichtung einer globalen Kontrollbehörde für besonders leistungsfähige Systeme der künstlichen Intelligenz gefordert. Der Vorstoß zielt darauf ab, verbindliche Sicherheitsstandards auf internationaler Ebene zu etablieren und die Aufsicht über technologische Entwicklungen zu verstärken – ein Signal für einen regulatorischen Trend, der über den europäischen AI Act hinausgeht.
Kurz & knapp
- 22 Staats- und Regierungschefs (angeführt von Finnland und Norwegen) fordern eine globale KI-Überwachungsbehörde mit verbindlichen Sicherheitsstandards
- Zu den Unterzeichnern gehören Bundeskanzler Friedrich Merz (Deutschland), Ursula von der Leyen (EU-Kommission), sowie Australien, Kanada, Singapur, Südafrika und Kenia
- Der Drei-Punkte-Plan sieht unabhängige Prüfungen vor Freigabe, einheitliche Regierungsvorgaben und gegenseitige Meldung von Störfällen vor
- Prominente Abwesende: USA, China, Großbritannien, Frankreich, Japan und Indien haben sich nicht angeschlossen
Die Architektur: Drei Säulen der globalen KI-Kontrolle
Das Konzept ruht auf drei Fundamenten. Erstens sollen verbindliche Sicherheitsvorkehrungen und unabhängige Prüfungen zwingend vor der Freigabe neuer KI-Programme erfolgen. Zweitens fordern die Unterzeichner einheitliche Regierungsvorgaben – also harmonisierte Standards statt Flickenteppich nationaler Regeln. Drittens soll ein System zur gegenseitigen Meldung schwerer Störfälle etabliert werden, damit Ausfälle oder Sicherheitslücken transparent gemacht werden.
Die geplante Institution hätte die Aufgabe, regelmäßige Kontrollen durchzuführen und die Staatengemeinschaft einzuberufen, sobald definierte Leistungsgrenzen von KI-Systemen überschritten werden. Zentral ist dabei das Prinzip: Die Technologie soll stets unter menschlicher Leitung, Aufsicht und Kontrolle bleiben.
Wer unterzeichnet hat – und wer fehlt
Die Koalition ist geografisch breit gefächert. Neben Deutschland und den EU-Institutionen haben sich europäische Länder wie Spanien, die Niederlande, Dänemark und Österreich angeschlossen. Auf globaler Ebene stehen Australien, Kanada, Singapur, Südafrika und Kenia hinter dem Vorstoß. Auf ministerieller Ebene unterzeichneten zudem Vertreter aus Bahrain, der Türkei und den Vereinigten Arabischen Emiraten.
Doch die Abwesenheit führender KI-Nationen ist bemerkenswert: Weder die USA noch China – die beiden Supermächte im KI-Rennen – haben sich dem Vorstoß angeschlossen. Auch andere bedeutende Industrienationen wie Großbritannien, Frankreich, Japan und Indien sind nicht beteiligt. Das schwächt die unmittelbare Durchsetzungskraft des Vorhabens erheblich.
Kritik und offene Fragen
Kritik kommt von der Zivilgesellschaft. Der Geschäftsführer der Organisation AlgorithmWatch, Matthias Spielkamp, bezeichnete die Pläne als unzureichend – ein Hinweis darauf, dass auch Befürworter stärkerer KI-Kontrolle das Vorhaben für nicht weit genug gehen sehen.
Offen bleibt, wie eine solche globale Behörde konkret finanziert, besetzt und mit Durchsetzungsbefugnissen ausgestattet werden soll. Auch die Frage, wie sie sich zum bestehenden EU AI Act verhält oder ob sie dessen Standards als Minimum setzt, ist ungeklärt.
Was das für deutsche Unternehmen bedeutet
Für dich als Entscheider in einem deutschen Unternehmen ist das relevant: Falls sich dieser Vorstoß konkretisiert, könnten globale KI-Standards entstehen, die über den EU AI Act hinausgehen oder ihn ergänzen. Das würde bedeuten, dass du nicht nur europäische Compliance-Anforderungen erfüllen musst, sondern möglicherweise auch internationale Auditierungen und Meldepflichten zu beachten hast. Allerdings: Solange die USA und China nicht dabei sind, bleibt die praktische Wirkung begrenzt. Es ist ein erster Schritt – nicht mehr, nicht weniger.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
