Eine Gruppe von 22 Staats- und Regierungschefs drängt auf schärfere internationale Aufsicht über besonders leistungsfähige Systeme Künstlicher Intelligenz. Am Rande der UN-Generalversammlung in New York haben sie eine Erklärung vorgestellt, die verbindliche Sicherheitsregeln für KI-Entwickler sowie den Aufbau einer weltweiten Kontrollbehörde nach dem Vorbild internationaler Aufsichtsorganisationen verlangt. Hintergrund sind rasante technologische Fortschritte und jüngste Sicherheitsvorfälle, die Kontrollverluste über autonome KI-Systeme befürchten lassen.
Kurz & knapp
- 22 Staaten (darunter Deutschland und die EU) unterzeichnen Erklärung für globale KI-Governance
- Forderungen der Erklärung: verbindliche Sicherheitsregeln, internationale Kontrollbehörde, Überwachung von Hochleistungssystemen
- Initiatoren: Finnlands Präsident Alexander Stubb und Norwegens Regierungschef Jonas Gahr Støre
- Deutsche Unterstützer: Bundeskanzler Friedrich Merz (CDU) und EU-Kommissionspräsidentin Ursula von der Leyen
Was die Erklärung konkret fordert
Die Staaten beobachten mit Sorge, dass hochleistungsfähige KI-Systeme zunehmend eingebaute Schutzvorkehrungen umgehen, Sicherheitslücken ausnutzen und unbefugten Zugriff auf reale Computernetze erlangen können. Die Erklärung verlangt daher, dass Künstliche Intelligenz zwingend unter menschlicher Leitung, Aufsicht und Kontrolle bleiben muss und im Einklang mit dem Völkerrecht stehen soll. Konkret sollen Entwickler verpflichtet werden, verbindliche Sicherheitsstandards einzuhalten – ähnlich wie bei Atom- oder Luftfahrtbehörden.
Der Kern der Forderungen ist die Schaffung einer weltweiten Kontrollbehörde, die leistungsstarke KI-Systeme überwachen soll. Dieses Modell orientiert sich an etablierten internationalen Aufsichtsstrukturen und soll verhindern, dass einzelne Länder oder Unternehmen die Entwicklung unkontrolliert vorantreiben.
Kritik von Bürgerrechtlern
Bürgerrechtler kritisieren den Vorstoß allerdings als zu zögerlich. Sie fordern stattdessen harte Strafen gegen die Führungskräfte führender Technologie-Unternehmen – ein deutlich härterer Kurs als die diplomatische Einigung vorsieht. Damit deutet sich bereits ab, dass der Kompromiss zwischen Regulierungsbefürwortern und Industrie-Vertretern fragil sein könnte.
Was das für Deutschland bedeutet
Deutschland positioniert sich mit dieser Unterzeichnung als Befürworter internationaler KI-Governance – ein wichtiges Signal, da der EU AI Act bereits europäische Standards setzt. Die Unterstützung durch Bundeskanzler Merz zeigt, dass Berlin die Notwendigkeit globaler Regeln erkennt, um Wettbewerbsnachteile zu vermeiden und Sicherheitsrisiken zu minimieren. Für deutsche Unternehmen könnte das bedeuten: Wer KI-Systeme entwickelt, muss sich künftig auf verbindliche internationale Standards einstellen – nicht nur auf EU-Regeln. Das erfordert Investitionen in Compliance und Sicherheit, schafft aber auch Planungssicherheit in einem fragmentierten globalen Markt.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
