Kaliforniens Gouverneur Gavin Newsom hat am Freitag eine Executive Order erlassen, die den Bundesstaat zur Speerspitze der KI-Regulierung machen soll. Im Kern: Frontier-KI-Modelle sollen künftig mit einem überprüfbaren "Kill-Switch" ausgestattet sein – einem Abschaltmechanismus, der regelmäßig auf Funktionsfähigkeit getestet wird. Newsom beauftragt eine Expertengruppe, innerhalb von zwei Monaten konkrete Empfehlungen zur Stärkung der KI-Sicherheit im kalifornischen Recht zu liefern.
Kurz & knapp
- Expertengruppe soll innerhalb von zwei Monaten Regelungsvorschläge erarbeiten
- Gefordert: unabhängige Vor-Ort-Audits durch externe Verifikationsgruppen bei KI-Unternehmen
- "Loss-of-Control-Incidents" sollen als kritische Sicherheitsvorfälle meldepflichtig werden
- Kalifornien soll ein Register für KI-Auditor:innen aufbauen und zwei bereits unterzeichnete Gesetze beschleunigt umsetzen
Was Newsom konkret fordert
Die Executive Order adressiert vier zentrale Punkte: Erstens sollen KI-Firmen verpflichtet werden, unabhängige Verifikationsteams vor Ort zu stationieren, die regelmäßige Sicherheitsaudits durchführen. Zweitens müssen Transparenzberichte und Risikobewertungen künftig Standards unabhängiger Prüfer genügen. Drittens der Kern: ein überprüfbarer Kill-Switch, dessen Funktionsfähigkeit routinemäßig validiert wird. Viertens die Meldepflicht für "Loss-of-Control-Incidents" – Vorfälle also, bei denen KI-Systeme die Kontrolle verlieren könnten.
Parallel dazu soll eine Behörde zwei bereits von Newsom unterzeichnete Gesetze beschleunigt umsetzen: ein Framework für unabhängige KI-Verifizierer und ein staatliches Register von KI-Auditor:innen.
Warum jetzt, warum Kalifornien?
Der Zeitpunkt ist kein Zufall. Der US-Kongress gilt als handlungsunfähig: Das Repräsentantenhaus ist bis November in Recess, die anstehenden Midterm-Elections machen substantielle Gesetzgebung im Senat unwahrscheinlich. Hinzu kommt: Präsident Donald Trump hat sich gegen Regulierung ausgesprochen und erklärt, KI brauche nur einen "starken und intelligenten Präsidenten" als Kontrolle.
In dieser Vakanz positioniert sich Kalifornien als Regelsetzer. Newsom signalisiert deutlich, dass er sein Modell als Blaupause für Bundesebene versteht:
"The federal government's abject failure to create any form of meaningful AI oversight or accountability should alarm every American, especially when AI CEOs themselves are begging for regulation. We're not waiting to act – we're going to speed up our work on substantial and responsible AI oversight before it's too late."
Auch eine Sondertagung des kalifornischen Parlaments zu KI ist im Gespräch.
Kontext: Warum der Kill-Switch jetzt auf der Agenda ist
Die Forderung nach Abschaltmechanismen ist nicht neu, aber sie hat an Dringlichkeit gewonnen. Auslöser war ein Post des früheren Anthropic-Forschers Jacob Coxon, der vor einer über 10-prozentigen Wahrscheinlichkeit warnte, dass KI "alle Menschen töten könnte" – innerhalb eines Jahrzehnts. Das hat eine Flut von Kongressdebatten ausgelöst, aber eben keine Gesetzgebung.
Was das für deutsche Unternehmen bedeutet
Für KI-Firmen mit US-Operationen – insbesondere solche, die in Kalifornien tätig sind – könnte dies erhebliche Compliance-Anforderungen mit sich bringen. Unabhängige Audits vor Ort, Transparenzstandards und ein funktionierender Kill-Switch sind kostspielig umzusetzen. Gleichzeitig signalisiert Kaliforniens Vorstoß: Regulierung kommt, ob auf Bundes- oder Staatsebene. Deutsche Unternehmen sollten beobachten, ob und wie diese Anforderungen tatsächlich in Gesetz gegossen werden – und ob die EU-Regulierung (insbesondere der EU AI Act) ähnliche oder strengere Maßstäbe setzt. Kalifornien könnte hier zum Testfall für globale KI-Governance werden.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
