Das 8th US Circuit Court of Appeals in St. Louis hat am Freitag Minnesotas bahnbrechendes Gesetz gegen künstlich erzeugte Nacktbilder vorläufig außer Kraft gesetzt. Elon Musks Unternehmen xAI hatte einen Antrag auf einstweilige Verfügung eingereicht – und ist damit vor dem Berufungsgericht erfolgreich, nachdem ein Bezirksgericht den Antrag noch abgelehnt hatte.
Kurz & knapp
- xAI-Erfolg vor Gericht: Das Berufungsgericht blockiert Minnesotas Gesetz vorläufig, während der Rechtsstreit läuft
- Verfassungsfrage im Kern: xAI argumentiert, das Gesetz verletze die Redefreiheit der USA
- Seit August in Kraft: Minnesotas "Nudification"-Verbot trat am 1. August in Kraft und war das erste seiner Art in den USA
- Gegensätzliche Positionen: Minnesota argumentiert, das Gesetz sei notwendig, um die Verbreitung von Kindesmissbrauchsmaterial zu bekämpfen; xAI betont "rigorose Schutzmaßnahmen"
Das Gesetz und seine Reichweite
Minnesota erließ ein Verbot, das Website-Betreiber, Software-Entwickler und andere Plattformen daran hindert, Nutzern zu ermöglichen, realistische Bilder von Intimbereich einer identifizierbaren Person zu erstellen – wenn diese Körperteile im Original nicht sichtbar sind. Das Gesetz zielt direkt auf sogenannte "Deepfake-Nacktbilder" ab.
Der ursprüngliche Bezirksrichter Donovan Frank hatte xAIs Eilantrag im vergangenen Monat abgelehnt. Seine Begründung: Das Unternehmen habe nicht nachgewiesen, dass ihm irreparabler Schaden drohe, und habe zu lange gewartet, bevor es Klage einreichte.
xAIs Gegenargumente
In der Berufung widersprach xAI der Verzögerungsvorwurf. Wichtiger noch: Das Unternehmen behauptet, sein Tool Grok Imagine verfüge über "rigorose Schutzmaßnahmen" gegen die Erstellung von Nacktbildern realer Personen. Parallel hat xAI bereits Nutzer verklagt, die angeblich technische Sperren umgehen, um sexuelle Bilder ohne Zustimmung zu erstellen.
Minnesotas Position
Der Staat argumentiert, das Gesetz sei notwendig, um die Verbreitung von Kindesmissbrauchsmaterial zu bekämpfen, das laut Minnesota KI-Produkte wie Grok Imagine generieren. Minnesota forderte das Berufungsgericht auf, das Gesetz nicht zu blockieren – ohne unmittelbaren Erfolg.
Was das bedeutet
Die Entscheidung ist ein Präzedenzfall für die Spannung zwischen Redefreiheit und Schutz vor digitaler Missbrauch. Während die USA verfassungsrechtlich sehr hohe Hürden für Sprachverbote setzen, wächst der Druck, KI-generierte Nacktbilder zu regulieren – besonders wenn Minderjährige betroffen sind.
Für deutsche Unternehmen und Regulierer ist das relevant: Der EU AI Act und nationale Gesetze wie Deutschlands geplante Regelungen zu Deepfakes müssen ähnliche Fragen klären – ohne dabei in verfassungsrechtliche Fallen zu tappen. Die US-Debatte zeigt, dass ein bloßes Verbot technisch schwer durchzusetzen ist und rechtlich angreifbar bleibt. Gleichzeitig wird deutlich, dass Plattformen unter Druck stehen, ihre Schutzmaßnahmen glaubwürdig zu machen.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
