Die EU geht jetzt konkret gegen den Missbrauch von Künstlicher Intelligenz vor. Der EU-AI-Act verbietet sogenannte Nudifier-Apps – Software, die Nacktfotos von Personen ohne deren Zustimmung erstellt – und zwingt KI-Systeme, solche Funktionen gar nicht erst einzubauen. Das ist ein direkter Schlag gegen ein wachsendes Problem: Besonders Frauen leiden unter sexualisierten Deepfakes, die ihr Ansehen beschädigen und ihre Würde verletzen.
Kurz & knapp
- Nudifier-Apps sind verboten: Der EU-AI-Act untersagt die Entwicklung und den Vertrieb von Software, die nicht-konsensuale sexualisierte Bilder erzeugt
- Kennzeichnungspflicht für KI-Inhalte: Alle KI-generierten Inhalte müssen deutlich gekennzeichnet werden – das soll Transparenz schaffen
- Sanktionen sind "wirksam, verhältnismäßig und abschreckend": Verstöße können mit Geldbußen, Verwarnungen oder anderen Maßnahmen geahndet werden (Art. 99 des EU-AI-Acts)
- Beschwerdewege für Opfer: Betroffene können bei nationalen Aufsichtsbehörden Beschwerde einreichen
Prävention statt Reaktion
Sergey Lagodinsky, Grünen-Fraktionsvize im EU-Parlament, erklärt das Prinzip der neuen Regelung gegenüber der Frankfurter Rundschau: Der EU-AI-Act gehe das Problem "an der Wurzel an". Statt nur Opfer zu entschädigen, sollen Tech-Riesen bereits bei der Entwicklung ihrer Systeme sicherstellen, dass Missbrauchsoptionen gar nicht erst entstehen.
"Nudifier-Apps wurden verboten. Und KI, die nicht zu diesem Zweck erstellt wurde, muss sicherstellen, diese Optionen nicht zu beinhalten. So wird präventiv geschützt."
Svenja Hahn (FDP) betont im selben Interview, dass das Gesetz den Willen der Betroffenen berücksichtige: Es greife nur, wenn jemand gegen seinen Willen zu Opfer eines Deepfakes wird. Freiwillige Inhalte von Erwachsenen blieben erlaubt – es sei eine Frage der Selbstbestimmung.
Kennzeichnungspflicht: Transparenz mit Hürden
Die Kennzeichnungspflicht soll Nutzern zeigen, wo überall KI am Werk ist. Das klingt sinnvoll – führt aber zu unerwarteten Problemen in der Praxis. U-Bahn-Betreiber haben sich laut Lagodinsky beschwert: Wenn sie ihre Durchsagen auf KI-Stimmen umstellen, müssten sie jede einzelne Durchsage mit einem Transparenzhinweis versehen. Das ist technisch aufwändig und praktisch schwer umsetzbar.
Die Regelung zeigt ein grundsätzliches Spannungsfeld: Wie viel Transparenz ist nötig, ohne Innovation zu ersticken?
Sanktionen reichen nicht aus – fordert SPD-Politikerin
Birgit Sippel (SPD) würdigt zwar den EU-AI-Act als "wichtigen und richtigen Schritt". Sie kritisiert aber, dass bisherige Sanktionen – vor allem Geldbußgelder – nicht ausreichen, um Tech-Giganten wirklich zu bremsen. Ihre Forderung: zeitlich begrenzte Marktausschlüsse und die Stärkung europäischer Plattformen als Alternative.
| Sanktionsform | Beschreibung |
|---|---|
| Geldbußgelder | Finanzielle Strafen |
| Verwarnungen | Formale Verwarnung |
| Nichtmonetäre Maßnahmen | z. B. Marktausschluss, Betriebsverbote |
Was das für dich bedeutet
Deutsche Unternehmen, die KI-Systeme entwickeln oder einsetzen, müssen sich auf neue Compliance-Anforderungen einstellen. Die Kennzeichnungspflicht betrifft nicht nur Tech-Konzerne, sondern auch Mittelständler, die KI in ihre Produkte integrieren. Gleichzeitig bietet das Verbot von Missbrauchsfunktionen eine klare Leitlinie: Wer KI-Systeme baut, muss bereits in der Designphase Missbrauchspotenziale ausschließen. Das kostet Zeit und Ressourcen – ist aber der Preis für einen regulierten europäischen Markt, auf dem Vertrauen zählt.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
