Meta hat eine Funktion seines neuen Bildgenerierungs-Modells Muse Image nach massiver Kritik innerhalb weniger Tage wieder abgeschaltet. Das Feature ermöglichte es, KI-Fotos von Instagram-Nutzern zu erstellen – ohne deren Einwilligung.
Die Funktion funktionierte denkbar einfach: Nutzer konnten andere Menschen durch das Erwähnen ihres öffentlichen Instagram-Accounts (@-Mention) als Vorlage für AI-generierte Bilder verwenden. Keine Zustimmung nötig, nur der Benutzername. Besonders problematisch: Das Feature war standardmäßig aktiviert. Wer nicht möchte, dass die eigenen Fotos so verwendet werden, musste sich manuell über die Instagram-Einstellungen abmelden.
Kurz & knapp
- Meta schaltete das Muse-Image-Feature ab, das KI-Porträts von Instagram-Nutzern ohne Einwilligung ermöglichte
- Das Feature war standardmäßig aktiviert – Opt-out statt Opt-in war erforderlich
- Meta gab zu: "this feature missed the mark" (dieses Feature verfehlte sein Ziel)
- Die Abschaltung erfolgte wenige Tage nach der Ankündigung unter Druck von Kritikern
Das Datenschutz-Problem
Das Konzept war von Anfang an problematisch. Meta wollte laut eigener Aussage "ein nützliches kreatives Werkzeug anbieten und den Menschen Kontrolle darüber geben, ob ihre öffentlichen Inhalte auf diese Weise referenziert werden können." Doch die Realität sah anders aus: Statt echte Kontrolle zu geben, zwang Meta Nutzer in die defensive Position, sich aktiv abmelden zu müssen.
In Europa hätte das Feature ohnehin nicht lange bestanden. Die strengeren Datenschutzbestimmungen – insbesondere die DSGVO – stellen solche Praktiken in Frage. Meta dürfte das geahnt haben und zog die Reißleine, bevor regulatorischer Druck von außen kam.
Parallelen zu OpenAI – und ein warnendes Beispiel
Laut Bericht könnte Meta die Idee von OpenAI übernommen haben. OpenAIs Sora-App bot ähnliches an: Nutzer konnten "Cameos" von sich selbst erstellen und – mit Erlaubnis – anderen erlauben, diese in Videos zu verwenden. Der entscheidende Unterschied: Bei Sora war Zustimmung erforderlich. Trotzdem verlor die Funktion schnell an Interesse, nachdem der anfängliche Hype vorbei war.
Was das für deutsche Unternehmen bedeutet
Die schnelle Kehrtwende zeigt, wie wichtig Consent-by-Design bei KI-Features ist – gerade wenn personenbezogene Daten im Spiel sind. Deutsche Firmen, die mit KI arbeiten, sollten das als Signal verstehen: Opt-in statt Opt-out ist nicht nur ethisch geboten, sondern wird zunehmend zur regulatorischen Erwartung. Der EU AI Act und die DSGVO machen deutlich, dass Datenschutz kein Hindernis für Innovation ist, sondern deren Grundlage. Wer das ignoriert, riskiert nicht nur Reputationsschaden wie Meta, sondern auch empfindliche Strafen.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
