Metas hauseigenes Tool zur Erkennung von KI-generierten Bildern ist massiv gescheitert. Nach einer Recherche von Reuters konnte der Detektor 55 % der eigenen, zugeschnittenen KI-Bilder nicht identifizieren – ein Versagen, das die Grundlagen von Metas Sicherheitsversprechen erschüttert.
Kurz & knapp
- Fehlerquote: 55 % – Metas AI-Detektor erkannte nur knapp die Hälfte seiner eigenen generierten Bilder
- Reuters-Recherche deckte das Versagen auf; betroffen sind zugeschnittene Versionen von KI-Bildern
- Parallel-Skandal: Meta nutzte eine KI-Bildfunktion, die öffentliche Instagram-Posts zur Bildgenerierung einsetzte – ohne vorherige Zustimmung der Nutzer
- Opt-out statt Opt-in: Nutzer mussten aktiv widersprechen, um ihre Fotos zu schützen
Das Erkennungstool versagt im eigenen Test
Meta bewirbt sein AI-Detection-System als Schutzmaßnahme gegen manipulierte und KI-generierte Inhalte. Doch die Reuters-Untersuchung zeigt: Das Tool ist nicht einmal in der Lage, die Bilder zu erkennen, die Metas eigene KI-Systeme erzeugt haben – zumindest nicht zuverlässig. Besonders kritisch: Wenn die Bilder zugeschnitten oder verändert wurden, versagte der Detektor noch häufiger.
Das wirft zentrale Fragen auf: Wie sollen Nutzer, Plattformen oder Regulatoren KI-generierte Inhalte überhaupt identifizieren, wenn selbst der Hersteller das nicht schafft? Und welchen Wert haben Transparenz-Labels und Erkennungstools, wenn ihre Quote unter 50 % liegt?
Instagram-Fotos ohne Erlaubnis für KI-Training genutzt
Parallel zu diesem Desaster nutzte Meta eine andere KI-Bildfunktion, die öffentliche Instagram-Posts zur Generierung neuer Bilder einsetzte – doch Nutzer wurden nicht vorab gefragt, sondern konnten nur aktiv widersprechen. Ein klassisches Opt-out-Modell statt Opt-in.
Das ist nicht nur ethisch fragwürdig, sondern auch regulatorisch brisant. Im Kontext des EU AI Act und der Datenschutz-Debatte gerät Meta damit unter zusätzlichen Druck. Deutsche Nutzer und Datenschützer werden solche Praktiken kritisch sehen – zumal die Vorstellung, dass die eigenen Fotos ohne explizite Zustimmung in KI-Modellen landen, vielen nicht behagt.
Was das für dich bedeutet
Für deutsche Unternehmen und Plattformen ist das ein Lehrstück: Wer KI-Sicherheitstools bewirbt oder regulatorische Anforderungen erfüllen muss, sollte diese vorher gründlich testen – nicht erst nach der Veröffentlichung von Reuters. Meta zeigt hier, wie schnell Vertrauen erodiert, wenn die Technik nicht hält, was versprochen wird.
Zugleich wird deutlich: Die Frage, wie man KI-generierte Inhalte zuverlässig erkennt, ist technisch noch lange nicht gelöst. Das macht Transparenz und klare Kennzeichnung noch wichtiger – und macht Opt-in-Modelle für KI-Training zur Norm statt zur Ausnahme.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
