Metas Oversight Board hat am 17. September 2026 festgestellt, dass die Richtlinien des Konzerns zu KI-manipulierten Inhalten und Deepfake-Kennzeichnung in zwei konkreten Fällen nicht ausreichen. Das unabhängige Gremium ordnete die Entfernung von zwei Videos an und formulierte klare Forderungen zur Verschärfung der Missbrauchsprävention.
Kurz & knapp
- Zwei Fälle: Das Board ordnete die Entfernung eines KI-Videos an, das eine junge muslimische Frau in Europa zum Ziel hatte, sowie eines Videos, das einen schottischen Labour-Ratsmitglied beim Thema Flüchtlinge falsch darstellte
- Definition zu eng: Metas Begriff der "unerwünschten manipulierten Inhalte" erfasst nicht, wenn private Personen in ihren Worten und Handlungen verfälscht werden
- Kennzeichnung mangelhaft: Videos hätten mit dem Label "High Risk AI" gekennzeichnet werden sollen, wurden es aber nicht
- Forderungen: Erweiterte Labeling-Regeln, höhere Strafen für wiederholte Teiler und mehr Transparenz über KI-Kennzeichnungen
Das erste Video: Targeting einer privaten Person
Im ersten Fall hatte Meta ein KI-generiertes Video nicht entfernt, das eine junge muslimische Frau in Europa zum Ziel hatte. Das Oversight Board ordnete die Löschung an und kritisierte dabei Metas Verständnis von Missbrauch. Die Mehrheit des Gremiums befand, dass die Plattform ihre Definition von "unerwünschter manipulierter Inhalte" überdenken muss – sie sei derzeit zu eng gefasst.
"Meta defines mass harassment campaigns too narrowly, according to the majority, and the company should adopt new measures to reduce the burden on victims reporting them."
Das Board wies darauf hin, dass auch Kampagnen von Massenschikane zu eng definiert sind. Metas Meldesysteme würden Opfer zu sehr belasten – ein strukturelles Problem, das über einzelne Inhalte hinausgeht.
Das zweite Video: Falsche Aussagen eines Politikers
Der zweite Fall betraf ein KI-Video, das einen schottischen Labour-Ratsmitglied falsch darstellte, als würde er eine bestimmte Aussage über Flüchtlinge machen. Das Board befand, dass dieses Video gegen Metas Richtlinie zu Hassinhalten verstößt – und ordnete ebenfalls die Entfernung an.
Doch hier kam ein zusätzliches Problem zum Vorschein: Das Video hätte mit einem "High Risk AI"-Label gekennzeichnet werden müssen, erhielt aber keines. Das Oversight Board sieht darin einen systematischen Fehler in Metas Kennzeichnungspraxis.
Was Meta jetzt tun soll
Das Gremium hat konkrete Empfehlungen formuliert:
| Maßnahme | Ziel |
|---|---|
| Erweiterte "High Risk AI"-Labels | Mehr Situationen erfassen, in denen KI-Inhalte gekennzeichnet werden müssen |
| Stärkere Verbreitungsbremsen | Deceptive AI Content langsamer und weniger weit verbreiten |
| Höhere Strafen | Konten, die wiederholt manipulierte Inhalte teilen, stärker sanktionieren |
| Transparenzbericht | Offenlegen, wann und wie oft KI-Labels angewendet werden |
Das Oversight Board fungiert als unabhängiges Kontrollgremium und kann Meta zwar nicht zwingen, diese Empfehlungen umzusetzen – aber seine Entscheidungen haben erhebliches Gewicht für die Glaubwürdigkeit der Plattform und ihre Compliance-Strategie.
Was das für deutsche Unternehmen bedeutet
Die Kritik des Oversight Boards zeigt, dass selbst große Plattformen bei der Deepfake-Prävention hinterherhinken. Für deutsche Unternehmen, die auf Meta-Plattformen präsent sind oder KI-generierte Inhalte nutzen, bedeutet das: Die Regeln werden sich verschärfen. Wer manipulierte Inhalte teilt – absichtlich oder fahrlässig – muss mit stärkeren Konsequenzen rechnen. Gleichzeitig wird deutlich, dass die technische Erkennung und Kennzeichnung von KI-Inhalten noch nicht zuverlässig genug funktioniert. Das ist auch relevant für den EU AI Act, der ähnliche Transparenz- und Kennzeichnungspflichten vorsieht.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
