Meta hat ein neues Sicherheits-Feature angekündigt, das Eltern benachrichtigt, wenn ihre Teenager mit Meta AI über Suizid oder Selbstverletzung sprechen. Das System nutzt KI-gestützte Spracherkennung, um problematische Inhalte zu identifizieren und Interventionen einzuleiten.
Kurz & knapp
- Eltern-Alerts live: Feature ist bereits in den USA, UK, Australien und Kanada für Eltern mit Instagram-Parental-Supervision aktiv; weltweit Rollout bis Ende 2026 geplant
- Automatische Eskalation: Meta plant zusätzlich, Notfalldienste zu kontaktieren, wenn jemand (Teen oder Erwachsener) unmittelbare Suizidgefahr signalisiert
- Vorgeschichte: Meta hat 2025 über 19.000 Meldungen an Einsatzkräfte weitergeleitet, nachdem verdächtige Posts auf Facebook und Instagram erkannt wurden
- Strikte Inhalts-Standards: Jugendliche werden automatisch in die 13+-Inhaltseinstellung versetzt; Meta AI antwortet dort altersgerecht und lehnt sensible Anfragen ab
Wie das System funktioniert
Das Feature scannt die Gespräche zwischen Teens und Meta AI auf Indikatoren für Selbstverletzung. Sobald besorgniserregende Sprache erkannt wird, erhalten die Eltern über ihr Meta-Konto einen Alert. Gleichzeitig leitet Meta AI den Jugendlichen bereits zu Krisen-Hotlines weiter und ermutigt ihn, mit einem Elternteil oder einem vertrauenswürdigen Erwachsenen (etwa einem Schulberater) zu sprechen.
Meta betont, dass das Feature auf Datenschutz und Privatsphäre ausgelegt ist – es soll Familien frühzeitig informieren, ohne die Kommunikation vollständig offenzulegen.
Der nächste Schritt: Notfalldienste
Noch ambitionierter ist Metas Plan, Notfalldienste zu kontaktieren, wenn ein Gespräch (mit Teen oder Erwachsenem) auf unmittelbare Suizidgefahr hindeutet. Das Unternehmen verweist auf bisherige Erfolge: Im vergangenen Jahr habe Meta über 19.000 verdächtige Posts auf Facebook und Instagram erkannt und Einsatzkräfte benachrichtigt, die daraufhin Wellness-Checks durchgeführt hätten.
"Today we're announcing additional protections to help make sure that, when it comes to sensitive conversations related to suicide and self-harm, we're responding in the right way. This means acknowledging teens' feelings while helping them get the offline support they need — whether that's from a parent, a professional helpline, or the emergency services," sagte Meta in einer Stellungnahme.
Altersgerechte KI-Antworten als Standard
Meta führt zudem strengere Content-Einstellungen ein. Jugendliche-Accounts werden automatisch in die 13+-Inhaltseinstellung versetzt – auch für Gespräche mit Meta AI. In dieser Voreinstellung ist der Chatbot darauf trainiert, nur altersgerechte Antworten zu geben und sensible Anfragen abzulehnen.
Was das für deutsche Unternehmen bedeutet
Das Feature zeigt, wie Plattformen KI als Werkzeug für Schadensminderung einsetzen – nicht nur für Effizienz, sondern für Sicherheit. Für deutsche Unternehmen, die eigene KI-Systeme betreiben oder Jugendliche erreichen, wird das zum Maßstab: Regulatoren und Nutzer erwarten zunehmend, dass KI-Systeme nicht nur funktional sind, sondern auch proaktiv Risiken erkennen und melden. Die Kombination aus automatischer Erkennung, Nutzer-Benachrichtigung und Behörden-Eskalation könnte zum Standard für Plattformen werden – und damit auch zu einer Compliance-Anforderung.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
