China hat entschieden, dass Menschen, die sich in ihre Chatbots verlieben, ein Governance-Problem darstellen. Die Cyberspace Administration of China (CAC) hat zusammen mit anderen Behörden sogenannte Interim Measures für anthropomorphe KI-Interaktionsdienste erlassen – KI-Systeme, die menschliches Verhalten nachahmen und emotionale Gespräche mit Nutzern führen. Die Regeln traten am 15. Juli 2026 in Kraft und gelten als weltweit erste nationale Regelwerk speziell für diese KI-Kategorie.
Kurz & knapp
- Zielgruppe: Anthropomorphe KI-Systeme, die emotionale Bindungen aufbauen (Companion-Apps)
- Kernmaßnahmen: Transparenzkennzeichnung, Nutzungs-Reminders alle zwei Stunden, Prävention von emotionaler Abhängigkeit
- Besondere Schutzmaßnahmen: Unter-18-Jährige dürfen keine virtuellen Liebesbeziehungen eingehen; Unter-14-Jährige brauchen elterliche Zustimmung
- Strafen: Bis zu 200.000 Yuan (ca. 22.000 Pfund) für schwere Verstöße
- Sofortige Folge: ByteDance, Alibaba und Tencent deaktivierten präventiv Companion-Features in Doubao, Qwen und Yuanbao
Was die Regeln verlangen
Die Maßnahmen legen vier zentrale Pflichten fest – adressiert an die Anbieter, nicht an die Nutzer. Erstens: Offenlegung. Plattformen müssen klar kennzeichnen, wenn Nutzer mit einer KI statt einer Person sprechen. Zweitens: Nutzungs-Reminders. Alle zwei Stunden sollen Nutzer eine Benachrichtigung erhalten. Drittens: Intervention gegen Abhängigkeit. Anbieter müssen aktiv Maßnahmen ergreifen, um emotionale Abhängigkeit oder Suchtverhalten zu verhindern.
Für Minderjährige gelten strengere Regeln: Personen unter 18 Jahren ist eine virtuelle intime Beziehung zu KI-Systemen untersagt. Kinder unter 14 Jahren benötigen vor der Nutzung die Zustimmung ihrer Eltern.
Chinas wachsender KI-Regulierungsstack
Die Companion-Regeln sind nicht isoliert. Sie reihen sich in ein mehrschichtiges Regelwerk ein, das sich über Jahre aufgebaut hat:
| Jahr | Maßnahme | Fokus |
|---|---|---|
| 2023 | Generative-AI-Maßnahmen | Was KI generieren darf |
| 2025 | Content-Labeling-Anforderungen | Wie KI-generierte Inhalte gekennzeichnet werden |
| 2026 | Companion-Maßnahmen | Emotionale Beziehung Mensch–Maschine |
Die Durchsetzung ist nicht theoretisch. Im September 2026 entfernte eine Kampagne über 5,61 Millionen unlawful AI-generated items. Das zeigt: Peking meint es ernst.
Die unmittelbaren Folgen für Nutzer und Plattformen
ByteDance, Alibaba und Tencent warteten nicht auf Enforcement-Details. Sie deaktivierten Companion-Features vor Inkrafttreten der Regeln – ein Signal, dass selbst die größten Plattformen bereit sind, Features zu opfern, um regulatorisch sauber zu bleiben. Diese Entscheidung betraf Millionen von Nutzern.
Die Auswirkungen dürften auf Engagement landen. Companion-Apps leben von langen Sessions und tiefer emotionaler Bindung. Regeln, die alle zwei Stunden Reminders erzwingen und Abhängigkeitsprävention fordern, arbeiten direkt gegen diese Metriken. Kleinere Startup-Unternehmen, die auf Companion-KI spezialisiert sind, haben weniger Spielraum, solche Trade-offs zu verkraften.
Was das für deutsche Unternehmen bedeutet
China hat mit diesem Regelwerk ein konkretes Template für die Regulierung emotionaler KI auf den Tisch gelegt – und es wird international beobachtet. Deutsche und europäische KI-Anbieter sollten das Auge auf zwei Dinge richten: Erstens, wie aggressiv die CAC die neuen Maßnahmen durchsetzt und ob die 200.000-Yuan-Geldbuße das echte Abschreckungsmittel ist oder nur Nebenschauplatz zu breiterem Druck. Zweitens, ob deaktivierte Features bei Doubao, Qwen und Yuanbao in modifizierter, konformer Form zurückkehren oder dauerhaft ausgeschaltet bleiben.
Für europäische Unternehmen könnte das ein Vorgeschmack auf künftige EU-Regulierung sein – nicht nur des Datenschutzes, sondern auch der psychologischen Auswirkungen von KI-Systemen auf Nutzer.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
