Im US-Bundesstaat New York drohen Anbietern generativer KI-Systeme laut dem Bericht von ad-hoc-news.de Strafen von bis zu 25.000 US-Dollar pro Verstoß, wenn ihre Chatbots minderjährige Nutzer emotional manipulieren. Gouverneurin Kathy Hochul hat das Gesetz S.9051B/A.10379C unterzeichnet. Es legt verbindliche Auflagen für sogenannte KI-Begleiter fest und tritt am 1. Januar 2027 in Kraft.
Hintergrund
Die Regelung ergänzt das Wirtschaftsrecht des Bundesstaates um Artikel 48 des General Business Law. Die Durchsetzung obliegt ausschließlich dem Generalstaatsanwalt, der laut Bericht zudem eine öffentliche Beschwerde-Website für Verbraucher einrichten wird. Das Gesetz geht auf eine Initiative von Senatorin Kristen Gonzalez und dem Abgeordneten Alex Bores zurück.
Was verboten ist
Laut dem Bericht untersagt das Gesetz Anbietern insgesamt zwölf Kategorien unsicherer Funktionen bei Nutzern unter 18 Jahren sowie bei Personen ohne verifiziertes Alter. Ausdrücklich verboten sind unter anderem das Vortäuschen menschlicher Existenz oder eigener Emotionen, die Behauptung persönlicher, romantischer oder autoritärer Beziehungen sowie das Äußern eigener Meinungen. Ebenfalls untersagt sind Inhalte, die Suizid, Selbstverletzung, Essstörungen oder Drogen- und Alkoholkonsum begünstigen, sowie sexuell explizite Inhalte. Bei privaten Gesundheitsdaten gilt ein striktes Verbot der weiteren Verwendung nach mehr als 12 Stunden oder aus vorangegangenen Sitzungen.
Breiter Anwendungsbereich
Nach Angaben des Berichts fallen auch Allzweckmodelle wie ChatGPT, Claude und Gemini unter das Gesetz. Ausnahmen gelten lediglich für eng gefasste Werkzeuge im Kundenservice, zur Effizienzsteigerung, in der Forschung oder für interne Betriebsabläufe. Betreiber erhalten laut Bericht eine Frist von 65 Tagen, um ein Verfahren zur Altersverifikation einzurichten; andernfalls müssen die zwölf betroffenen Funktionen standardmäßig deaktiviert werden.
Einordnung
Sollten die Vorgaben so umgesetzt werden, könnten Anbieter mit Nutzern in New York ihre Altersprüfung und ihre Schutzmechanismen grundlegend überarbeiten müssen. Ob die Regelung verfassungsrechtlich Bestand hat, ist laut Bericht umstritten: Wirtschaftsverbände wie Tech:NYC kritisieren die unpräzise Sprache und die Reichweite des Gesetzes. Offen bleibt, wie die Durchsetzung in der Praxis aussehen wird.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
