OpenAI arbeitet bei der Verbesserung von ChatGPT mit externen Dienstleistern zusammen, die Chatverläufe von Nutzern lesen und bewerten. Das hat Golem anhand von Unterlagen recherchiert. Die Mitarbeiter dieser Dienstleister haben demnach Zugriff auf echte Nutzerprompts und -gespräche – ein Praxis, die erhebliche Datenschutzfragen aufwirft, besonders für Nutzer in der EU und Deutschland.
Kurz & knapp
- Externe Mitarbeiter lesen Chatverläufe: OpenAI beschäftigt Dienstleister, die echte Nutzergespräche aus ChatGPT zur Modellverbesserung analysieren
- Unterlagen als Beleg: Golem hat anhand von Unterlagen recherchiert und diese Praxis dokumentiert
- Datenschutz-Implikation: Nutzerdaten werden an externe Parteien weitergegeben
- Besonders relevant für Deutschland: Die DSGVO könnte hier Grenzen setzen, wenn keine angemessenen Schutzmaßnahmen oder Transparenz vorliegen
Was OpenAI tut
Die recherchierten Unterlagen zeigen, dass OpenAI ein System nutzt, bei dem externe Kontraktoren Chatverläufe bewerten und annotieren. Das ist an sich ein bekanntes Verfahren im Machine Learning – menschliches Feedback hilft dabei, Modelle zu verfeinern und unerwünschte Ausgaben zu reduzieren. Allerdings ist die praktische Umsetzung hier kritisch: Echte Nutzerdaten, die möglicherweise sensible Informationen enthalten, landen auf den Rechnern von Dienstleistern, die nicht direkt bei OpenAI angestellt sind.
Die DSGVO-Frage
Für deutsche und europäische Nutzer stellt sich die zentrale Frage: Sind diese Datenverarbeitungen DSGVO-konform dokumentiert und transparent kommuniziert? Die Datenschutzgrundverordnung verlangt, dass Nutzer informiert werden, wenn ihre Daten an Dritte weitergegeben oder für neue Zwecke verarbeitet werden. Ob OpenAI diese Anforderungen erfüllt – etwa in den Nutzungsbedingungen oder einer Datenschutzerklärung – ist aus der Golem-Recherche nicht unmittelbar klar.
Zudem müssen Auftragsverarbeiter (also externe Dienstleister, die Daten im Auftrag von OpenAI verarbeiten) angemessene Sicherheitsmaßnahmen treffen. Wer diese Dienstleister sind, wo sie sitzen und welche Sicherheitsstandards sie einhalten, bleibt oft im Dunkeln.
Was das für dich bedeutet
Wenn du ChatGPT nutzt – privat oder beruflich – solltest du dir bewusst sein, dass deine Prompts und Gesprächsinhalte möglicherweise von Menschen außerhalb von OpenAI gelesen werden. Das ist nicht automatisch illegal oder unethisch, aber es ist ein erheblicher Unterschied zu dem, was viele Nutzer erwarten. Besonders problematisch wird es, wenn du sensible Informationen, Geschäftsgeheimnisse oder personenbezogene Daten in ChatGPT eingibst – diese könnten dann in den Händen von Dienstleistern landen, über deren Vertrauenswürdigkeit du nichts weißt.
Für deutsche Unternehmen bedeutet das: Vorsicht bei der Nutzung von ChatGPT für unternehmenskritische Aufgaben. Wenn du Kundendaten, Verträge oder interne Informationen in das Tool eingibst, könnten diese durch die Weitergabe an externe Bewerter das Unternehmen in Compliance-Probleme bringen – insbesondere unter der DSGVO oder wenn Kunden-Daten betroffen sind. Eine klare Datenschutz-Policy und möglicherweise Datenschutz-Folgenabschätzung sind hier angebracht.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
