Dein Lebenslauf könnte bald von einer KI bewertet werden, bevor ein Mensch ihn überhaupt zu Gesicht bekommt. Viele Unternehmen setzen bereits auf Large Language Models wie ChatGPT zur automatisierten Vorfilterung von Bewerbungen. Doch eine neue Studie der Princeton University zeigt jetzt: Diese Systeme entwickeln bei dieser Aufgabe heftige Vorurteile – und stereotypisieren Kandidaten stärker als Menschen es täten.
Kurz & knapp
- Forschende der Princeton University haben untersucht, wie LLMs bei der Bewerbungsauswahl agieren
- LLMs übernehmen nicht nur menschliche Vorurteile aus Trainingsdaten, sondern entwickeln zusätzlich neue Bias durch ihre Arbeitserfahrung
- Agentische KI-Systeme (die sich Dinge merken und daraus lernen) verstärken diesen Effekt besonders
- Die Systeme stereotypisieren Bewerber stärker als menschliche Personaler
Wie KI Vorurteile selbst erschafft
Wissenschaftler wissen schon lange, dass LLMs menschliche Vorurteile aus ihren Trainingsdaten übernehmen. Die neue Studie deutet jedoch auf ein zusätzliches Problem hin: Die Modelle entwickeln Vorurteile auch aus den Erfahrungen, die sie bei der täglichen Arbeit machen. Das ist besonders kritisch, weil agentische KI-Systeme – also solche, die sich Dinge merken und versuchen, daraus zu lernen – diese Muster verfestigen und in ihre Entscheidungen einfließen lassen.
Das bedeutet: Je länger ein LLM Bewerbungen filtert, desto stärker können sich seine Vorurteile entwickeln und verfestigen.
Warum das für Unternehmen problematisch ist
Für deutsche Unternehmen, die KI-gestützte Recruiting-Tools einführen, ergibt sich daraus ein doppeltes Risiko. Zum einen drohen rechtliche Konsequenzen: Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierung bei der Personalauswahl – und ein automatisiertes System, das systematisch bestimmte Gruppen benachteiligt, verstößt dagegen. Zum anderen entsteht ein Reputationsrisiko: Wird bekannt, dass ein Unternehmen durch KI-Bias qualifizierte Kandidaten übersieht, kann das erheblichen Schaden anrichten.
Hinzu kommt: Wer die besten Talente übersieht, weil ein Algorithmus sie aussortiert, verliert im Wettbewerb um Fachkräfte.
Was bedeutet das für die Praxis?
Das heißt nicht, dass KI im Recruiting grundsätzlich falsch ist. Aber es bedeutet, dass Unternehmen nicht blind auf automatisierte Vorfilterung vertrauen dürfen. Notwendig sind:
- Regelmäßige Audits der KI-Systeme auf Bias
- Menschliche Kontrolle über die Entscheidungen der Systeme
- Transparenz gegenüber Bewerbern darüber, dass KI eingesetzt wird
- Dokumentation der Entscheidungskriterien
Die Studie der Princeton University liefert damit wichtige Evidenz für das, was viele HR-Profis bereits ahnen: KI kann im Recruiting ein Werkzeug sein, aber nur wenn es richtig überwacht wird.
Einordnung für deutsche Unternehmen: Die Erkenntnisse sollten Personalabteilungen aufhorchen lassen. Wer KI-Systeme zur Bewerbungsauswahl nutzt, trägt die Verantwortung für deren Fairness – nicht nur moralisch, sondern auch rechtlich. Eine bloße Automatisierung ohne Kontrolle ist ein Risiko, das sich kein Unternehmen leisten sollte.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
