Lebensläufe analysieren, Bewerbungen vorsortieren oder Kandidaten anhand eines Scores bewerten: Künstliche Intelligenz kann Personalabteilungen viel Arbeit abnehmen. Doch wenn KI darüber entscheidet, wer zum Vorstellungsgespräch eingeladen oder direkt aussortiert wird, gelten strenge rechtliche Grenzen. Besonders wichtig sind DSGVO, AGG und der europäische AI Act.
KI kann Bewerbungen vorsortieren, aber nicht grenzenlos
Unternehmen können KI beispielsweise einsetzen, um Lebensläufe zusammenzufassen, Qualifikationen zu vergleichen oder Bewerber zu priorisieren. Rechtlich entscheidend ist jedoch, welchen Einfluss das System tatsächlich auf die Auswahlentscheidung hat.
Problematisch wird es insbesondere, wenn eine KI einen Eignungsscore erstellt und Bewerber unterhalb eines bestimmten Werts automatisch aussortiert werden. Auch ein Personalverantwortlicher, der anschließend lediglich auf „Bestätigen“ klickt, macht daraus nicht automatisch eine menschliche Entscheidung. Der Europäische Gerichtshof hat das für das Kredit-Scoring so entschieden: Schon die Berechnung eines Wahrscheinlichkeitswerts ist eine automatisierte Entscheidung, wenn der Empfänger maßgeblich darauf abstellt (EuGH, Urteil v. 07. Dezember 2023, Az.: C-634/21). Dieser Gedanke lässt sich auf einen Eignungsscore im Recruiting übertragen. Entscheidend ist, ob die Empfehlung tatsächlich eigenständig geprüft und gegebenenfalls geändert wird.
DSGVO: Keine rein automatisierte Absage
Art. 22 DSGVO schützt Personen grundsätzlich davor, einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die rechtliche oder ähnlich erhebliche Auswirkungen auf sie hat. Eine automatisierte Ablehnung einer Bewerbung kann darunter fallen. Das Gesetz kennt zwar Ausnahmen, diese sind jedoch an besondere Voraussetzungen und Schutzmaßnahmen geknüpft.
In der Praxis sollten Unternehmen deshalb sicherstellen, dass eine qualifizierte Person die KI-Empfehlung tatsächlich überprüft. Sie muss verstehen können, welche Informationen in die Bewertung eingeflossen sind, und befugt sein, vom Ergebnis der KI abzuweichen.
Bewerber können zudem nach Art. 15 DSGVO Auskunft darüber verlangen, ob automatisierte Entscheidungsprozesse eingesetzt wurden. Werden entsprechende Systeme verwendet, können sie auch verständliche Informationen über deren Funktionsweise und Auswirkungen verlangen. Der Europäische Gerichtshof verlangt dabei, dass Verfahren und Grundsätze der Entscheidung so erklärt werden, dass die betroffene Person sie nachvollziehen kann (EuGH, Urteil v. 27. Februar 2025, Az.: C-203/22). Einen Überblick über die weiteren Anforderungen an KI im Personalwesen haben wir bereits an anderer Stelle gegeben.
AI Act: Bewerberauswahl gilt als besonders sensibel
Auch der europäische AI Act nimmt den Einsatz von KI im Personalbereich ausdrücklich in den Blick. Systeme, die Bewerbungen sichten oder filtern und Kandidaten bewerten, sind in Anhang III der Verordnung als Hochrisiko-KI-Systeme aufgeführt. Für sie sieht der AI Act unter anderem Anforderungen an Risikomanagement, Dokumentation, Transparenz und menschliche Aufsicht vor.
Wichtig ist allerdings der Zeitplan: Mit der Verordnung (EU) 2026/1744 vom 8. Juli 2026, dem sogenannten Digital Omnibus zur KI, hat die EU den Geltungsbeginn dieser Hochrisiko-Vorschriften auf den 2. Dezember 2027 verschoben. Was die neue Frist für Arbeitgeber bedeutet, erläutern wir im Beitrag AI Act im Recruiting: Neue Frist für KI im Personalwesen bis Dezember 2027. Ein rechtsfreier Raum entsteht dadurch nicht: DSGVO, Arbeitsrecht und Diskriminierungsschutz gelten bereits heute.
Wenn die KI alte Vorurteile übernimmt
Ein weiteres Risiko liegt im Allgemeinen Gleichbehandlungsgesetz (AGG). KI-Systeme können bestehende Auswahlmuster aus historischen Daten übernehmen. Wurden beispielsweise bestimmte Personengruppen in der Vergangenheit seltener eingestellt, kann sich dies auch in automatisierten Bewertungen widerspiegeln.
Arbeitgeber bleiben für diskriminierende Auswahlentscheidungen verantwortlich. Liegen Indizien für eine Benachteiligung wegen eines geschützten Merkmals vor, greift die Beweislastregel des § 22 AGG: Dann muss der Arbeitgeber beweisen, dass kein Verstoß vorliegt.
Auch der Betriebsrat kann mitreden
Besteht ein Betriebsrat, müssen außerdem dessen Beteiligungsrechte geprüft werden. Ein KI-System, das Bewerbungen auswertet, kann eine technische Einrichtung im Sinne des § 87 Abs. 1 Nr. 6 BetrVG sein. Daneben kommen Mitbestimmungsrechte bei Personalfragebögen und Beurteilungsgrundsätzen (§ 94 BetrVG) sowie bei Auswahlrichtlinien (§ 95 BetrVG) in Betracht. Schon in der Planungsphase ist der Betriebsrat über den geplanten Einsatz Künstlicher Intelligenz zu unterrichten (§ 90 Abs. 1 Nr. 3 BetrVG). Eine frühzeitige Einbindung kann spätere Konflikte verhindern.
KI darf unterstützen, die Verantwortung bleibt beim Menschen
KI kann Recruiting schneller und effizienter machen. Unternehmen sollten ihre Auswahlentscheidung aber nicht einfach an einen Algorithmus delegieren. Wer KI im Bewerbungsverfahren einsetzt, sollte insbesondere Datenschutz, Diskriminierungsrisiken, Transparenz und eine echte menschliche Kontrolle sicherstellen. Je stärker die KI über die beruflichen Chancen eines Bewerbers entscheidet, desto höher sind die rechtlichen Anforderungen. Weitere Beiträge zum Thema finden Sie auf unserer Themenseite KI im Unternehmen.
Darf KI Bewerbungen automatisch aussortieren?
Eine vollständig automatisierte Ablehnung kann insbesondere nach Art. 22 DSGVO problematisch sein. Unternehmen sollten eine echte menschliche Überprüfung sicherstellen.
Darf eine KI Bewerber bewerten oder ranken?
Grundsätzlich kann KI zur Unterstützung eingesetzt werden. Kritisch wird es, wenn das Ranking faktisch darüber entscheidet, wer weiterkommt, ohne dass eine qualifizierte Person die Bewertung eigenständig überprüft.
Müssen Bewerber über den Einsatz von KI informiert werden?
Beim Einsatz von KI müssen insbesondere die datenschutzrechtlichen Informationspflichten beachtet werden. Bei automatisierten Entscheidungsprozessen bestehen zusätzliche Transparenz- und Auskunftsrechte.
Muss der Betriebsrat beteiligt werden, wenn KI Bewerbungen sichtet?
Häufig ja. Ein KI-System zur Bewerberauswahl kann Mitbestimmungsrechte nach § 87 Abs. 1 Nr. 6, § 94 und § 95 BetrVG auslösen, und über die Planung des KI-Einsatzes ist der Betriebsrat nach § 90 BetrVG zu unterrichten.
Haftet der Arbeitgeber, wenn die KI diskriminiert?
Der Einsatz einer Software entbindet den Arbeitgeber nicht von seinen Pflichten nach dem AGG. Diskriminierende Auswahlentscheidungen können insbesondere Entschädigungs- und Schadensersatzansprüche nach § 15 AGG auslösen.
