KI bei der Bewerbung: Darf die Maschine entscheiden?

Die KI sortiert, der Mensch nickt ab

Zehn Bewerbungen, eine Stelle. Alles in ein KI-System, am Ende kommt ein Ergebnis heraus, und das wird umgesetzt: neun Absagen, eine Zusage. So beschreiben wir in dieser Folge den kritischsten Fall, der bei KI im Bewerbungsverfahren denkbar ist. Nicht, weil KI im Bewerbungsverfahren verboten wäre, sondern weil an dieser Stelle der Mensch die Entscheidung nicht mehr trifft, sondern nur noch abnickt.

Genau an dieser Grenze setzen alle Regeln an, die in der Folge zusammenkommen. KI darf Bewerbungen erfassen, sortieren, kategorisieren und aufbereiten. Was sie nicht darf, ist die Entscheidung ersetzen.

Vier Gesetze, eine Linie

Art. 22 DSGVO gibt jeder Person das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und sie erheblich beeinträchtigt. Eine Absage ist genau das. Wer das Ergebnis eines KI-Systems nur weiterleitet, verstößt dagegen.

Die KI-Verordnung stuft Systeme, die Bewerbungen sichten, filtern oder Bewerber bewerten, als Hochrisiko-KI ein. Schlimm ist das nicht, aber es verlangt eine wirksame menschliche Aufsicht: Wer mit dem System arbeitet, muss seine Fähigkeiten und Grenzen kennen, die Ergebnisse einordnen können und wissen, dass man solchen Ergebnissen leicht zu viel vertraut. Für Arbeitgeber heißt das Schulung und Dokumentation. Diese Pflichten gelten erst ab dem 2. Dezember 2027. Die Kennzeichnungspflicht für einen Chatbot, der mit Bewerbern spricht, gilt dagegen schon jetzt.

Das AGG kommt über die Trainingsdaten ins Spiel. Eine KI lernt aus Entscheidungen der Vergangenheit, und wenn darin Ungleichbehandlungen stecken, schreibt sie diese fort, auch wenn ihre Kriterien neutral klingen. Und wo es einen Betriebsrat gibt, ist er einzubinden, bevor das System läuft, nicht danach.

Was der SCHUFA-Fall für Personalabteilungen bedeutet

Den Maßstab liefert ein Fall, der auf den ersten Blick nichts mit Personal zu tun hat. Der Europäische Gerichtshof hatte 2023 über eine Verbraucherin zu entscheiden, deren Kreditantrag abgelehnt worden war, weil der automatisiert ermittelte SCHUFA-Score sie als nicht kreditwürdig auswies. Der Gerichtshof stellte klar: Wenn der Sachbearbeiter den Wert nur noch übernimmt, ist bereits die Erstellung des Scores die Entscheidung. Ein formales Ja oder Nein reicht nicht. Der Mensch muss eine eigene, begründbare Entscheidung treffen, in die der Score nur als ein Teil einfließt.

Übertragen auf das Recruiting heißt das: Auch ein Prozentwert für die Passung zur Stelle ist ein Scoring. Wer so etwas einsetzt, braucht einen Ablauf, der vorgibt, was der Mensch danach noch prüft, und der diese Prüfung dokumentiert. „Habe ich kontrolliert“ reicht nicht, wenn es darauf ankommt.

Warum das nicht warten kann

Abgelehnte Bewerber können Auskunft verlangen, auch darüber, wie die Entscheidung zustande kam. Wer dann zeigen kann, dass die KI nicht der alleinige Maßstab war, hat wenig zu befürchten. Wer es nicht kann, liefert die Grundlage für Ansprüche, und Entschädigungen nach dem AGG sind in der Praxis schon in erheblicher Höhe ausgeurteilt worden. Dass die Hochrisiko-Pflichten der KI-Verordnung erst Ende 2027 greifen, ändert daran nichts: DSGVO und AGG gelten heute.

Mehr zu unserer Arbeit im Arbeitsrecht und im Datenschutzrecht. Das Urteil des Europäischen Gerichtshofs vom 7. Dezember 2023 (C-634/21) gibt es im Volltext bei Curia.

Shownotes

• Art. 22 DSGVO, Automatisierte Entscheidungen im Einzelfall einschließlich Profiling
• Art. 15 DSGVO, Auskunftsrecht der betroffenen Person
• KI-Verordnung, Anhang III: Hochrisiko-KI-Systeme (Nr. 4: Beschäftigung und Personalmanagement)
• Art. 14 KI-Verordnung, Menschliche Aufsicht
• Art. 50 KI-Verordnung, Transparenzpflichten (Kennzeichnung von Chatbots)
• § 1 AGG, Ziel des Gesetzes
• § 15 AGG, Entschädigung und Schadensersatz
• § 87 BetrVG, Mitbestimmungsrechte
• § 90 BetrVG, Unterrichtungs- und Beratungsrechte
• EuGH, Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA Holding, Scoring)
• EuGH, Pressemitteilung Nr. 186/23 zum SCHUFA-Urteil
• TWW-Blog: AI Act im Recruiting, neue Frist für KI im Personalwesen bis Dezember 2027
• TWW-Blog: KI im Personalwesen, was Unternehmen jetzt rechtlich beachten müssen
• TWW-Blog: KI im Betrieb einführen, welche Mitbestimmungsrechte hat der Betriebsrat
• TWW-Blog: Gleichbehandlung im Job, was Arbeitgeber beim AGG beachten müssen

Mehr zu unserer Arbeit im Arbeitsrecht und im Datenschutzrecht.

Folgt uns auf LinkedIn, Instagram und hört uns auf Spotify. Bewertet den Podcast gerne auf der Plattform eurer Wahl, das hilft uns sehr.