Automatisierte Diskriminierung im Recruiting durch den Einsatz von KI? Die Rolle von People-Analytics-Tools im Recruiting-Prozess (PDF)

Masterarbeit aus dem Jahr 2020 im Fachbereich Jura - Zivilrecht / Handelsrecht, Gesellschaftsrecht, Kartellrecht, Wirtschaftsrecht, Note: 1,7, Universität Kassel (FB 07 Wirtschaftswissenschaften), Sprache: Deutsch, Abstract: Trotz des vermeintlich vorteilhaften Einsatzes von People-Analytics-Tools wirft ihre Verwendung auch eine Vielzahl an rechtlichen Fragen auf. Schließlich müssen AG innerhalb eines Recruiting-Prozess verschiedene rechtliche Regelungen der DS-GVO, des BetrVGs und des AGGs einhalten. Diese gelten auch wenn eine Einstellung mittels der KI eines People-Analytics-Tools vorgenommen wird.

Im Gegensatz zu den datenschutzrechtlichen oder betriebsverfassungsrechtlichen Komplikationen wurden die offenen Fragen hinsichtlich der Vereinbarkeit mit dem AGG und dem Vorliegen einer möglichen Diskriminierung bisher kaum untersucht. Aus diesem Grund soll sich diese Ausarbeitung der Beantwortung der folgenden Frage widmen: Unter welchen Bedingungen liegt eine Diskriminierung i. S. d. AGGs bei der Nutzung von KI durch die Anwendung von People-Analytics-Tools im Recruiting-Prozess vor und unter welchen Umständen können Arbeitgeber dafür haften?

Verstöße gegen das Benachteiligungsgebot nach § 7 AGG i. V. m. § 1 AGG sind, auch ohne den Einsatz von KI, Gegenstand einer Vielzahl von Rechtsfällen. Verschiedene Studien belegen die Benachteiligung von Bewerbern aufgrund ihrer ethischen Herkunft, ihres Geschlechts oder ihrer Religionszugehörigkeit. Während eine Bewerberin mit deutscher Herkunft mit einer Wahrscheinlichkeit von 20% zum Vorstellungsgespräch eingeladen wurde, führten die Bewerbungsunterlagen einer türkischstämmigen Kandidaten, die auf ihrem Bewerbungsfoto ein Kopftuch trägt, nur in 4,2 % der Fälle zu einer Einladung zum persönlichen Gespräch.

Es ist demnach auch zu untersuchen, ob der Einsatz von KI diesem Risiko entgegen wirken kann oder ob die Gefahr der Diskriminierung durch den Einsatz von People-Analytics-Tools steigt. Fraglich ist somit, ob der Einsatz von KI in Form eines People-Analytics-Tools für Unternehmen von Vorteil ist. Dafür wird im Rahmen dieser Ausarbeitung untersucht, unter welchen Umständen der AG für die Software haften muss oder ob KI selbst haftbar gemacht werden kann. So wäre es denkbar,
den Software-Betreiber bzw. den Software-Entwickler in Regress zu nehmen.

Darüber hinaus sind eingangs Rechtsfragen hinsichtlich der Anwendbarkeit des AGGs auf diese moderne und intelligente Form der Technik im Recruiting zu klären und im späteren Verlauf der Anpassungsbedarf des AGGs darzustellen. Es gilt außerdem erste bereits bestehende Ansätze aufzuzeigen, die einen Einsatz von People-Analytics-Tools unter Einhaltung der Rechtsnormen des AGGs ermöglichen.