Der internationale HR Softwareanbieter Workday steht vor einer Sammelklage in den USA wegen strukturierter Diskriminierung von Bewerbern. Es handelt sich um einen der ersten großen Rechtsfälle zur Nutzung von Künstlicher Intelligenz im Recruiting.
Was ist passiert?
Ein schwarzer Mann über 40 Jahre, der eigenen Angaben zufolge an Depressionen leidet, hat Klage eingereicht. Er hatte sich in den vergangenen Jahren auf über 100 Stellen bei Unternehmen beworben, die Workdays KI-Recruiting-Tool einsetzen – und wurde jedes Mal abgelehnt. Nun hat ein US-Bundesgericht die Klage zur Sammelklage ausgeweitet, sodass sich weitere Betroffene anschließen können.
Wie funktioniert das Tool?
Tausende Unternehmen weltweit setzen auf Workdays KI-gestützte Tools zur Bewerberauswahl. Diese Systeme analysieren Lebensläufe und die Qualifikationen von Bewerbern mithilfe von Algorithmen. Bewerber können automatisch abgelehnt oder im Auswahlprozess weitergeleitet werden.
Gemäß der EU KI-Verordnung fallen fast alle KI-Anwendungen im Personalbereich unter die Hochrisiko-Kategorie und müssen strenge Anforderungen erfüllen. Dazu gehört bspw. eine Ethikrichtline, eine Data-Governance und ein Risikomanagementsystem. Dazu gehört auch eine Untersuchung auf mögliche Verzerrungen (Bias) und geeignete Maßnahmen zur Verhinderung zu implementieren.