Studie: KI-Recruiting-Tools benachteiligen Frauen systematisch

Eine wegweisende Studie von Forschern des University College London und des Oxford Internet Institute hat ergeben, dass KI-Recruiting-Tools, die von großen Arbeitgebern in Großbritannien, den USA und Deutschland eingesetzt werden, weibliche Bewerber systematisch schlechter bewerten als gleich qualifizierte männliche Kandidaten. Analysiert wurden über 200.000 anonymisierte Bewerbungen, die sieben kommerzielle KI-Plattformen in 18 Monaten verarbeiteten.

Wie die Verzerrung entsteht

Die auf historischen Einstellungsdaten trainierten Algorithmen reproduzieren offenbar Muster, bei denen Männer in Bereichen wie Finanzen, Ingenieurwesen und Technologie traditionell bevorzugt wurden.

Forderungen nach Regulierung

Die Studienautorinnen und -autoren fordern ein obligatorisches algorithmisches Audit aller KI-Recruiting-Tools in der EU und im Vereinigten Königreich. Das EU-KI-Gesetz klassifiziert KI-Einstellungswerkzeuge als Hochrisikosysteme.