Het artikel gaat hieronder verder.
Als het gaat om bias, denken we vaak vooral aan de selectiefase. Maar eigenlijk in alle onderdelen van het recruitmentproces kunnen zulke vooroordelen een rol spelen. En zodra er A.I. in het spel is, blijken recruiters zich nauwelijks bewust van de risico’s daarop, blijkt uit een recente studie, uitgevoerd door de ULiège en de UHasselt, in opdracht van het (Belgische) Instituut voor de gelijkheid van vrouwen en mannen. Terwijl tegelijkertijd wel 74% van de ondervraagden zegt A.I. in minstens één fase van het sollicitatieproces te gebruiken.
De studie toont aan dat recruiters A.I.-tools voornamelijk inzetten in de voorbereidende fase (vacatures opstellen, sollicitatievragen genereren, 77%) en bij de zoektocht naar kandidaten (43%), met name via LinkedIn Recruiter. Het gebruik van A.I. blijft in de praktijk (tot nu toe) beperkter in de selectiefase (21%), waar recruiters vooral A.I. inzetten voor de geautomatiseerde analyse van cv’s of de beoordeling van kandidaten. De ruim 400 ondervraagde recruiters noemen zelden spontaan het risico van gender bias en discriminatie, en slechts een minderheid zegt hier actief maatregelen tegen te nemen.
Stereotypes reproduceren
‘Het onderzoek bevestigt een paradox: A.I. kan bijdragen aan de standaardisering van recruitmentprocessen en kan het proces objectiever maken, omdat de subjectiviteit van recruiters minder impact heeft, maar het biedt zeker geen garantie op neutraliteit. Als we niet waakzaam zijn, kan A.I. stereotypen reproduceren, met het risico dat bestaande ongelijkheden worden versterkt. Sommige recruiters zijn zich hier al van bewust, maar dat besef zou algemene kennis moeten worden, zowel op politiek, organisatorisch als individueel niveau’, aldus Liesbet Stevens, adjunct-directeur van het onderzoekende instituut.
Slechts 21% van de organisaties heeft maatregelen genomen in verband met de EU AI Act.
De meerderheid van de in het onderzoek ondervraagde recruiters (64%) hebben een positief beeld van A.I., dat vooral te danken is aan de tijdwinst en verbeterde efficiëntie. Er zijn ook bedenkingen, vooral over het menselijk contact, de betrouwbaarheid van de resultaten en het risico dat bestaande vooroordelen worden gereproduceerd. Bovendien heeft slechts 21% van de organisaties maatregelen genomen in verband met de wetgeving inzake A.I., ook al heeft de EU AI-act het label ‘hoog risico‘ toegekend aan systemen die in selectieprocessen worden gebruikt, met specifieke vereisten die moeten worden geïmplementeerd.
Aanbevelingen
Naar aanleiding van deze studie heeft het Instituut een aantal aanbevelingen geformuleerd:
- Versterk het juridisch kader, door de oorspronkelijke bepalingen van de Europese AI-verordening te behouden en een analyse te maken van de geschiktheid van het wettelijke kader rond antidiscriminatie in de context van recruitment en werk in het tijdperk van A.I.
- Vergroot de kennis door middel van voorlichtings- en opleidingsacties voor ontwikkelaars, werkgevers en wervingsprofessionals.
- Omkader het gebruik van A.I. op organisatorisch niveau, met name via intern beleid.
- Integreer het principe van Equality by Design in de ontwikkeling van A.I.-systemen.
‘Het gebruik van A.I. bij werving en selectie is intussen goed ingeburgerd’, aldus Stevens. ‘De toepassing ervan vergt echter een duidelijke omkadering en extra waakzaamheid om te vermijden dat de beloofde objectiviteit een vrijgeleide wordt voor het systematisch (re)produceren van genderongelijkheden. Om van A.I. een echt instrument voor gelijkheid en diversiteit in de wereld van werk te maken, is het cruciaal om overheidsregulering, de verantwoordelijkheid van alle betrokkenen en permanente vorming te combineren.’
Meer lezen?
Download hier het hele onderzoek:
Lees de hele studieMeer weten?
De Belgische onderzoekers hebben ook gekeken welke ATS’en recruiters veel gebruiken. Sta je op het punt een nieuw ATS te selecteren of twijfel je of jullie huidige systeem nog wel past bij de ambities van de organisatie? Donderdag 12 februari is er in Rotterdam een exclusief event met Patrick Boonstra en Daan Huisman van Recruitment Tech Masters over welke keuzes hierbij allemaal komen kijken.