Is A.I. de veroorzaker van bias in recruitment, of juist de oplossing ervoor?

Bias in recruitment is hardnekkig, onbewust en vaak al aanwezig voordat een kandidaat überhaupt is gesproken. Volgens Frans onderzoek ontstaat maar liefst 85% van alle bias al vóór het eerste gesprek, vooral in de cv-selectie. Het is dus niet zo dat het met de komst van A.I. voor het eerst in het recruitmentproces is binnengeslopen, integendeel zelfs. Maar A.I. heeft er recent wel weer meer de nadruk op gelegd. Gaat A.I. dit soort bias en arbeidsdiscriminatie alleen maar verergeren, omdat het getraind is op biased data? Of kan het onterechte menselijke vooroordelen in recruitment juist tegengaan?

Gaat A.I. bias alleen maar verergeren, omdat het getraind is op biased data?

Een nieuw whitepaper van Digitaal-Werven, gesponsord door Selection Lab, Textmetrics, SoftMatch en TA Audit Institute, probeert daar antwoord op te geven. Daaruit blijkt bijvoorbeeld dat als je A.I. alleen maar laat kijken naar cv’s, dat dan veel bias gewoon blijft bestaan. De voorspellende waarde van een cv is nu eenmaal laag, zo is al vaak gebleken. En daar verandert eigenlijk bar weinig aan als je er niet met een mensenoog naar kijkt, maar met een algoritme. Dus A.I. laten kijken naar het hele cv en dan te trainen op hires zal altijd biased zijn. En dat blijkt ook elke keer, zo meldt Bas van de Haterd, auteur van de whitepaper.

‘Top’ of ‘goed’?

Maar er zijn ook andere manieren om A.I. wél nuttig in te zetten. Bijvoorbeeld om je menselijke selectie op bias te testen. Of om een cv om te zetten naar een skills-profiel en dat te matchen met een profiel dat je als recruiter met de hiring manager samen hebt bepaald. Je kunt A.I. ook naar vacatureteksten laten kijken en op basis van de data kun je dan zien wat aantrekkelijk is voor vrouwen, ouderen en etnische minderheden, of hen juist afstoot. Het gevolg is dat A.I. je vervolgens dus kan helpen dat soort termen te gebruiken of juist te ontwijken, zodat je bias in het begin van het proces vermindert.

‘Bias heeft de onhebbelijke neiging zichzelf te versterken.’

En dat is nuttig, want bias heeft de onhebbelijke neiging zichzelf te versterken, aldus Van de Haterd. ‘Een tekst die meer gericht is op mannen zal door algoritmes
zoals die van Facebook en Instagram meer getoond worden aan mannen, omdat deze clicks optimaliseren.’ En dat gaat vaak subtiel, zo blijkt. ‘Mannen gebruiken bijvoorbeeld vaker het woord “top”, vrouwen noemen iets eerder “goed”. Een kleine nuance maar met grote invloed op wie zich eerder aangesproken voelt en gemotiveerd is om te solliciteren!’ Juist daarom is bias ook vaak zo lastig te herkennen, stelt de whitepaper.

Interview Intelligence

In de fase van de sollicitatiegesprekken kan de zogenoemde Interview Intelligence steeds beter uitkomst bieden tegen bias en de onderbuik. ‘Er zijn verschillende leveranciers op dit gebied actief zoals Metaview en Brighthire en de Nederlandse partijen als In2Dialog en Carv. ‘De meeste tools hebben specifieke, unieke bias-indicatoren die ze kunnen aangeven. Zoals gelijkheid in tonaliteit. We vinden mensen die ‘zoals ons spreken’ namelijk vaak beter passen. Dit soort A.I.-tools kan zulke bias verlagen omdat ze iedereen op dezelfde manier beoordelen en ze alles horen.’

‘Alleen als A.I. ethisch ontwikkeld, zorgvuldig getraind én continu gecontroleerd wordt, helpt het echt bij eerlijker werven.’

Eigenlijk kun je zo elk onderdeel van het recruitmentproces benaderen, van de eerste werving tot preselectie, de gesprekken en de eventuele assessments, stelt Van de Haterd. Voor elk van deze fases ligt bias namelijk altijd op de loer, maar blijkt er inmiddels ook steeds betere (A.I.-)tooling beschikbaar om dit soort vooroordelen te ondervangen of te verminderen. ‘A.I. is geen magische oplossing’, blijkt daarbij elke keer weer. En dus is het ook niet zo dat A.I. altijd zorgt voor bias, of juist altijd bias voorkomt, is de conclusie. ‘Alleen als A.I. ethisch ontwikkeld, zorgvuldig getraind én continu gecontroleerd wordt, helpt het echt bij eerlijker werven.’

Meer weten?

Download de hele whitepaper over A.I. en bias via:

Meer horen? 

Op 28 oktober vindt AI & Talent plaats, hét event waar de toekomst van HR en recruitment centraal staat. Welke onderwerpen wil jij dat daar de revue passeren? En wie of welke organisatie zou je daar graag eens op het podium zien en horen? Laat het weten via onderstaand formulier:

Lees ook

• De 4 grootste bedreigingen voor vacaturebanken, in tijden van A.I.