Het artikel gaat hieronder verder.
Deze week werd bekend dat een Amerikaanse rechter een discriminatiezaak tegen HR-softwareleverancier Workday inhoudelijk laat behandelen. De zaak draait in feite om de vraag of A.I.-gestuurde selectietools sollicitanten kunnen benadelen op basis van kenmerken als (in dit geval) leeftijd, gezondheid of achtergrond. Wat betekent deze ontwikkeling voor Nederlandse recruiters en HR-professionals? We vroegen het Laura Brandwacht, partner bij Data & AI Consultancy Rewire, afgestudeerd in Toegepaste Wiskunde en gespecialiseerd in de menselijke kant van A.I., leiderschap en inclusiviteit.
> Wat moeten Nederlandse recruiters van deze zaak weten?
‘Wat ik interessant vind aan deze zaak, is dat de discussie verschuift van ‘wat kan A.I.?’ naar ‘wie is verantwoordelijk voor de uitkomsten?’. Die vraag gaat Nederlandse organisaties vroeg of laat ook raken. Steeds meer organisaties gebruiken A.I. binnen recruitment, bijvoorbeeld voor het screenen van cv’s, matching of communicatie met kandidaten. Juist daarom is het belangrijk om te beseffen dat A.I. niet losstaat van de keuzes die mensen maken.
‘Het is belangrijk om te beseffen dat A.I. niet losstaat van de keuzes die mensen maken.’
Maar je kunt alleen verantwoordelijkheid nemen voor A.I. als je ook begrijpt hoe A.I. ongeveer werkt, en je de juiste vragen kunt stellen, de beperkingen kunt begrijpen en bewuste keuzes kunt maken. Dat is geen theoretische discussie. In Nederland kennen we allemaal de toeslagenaffaire. Internationaal was er bijvoorbeeld al eerder de Amazon-zaak, waar een A.I.-model vrouwen structureel lager beoordeelde voor technische functies. De technologie verandert, maar de onderliggende vraag blijft dezelfde: hoe zorgen we dat A.I. bestaande ongelijkheid niet onbedoeld versterkt?’
> Je hoort vaak dat A.I. objectiever is dan mensen. Klopt dat?
‘Niet automatisch. A.I. heeft geen emoties of persoonlijke voorkeuren, maar dat betekent niet dat het objectief is. A.I. leert van data en optimaliseert voor doelen die wij als mensen hebben gekozen. De grootste misvatting is dat A.I. betere of objectievere beslissingen neemt dan mensen. Het genereert voorspellingen en aanbevelingen op basis van patronen uit het verleden. Welke data worden gebruikt, waarop het model optimaliseert en hoeveel gewicht je aan een A.I.-advies geeft, zijn allemaal menselijke keuzes. A.I. neemt die keuzes niet van ons over. Het maakt de consequenties van onze keuzes alleen veel zichtbaarder én schaalbaarder.’
> Waar komen die vooroordelen zoals bij Workday vandaan?
‘Vooroordelen ontstaan meestal niet doordat een systeem bewust discrimineert. Ze ontstaan doordat A.I. leert van bestaande gegevens. Voorheen ging de discussie vooral over de vraag of een model expliciet variabelen zoals geslacht of afkomst gebruikte. Inmiddels zijn A.I.-modellen veel slimmer geworden. Ook zonder die variabelen kunnen ze patronen herkennen die sterk samenhangen met bijvoorbeeld geslacht of achtergrond, via opleiding, woonplaats, nevenactiviteiten of zelfs een studentenvereniging. Alleen controleren of ‘verboden variabelen’ ontbreken, is daarom allang niet meer voldoende.’
> Vormt A.I. een risico voor diversiteit en inclusie?
‘A.I. biedt kansen én risico’s. Het kán processen consistenter maken en helpen om menselijke vooroordelen te verminderen. Tegelijkertijd kan het bestaande patronen versterken wanneer organisaties niet kritisch kijken naar de data, de doelstellingen en de uitkomsten. Maar de belangrijkste vraag is misschien wel: wat vinden wij eigenlijk eerlijk? Dat klinkt als een technische vraag, maar dat is het niet.’
‘De belangrijkste vraag is misschien wel: wat vinden wij eigenlijk eerlijk? Dat klinkt als een technische vraag, maar dat is het niet.’
‘Stel dat 10% van alle mannelijke en 10% van alle vrouwelijke sollicitanten doorgaat naar de volgende ronde. Is dat dan eerlijk? Of weet je dat vrouwen veel minder vaak solliciteren op technische functies en wil je juist relatief meer vrouwen uitnodigen? Of heb je als organisatie bewust de ambitie om meer vrouwelijke engineers aan te nemen? A.I. kan zulke keuzes niet maken. Dat is geen wiskundige berekening, maar een leiderschapskeuze.’
> Wat zou jij kiezen?
‘Historisch zijn veel leiderschapsfuncties ingevuld door mannen. Als A.I. leert van historische promotie- en selectiegegevens zonder dat iemand kritisch kijkt naar die patronen, bestaat het risico dat systemen onbedoeld dezelfde voorkeuren blijven reproduceren. Als bepaalde groepen ontbreken in de data of als ontwerpteams onvoldoende divers zijn, zie je dat uiteindelijk terug in de uitkomsten. Daarom zie ik diversiteit ook niet als een HR-thema, maar als een strategisch vraagstuk dat direct raakt aan de kwaliteit van A.I.’
> Hoe herken je als recruiter ongewenste patronen in een A.I.-systeem?
‘Ik zou beginnen met een simpele vraag: kunnen we uitleggen waarom dit systeem tot deze aanbeveling komt? Als bepaalde groepen structureel minder vaak door een selectieproces komen, als aanbevelingen moeilijk uit te leggen zijn of als niemand begrijpt waarom een kandidaat wordt afgewezen, zijn dat belangrijke signalen. Maar daarvoor moeten recruiters ook voldoende begrijpen van A.I. Je hoeft geen data scientist te worden, maar je moet wel begrijpen hoe A.I. tot aanbevelingen komt. Pas dan kun je A.I. echt kritisch gebruiken in plaats van blind vertrouwen.’
> En wat is de verantwoordelijkheid hierin van de leverancier?
‘Leveranciers spelen een belangrijke rol, maar de verantwoordelijkheid blijft uiteindelijk bij de organisatie zelf. Ik vergelijk het wel eens met een navigatiesysteem. Dat kan uitstekende adviezen geven, maar als je met je auto blind een afgesloten brug oprijdt, blijft de bestuurder verantwoordelijk. Zo werkt het ook met A.I.
‘Als je met je auto blind een afgesloten brug oprijdt, blijft je als bestuurder ook verantwoordelijk.’
Daag leveranciers wel uit. Vraag niet alleen welke data ze gebruiken, maar vooral hoe ze aantonen dat hun model niet discrimineert. Welke testen voeren ze uit? Hoe monitoren ze bias nadat het systeem live is? Hoe vaak evalueren ze de prestaties? Een lijstje met inputvariabelen zegt tegenwoordig nog maar heel weinig.’
> Zijn er certificeringen of keurmerken waar je als recruiter op kunt letten?
‘De EU AI Act helpt organisaties straks met meer transparantie en documentatie, zeker voor A.I.-systemen in recruitment. Dat is een belangrijke stap. Maar een certificering is nooit een garantie. Uiteindelijk gaat verantwoord A.I.-gebruik niet over een vinkje achteraf, maar over continu monitoren of een systeem nog steeds doet wat je ervan verwacht.’
> Welke rol blijft er over voor recruiters?
‘Ik denk zelf dat de rol van recruiters belangrijk blijft. A.I, neemt misschien routinematige werkzaamheden over, waardoor recruiters meer tijd krijgen voor datgene wat moeilijk in data te vangen is: potentieel herkennen, motivatie begrijpen, context meewegen en kandidaten begeleiden. Recruitment gaat uiteindelijk niet over bepalen wie gisteren succesvol was. Het gaat over het herkennen van wie morgen succesvol kan worden.’
> Een mens heeft ook vooroordelen, net als A.I.
‘Een algoritme is misschien consistenter dan een mens. Maar consistentie is niet hetzelfde als rechtvaardigheid. Een systeem kan heel consequent hetzelfde verkeerde patroon blijven toepassen. De vraag is daarom waarop het systeem eigenlijk optimaliseert. Welke waarden vinden wij belangrijk? Welke risico’s accepteren we? En welke uitkomst vinden we eerlijk? Dat zijn geen technische vragen. Dat zijn keuzes die organisaties en leiders zelf moeten maken.’
> Wat is je belangrijkste advies aan recruiters die met A.I. experimenteren?
‘Begin niet met de vraag welke A.I.-tool je wilt gebruiken. Begin met de vraag welke beslissing je eigenlijk probeert te verbeteren. En durf ook verder te kijken dan de klassieke discussie ‘A.I. adviseert, de mens beslist’.
‘Durf verder te kijken dan de klassieke discussie ‘A.I. adviseert, de mens beslist’.’
Voor sommige beslissingen kan A.I., met de juiste guardrails, monitoring en duidelijke verantwoordelijkheden, steeds autonomer opereren. Voor andere beslissingen, zeker als de impact op mensen groot is, wil je meer menselijke betrokkenheid houden. De echte vraag is dus niet óf A.I. beslissingen mag nemen. De vraag is: welke beslissingen vertrouw je aan A.I. toe, onder welke voorwaarden en hoe blijf je als organisatie verantwoordelijk voor de uitkomsten?’
> Welke ontwikkeling rondom A.I. baart je momenteel de meeste zorgen?
‘Dat organisaties A.I. nog te vaak behandelen als een technologieproject. Uiteindelijk bepalen niet de modellen, maar leiderschap, A.I.-geletterdheid, vertrouwen en goed ingerichte verantwoordelijkheden of AI succesvol én verantwoord wordt ingezet.’
‘A.I. dwingt organisaties om veel bewuster na te denken over wat zij onder eerlijke besluitvorming verstaan.’
‘Ik ben aan de andere kant blij om te zien dat steeds meer organisaties beseffen dat technologie en menselijkheid geen tegenstelling vormen. Als A.I. routinematig werk overneemt, ontstaat juist meer ruimte voor creativiteit, samenwerking, empathie en strategische besluitvorming. A.I. maakt recruitment niet automatisch eerlijker. Maar het dwingt organisaties wel om veel bewuster na te denken over wat zij onder eerlijke besluitvorming verstaan. En dat vind ik misschien wel de belangrijkste ontwikkeling van allemaal.’
Lees ook