Waarom is 'Computer says NO' eigenlijk zo eng?

De meeste mensen willen nog steeds liever worden afgewezen (of aangenomen) door een mens dan door een machine. Waarom eigenlijk? Algoritmes zouden toch ook kunnen behoeden voor een verkeerde keuze van baan?

Peter Boerman Op 05 november 2019 Gem. leestijd 3 min210x gelezen
Deel dit artikel:
Waarom is 'Computer says NO' eigenlijk zo eng?

Hoe meer ik lees en zie over de rol van artificial intelligence in recruitment, hoe meer me twee dingen duidelijk worden:

  1. We staan pas aan het begin van de mogelijke toepassing van AI.
  2. Er is ontzettend veel – onterechte – angst voor die toepassingen.

Deze twee constateringen hangen natuurlijk met elkaar samen. Maar je kunt je ook afvragen: waar komt die angst precies vandaan?

‘Diep verontrustend’

De Washington Post pakte er recent nog groots mee uit. ‘Diep verontrustend’ schreven ze over het algoritme van HireVue, dat kandidaten rangschikt op basis van hun gezichtsbewegingen, woordkeuze en stemgeluid. Een wetenschapper noemde het algoritme zelfs ‘een vergunning om te discrimineren’. En ook Business Insider deed recent nog eens een duit in het zakje door experts aan te halen die AI ‘net zo discriminerend vinden als de mensen die de algoritmes voeden.’

Algoritmes, zo stellen de ‘experts’, zijn nog lang niet goed genoeg om een rationele selectiekeuze op te baseren.

Algoritmes, zo stellen de ‘experts’ eigenlijk, zijn nog lang niet goed genoeg om een rationele selectiekeuze op te baseren. Dus waarom zou je ze gebruiken? Maar dat is natuurlijk ook een vraag die je kunt omdraaien. Want als ze niet goed genoeg zijn, waarom zou je dan beter helemaal níets kunnen gebruiken? We weten immers dat de menselijke selectie ook verre van rationeel is. Waarom zou je dan niet je aandacht richten op het verbéteren van de algoritmes?

Brave New World

In het – overigens prachtig gerestaureerde – Museum Naturalis in Leiden werd de afgelopen dagen volop geconfereerd over hoe technologie ons leven verandert. Onder de noemer ‘Brave New World’ en onder leiding van TEDxAmsterdam-oprichter Jim Stolze ging het onder meer over onderwerpen als: kinderen maken op bestelling, het hacken van het menselijk brein en ‘virtual consciousness.’

In Museum Naturalis werd de afgelopen dagen volop geconfereerd over hoe technologie ons leven verandert.

Er was ook een klein hoekje ingeruimd voor een tentoonstelling over de impact van AI op de arbeidsmarkt. Vier (teams van) kunstenaars gaven daar – op uitnodiging van Medialab SETUP en de NSVP (Nederlandse Stichting voor Psychotechniek) –  een inkijkje in hoe zij aankeken tegen de toenemende rol van algoritmes. Dat leverde installaties op die varieerden van een robot die altijd ‘ja’ zegt tot het duo ‘Algje het Algoritme’ en ‘Ed de dataset’ tot een dystopisch scenario waarbij het fictieve bedrijf Corpo werelddominantie heeft, en menselijke arbeid vrijwel uitgestorven is.

De selectieautomaat

Maar de leukste en meest interessante installatie was waarschijnlijk die van de ‘selectieautomaat’: een oude betaaltelefoon die je van de haak kon halen, waarna een klein script begon (foto boven). Aan de machine was meegewerkt door recruiters als Kasia Schiller, Niels Hogenhout, Saskia Nijs en Jiska de Ligt, zo viel in het bijbehorende boekje te lezen. Verrassend was vooral het uitgewerkte script dat er bij zat, en dat na de naam van de kandidaat meteen gevraagd werd om… diens leeftijd. Alsof daarmee niet meteen bias het proces in komt sluipen.

Voor het ontwerp van de selectieautomaat hadden de kunstenaars eerst een klein online onderzoek gedaan. Centrale vraag was daarbij: wat verstaan mensen onder het begrip ‘sollicitatiegesprek’? Daar kwam in eerste instantie een beeld uit van ‘mannen in pak’, ‘aan de andere kant van de tafel’, meestal bij ‘een westerse multinational’ in ‘hoge kantoorpanden’. Vervolgens ging antropoloog Jeroen de Vos bij 8 recruitmentprofessionals te rade over hoe zij momenteel in de praktijk hun sollicitatiegesprekken inrichten (en wat de rol van automatisering daarbij is).

Het sollicitatiegesprek is nog altijd het cruciale beslismoment in de meeste selectieprocedures.

Daaruit bleek niet alleen dat zij allemaal nog steeds veel waarde hechten aan dit gesprek, maar ook dat ze er nog zelden een geautomatiseerde methode voor gebruiken. Soms wél om kandidaten vooraf te testen, maar het sollicitatiegesprek blijft nog altijd het cruciale beslismoment, zo ondervond De Vos.

Is geautomatiseerd ook beter?

De kunstenaars (maker Vincent Hoenderop en coder Joost Helberg) vroegen zich vervolgens af: is een geautomatiseerde selectie een bétere selectie? En die vraag, daar kwamen ze niet zomaar uit. Aan de ene kant kun je er namelijk vooroordelen mee uitsluiten, zeggen ze.

Maar aan de andere kant: ‘Beloften van AI-powered werving en selectie zijn niet zo transparant en objectief als men graag gelooft.’ Bias sluit je er immers niet automatisch mee uit, maar kun je er soms zelfs mee versterken (zoals we in de praktijk ook al zagen bij Amazon).

Zou de automaat jou aannemen?

Dus: wordt selectie er beter van als je het automatiseert? Het heeft allemaal te maken met de prikkelende vraag die de installatie daarnaast ook stelt: ‘Zou je nog steeds aangenomen zijn voor je huidige baan als je had moeten solliciteren met de selectieautomaat?’

Automatisering zou je voor je huidige baan kunnen afwijzen. Maar het kan ook méér kansen bieden.

Een terechte en boeiende vraag natuurlijk (waar ik in mijn eigen geval ook zeker niet het antwoord op durf te geven). Maar het is tegelijk ook een bedrieglijke vraag. Want in nagenoeg iedere sollicitatieprocedure zijn nog steeds meer afwijzingen dan aannames, zelfs in de huidige krappe arbeidsmarkt. En er is dus ook altijd een andere kant van de medaille. Automatisering zou er inderdaad voor kunnen zorgen dat je voor je huidige baan zou zijn afgewezen. Maar het had je tegelijk ook méér kansen kunnen bieden in andere procedures. In procedures waar je nu ooit bent afgewezen. En misschien zelfs in procedures waar je zelf niet eens hebt aangegeven dat je kandidaat bent, maar waar het algoritme dat voor je zou hebben bepaald. Omdat je juist zo goed past bij wat gezocht wordt. Zonder dat je het misschien zelf zou inschatten.

Mens of machine: wat is erger?

Met andere woorden: is het erger dat een machine iedereen van onder de 30 jaar of met een ‘vreemde achternaam’ automatisch afwijst? Of is het erger als de recruiter of de hiring manager de cv’s van oudere of allochtonen ongezien terzijde legt, waarna zij alleen nog een nietszeggend briefje krijgen: ‘U past niet in het gezochte profiel’? Afwijzen is nooit leuk (zie het dilemma van deze week). En ik denk zelf dat de meeste mensen nog steeds liever een afwijzing horen van een mens dan van een machine.

Ik denk dat de meeste mensen nog steeds liever een afwijzing horen van een mens dan van een machine.

Maar als het erom gaat wie precies voor die afwijzing verantwoordelijk is? Dan weet ik het zo net nog niet. Is het die recruiter die vagelijk uitlegt dat ‘andere kandidaten beter aan de voorwaarden voldeden’, of andere feedback waarmee je in de praktijk zelden iets kunt? Of is het toch de duidelijk meetbare rankingscore die de (fictieve) ‘selectieautomaat’ laat zien? Ik denk dat ik zelf de voorkeur aan de laatste zou geven, vanwege de (veronderstelde) grotere objectiviteit, ook al zijn ook bij algoritmes nog zelden de precieze criteria duidelijk.

Pas aan het begin

Ik begon dit verhaal niet alleen met de – mijns inziens onterechte – angst voor AI, maar ook met de constatering dat we ‘pas aan het begin staan van alle mogelijke toepassingen’ in recruitment en ‘algoritmisering van de arbeidsmarkt‘. Tentoonstellingen als die van deze week in Naturalis laten dat nog eens duidelijk zien. Daaruit blijkt dat we in recruitment nog steeds vrij weinig weten. We weten bijvoorbeeld nauwelijks wat het is dat ervoor zorgt dat de ene productief is en de ander veel minder. En vaak kijken we naar wie actief solliciteert, maar hebben we nauwelijks zicht op wie níet solliciteert (en waarom). Bovendien weten we ook zelden wat nodig is als we effectieve teams willen samenstellen.

Als het eerlijker gaat dan het nu gaat, dan gaan we toch ook vooruit?

Dat maakt het allemaal moeilijk om nu al goede algoritmes voor onze selectieprocessen in te richten. En dus is het ook heel goed dat onder meer kunstenaars daar vragen bij stellen. Maar die vragen horen wat mij betreft net zo goed bij het traditionele sollicitatieproces, waarbij vaak een min of meer willekeurige selectie plaatsvindt. Nee, de machines zijn nu nog lang niet zo goed dat ze eerlijk kunnen selecteren. Maar als het eerlijker gaat dan het nu gaat, dan gaan we toch ook vooruit? Dus wat mij betreft: weg met die angst voor het algoritme. Laten we juist profiteren van de betere matching die erdoor beloofd wordt. En laten we vooral verder gaan met onderzoeken hoe dat zo snel mogelijk nóg beter kan. En laten we in de tussentijd ons vooral inspireren door de kunst die eromheen gemaakt wordt.

Lees ook:

Tags:
Deel dit artikel:
Peter Boerman

Peter Boerman

Hoofdredacteur bij Werf&
Hij heeft eigenlijk nog nooit een vacature uitgezet. En meer sollicitatiegesprekken gevoerd als kandidaat dan als recruiter of werkgever. Toch schrijft Peter Boerman alweer een jaar of 10 over weinig anders dan over de wondere wereld van werving en selectie, in al zijn facetten
Bekijk volledig profiel

Premium partners Bekijk alle partners

Academie voor Arbeidsmarktcommunicatie
Bullhorn
Cammio
Carerix
Compagnon
EN HR solutions
Indeed
Intelligence Group
Jobrapido
Macknificent
Maximum
Nr29
Recruiters United
RecruitNow
Saba Lumesse
Steam
Talmark
Vakmedianet

Lees elke dinsdag en donderdag de gratis Werf& Nieuwsbrief. Mis niets van wat gebeurt op het gebied van arbeidsmarktcommunicatie en recruitment.

  • Ik kan me op ieder moment weer afmelden en mijn gegevens worden niet verstrekt aan derden.