Amazon verwijst een ‘selectierobot’ met een voorkeur voor mannen naar de prullenbak. Goed nieuws, aldus Bas van de Haterd: de robot zegt namelijk meer over de waarde van het cv als selectiemiddel dan over AI.
Amazon werkte de afgelopen jaren in het diepste geheim aan een selectie-algoritme. Op basis van cv’s en eerdere selectie van de honderdduizenden mensen die voor Amazon werken deed het algoritme aanbevelingen over wie je moest aannemen.
Onderwaardering van vrouwen
Het bedrijf startte het project in 2014, maar Reuters schrijft dat Amazon er al in 2015 achterkwam dat dit algoritme een serieuze onderwaardering van vrouwen had. Was het voor het systeem bijvoorbeeld een plus als je ‘voorzitter van de schaakclub’ op je cv had staan, zodra er ‘voorzitter van de vrouwenschaakclub’ stond bleek dit juist een min op te leveren.
‘wat amazon ook probeerde, het lukte deze ai niet discriminerend aannamebeleid te voorkomen’
Amazon heeft wel geprobeerd dit te corrigeren, maar wat het ook probeerde, het bleek geen garantie dat discriminerend aannamebeleid voorkomen kon worden. Uiteindelijk geloofde het bedrijf dan ook niet meer dat het systeem zou kunnen gaan werken. Vorig jaar werd de stekker er daarom definitief uitgetrokken, vertellen ingewijden aan Reuters.
Amazon is nu niet meteen seksistisch
De vraag is: wat zegt dit nu precies? Het zegt níet dat de mensen bij Amazon seksistisch zouden zijn. Er zijn bijvoorbeeld nu eenmaal veel meer mannelijke dan vrouwelijke programmeurs. Als dit al te maken heeft met seksisme, dan is dat eerder ‘maatschappelijk seksisme’. Als een jongetje op school een onvoldoende voor wiskunde haalt, krijgt hij te horen dat hij beter zijn best moet doen. Maar als een meisje een onvoldoende haalt, hoort ze eerder ‘dat het toch ook wel heel moeilijk is….’
Dat Amazon heeft besloten het project definitief naar de prullenbak te verwijzen is lovenswaardig. Maar de vraag is of artificial intelligence eigenlijk wel het probleem was in deze. Het algoritme deed immers niets anders dan menselijk gedrag nabootsen. En laten we eerlijk zijn, kijk eens om je heen. Zijn al je collega’s een perfecte afspiegeling van de maatschappij op basis van geslacht, etniciteit, leeftijd en seksuele voorkeur?
Wat zegt een cv eigenlijk?
De vraag die de Amazon-casus opwerpt is voor mij dan ook meer: kunnen we eigenlijk wel selecteren op basis van cv’s? Mensen die mij kennen weten dat mijn antwoord daarop een ondubbelzinnig nee is. Een cv vertelt me (hooguit) wat je gedaan hebt, voor wie en hoe lang. De twee belangrijkste voorspellers van toekomstig succes ontbreken echter. Hoe goed deed je dat, en onder welke omstandigheden?
‘Het probleem ligt wat mij betreft niet in de AI, maar in het gebruik van de verkeerde data’
Het probleem ligt wat mij betreft dus niet in de AI. Het ligt eerder in het gebruik van de verkeerde data. Namelijk: data die weinig tot geen voorspellende waarde hebben. Het gaat in plaats daarvan om data op basis waarvan we in het verleden – doorgaans, onbewust, bevooroordeelde – besluiten hebben genomen.
Laten we daarom dankbaar zijn
We moeten dus gaan nadenken over betere manieren om te selecteren. Denk aan karaktertesten en assessments die daadwerkelijke kwaliteiten meten. De wereldwijde recruitment-community moet Amazon dan ook dankbaar zijn. Zowel voor het proberen of AI op basis van cv’s beter kan selecteren als voor het besluit het project te schrappen.
‘als zelfs de Amazon-developers dit niet aan de praat krijgen, is het redelijk zeker dat het ook niet kán werken’
Want als zelfs de geniale Amazon-developers dit niet aan de praat krijgen, kunnen we er redelijk zeker van zijn dat het ook niet kán werken. Laten we daarom op zoek gaan naar betere manieren om mensen te selecteren. Naar manieren die niet discrimineren. Manieren waarin onze menselijke (onbewuste) vooroordelen niet de doorslag geven bij een aanname. Laten we op zoek gaan naar data en algoritmes die niet ons gedrag nabootsen, maar ons waarschuwen voor onze (onbewuste) vooroordelen.
Over de auteur van dit blog
Bas van de Haterd is onder meer initiatiefnemer van Digitaal-Werven, een jaarlijks onderzoek naar welke organisatie aan kandidaten de beste digitale sollicitatie-ervaring biedt, en op 16 oktober een van de keynote sprekers op het Werf& Selectie Jaarcongres.
Foto boven: Jeff Bezos, ceo van Amazon, in 2010
