Het artikel gaat hieronder verder.
In 7 jaar tijd had hij meer dan 100 sollicitaties de deur uitgedaan. Maar steeds kreeg Derek Mobley nul op het rekest. Zou dat iets met zijn afkomst of leeftijd te maken kunnen hebben? En zou het ermee te maken kunnen hebben dat hij steeds solliciteerde via het systeem van Workday, vroeg hij zich toen af. Mobley diende daarop een claim in bij de federale rechtbank in Californië tegen het HR-platform, maar die laatste verzocht op zijn beurt de zaak te seponeren. Workday was toch immers niet de werkgever die de beslissingen nam over de aannames? Ze boden ‘slechts’ een algoritme, zo was de stelling van het bedrijf.
Veel sollicitanten kregen via Workday-systemen razendsnel een afwijzing in de bus.
Maar de rechtbank blijkt het daar niet mee eens, en stond juli vorig jaar aan Mobley toe zijn rechtszaak voort te zetten. Waarop hij in februari 2025 verzocht om zijn claim wegens leeftijdsdiscriminatie uit te breiden naar een collectieve rechtszaak (vergelijkbaar met een class action-proces). En dat betekent kort gezegd weer dat miljoenen andere Amerikaanse sollicitanten ouder dan 40 zich bij deze rechtszaak zouden kunnen aansluiten. Iets waar de districtsrechter afgelopen week ook toestemming voor gaf.
Mogelijk grote impact
De afloop van die zaak is natuurlijk nog ongewis. Maar nu al zien velen het als een bedreiging voor het gebruik van A.I.-algoritmes in de wereld van recruitment, een beetje zoals die zaak van Amazon een aantal jaar geleden. En mogelijk is hier de impact nog wel groter, omdat duizenden (Amerikaanse, maar ook Europese) bedrijven de A.I.-tools van Workday gebruiken om sollicitanten te screenen en al dan niet af te wijzen of door te geleiden. Ook de EEOC, de Amerikaanse anti-discriminatiedienst, heeft zich al op de zaak gestort, en geoordeeld dat Workday in elk geval voor de selectie verantwoordelijk is.
Ook de Amerikaanse anti-discriminatiedienst heeft zich al op de zaak gestort.
De uitkomst van de rechtszaak zou niet alleen voor Workday heel kostbaar kunnen worden, maar ook een precedent kunnen scheppen voor de vraag of en hoe bedrijven algoritmes en kunstmatige intelligentie kunnen gebruiken bij het nemen van beslissingen over het aannemen van personeel, zo is de algemene opinie. Mobley staat overigens ook al lang niet meer alleen. Sinds hij naar buiten kwam met zijn aanklacht, voegden in elk geval al 4 andere 40-plussers zich bij hem, die allemaal stelden soms al binnen enkele minuten een afwijzing te hebben gekregen na een sollicitatie, en dan doorgaans vanuit een Workday-ATS.
‘Gevaar voor ergere discriminatie’
In Europa heeft de AI Act al gereguleerd dat recruitment onder het zogenoemde high risk valt, en dat daardoor de gebruikte algoritmes aan strenge voorwaarden gebonden zijn. In Amerika gelden vooralsnog andere regels, maar heeft de American Civil Liberties Union bijvoorbeeld al wel ervoor gewaarschuwd dat A.I.-werving- en selectietools ‘een enorm gevaar vormen voor het verergeren van bestaande discriminatie op de werkvloer’.
‘We blijven van mening dat deze zaak ongegrond is’, stelt Workday zelf.
Workday ontkent echter dat zijn technologie discriminerend is. In een verklaring merkte een woordvoerder van het bedrijf op dat de recente uitspraak een ‘voorlopige, procedurele uitspraak is … die gebaseerd is op beschuldigingen, niet op bewijs’. ‘We blijven van mening dat deze zaak ongegrond is’, aldus de woordvoerder. ‘We vertrouwen erop dat zodra Workday zich met de feiten mag verdedigen, de vorderingen van de eiser zullen worden afgewezen.’
HiredScore
Workday wordt wereldwijd door meer dan 11.000 organisaties gebruikt. Elke maand worden miljoenen vacatures geplaatst met behulp van de technologie van het bedrijf. Workday biedt ook een dienst aan genaamd HiredScore AI, die volgens het bedrijf zelf gebruikmaakt van ‘verantwoorde AI’ om topkandidaten te beoordelen en de tijd die recruiters besteden aan het screenen van sollicitaties te verkorten. In zijn verdediging tegen de beschuldigingen in de rechtszaak beweert Workday dat het ook geen potentiële werknemers voor klanten screent en dat de technologie geen beslissingen neemt over het aannemen van personeel.
Maar Mobley beweert dat hij keer op keer werd afgewezen, ondanks zijn cum laude afstuderen aan Morehouse College en zijn bijna 10 jaar ervaring in de financiële, IT- en klantenservicesector. In één geval diende hij om 00:55 uur een sollicitatie in en ontving hij minder dan een uur later, om 01:50 uur, een afwijzing, aldus de bij de rechter ingeleverde documenten. Een andere eiseres, Jill Hughes, zei dat ze op vergelijkbare wijze automatische afwijzingen ontving voor honderden functies, ‘vaak binnen een paar uur na de sollicitatie of op vreemde tijdstippen buiten kantooruren […] wat erop wijst dat de sollicitaties niet door een mens zijn beoordeeld.’
Liever honk- dan softbal
Wat de zaak moeilijk, maar ook interessant, maakt is dat experts zeggen dat A.I.-tools voor recruitment vooringenomenheid en bias kunnen laten zien, zelfs als bedrijven hen nooit hebben opgedragen bepaalde categorieën mensen boven anderen te bevoordelen. Deze systemen worden vaak getraind op de cv’s of profielen van bestaande werknemers – maar als het huidige personeelsbestand van een bedrijf grotendeels uit blanke mannen bestaat, zou de technologie onbedoeld kunnen afleiden dat de meest succesvolle kandidaten die kenmerken zouden moeten bezitten.
Sommige A.I.-tools kunnen bias hebben, zonder dat mensen die hebben ingevoerd.
Zo beschreef Hilke Schellmann, auteur van het boek The Algorithm (niet betrokken bij de rechtszaak tegen Workday) al eens een situatie waarin een andere tool voor cv-evaluatie meer punten toekende aan cv’s met het woord ‘honkbal’ dan aan cv’s met daarop het woord ‘softbal’. ‘Het was een willekeurige baan die niets met sport te maken had en wat er waarschijnlijk gebeurt, is dat de parser van de cv’s die hij analyseerde, misschien een aantal mensen met ‘honkbal’ op hun cv had staan en de tool een statistische analyse uitvoerde en ontdekte: ja, het is absoluut significant’, aldus Schellmann. Maar dus wel discriminatoir.
Credit beeld boven
Lees ook
