Het artikel gaat hieronder verder.
Een meteoriet. Een zaak die alle A.I. in recruitment wel eens illegaal kan maken. Zeker waar het gaat om het verwerken van gegevens van kandidaten. Hoe dan ook een zaak met enorme impact. De superlatieven zijn niet van de lucht, nu een aantal sollicitanten het Amerikaanse Eightfold hebben aangeklaagd omdat het – illegaal – rapporten zou samenstellen die bedrijven gebruiken om sollicitanten te screenen zonder dat zij daarvan weten. Al is het natuurlijk nog afwachten wat de uitkomst van de zaak is, de schrik zit er in elk geval al goed in bij veel van de techpartijen (en de vele investeerders) die in deze branche actief zijn.
Op de eigen site rept het bedrijf verder volop over ‘verantwoordelijke A.I.’
Eightfold houdt zich zelf vooralsnog behoorlijk stil. Mede-oprichter Ashutosh Garg heeft inmiddels wel een boodschap geplaatst over ‘A.I. you can trust‘, als gevolg van ‘Recente berichten over A.I. bij werving en selectie die een debat op gang hebben gebracht over transparantie, gegevensrechten en eerlijkheid’, zonder verder expliciet naar de rechtszaak te verwijzen. Op de eigen site rept het bedrijf verder ook volop over ‘verantwoordelijke A.I.’ en ‘Onze toewijding aan innovatie, technische uitmuntendheid en transparantie, met als doel de wereld om ons heen te verbeteren.’
Introverte teamspeler
Maar daar denken diverse werkzoekenden dus inmiddels heel anders over. Het zijn sollicitanten Erin Kistler en Sruti Bhaumik die er een collectieve actie van maakten, waarin Eightfold wordt beschuldigd van schending van de Fair Credit Reporting Act, een wet die eigenlijk is bedoeld om consumenten het recht te geven om kredietrapporten die worden gebruikt bij leningen in te zien en aan te vechten. Maar de wet strekt zich volgens de aanklagers dus ook uit tot het domein van recruitment, en daarom worden door Eightfold hun rechten geschonden, zo stellen ze.
Beiden denken dat de tools van Eightfold een rol speelden bij hun afwijzing.
Eightfold maakt talentprofielen van werkzoekenden die persoonlijkheidsbeschrijvingen bevatten zoals ’teamspeler’ en ‘introvert’, rangschikt hun kwaliteit van opleiding op een schaal van 0 tot 5 en voorspelt hun toekomstige functietitels en werkgevers, aldus de aanklacht. Kistler solliciteerde naar functies bij verschillende bedrijven die Eightfold gebruiken, waaronder PayPal, en Bhaumik solliciteerde bij bedrijven zoals Microsoft, aldus de klacht. Beiden hebben een natuurkundige of technische opleiding en ruim 10 jaar ervaring. Geen van beiden werd aangenomen, en beiden denken dat de tools van Eightfold daarbij een rol speelden.
Bovendien, zo stellen ze, hebben ze ook nooit bericht gehad dat Eightfold gebruikt werd, en ook nooit de kans gekregen om de gegevens over zichzelf in te zien en eventuele fouten die de A.I.-systemen in hun beoordeling maken aan te vechten. En dat mag niet, aldus de aanklacht, die trouwens niet alleen verwijst naar de FCRA, maar ook naar enkele Californische consumentenbeschermingswetten. ‘Er is geen A.I.-vrijstelling op deze wetten, die al decennialang een essentieel instrument zijn om sollicitanten te beschermen tegen misstanden door derden die winst maken door informatie over en beoordelingen van sollicitanten te verzamelen.’
Niet de eerste
Het is zeker niet de eerste rechtszaak over het gebruik van A.I. in recruitment. Het omstreden HireVue had waarschijnlijk de primeur, maar vorig jaar kwamen daar bijvoorbeeld de Workday-zaak bij, de aanklacht tegen de assessmentmethodes die Aon gebruikt, en de zaak tegen het gebruik van iCIMS-software, die volgens de klager discriminerend zou werken. En ook Hirevue lag vorig jaar opnieuw onder vuur, nadat een dove (inheemse) sollicitant beweerde dat het geautomatiseerde video-interview dat ze hield bij financiële softwareleverancier Intuit niet goed was ondertiteld, waardoor ze ten oprechte op achterstand zou zijn gezet.
‘Als de aanklagers in het gelijk worden gesteld, zijn de gevolgen groot.’
Maar de zaak tegen Eightfold lijkt zo op het eerste gezicht wel wat verstrekkender te zijn en meer impact te gaan maken. Als de aanklagers in het gelijk worden gesteld, zijn de gevolgen waarschijnlijk groot voor zo’n beetje alle systemen die kandidaten en sollicitanten op wat voor manier dan ook beoordelingen meegeven. En laten nu net steeds meer organisaties op dit soort systemen vertrouwen, teneinde wijs te worden aan de stortvloed aan (door A.I. gemaakte) sollicitaties die tegenwoordig vaak op hen afkomt.
Over zichzelf afgeroepen
Eightfold heeft de zaak overigens ook wel een beetje over zichzelf afgeroepen. In marketingmateriaal rept het bedrijf vol trots over ‘de profielen van meer dan 1 miljard werkenden in elke functie, professie, industrie en geografie denkbaar.’ Niet zo moeilijk om te bedenken dat de organisatie níet van al die miljard mensen de expliciete toestemming heeft gekregen om met hun gegevens aan de slag te gaan. En dat het dan ook nog een black box hanteert als het erom gaat wat er met die data precies gebeurt, dat maakt het er natuurlijk ook niet makkelijker op. Zeker niet nu steeds meer van zulke A.I.-systemen ook vaak blijken te hallucineren.
‘Dit bedrijf staat niet boven de wet. Dit is geen wildwest.’
‘Het feit dat dit bedrijf gebruikmaakt van een of andere geavanceerde A.I.-technologie en dat durfkapitaal dit steunt, betekent niet dat het boven de wet staat. Dit is geen wildwest’, aldus David Seligman, directeur van Towards Justice, dat de rechtszaak ondersteunt. ‘A.I.-systemen zoals deze nemen beslissingen die levens veranderen. En wij staan voor een keuze: laten we hen (en hun investeerders) ons voor de gek houden en onze markt kapen? Of zorgen we ervoor dat ze zich aan de wet houden en de meest elementaire zaken zoals eerlijkheid, transparantie en nauwkeurigheid garanderen? Dat is waar deze zaak om draait.’
De meteoriet
Iemand als recruitmentgoeroe Matt Charney ziet de zaak ook als een wake-up call voor de industrie. Hij heeft het over een ‘meteoriet’ die is ingeslagen, een seismic shift, een ‘zeldzame gebeurtenis’ die wel eens kan leiden tot ‘ingrijpende veranderingen in hoe bedrijven werknemers vinden en hoe kandidaten bedrijven vinden’. En hij ziet ook wel kansen voor de aanklagers. ‘Deze rechtszaak voelt niet aan als een willekeurige hinderlaag of ongelukkig misverstand. Het voelt niet aan als een kleinzielige klacht, noch als een poging geld af te troeven, en er lijken geen duidelijke motieven voor wraak te zijn in deze zoektocht naar schadevergoeding.’
Ook volgens Charney gaat het in deze zaak ook echt niet alleen om Eightfold, maar om alle leveranciers in de branche. En ook echt niet alleen om een zaak in Amerika. ‘Het gaat niet over één bedrijf, of zelfs over één product, functie of feature. Het is veel, veel groter dan dat’, schrijft hij. ‘Het is een waarschuwing voor elke leider in talent acquisition dat A.I.-governance nog lang niet is vastgesteld en dat elke aanbieder die beweert dat zijn oplossing volledig compliant is, terwijl het in feite veel te vroeg is om die bewering te doen, daarmee een risico loopt.’
‘Dit líjkt belangrijk’
Maar advocate Heather Bussing nuanceert dat standpunt toch ook wel weer. Op HR Examiner schrijft ze onder meer: ‘Deze zaak lijkt belangrijk, totdat je beseft dat er absoluut niets in de wet staat dat werkgevers verbiedt om beslissingen te nemen op basis van de beschikbare gegevens. Zelfs als ze een beslissing nemen op basis van onvolledige of onjuiste informatie, hoeven ze die beslissing niet te herzien. Ze hoeven de persoon alleen maar de mogelijkheid te geven de informatie te corrigeren, wat op dat moment toch niet meer uitmaakt, omdat de persoon de baan al niet heeft gekregen.’
‘Zelfs als ze besluiten op basis van onvolledige of onjuiste informatie, hoeven werkgevers die beslissing niet te herzien.’
‘Dit is een eenmalige gebeurtenis die een tijdje zal voortduren en dan weer verdwijnt. Er zullen op korte termijn nog wel wat soortgelijke rechtszaken volgen. Maar in de praktijk zal dit probleem vanzelf verdwijnen, omdat het verstrekken van de formulieren voor kennisgeving en toestemming bij sollicitaties niet zo’n groot probleem is’, verwacht ze. Het komt ook altijd neer op een zakelijke beslissing, zegt ze. ‘In de VS draait het om geld. Dat bepaalt de afweging of het risico om gepakt te worden het waard is de wet te overtreden. En er zijn genoeg mensen die bereid zijn dat risico te nemen.’ Wordt ongetwijfeld vervolgd dus…