Wim op woensdag: waarom (digitale) objectiviteit onhaalbaar is

Om bias uit te sluiten, vertrouwen we steeds vaker op A.I.-systemen. Maar digitale objectiviteit is net zomin haalbaar als menselijke, zegt Wim van den Nobelen. ‘Misschien moeten we ook maar ophouden dit te verwachten van softwarebouwers.’

Wim Van den Nobelen Op 26 augustus 2020 Gem. leestijd 3 min117x gelezen
Deel dit artikel:
Wim op woensdag: waarom (digitale) objectiviteit onhaalbaar is

De grote softwarepartijen trekken zich terug uit de gezichtsherkenningssoftware of beperken het gebruik ervan. Dit is te lezen in een recent verschenen artikel van 360Magazine (overgenomen door het FD). Het blijkt dat er door het gebruik van deze software niet minder, zoals gehoopt, maar juist méér racisme is . Het streven naar objectiviteit leidt dus tot meer problemen. Een gevaarlijke ontwikkeling, aldus het artikel.

Computers nemen vooroordelen over van mensen. Daar hoef je geen A.I.-expert voor te zijn.

Feit is dat ieder mens vooroordelen heeft. Feit is dat mensen computers programmeren. Gevolg is dat computers vooroordelen van mensen overnemen. Daar hoef je geen A.I.-expert voor te zijn. De grote vraag is: gaat het lukken om computers bias-vrij te laten werken? Er zijn tal van initiatieven en het streven is fantastisch, maar de resultaten zijn helaas nog bedroevend.

Kunnen we A.I. nog remmen?

De vraag of dit op termijn gaat veranderen – lees: verbeteren – is logisch. Maar ik ben bang dat een andere vraag beter is. Namelijk: of we de ontwikkeling van A.I. voldoende kunnen remmen, zodat er voldoende tijd is om A.I. bias-vrij te laten functioneren? Is het belang van A.I. voor de ontwikkelaars (en eigenaren) niet groter dan bias-vrij functioneren? Hoe graag ik het ook anders zou zien, ik schat in dat de doorontwikkeling ervan hogere prioriteit krijgt dan dat A.I. bias-vrij moet zijn.

Digitale objectiviteit is net zo onhaalbaar als menselijke.

De geschiedenis leert ons hier de lessen. Als de belangen groot zijn wint geld het altijd van goed gedrag. Voorbeelden te over. Digitale objectiviteit is net zo onhaalbaar als menselijke objectiviteit. Misschien moeten we ophouden dit te verwachten van softwarebouwers. Het is niet hún probleem of schuld dat mensen niet objectief zijn – en daarmee hun software ook niet.

Misschien een heel enge gedachte…

Zo rekent niemand het wetenschappers aan dat zij alles eraan doen om ons leven te rekken, ongeacht of hiermee jouw levensvreugde of welzijn toeneemt. ‘Beter opgebrand dan uitgedoofd’ (zover ik weet is deze uitspraak van wijlen Jules Deelder) komt daarmee in een heel ander perspectief te staan. En misschien zelfs wel een heel enge gedacht als je de combinatie maakt tussen wetenschappers, langer leven en niet bias-vrije A.I. voor medische toepassingen….

Over de auteur

wim van den nobelen is er maar druk mee eenrichtingsverkeerWim van den Nobelen is Recruiter Finance bij Strictly People. Hij schrijft voor Werf& de ‘Wim op woensdag’. Op (bijna elke) woensdag vind je hier een blog, onderzoek of artikel van hem.

Lees ook:

Beeld via vpnsrus

Deel dit artikel:
Wim Van den Nobelen

Wim Van den Nobelen

Eigenaar bij Strictly People
Wim van den Nobelen is eigenaar van werving- en selectiebureau Strictly People en recruiter op het gebied van Salarisadministratie.
Bekijk volledig profiel

Premium partners Bekijk alle partners

Academie voor Arbeidsmarktcommunicatie
BRANDMANNEN           Recruitment Marketing
Brockmeyer
Bullhorn
Carerix
Compagnon
DPG Recruitment
Indeed
Intelligence Group
Monsterboard
Mysolution
Otys Recruiting Technology
Talmark