De grote softwarepartijen trekken zich terug uit de gezichtsherkenningssoftware of beperken het gebruik ervan. Dit is te lezen in een recent verschenen artikel van 360Magazine (overgenomen door het FD). Het blijkt dat er door het gebruik van deze software niet minder, zoals gehoopt, maar juist méér racisme is . Het streven naar objectiviteit leidt dus tot meer problemen. Een gevaarlijke ontwikkeling, aldus het artikel.
Computers nemen vooroordelen over van mensen. Daar hoef je geen A.I.-expert voor te zijn.
Feit is dat ieder mens vooroordelen heeft. Feit is dat mensen computers programmeren. Gevolg is dat computers vooroordelen van mensen overnemen. Daar hoef je geen A.I.-expert voor te zijn. De grote vraag is: gaat het lukken om computers bias-vrij te laten werken? Er zijn tal van initiatieven en het streven is fantastisch, maar de resultaten zijn helaas nog bedroevend.
Kunnen we A.I. nog remmen?
De vraag of dit op termijn gaat veranderen – lees: verbeteren – is logisch. Maar ik ben bang dat een andere vraag beter is. Namelijk: of we de ontwikkeling van A.I. voldoende kunnen remmen, zodat er voldoende tijd is om A.I. bias-vrij te laten functioneren? Is het belang van A.I. voor de ontwikkelaars (en eigenaren) niet groter dan bias-vrij functioneren? Hoe graag ik het ook anders zou zien, ik schat in dat de doorontwikkeling ervan hogere prioriteit krijgt dan dat A.I. bias-vrij moet zijn.
Digitale objectiviteit is net zo onhaalbaar als menselijke.
De geschiedenis leert ons hier de lessen. Als de belangen groot zijn wint geld het altijd van goed gedrag. Voorbeelden te over. Digitale objectiviteit is net zo onhaalbaar als menselijke objectiviteit. Misschien moeten we ophouden dit te verwachten van softwarebouwers. Het is niet hún probleem of schuld dat mensen niet objectief zijn – en daarmee hun software ook niet.
Misschien een heel enge gedachte…
Zo rekent niemand het wetenschappers aan dat zij alles eraan doen om ons leven te rekken, ongeacht of hiermee jouw levensvreugde of welzijn toeneemt. ‘Beter opgebrand dan uitgedoofd’ (zover ik weet is deze uitspraak van wijlen Jules Deelder) komt daarmee in een heel ander perspectief te staan. En misschien zelfs wel een heel enge gedacht als je de combinatie maakt tussen wetenschappers, langer leven en niet bias-vrije A.I. voor medische toepassingen….
Over de auteur
Wim van den Nobelen is Recruiter Finance bij Strictly People. Hij schrijft voor Werf& de ‘Wim op woensdag’. Op (bijna elke) woensdag vind je hier een blog, onderzoek of artikel van hem.
Lees ook:
- Waarom werk betekenisvol moet zijn
- Lees alles van Wim
Beeld via vpnsrus
