Donderdag 20/02/2020

Economie

Artificiële intelligentie ‘discrimineert’ op de arbeidsmarkt

Een vrouw zoekt werk in een uitzendbureau.Beeld ANP XTRA

Een job zoeken of een lening afsluiten anno 2020. De kans is groot dat een algoritme dat mee bepaalt. Techbedrijven IBM en Google maken zich daar steeds meer zorgen over. Ze vragen meer overheidsregulering om minderheden en vrouwen beter te beschermen tegen vooroordelen.

“Het lijdt geen twijfel dat artificiële intelligentie gereguleerd moet worden. De vraag is hoe we dat gaan doen.” In een opmerkelijk opiniestuk in de Britse zakenkrant Financial Times doet Sundar Pichai, directeur van Google en moederbedrijf Alphabet, een oproep aan alle overheden om na te denken over hoe ze artificiële intelligentie zullen reguleren. “Artificiële intelligentie heeft het potentieel om miljarden levens te redden. Het grootste risico is dat het faalt om dat effectief te doen”, eindigt Pichai zijn betoog.

Dat artificiële intelligentie suggesties doet welke Netflix-serie u vanavond moet bingen, kunnen we moeilijk gevaarlijk noemen. Maar algoritmes nestelen zich steeds dieper in belangrijkere facetten van ons leven. Het zijn algoritmes die de prijs van ons vliegtuig bepalen, berekenen of we al dan niet een lening kunnen krijgen bij de bank en bepalen welke jobs we precies voorgeschoteld krijgen.

En daar loopt het regelmatig fout volgens Vlaams parlementslid Sihame El Kaouakibi (Open VLD). Denk aan nieuws uit 2018, toen Amazon bekendmaakte dat het zijn artificieel intelligent rekruteringprogramma had stopgezet. Door historische aanwervingsdata van het pakjesbedrijf had het algoritme geleerd om vooral mannen aan te nemen. Vrouwen werden automatisch door de software uit het selectieproces geweerd.

Het mag dan ook niet verbazen dat zowel de Europese Commissie als de Amerikaanse overheid druk bezig zijn met het uitwerken van een wettelijke kader voor dergelijke AI-programma’s. Zo overweegt Europa onder andere om gezichtsherkenningssoftware in de komende vijf jaar te verbieden. In voorbereidingsdocumenten voor de wetgeving las Financial Times de volgende motivatie: “AI-applicaties kunnen een groot risico betekenen voor fundamentele rechten. Ongereguleerde AI-systemen nemen beslissingen die een impact hebben op burgers zonder enige uitleg.”

Algoritme niet heilig

Maar ook zonder die regulering draaien er vandaag al algoritmes die heel wat impact hebben op het leven van burgers. Denk aan de VDAB in Vlaanderen, dat artificiële intelligentie inzet om mensen aan een job te helpen. Als een groot internetbedrijf als Amazon er niet in slaagt om zijn rekruteringssoftware op punt te krijgen, waarom zou dat de VDAB dan wel lukken? Hoe zorgen zij ervoor dat vrouwen niet alleen deeltijdse vacatures voorgeschoteld krijgen? En hoe zorg je ervoor dat het algoritme niet enkel vrouwen selecteert voor jobs in de zorg? En is er geen risico dat het algoritme mensen met een migratieachtergrond discrimineert?

Bij de VDAB zijn ze zich enorm bewust van die gevoeligheden. Zo krijgen VDAB-medewerkers de hulp van een algoritme dat helpt in te schatten hoe hoog de kans is of iemand binnen de zes maanden opnieuw een job heeft. “Als VDAB willen we vooral mensen bij wie de kans het kleinst is, snel helpen”, zegt woordvoerder Joke Van Bommel.

Het algoritme berekent op een 500-tal variabelen hoe groot die kans precies is. Het gaat om parameters zoals werkloosheidsduur, aantal keer dat iemand werkloos was en taalvaardigheid. “De nationaliteit, migratieachtergrond of gender worden niet in die variabelen meegenomen om geen rekening te houden met mogelijke vooroordelen uit historische data”, zegt Van Bommel. Belangrijk om mee te geven: de suggestie van het algoritme is niet heilig. “Wanneer uit een persoonlijk gesprek met een werkzoekende blijkt dat die snel weer op zijn voeten terecht zal komen, kunnen onze trajetbegeleiders daar rekening mee houden.”

Met het algoritme wil VDAB net met een nieuwe bril naar de werkloosheidsproblematiek kijken. “Vroeger gingen we er per definitie van uit dat iemand met een migratieachtergrond of een zestigplusser extra hulp kon gebruiken. Uit data zien we nu dat ook bepaalde hoogopgeleide profielen die extra steun kunnen gebruiken.”

Sihame El Kaouakibi, die zich al jaren inzet om de kloof tussen vacatures en werkzoekenden te verkleinen, blijft bezorgd: “Het probleem bij Amazon ging om de matchmaking van CV’s aan vacatures, daarover is geen duidelijkheid of er voldoende garanties zijn dat dit bij de VDAB geen discriminatie in de hand werkt. Ik krijg zoveel vragen van werkzoekenden, dat de vacatures die ze via de VDAB krijgen helemaal niet aansluiten bij hun profiel. Als we al die talenten zo blijven verspillen, dan krijgen we nooit die 120.000 extra mensen aan de slag.”

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle verhalen van De Morgen rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234