Donderdag 02/04/2020

OpinieSihame El Kaouakibi

Vrouw? Computer says no

Sihame El Kaouakibi.Beeld Photo News

Sihame El Kaouakibi is Vlaams parlementslid namens Open Vld.

Artificial Intelligence (AI) valt niet meer weg te denken uit ons dagelijks leven. De personal assistant op je smartphone, talloze vertaalprogramma’s, je Netflix-account die tv-series suggereert op basis van je kijkgedrag of applicaties die hartritmestoornissen opsporen.

Artificial intelligence vereenvoudigt niet alleen ons leven, maar zorgt er zelfs voor dat levens worden gered. Tijd is kostbaar en technologie helpt ons om onze tijd efficiënter te benutten. Een manier om meer ruimte te creëren voor jezelf, je werk, of je familie en vrienden.

Helaas brengt deze technologische vooruitgang ook uitdagingen met zich mee. Zelfs de techgiganten zijn zich daarvan bewust. Zowel IBM als Google trokken naar Davos met de vraag om meer regels rond AI. De reden? AI kan discriminatie op basis van leeftijd, etniciteit of geslacht in de hand werken.

Dat hoeft ook niet te verbazen. Technologie is maar zo sterk als de ontwikkelaars die op de knopjes duwen. Soft- en hardware worden gecreëerd door feilbare mensen en hebben dus ook evenveel last van blinde vlekken als die mens. Als dat leidt tot programma’s en toestellen die niet inclusief zijn, plukt niet iedereen daar de vruchten van.

Unconscious bias

Dat is al zeker het geval als deze technologie niet enkel beslist over de serie die je vandaag bekijkt maar ook de job die je morgen doet. Science fiction? Niet echt. Uit een antwoord van minister Crevits (CD&V) aan mij blijkt dat de VDAB vandaag al gebruik maakt van AI. Een artikel vandaag in De Morgen bevestigt dat. De VDAB erkent er dat het AI inschakelt om iemands afstand tot de arbeidsmarkt in te schatten. Dankzij deze informatie, zo luidt het, krijgen kansarmen meer aandacht. Als dat het geval is, kan ik dat enkel maar toejuichen. Maar het voordeel van de twijfel begint te knagen als je kijkt naar de ervaringen uit het buitenland.

Zo schrapte Rotterdams burgemeester Aboutaleb het AI-programma dat risicoprofielen opstelde voor fraude. Het plaatste al snel bewoners in zwakkere wijken onder een vergrootglas. Eens deze unconscious bias in een algoritme terechtkomt, komen de wijk en haar inwoners in een vicieuze cirkel terecht. Daar sta je dan met je gelijke kansenbeleid.

Ook Amazon werd hiermee geconfronteerd toen het AI inschakelde als matchmaker van cv’s en vacatures. Net zoals bij je kijkgedrag op Netflix of je swipes op Tinder, baseerde het programma zich op keuzes uit het verleden. In het geval van Amazon werd dat gekenmerkt door veel aanwervingen van mannen. Gevolg? Vrouwen werden automatisch uit het selectieproces gefilterd. Vrouw? Computer says no. Het bedrijf dat groot werd dankzij haar geloof in technologie, zette omwille van deze unconscious bias het project stil.

Het brengt me terug bij de VDAB. Want niet enkel voor het inschatten van de afstand tot de arbeidsmarkt, maar ook voor het koppelen van vacatures aan cv’s wordt AI ingeschakeld. Tenzij de VDAB een algoritme heeft ontwikkeld waar techgigant Amazon niet in geslaagd is, is de kans groot dat ook hier dezelfde problemen zich zullen voordoen. Het feit dat mensen met migratieachtergrond nu al in langere trajecten naar werk belanden, doet alvast het ergste vermoeden. En dan hebben we het nog niet over de vooroordelen ten aanzien van vrouwen, 55-plussers of mensen met een beperking. Dat werpt vragen op.

Want waarom zou je als 55-plusser dan nog aan die nieuwe opleiding beginnen? Waarom zou je als vrouw je nog inschrijven voor die STEM-opleiding? Waarom zou je als hoogopgeleide jongen uit Borgerhout nog snuisteren in de managementvacatures? Waarom zou je nog moeite doen als een algoritme je vertelt dat een job buiten jouw handbereik ligt omdat niemand met jouw kenmerken in het verleden werd aangeworven?

All-in economy 

Dat kunnen wij ons niet permitteren. Discriminatie sluit talenten uit en tenzij we leren uit de talloze bad practices, dreigt AI die vooroordelen enkel verder te vergroten. Dat werkgevers een “war on talent” voeren, hoeft niet te verbazen als het ene na het andere bevooroordeelde toptalent afhaakt. Terwijl we al die toptalenten nodig hebben.

Het succes van de strijd tegen discriminatie zal mee bepalen of wij 120.000 extra mensen aan de slag krijgen en onze welvaartsstaat in stand kunnen houden terwijl we de klimaatuitdagingen het hoofd bieden.

Om die uitdagingen het hoofd te bieden, zal technologie nodig zijn. Het is de motor van vooruitgang en welvaart. Maar we moeten wel waken over de bestemming van die vooruitgang. Eerst de mens, dan de technologie. Eerst de ethiek, dan de code.

Enkel dan maken we werk van een All-in economy waarin een efficiënte en inclusieve technologie niemand uitsluit. Waarin vooruitgang niet enkel de belofte van verbetering in zich draagt voor enkelen, maar voor iedereen. Waarin elk toptalent een toekomst heeft in het belang van Vlaanderens toekomst. Talent? Computer says yes!

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234