Donderdag 06/08/2020

Artificiële intelligentie

Gezichtsherkenning werkt het best bij blanke mannen

Bezoekers van de Veiligheidsbeurs in het Chinese Shenzen in oktober vorig jaar, krijgen te zien hoe gezichtsherkenning te werk gaat.Beeld REUTERS

De vooroordelen die bestaan in onze samenleving sijpelen door in de artificiële intelligentie die we ontwikkelen. Dat blijkt uit nieuw onderzoek van MIT, waarover The New York Times bericht. Dat resulteert er bijvoorbeeld in dat zwarte mensen minder goed kunnen worden herkend door gezichtsherkenningssoftware.

Gezichtsherkenningstechnologie dendert voort aan een rotvaart: nieuwe toepassingen steken continu de kop op. Sommige commerciële software kan zelfs al het geslacht van een persoon onderscheiden van op een foto. Als die persoon in kwestie een blanke man is, zal de software het in 99 procent van de gevallen bij het rechte eind hebben. Maar hoe donkerder de huidskleur, hoe groter de foutenmarge wordt - tot bijna 35 procent voor beelden van vrouwen met een donkere huidskleur.

Dat blijkt uit een nieuwe studie van Joy Buolamwini, een onderzoekster aan het Massachusetts Institute of Technology (MIT) Media Lab. In haar doctoraatsonderzoek, dat komende maand gepresenteerd wordt, onderzocht ze de software van Microsoft, IBM en het Chinese Megvii, alle drie wereldleider inzake gezichtsherkenning. Zij keek meer bepaald hoe technologie werkt voor mensen met een verschillende huiskleur of geslacht.

De Afro-Amerikaanse Bualamwini geraakte geïntrigeerd door het onderwerp toen ze zelf vaststelde hoe gezichtsherkenningssoftware haar gezicht pas herkende toen ze het masker van een blanke man aan deed. "Ethische artificiële intelligentie moet inclusief zijn. En wie de technologie ontwikkelt, zet de standaard." Dus besloot ze hun technologie te onderzoeken.

Data is allesbepalend

Moderne artificiële intelligentie is net zo slim als de data die gebruikt wordt om de technologie te trainen. Met andere woorden, krijgt de artificiële intelligentietoepassing enkel blanke mannen te zien, dan zal die het moeilijk hebben om zwarte vrouwen te herkennen. Volgens Bualamwini's studie zijn de databases die nu worden gebruikt voor 75 procent mannelijk en 80 procent blank.

De studie roept dan ook vragen op over de gelijkheid en de aansprakelijkheid van artificiële intelligentietoepassingen, net in een periode waarin verschillende ontwikkelaars en bedrijven experimenteren met de technologie en de regelgeving er rond flinterdun is.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234