Artificiële intelligentie

Gezichtsherkenning werkt het best bij blanke mannen

- Steve Lohr - Bron: The New York Times
1 Bezoekers van de Veiligheidsbeurs in het Chinese Shenzen in oktober vorig jaar, krijgen te zien hoe gezichtsherkenning te werk gaat. © REUTERS

De vooroordelen die bestaan in onze samenleving sijpelen door in de artificiële intelligentie die we ontwikkelen. Dat blijkt uit nieuw onderzoek van MIT, waarover The New York Times bericht. Dat resulteert er bijvoorbeeld in dat zwarte mensen minder goed kunnen worden herkend door gezichtsherkenningssoftware.

Gezichtsherkenningstechnologie dendert voort aan een rotvaart: nieuwe toepassingen steken continu de kop op. Sommige commerciële software kan zelfs al het geslacht van een persoon onderscheiden van op een foto. Als die persoon in kwestie een blanke man is, zal de software het in 99 procent van de gevallen bij het rechte eind hebben. Maar hoe donkerder de huidskleur, hoe groter de foutenmarge wordt - tot bijna 35 procent voor beelden van vrouwen met een donkere huidskleur.

Dat blijkt uit een nieuwe studie van Joy Buolamwini, een onderzoekster aan het Massachusetts Institute of Technology (MIT) Media Lab. In haar doctoraatsonderzoek, dat komende maand gepresenteerd wordt, onderzocht ze de software van Microsoft, IBM en het Chinese Megvii, alle drie wereldleider inzake gezichtsherkenning. Zij keek meer bepaald hoe technologie werkt voor mensen met een verschillende huiskleur of geslacht.

Share

'Ethische artificiële intelligentie moet inclusief zijn'

Joy Bualamwini, doctoraatsonderzoekster MIT

De Afro-Amerikaanse Bualamwini geraakte geïntrigeerd door het onderwerp toen ze zelf vaststelde hoe gezichtsherkenningssoftware haar gezicht pas herkende toen ze het masker van een blanke man aan deed. "Ethische artificiële intelligentie moet inclusief zijn. En wie de technologie ontwikkelt, zet de standaard." Dus besloot ze hun technologie te onderzoeken.

Data is allesbepalend

Moderne artificiële intelligentie is net zo slim als de data die gebruikt wordt om de technologie te trainen. Met andere woorden, krijgt de artificiële intelligentietoepassing enkel blanke mannen te zien, dan zal die het moeilijk hebben om zwarte vrouwen te herkennen. Volgens Bualamwini's studie zijn de databases die nu worden gebruikt voor 75 procent mannelijk en 80 procent blank.

De studie roept dan ook vragen op over de gelijkheid en de aansprakelijkheid van artificiële intelligentietoepassingen, net in een periode waarin verschillende ontwikkelaars en bedrijven experimenteren met de technologie en de regelgeving er rond flinterdun is.

nieuws

zine