Maandag 26/10/2020

Verenigde Staten

Amerikaanse politie mag een jaar lang geen gezichtsherkenning van Amazon gebruiken

Sheriff Jeff Talbot laat zien hoe zijn beelden van een beveiligingscamera met gezichtsherkenningssoftware worden vergeleken met de politie-fotodatabase van overtreders. Beeld AP

Na IBM heeft nu ook techgigant Amazon ingegrepen: de Amerikaanse politie mag een jaar lang geen gebruikmaken van Amazons controversiële technologie voor gezichtsherkenning.

In een korte verklaring zegt Amazon dat het een moratorium van een jaar instelt en pleit het voor strengere regelgeving door de overheid voor ‘ethisch gebruik’ van de technologie. Met het moratorium hoopt het bedrijf het Congres genoeg tijd te geven om tot een wetgeving te komen.

Meer dan ooit ligt het gebruik van gezichtsherkenningstechnologie onder vuur. Burgerrechtenorganisaties en experts waarschuwen al langer voor de nadelen ervan. De recente protesten na de gewelddadige dood van George Floyd lijken dit in een stroomversnelling te hebben gebracht, alhoewel Amazon daarover in de verklaring met geen woord over rept.

Volgens Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft, is het tijdstip van het verbod niet los te zien van de demonstraties: “Dit is precies waar de protesten nu over gaan. Die AI-systemen laten gewoon zien wat we al driehonderd jaar fout doen en geven keihard terug hoe racistisch we zelf zijn.”

Van den Hoven is blij met de stappen die nu ineens worden gezet: “Ik ben in de loop der jaren wat cynisch geworden over de goede bedoelingen van techbedrijven, maar iedere beweging in de goede richting verwelkom ik.” Hij zegt ondertussen wel waakzaam te blijven: “Laten we over een jaar nog eens kijken wat er van de mooie woorden terecht is gekomen.”

Droom van opsporingsdiensten

Net als andere grote techbedrijven is Amazon Web Services (het onderdeel van Amazon dat zich bezighoudt met cloud-opslag) sinds een aantal jaar actief op het gebied van gezichtsherkenning. Het bedrijf van Jeff Bezos lanceerde zijn pakket Rekognition in 2016. Met kunstmatige intelligentie (AI) is het mogelijk om automatisch objecten te herkennen op foto’s en video’s. Deze krijgen dan een label mee: hond bijvoorbeeld, of specifieker nog: golden retriever. De AI-software is ook in staat om personen te herkennen.

Logisch dus dat dit soort pakketten – niet alleen die van Amazon – populair zijn bij opsporingsdiensten: is er een video-opname van een inbreker of plunderaar? Haal die door de database en de bijbehorende naam komt eruit rollen, zo is de droom.

Gevaren

Critici waarschuwen al langer voor fouten en voor privacyschendingen die hiermee gepaard gaan. Zo zijn er onderzoeken die aantonen dat systemen als Rekognition vaker de fout ingaan bij het herkennen van zwarte mensen. Voor de stad San Francisco was het in 2019 aanleiding om het gebruik van gezichtsherkenningstechnologie door de politie en overheid te verbieden. Ook de Europese Commissie benoemde een paar maanden geleden in een kritisch rapport dit soort risico’s.

Begin dit jaar kwam de omstreden Amerikaanse start-up Clearview negatief in het nieuws toen deze zonder toestemming 3 miljard foto’s en bijbehorende namen van sociale media plukte voor een gigantische database. Politiekorpsen van over de hele wereld toonden belangstelling. Het toekomstvisioen: film een voorbijganger en je weet wie het is.

IBM

Het is onduidelijk hoeveel politiekorpsen Amazon precies onder zijn Rekognition-klanten mag rekenen. Wel is bekend dat Amazon met meer dan duizend Amerikaanse korpsen beelden deelt die met de slimme ‘video-deurbel’ Ring worden gemaakt. Ring is onderdeel van Amazon.

Amazon volgt met zijn moratorium IBM. Dit bedrijf maakte eerder deze week bekend dat het op de rem trapt als het gaat om gezichtsherkenning. Anders dan Amazon stopt IBM helemaal met het ontwikkelen en verkopen hiervan voor ‘algemeen gebruik’. In zijn verklaring benadrukt Amazon dat andere partijen dan de politie gewoon gebruik kunnen blijven maken van Rekognition, bijvoorbeeld voor het opsporen van vermiste kinderen.

Microsoft, een andere grote speler op dit gebied, riep net als Amazon al eerder op tot meer regelgeving, maar heeft nog niet gereageerd op de beslissing van zijn concurrent Amazon. Google tot slot benadrukt dat het altijd al voor een voorzichtige aanpak heeft gekozen en ook voor regelgeving is bij het gebruik van gezichtsherkenning in publieke ruimtes. Het bedrijf biedt nu al geen algemene gezichtsherkenning aan derden. 

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234