We delen met Lensa (alweer) massaal ons gezicht met een Russische app, maar dat is niet het fundamentele probleem

Geef toe, u fantaseerde ook al eens in de schoenen te staan van een almachtige superheld of een elegante elf. Die droombeelden lijken dankzij zelfportret-app Lensa nu mogelijk te worden. Maar wat schuilt er achter die dromerige, feeërieke beelden? ‘Privacy is nog het minste van onze zorgen.’

Laten we één zaak meteen opklaren. Lensa, momenteel ook bij ons de populairste gratis app, is in Russische handen en dat leidt tot bezorgdheid in de digitale wandelgangen. Voor wie de app nog niet kent: gebruikers kunnen tien tot twintig foto’s van zichzelf uploaden en krijgen in ruil (en tegen betaling) vijftig tot tweehonderd door artificiële intelligentie gegenereerde zelfportretten.

Dat doet denken aan bijvoorbeeld FaceApp, die andere populaire app die ons massaal ouder deed lijken en van Russische makelij bleek te zijn. Onder meer privacywaakhond Bits of Freedom trok in 2019 aan de alarmbel daarover.

Dat er nu dus opnieuw een Russisch geurtje hangt aan een app waaraan u uw gezicht weggeeft, is op zijn minst ongelukkig. “Maar de nationaliteit is hier niet het probleem”, zegt onderzoeker Nathalie Smuha, die zich specialiseert in AI, recht en ethiek aan de KU Leuven. “Er was een tijd dat mensen vertrouwen hadden in het Amerikaanse Facebook. Ondertussen weten we dat Cambridge Analytica, en heel wat andere bedrijven, ook gewoon aan die data konden.”

Een snelle blik op het privacybeleid van Lensa leert ons dat de app uw selfies meteen weer verwijdert zodra uw portretten afgeleverd zijn. Een heel ander verhaal dan FaceApp dus. Bovendien kunnen we ons vandaag ook beroepen op de GDPR-wetgeving, weet Rob Heyman van het Vlaams Kenniscentrum voor Data en Maatschappij. “Als Europeaan heb je recht op inzage. Dus je kan zo’n bedrijf juridisch benaderen om te kijken of ze je data nog hebben en anders om te laten zien hoe die verwijderd zijn.”

Vooroordelen en wraakporno

Heyman twijfelt er dan ook ten stelligste aan dat Lensa er momenteel baat bij heeft om die eindeloze stroom aan beelden bij te houden. Sterker nog: in het geval van Lensa is privacy wel “de minste van onze zorgen momenteel”, zegt Heyman.

De app maakt namelijk gebruik van een software genaamd Stable Diffusion. Simpel uitgelegd is dat een AI-systeem gevoed door biljoenen beelden (met bijbehorende tekstbeschrijving) op het internet. Enorm efficiënt, maar ook zeer vatbaar voor bias, oftewel vooroordelen. Zo melden heel wat gebruikers op sociale media dat ze op de portretten plots veel slanker of witter worden voorgesteld. Dat betekent bijvoorbeeld ook dat bovengetekende, met Chinese roots, geportretteerd werd als een Japanse samoerai of als een Mongoolse krijgsheer.

“Net omdat het systeem zich baseert op publieke beelden worden sommige gebruikers nu geconfronteerd met het ideaalbeeld dat de maatschappij hen opdringt”, zegt Heyman. Dat ziet ook Smuha: “Er zijn bijvoorbeeld beelden opgedoken van voornamelijk vrouwen die heel erg geseksualiseerd of zelfs naakt worden geportretteerd. Dat valt simpel te verklaren doordat vrouwen op het internet sowieso al sensueler en vaak halfnaakt worden afgebeeld.”

Beide experts waarschuwen dat dit de deur wagenwijd openzet naar andere vormen van misbruik. “Stel dat iemand wraakporno wil maken”, zegt Smuha. “Deze en andere soortgelijke apps controleren niet of de foto’s die opgeladen worden effectief van jezelf zijn. Je kan dus perfect foto’s van je ex insturen en eindigen met erg geseksualiseerde beelden, zonder dat die persoon van iets weet.”

Auteursrechten

Daarnaast zijn er ook nog fundamentele problemen met de auteursrechten van de afbeeldingen. Want dat majestueuze beeld van uzelf als Viking of samoerai kwam er niet zomaar. We legden net al uit dat het AI-systeem achter Lensa zich heeft laat inspireren door bestaande beelden, maar ook die beelden zijn uiteraard ooit gemaakt door iemand. Vooral kunstwerken van digitale kunstenaars blijken vogels voor de kat te zijn in dit verhaal. Zo tweette grafisch ontwerper @LaurynIpsum een compilatie van Lensa-portretten waar zelfs de handtekeningen van de originele artiesten nog vaag zichtbaar op zijn. Er is intussen ook al een website in het leven geroepen waarop artiesten kunnen opzoeken of hun werk gebruikt is geweest in een AI-model.

Artiesten klagen bovendien aan dat Lensa de zelfportretten verkoopt aan spotprijzen. Op de app betaalt u net geen 7 euro voor vijftig portretten, terwijl één handgemaakt portret al snel heel wat meer kost én gebouwd is op jaren aan ervaring.

Prisma, het bedrijf achter Lensa, reageerde al op Twitter en vindt dat de AI-gegenereerde beelden “niet kunnen worden omschreven als exacte replica’s van een bepaald kunstwerk”. Maar dat betekent niet dat de kunstenaars geen juridische poot hebben om op te staan, stelt Jozefien Vanherpe, onderzoeker intellectuele rechten aan de KU Leuven. “Het zijn dan wel geen rechtstreekse kopieën, ook adaptaties kunnen onder auteursrecht vallen. En zo zijn er nog wel een aantal rechten waar ze zich op zouden kunnen beroepen.”

Al moet Vanherpe die boodschap meteen weer relativeren: “We hebben het hier over een vluchtige online-omgeving. Dus zelfs als er een inbreuk wordt vastgesteld, is het goed mogelijk dat er de volgende dag ergens anders een app opduikt die exact hetzelfde doet, en dan begint alles opnieuw.”

“Dweilen met de kraan open”, klinkt het met een zucht. “En dat geldt eigenlijk in het algemeen voor alles rond auteursrechten op het internet.”