Dinsdag 20/10/2020

Facebook

Deepfakes zijn eng, maar cheapfakes zijn (nu nog) enger

Op een bewerkte video, enthousiast verspreid door Trump-aanhangers, leek de Democratische voorzitter van het Amerikaanse Huis van Afgevaardigden, Nancy Pelosi, stomdronken.Beeld Getty Images

Facebook werpt een dam op tegen deepfakes, nepvideo’s die net echt lijken. Maar het gevaar van eenvoudige manipulatie is groter.

Hoe lang bestaan zogenoemde deepfakes nu eigenlijk? Een jaar of twee, meer niet. Althans: het was in december 2017 dat deze met kunstmatige intelligentie gemaakte nepvideo’s onder het grote publiek bekendheid kregen. Daarvoor waren de geavanceerde videomanipulaties slechts in academische kring bekend. Met hulp van deepfake-technologie kan een gezicht in een video worden vervangen door een ander gezicht. Bijvoorbeeld door het gezicht van een pornoster te vervangen door dat van een bekende filmster. Want uiteraard begon ook deze nieuwe ontwikkeling in de porno.

En nog steeds zijn het vooral pornofilmpjes waar nijvere computerknutselaars zich aan overgeven. Redelijk onschuldig, want hoe vervelend ook voor de slachtoffers, die zichzelf ineens in een pornofilm zien figureren, de gevaren zijn in potentie veel breder. Op het moment dat iedereen nauwelijks van echt te onderscheiden nepvideo’s kan fabriceren met bijvoorbeeld politici, is het hek van de dam, waarschuwen critici terecht.

Ook Facebook maakt zich zorgen. Vorig jaar huldigde het nog het standpunt dat deepfakes er gewoon bijhoren, maar inmiddels is Facebook om. Deze week kwam het bedrijf met een nieuw standpunt. Vanaf nu worden deepfakes keihard geweerd van het netwerk. Reden voor de haast: de Amerikaanse presidentsverkiezingen dit jaar. Facebook zit er niet op te wachten om een rol te spelen in de verspreiding van desinformatie. Dat klinkt logisch. Maar er zit een addertje onder het gras.

Facebook maakt namelijk nadrukkelijk onderscheid tussen deepfakes en andere gemanipuleerde video’s. Alleen video’s die authentiek lijken, maar gefabriceerd zijn met kunstmatige intelligentie vallen onder de ban. In de praktijk zijn dit soort video’s – afgezien van de porno – nog helemaal niet zo’n probleem. Het zijn vooral nieuwsorganisaties – van Buzzfeed tot The New York Times en van de BBC tot de Volkskrant – die zelf voorbeelden hebben geknutseld om hun lezers te laten zien wat er bij deepfakes komt kijken.

Satire of manipulatie?

Op zichzelf kan het natuurlijk helemaal geen kwaad dat Facebook nu eens voor de troepen uitloopt, maar er liggen genoeg andere uitdagingen die veel urgenter zijn. Nu voelt het toch een beetje alsof iemand in Australië winterbanden koopt terwijl de verbrande kangoeroes tegen het prikkeldraad zijn gespietst.

Want er zijn wel degelijk nepvideo’s op Instagram en Facebook die onrust of op zijn minst verwarring veroorzaken. Alleen zijn dit ‘cheapfakes’, gemanipuleerde video’s die met simpele technieken worden gemaakt.

Het bekendste voorbeeld is de bewerkte video van vorig jaar waarin Nancy Pelosi de hoofdrol vertolkte. In deze video, enthousiast verspreid door Trump-aanhangers, leek de Democratische voorzitter van het Amerikaanse Huis van Afgevaardigden stomdronken. Het effect werd bereikt door de oorspronkelijke geluidsband iets vertraagd af te spelen. Volgens de strikte definitie van Facebook géén deepfake, en dus gewoon toegestaan.

De reden hierachter is vermoedelijk praktisch: deepfakes zijn – ook weer dankzij kunstmatige intelligentie – relatief eenvoudig te detecteren. Buiten dat ligt er een nog veel grotere uitdaging: Facebook zegt een uitzondering te maken voor satire en parodieën. Deze mogen altijd blijven bestaan, ook als het deepfakes zijn. We wensen de beoordelaars van Facebook bij voorbaat veel succes op het glibberige pad tussen satire en manipulatie.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234