Donderdag 29/10/2020

Deepfake

Facebook en Microsoft lanceren wedstrijd om deepfake video’s op te sporen

Beeld ter illustratie.Beeld Shutterstock

Facebook gaat een samenwerking aan met Microsoft in de strijd tegen deepfake video’s. Dat deelt het bedrijf mee in een blogbericht. Ook het tech-consortium Partnership on AI en verscheidene academici werken mee aan het project. Deepfake video’s zijn nep, maar nauwelijks te onderscheiden van echte beelden.

Facebook investeert maar liefst 10 miljoen dollar (9 miljoen euro) in de ‘Deepfake Detection Challenge’ die het onderzoek naar opsporingsmethoden voor dergelijk nep beeldmateriaal een duw in de rug moet geven. In het kader van het onderzoek heeft Facebook onderzoekers de opdracht gegeven om realistische deepfakes te produceren, zodat er een dataset kan gecreëerd worden voor het testen van detectietools. 

Lees ook:

‘Straks dreigt niemand nog iets te geloven’: Tom Van de Weghe verdiepte zich in deepfake video’s.

Virale Chinese deepfake-app geblokkeerd.

Frauderen met kunstmatige intelligentie gaat steeds gemakkelijker: ‘Het wordt echt griezelig.’

Gevaar voor verkiezingen?

In aanloop naar de Amerikaanse presidentsverkiezingen in november 2020 staan socialemediaplatformen onder druk om de dreiging van deepfakes aan te pakken. In deepfakes wordt artificiële intelligentie gebruikt om hyperrealistische video’s te creëren waarin een persoon iets lijkt te zeggen of doen dat hij in werkelijkheid niet zei of deed.

Voorlopig doen er nog geen goed gemaakte deepfake video’s de ronde die grote politieke gevolgen hebben, maar dat dergelijke gemanipuleerde video’s voor opschudding kunnen zorgen werd recent nog aangetoond met een ‘cheapfake’ video van Nancy Pelosi, de Democratische voorzitter van het Huis van Afgevaardigden: de beelden waren manueel vertraagd zodat het leek alsof ze dronken was.

Kat-en-muisspel

Sommige onderzoekers werken nu aan systemen om een video of foto op het ogenblik van productie een digitaal watermerk te geven, maar de snelle evolutie van deepfake-technologie leidt tot een wapenwedloop tussen de makers ervan en degenen die de video’s proberen op te sporen.

“Het is een kat-en-muisspel. Als ik een detectie voor deepfakes ontwikkel, dan geef ik de aanvaller een nieuwe discriminator om op te testen”, zegt Siddharth Garg, assistant-professor computer engineering aan de Tandon School van New York University.

Toegankelijkheid

Bovendien wordt deepfake-technologie ook steeds toegankelijker voor minder ervaren videomakers. De Chinese app Zao maakt het bijvoorbeeld mogelijk voor gebruikers om hun gezicht op het lichaam van filmsterren te plaatsen. Op YouTube zijn er tutorials te vinden voor het maken van deepfakes en er bestaan websites waarop deepfakes gecreëerd kunnen worden.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234