Zaterdag 21/09/2019

Deepfake

Facebook en Microsoft lanceren wedstrijd om deepfake video’s op te sporen

Beeld ter illustratie. Beeld Shutterstock

Facebook gaat een samenwerking aan met Microsoft in de strijd tegen deepfake video’s. Dat deelt het bedrijf mee in een blogbericht. Ook het tech-consortium Partnership on AI en verscheidene academici werken mee aan het project. Deepfake video’s zijn nep, maar nauwelijks te onderscheiden van echte beelden.

Facebook investeert maar liefst 10 miljoen dollar (9 miljoen euro) in de ‘Deepfake Detection Challenge’ die het onderzoek naar opsporingsmethoden voor dergelijk nep beeldmateriaal een duw in de rug moet geven. In het kader van het onderzoek heeft Facebook onderzoekers de opdracht gegeven om realistische deepfakes te produceren, zodat er een dataset kan gecreëerd worden voor het testen van detectietools. 

Lees ook:

‘Straks dreigt niemand nog iets te geloven’: Tom Van de Weghe verdiepte zich in deepfake video’s.

Virale Chinese deepfake-app geblokkeerd.

Frauderen met kunstmatige intelligentie gaat steeds gemakkelijker: ‘Het wordt echt griezelig.’

Gevaar voor verkiezingen?

In aanloop naar de Amerikaanse presidentsverkiezingen in november 2020 staan socialemediaplatformen onder druk om de dreiging van deepfakes aan te pakken. In deepfakes wordt artificiële intelligentie gebruikt om hyperrealistische video’s te creëren waarin een persoon iets lijkt te zeggen of doen dat hij in werkelijkheid niet zei of deed.

Voorlopig doen er nog geen goed gemaakte deepfake video’s de ronde die grote politieke gevolgen hebben, maar dat dergelijke gemanipuleerde video’s voor opschudding kunnen zorgen werd recent nog aangetoond met een ‘cheapfake’ video van Nancy Pelosi, de Democratische voorzitter van het Huis van Afgevaardigden: de beelden waren manueel vertraagd zodat het leek alsof ze dronken was.

Kat-en-muisspel

Sommige onderzoekers werken nu aan systemen om een video of foto op het ogenblik van productie een digitaal watermerk te geven, maar de snelle evolutie van deepfake-technologie leidt tot een wapenwedloop tussen de makers ervan en degenen die de video’s proberen op te sporen.

“Het is een kat-en-muisspel. Als ik een detectie voor deepfakes ontwikkel, dan geef ik de aanvaller een nieuwe discriminator om op te testen”, zegt Siddharth Garg, assistant-professor computer engineering aan de Tandon School van New York University.

Toegankelijkheid

Bovendien wordt deepfake-technologie ook steeds toegankelijker voor minder ervaren videomakers. De Chinese app Zao maakt het bijvoorbeeld mogelijk voor gebruikers om hun gezicht op het lichaam van filmsterren te plaatsen. Op YouTube zijn er tutorials te vinden voor het maken van deepfakes en er bestaan websites waarop deepfakes gecreëerd kunnen worden.

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle verhalen van De Morgen rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234