‘Manifesting is een enorme epidemie op TikTok. Dan wordt je wijsgemaakt dat iets werkelijkheid wordt als je er maar hard genoeg aan denkt’

Nepnieuws verspreidt zich als een virus. Aan de universiteit van Cambridge bestudeert sociaal psycholoog Sander van der Linden een nieuwe manier om dat aan te pakken: met vaccinatie. ‘Maar mensen wapenen tegen deepfake is veel lastiger.’

“Toen ik nog een jongen was, vroeg ik thuis weleens waarom we aan oma’s kant zo weinig familie hadden”, zegt Sander van der Linden. “De meesten van hen waren tijdens de oorlog afgevoerd naar concentratiekampen en daar vermoord. Als tiener was ik daar niet meer zo mee bezig, maar toen ik aan de universiteit sociale psychologie begon te studeren, vond ik het interessant om na te denken over het nazisme en de propaganda: hoe komt het dat mensen zich kunnen laten overtuigen door totale onzin en desinformatie?”

Met Immuun voor nepnieuws (Engelse titel: ‘Foolproof’) publiceerde Van der Linden zopas een geweldig boek over hoe we vallen voor misinformatie en hoe we er immuniteit tegen kunnen opbouwen. Zijn onderzoek is fascinerend en uitdagend – en reikt nieuwe instrumenten aan om onze geest te behoeden voor compleet krankzinnige informatie. “Mede met het nazisme in mijn achterhoofd vroeg ik me af: hoe gebeurt dat eigenlijk, die indoctrinatie? In Duitsland geloofden veel mensen dat ze zich moesten verdedigen tegen het internationale jodendom, dat een complot had gesmeed om hen te vernietigen. Het leek mij wel erg vreemd dat die mensen plots opstonden met het idee dat alle Joden dan maar naar de gaskamers moesten. Mijn proefschrift ging over een ander, maar verwant vraagstuk uit de klimaatpsychologie.”

Wat is het verband tussen het nazisme en klimaatpsychologie?

“Klimaatsceptici gebruiken ook technieken om mensen te misleiden, om twijfel te zaaien en complottheorieën te voeden. Net zoals de tabaksindustrie en producenten van fossiele brandstoffen dat decennialang hebben gedaan. Die propagandatechniek is in zekere zin te vergelijken met wat de nazi’s deden, omdat die ook niet direct iedereen wilden overtuigen van de alternatieve feiten en de vernietigingskampen. Het begon er ook mee dat ze mensen aan het twijfelen brachten, en zo gaandeweg extremer en extremer werden.”

Uw uitgangspunt is dat desinformatie zich als een virus verspreidt. Daarover verschijnt de laatste jaren steeds meer onderzoek. De Amerikaanse filosoof Andy Norman publiceerde pas een boek over mentale immuniteit.

“Ja, ik ken Andy, we hebben het er vaak over en de metafoor van het virus is inderdaad mijn uitgangspunt. Experimenten tonen aan dat het zo werkt. Er zijn duidelijke parallellen. Zoals een virus cellen aanvalt en overneemt, doet desinformatie dat met het brein. Het doel is dat je erover gaat schrijven of praten, om op die manier andere breinen te besmetten. De epidemiologische modellen om de verspreiding van een virus te beschrijven, zijn perfect bruikbaar om te beschrijven hoe desinformatie zich in een sociaal netwerk verspreidt. De vraag die me boeide, was: hoe maak je mensen minder vatbaar?”

En dat kan?

“Inderdaad. Je kunt mensen echt inenten tegen desinformatie.”

De klassieke aanpak is: mensen kritisch leren denken. Wat u doet, is iets anders?

“Bij kritisch denken geef je mensen een vorm van onderwijs: je leert hen hoe ze zin van onzin kunnen leren onderscheiden, of je geeft een cursus mediawijsheid of iets dergelijks. Wat wij doen in experimenten, is mensen echt, net zoals bij vaccinatie, een verdunde dosis van het nepnieuws geven. Die verdunde dosis wordt dan weerlegd, zodat mensen van tevoren gewapend zijn als ze de échte desinformatie horen.”

Is dat het verschil tussen wat ‘debunken’ en ‘prebunken’ heet? Bij debunken wordt valse informatie ontmaskerd, bij prebunken word je vooraf gewapend.

“De term prebunken wordt ondertussen inderdaad gebruikt. Je doet twee dingen. Eén: je maakt het immuunsysteem van de geest wakker. En twee: je weerlegt op voorhand al de valse argumenten die mensen straks te horen zullen krijgen.”

Geeft u eens een voorbeeld?

“Je kunt het op twee manieren doen: smal en gericht, of heel breed. Bij een van de proeven die we hebben gedaan, wilden we mensen inenten tegen een specifieke hoax: in een brief ondertekend door 31.000 zogenaamde wetenschappers wordt de consensus over klimaatopwarming zogezegd ter discussie gesteld. Wie die brief ziet, zal geneigd zijn om daadwerkelijk aan het twijfelen te slaan: bestaat die klimaatconsensus wel?”

En hoe vaccineert u mensen daartegen?

“Door te waarschuwen dat sommige actoren mensen willen misleiden, door een petitie te verspreiden die er wetenschappelijk uitziet, omdat ze briefpapier van The Academy of Science gebruiken en de indruk wekken dat duizenden wetenschappers die onderschrijven. Je haalt in dit experiment die petitie aan, in verzwakte vorm en met een beetje humor. Want sommige van die ondertekenaars zijn nep: Charles Darwin staat er bij, en The Spice Girls.”

En werkte die inenting?

“Niet 100 procent, maar bij velen wel. Het immuunsysteem van de meeste mensen was versterkt. Bij blootstelling aan het echte nepnieuws, herkenden ze de technieken toch vaak meteen. Je kunt zo’n brief ook debunken, maar het nadeel daarvan is dat dat altijd ná de feiten komt. Met prebunking kun je voorkomen dat mensen met desinformatie aan de haal gaan. Je vermijdt dat ze de desinformatie integreren in hun denkpatronen. Prebunken is dus fundamenteel anders dan factchecken.”

Klopt het dat factchecken ook contraproductief kan werken, omdat je de verkeerde informatie als het ware nog eens herhaalt en versterkt?

“Ja, dat kan gebeuren. Hoe vaker je iets herhaalt, hoe sterker de verbindingen in je hersenen worden. Door de desinformatie te herhalen, loop je dat risico. De kans bestaat dat mensen de correctie niet onthouden, en het fake news nog méér geloven, omdat ze het nog eens hoorden. Zeker als het over ideologisch geladen informatie gaat, kunnen mensen slecht reageren op een factcheck. Zelfs als ze de correctie erkennen, blijven ze de fout geloven.

“Omdat het toch maar ‘gekke progressieven’ of ‘domme conservatieven’ waren die de factcheck deden.”

Is het bij een factcheck niet goed om een zogenaamde ‘truth sandwich’ te bereiden, waarbij je eerst zegt wat juist is, dan de desinformatie vermeldt, en dan nog eens de correcte informatie herhaalt?

“Dat is het idee van de Amerikaanse filosoof George Lakoff, en daar sta ik helemaal achter. Dan zijn de risico’s minimaal en heb je een grotere kans op een positief effect. Maar ik zou toch meer vertrouwen op prebunken als het kan. Dat lijkt mij nog effectiever te kunnen zijn.”

Even tussendoor: als desinformatie zich als een virus gedraagt, geldt dat dan ook voor gewone correcte informatie?

“Interessante vraag. Niet altijd. Het genuanceerde antwoord is dat ook desinformatie zich niet altijd als een virus gedraagt. Vaak wel, maar niet altijd. Dat hangt af van de structuur van het sociale netwerk. Als een socialemediaplatform het niet makkelijk maakt voor desinformatie om zich te verspreiden, dan zal dat ook minder gebeuren. Als we de metafoor van het virus gebruiken, gaat het om een-op-eencontact, zoals bij een verkoudheid: ik hoest een paar keer in jouw gezicht, en jij raakt besmet. Desinformatie verspreidt zich vlot omdat er vaak emotie of moraliteit, of verrassing, mee gepaard gaat. Bij feiten of wetenschappelijke informatie, die vaak genuanceerd of complex zijn, is dat niet altijd zo.”

U hebt al selectieve prebunking beschreven, met die brief van klimaatsceptici. Hoe doet u aan algemenere inenting tegen desinformatie?

“Door mensen bloot te stellen aan de technieken die door verspreiders van fake news worden gebruikt. Valse dilemma’s bijvoorbeeld: ‘Je bent voor mij of tegen mij.’ Dat is iets wat Darth Vader in Star Wars zegt. We hebben voor YouTube filmpjes gemaakt waarin Luke Skywalker reageert door te zeggen dat alleen Sith Lords of the Dark Side zulke valse dilemma’s gebruiken. Vergelijkbare filmpjes kun je gebruiken om mensen in te enten tegen pakweg het zondebokmechanisme. Voor ze daarmee geconfronteerd worden, stel je hen bloot aan een lichte dosis, waarbij je uitlegt wat er gebeurt. Zo versterk je de mentale immuniteit.”

Helpt intelligentie je tegen nepinformatie? Volgens de Vlaamse filosoof Johan Braeckman zijn intelligente mensen juist beter in het verdedigen van nonsens. Dat zie je ook bij nodeloos ingewikkelde, postmoderne teksten van filosofen zoals Martin Heidegger of Jacques Derrida. Wie erg slim is, voelt zich aangetrokken tot zulke duistere oeuvres.

“Wat dat laatste betreft, ben ik bevooroordeeld: ik vind die postmoderne invalshoek vaak pseudodiepzinnige bullshit. Het klinkt slim, maar heeft weinig om het lijf. Wat mij zorgen baart, is dat zulke teksten worden gebruikt om wetenschappers aan te vallen. Er zijn geen feiten, maar alleen interpretaties – u kent die boutades. Dat speelt recht in de kaart van antivaxers, bijvoorbeeld. Wat die intelligentie betreft: normaal gesproken helpt die je om logisch en redelijk te denken. Maar bij een kleine minderheid, onder meer in de politiek, zie je inderdaad dat intelligentie wordt gebruikt om feiten te verdraaien.”

In uw boek hebt u het ook over ‘motivated reasoning’: het idee dat we geen argumenten bedenken om de waarheid te achterhalen, maar om anderen te overtuigen. We hebben een bepaalde motivatie om argumenten te bedenken. We argumenteren niet zoals een wetenschapper, maar zoals een advocaat. Maar daarmee bent u het niet helemaal eens?

“Ik ben daar in ieder geval genuanceerd over. Natuurlijk vind ik het een mooie metafoor, die van de advocaat. Natuurlijk maken we een selectie uit de feiten die we opzoeken en willen zien. Dat is ook logisch: er is te veel informatie in de wereld, dus we moeten wel selectief zijn. En selecteren doen we op basis van motivatie en interesse. Maar sommige theorieën gaan te ver, volgens mij: alsof mensen eigenlijk diep gemotiveerd zijn om feiten te ontkennen als dat niet in hun emotionele of politieke kraam past.”

Is dat niet wat uw Amerikaanse collega Jonathan Haidt min of meer beweert?

“Ja, hij zegt dat mensen pas achteraf rationele redenen zoeken voor hun overtuigingen, die op een intuïtieve manier tot stand komen. Nu zit daar misschien wel iets in, maar het is toch een vrij duister mensbeeld, vind ik. Er bestaat ook een andere hypothese, en die luidt dat mensen wel degelijk vatbaar zijn voor tegenargumenten. En dat ze niet vastzitten in een bepaalde filterbubbel of echokamer om emotionele redenen, maar omdat ze nooit iets anders horen. Sommige Amerikanen horen altijd en overal alleen maar Fox News. Die mensen denken dus dat ze een accuraat beeld van de wereld hebben.”

Bestaan er misschien verschillende types? Mensen die intuïtief tot overtuigingen komen en dan een rationele uitleg zoeken, en mensen die echt rationeel denken?

“Daar lijkt het misschien op. Tegelijk zou het echt wel veel cognitieve energie vereisen om dag in dag uit vast te houden aan een verkeerde overtuiging, puur om morele of ideologische redenen. We hebben een interessant experiment gedaan waarbij we mensen een dollar gaven om de juiste headlines te kiezen uit een reeks. Bij betaling bleken ze dat beter te doen. Mensen moeten dus de juiste motivatie vinden om de waarheid te zoeken. Het probleem op sociale media is dat de incentives verkeerd zijn.”

Maar hoe groot is de impact daarvan? Ik interviewde uw collega Hugo Mercier over zijn boek Not Born Yesterday, waarin hij beweert dat we niet zo goedgelovig zijn. Volgens hem had Cambridge Analytica, dat naar verluidt in 2016 de gegevens van miljoenen Facebookgebruikers gebruikte ten voordele van de Trump-campagne, geen significant effect op Trumps verkiezing.

“Hugo en ik zijn het vaak niet eens met elkaar. Hij vindt de bezorgdheid over Cambridge Analytica en over onze goedgelovigheid inderdaad sterk overdreven. En hij heeft zeker wel een aantal goede punten. Maar toch is het mindblowing wat Cambridge Analytica kon doen. Uit een handvol likes kunnen ze je geslacht, seksuele en politieke voorkeur afleiden. Om je persoonlijkheid verder in kaart te brengen, hebben ze honderden likes nodig – dat is veel complexer: bijvoorbeeld om te bepalen of je neurotisch of extravert bent. Maar dan nog, zelfs als de modellen niet zo accuraat zijn, kun je dankzij dat programma wel bepaalde groepen met specifieke advertenties bombarderen. Zo kun je mensen wel beïnvloeden.”

Politiek, of als consument?

“Er is onderzoek gedaan naar de invloed op aankoopgedrag, met shampoos en spelletjes en zo. En Hugo Mercier kende het recente onderzoek nog niet toen hij zijn boek schreef. Ik ben het met hem eens dat niet iedereen goedgelovig is, maar bij verkiezingen heb je soms maar een klein aantal beïnvloedbare mensen nodig om de uitslag te doen kantelen. Een andere strategie is mensen ervan overtuigen om niet te gaan stemmen. Dat heeft ook gewerkt: Afro-Amerikanen die advertenties zagen waarin Hillary Clinton hen in de jaren 90 ‘superpredatoren’ noemde, wat ze echt deed, liet velen onder hen afhaken.”

U hebt samengewerkt met YouTube en Facebook. Hoe pakken we dit probleem aan? Want de komende jaren staan ons beslissende verkiezingen te wachten.

“Het belangrijkste is dat we een andere manier van beloning organiseren op sociale media. Nu sturen algoritmes op likes en shares, engagement wordt beloond. Dat brengt problemen met zich mee, omdat onjuiste berichten een grotere kans hebben om viraal te gaan, omdat ze mensen harder triggeren. Een mogelijkheid zou zijn om algoritmes meer te laten werken met educatieve inhoud, of polariserende berichten minder te pushen. De vraag is alleen wie dat gaat bepalen wat educatief en polariserend is. Niet makkelijk.”

Domme vraag, maar hebben we die algoritmes echt nodig? Kan het niet zonder?

“Dat is geen domme vraag, want aanvankelijk werkten sociale media zonder algoritmes, gewoon chronologisch. Maar er is nu zoveel inhoud dat het niet meer werkt.”

Kun je lieve, positieve en sympathieke boodschappen niet meer pushen, in plaats van haat en desinformatie?

“Dat kan zeker. Daar zijn ze ook wel een beetje mee bezig. Maar dan duikt het probleem van de politieke vooroordelen op: wie verstuurt die berichten, uit welke politieke hoek komen ze? Je zou ook een betrouwbaarheidsscore kunnen invoeren, en die accounts wat harder in de verf zetten. Het is niet helemaal duidelijk welke kant het op moet, maar er wordt over nagedacht.”

Er heerst nogal wat paniek over TikTok. Terecht?

“Er zijn problemen met TikTok, omdat mensen niet door hebben hoe het werkt. Je hebt geen volgers nodig, zoals op Instagram. En er wordt veel pseudowetenschappelijke onzin verspreid. Manifesting, bijvoorbeeld: dan wordt mensen wijsgemaakt dat als je maar hard genoeg aan iets denkt, of vijf keer per dag iets herhaalt, het dan werkelijkheid wordt. Dat is echt een enorme epidemie op TikTok.”

En wat met spionage door China?

“Dat is natuurlijk een punt van zorg. Maar die Amerikaanse bedrijven hebben ook veel van onze data. Is dat dan een minder groot probleem? Misschien wel. Bij WhatsApp scheelt het qua privacy: die versleutelen berichten echt goed.”

Even nog over Hugo Mercier: volgens hem hadden de Duitsers eigenlijk een hekel aan de nazipropaganda. Dus ook die mythe doorprikt hij.

“Ook daarover verschillen we van mening. Volgens hem had die propaganda alleen effect op Duitsers die van tevoren al antisemitisch waren. Er was ook een effect op gewone Duitsers. We zijn het deels eens: het effect is volgens mij sterker op mensen die al vooroordelen hadden.”

Wat met kunstmatige intelligentie? Is dat geen enorme bedreiging, vergeleken waarmee het huidige nepnieuws in het niets verzinkt? Elon Musk, nu ook eigenaar van Twitter, en andere experts vragen om het onderzoek on hold te zetten, vanwege de risico’s voor de samenleving. Akkoord dat het uit de hand kan lopen?

“Ja, ChatGPT heeft enorme mogelijkheden. Het kan efficiënt desinformatie produceren en kan dus een instrument worden in handen van mensen die ons willen misleiden. Tegelijk is het ook een instrument voor onderzoekers die desinformatie willen helpen bestrijden. Wij hebben twee jaar geleden al ChatGPT getraind op het produceren van headlines die totaal verkeerd waren. Daar was het programma briljant in. Maar we kunnen ChatGPT ook gebruiken om te prebunken. Het werkt in twee richtingen. Maar de mogelijkheden worden echt ongezien, dat is duidelijk.”

En met de mogelijkheden van deepfake is het einde helemaal zoek.

“Ja, die ontwikkelingen houden we met onze onderzoeksgroep ook nauwlettend in de gaten. Zelfs voor experts is het straks totaal niet meer mogelijk om een echte video van een deepfake video te onderscheiden. Er groeit een consensus dat het veel lastiger is om mensen daarop voor te bereiden en tegen te wapenen.”

Dan is de strijd verloren straks?

“Niet noodzakelijk. Wat we moeten doen, is mensen attent maken op de context waarin ze een video zien. Dat gaat een belangrijke factor worden bij het herkennen van deepfake. En wellicht de enige manier om er iets tegen te ondernemen.”

Tot slot: volgens bioloog Richard Dawkins is religie een virus van de geest. Zou u dat ook op die manier bekijken? Religie als desinformatie die de geest besmet?

“Dat vind ik lastig. Je kunt religie op een bepaalde manier wel zien als desinformatie, neem ik aan. Maar ik denk dat Dawkins zijn aanpak niet echt goed werkt, hij neemt de lessen uit de psychologie en de communicatiewetenschappen niet echt mee – hij schreeuwt te hard en kraakt het geloof van mensen helemaal af. En dat werkt niet goed. Je moet het langzaam doen, zoals bij het redden van mensen uit een sekte: mensen hulp bieden, aan het twijfelen brengen over wat ze voorgeschoteld kregen van religieuze leiders, en langzaam maar zeker losweken.”

Als dat al nodig is.

“Dat is een relevante vraag. Religie doet ook goede dingen voor mensen. En ik zou het niet als een simpel virus zien. Religie verspreidt zich op een veel complexere manier dan pure desinformatie – dat laatste gaat van persoon tot persoon, dat is essentieel, zoals bij een echt virus. Religie is het resultaat van jarenlange indoctrinatie, zou je kunnen zeggen, maar je kunt er evengoed uitgroeien. Dat is met mij gebeurd. Ik ging als jongen met mijn ouders wel naar de synagoge, maar besloot op een bepaald moment voor mijzelf dat er van die godsdienst niets echt klopte. En dan ben ik wat anders gaan doen. Dat kan dus.”

Sander van der Linden, Immuun voor nepnieuws, Spectrum, 384 p., 22,50 euro. Vertaling: Alexander van Kesteren.