Nazigroeten, onthoofdingen en vaccinnonsens zijn vlot te vinden op TikTok (en dat is een probleem)

Dansinstructies, karaoke en schattige dieren, daar staat het Chinese socialemediaplatform TikTok voor bekend. Maar in werkelijkheid vinden tieners er ook nazigroeten, onthoofdingen en vaccinnonsens op terug. Dat leert nieuw onderzoek.

Iedere maand trekt het Chinese socialemediaplatform TikTok bijna een miljard mensen aan met filmpjes die vooral bij een jong publiek in de smaak vallen. Onderzoek toont nu aan dat de app een schaduwkant heeft: ‘Extremistische content wordt vlot gedeeld.’

“De enige mannen die Groot-Brittannië konden redden.” De fascistische politicus Oswald Mosley stierf ruim 40 jaar geleden, maar op TikTok zijn hij en zijn kompanen springlevend. In een video die afgelopen weekend op het platform gepost werd en die meer dan 1.000 likes kreeg, brengt de man de nazigroet op de tonen van een modern popnummer. “Ik weet niet wie hij is, maar ik hou van de esthetiek”, reageert een gebruiker. Niet iedereen is zo onwetend. “Wil er al iemand zijn opvolger worden? Anders doe ik het wel”, schrijft iemand onder het pseudoniem van de Amerikaanse terrorist Theodore Kaczynski.

De verheerlijking van Mosley op het platform is geen alleenstaand geval. Onderzoekers van het Institute for Strategic Dialogue (ISD), een Britse denktank die zich toelegt op extremisme, presenteerden woensdag opvallende resultaten van een studie waarmee ze zicht wilden krijgen op de verspreiding van extremistische boodschappen op TikTok. Tijdens de maand juni konden ze 1.030 video’s terugvinden die racistisch, antisemitisch of op een andere manier schadelijk waren. Zo waren er beelden van onthoofdingen door IS-strijders, getuigenissen van holocaustontkenners en filmpjes waarin mensen de aanslag op een moskee in Christchurch van twee jaar geleden verheerlijkten.

Op zich zijn de absolute cijfers uit het rapport niet zo ongewoon. Platformen als Facebook en Twitter voeren al jaren een moeizame strijd tegen de verspreiding van extremistische boodschappen via hun kanalen. Ciaran O’Connor, die het onderzoek van het ISD leidde, wijst er echter op dat die schadelijke boodschappen via TikTok wel een volledig nieuw doelpubliek kunnen bereiken. Officieel moet iedereen die het platform gebruikt minstens 13 jaar oud zijn, maar berekeningen van Statista geven aan dat een kwart van de gebruikers in de leeftijdscategorie 10 tot 19 jaar valt. “Jongeren komen zo vaker in contact met desinformatie en haatspraak”, zegt O’Connor.

TikTok maakt zich sterk dat het de extremistische boodschappen snel kan verwijderen, maar mediaprofessor Michaël Opgenhaffen (KU Leuven) gelooft dat zelfs de slimste algoritmes en de strengste moderators daar niet in zullen slagen. Er zijn simpelweg te veel beelden en het platform biedt mensen met slechte bedoelingen volgens hem zelfs extra kansen om desinformatie of haatspraak te verspreiden. Op Facebook of Instagram blijven berichten namelijk statisch staan en zijn ze sterk gelinkt aan één profiel.

Mainstream

TikTok-gebruikers daarentegen scrollen door een lange lijst van video’s die gemaakt werden door mensen die ze vaak niet kennen. “Dat vluchtige en oppervlakkige karakter maakt het makkelijk om er nepnieuws of extremistische content in te verwerken.” Tussen de honderdduizenden dansvideo’s of dierenfilmpjes kunnen extreme boodschappen volgens Opgenhaffen zo mainstream gemaakt worden.

De vraag blijft dan wat ouders precies moeten ondernemen om hun tiktokkende kinderen te beschermen. Opgenhaffen waarschuwt er alvast voor dat een verbod opleggen contraproductief zou zijn. “Het is belangrijk dat kinderen weten dat ze bij hun ouders terechtkunnen als ze online iets onaangenaams meemaken. Als je als opvoeder geen interesse voor het platform toont of er op neerkijkt, zullen jongeren die stap veel minder snel zetten.”

Ten slotte wijst de mediaprofessor ook op de verantwoordelijkheid van het platform an zich: het is onmogelijk om alle schadelijke content van TikTok te bannen, maar dat mag volgens hem geen reden zijn om het niet te proberen. “Al moet er vanzelfsprekend ook ruimte blijven voor tegengeluiden.”