Wat ooit als onschuldige humor werd gezien, blijkt soms dan toch iets problematischer

Stavros Kelepouris is journalist.

Starmaker, een app die in ons land snel aan populariteit wint, is volgens onderzoek van deze krant ook een handige speeltuin voor mensen die iets anders zoeken dan karaoke. Het is een verhaal dat we nog gehoord hebben. Starmaker is niet het eerste platform waar jonge kinderen wel erg snel en openlijk benaderd kunnen worden door mensen met slechte bedoelingen. Het veel bekendere TikTok worstelde met hetzelfde probleem.

Ook niet nieuw is de vaststelling dat Starmaker niet meteen van plan lijkt om daar paal en perk aan te stellen. Er zijn heus manieren om ongewenst, illegaal of gevaarlijk gedrag op een platform te beperken, maar er is altijd wel een excuus om dat niet te doen of toch vooral niet te veel te willen doen. Of het nu om Starmaker, Google, Facebook, Twitter of 4chan gaat: al te vaak wordt pas ingegrepen als de pr van het bedrijf in gevaar komt.

Het is de vraag die de toekomst van de techindustrie zal bepalen, en die de komende jaren steeds luider gesteld zal worden: waar begint en eindigt de verantwoordelijkheid van digitale platformen? Welke rol spelen zij bijvoorbeeld in onlineradicalisering?

De grote technologiebedrijven hebben al langer hun juridische verdediging klaar: zij bieden niet meer dan een middel aan, een leeg blad papier waar iedereen op kan schrijven wat hij wil. Wie daar misbruik van maakt, draagt daar zelf de schuld voor.

Die uitleg is te makkelijk. De algoritmes van YouTube werden zo gebouwd dat gebruikers steeds extremere content voorgeschoteld kregen. Sociale media verbinden miljoenen, soms miljarden mensen, en verdienen daar grof geld aan. Maar daar hoort een verantwoordelijkheid bij: de verantwoordelijkheid om dat platform veilig te maken, en in te grijpen als mensen in gevaar komen. En hoe groter het bereik van een platform, hoe groter de verantwoordelijkheid van het bedrijf.

De grote vraag wordt hoe die verantwoordelijkheid af te dwingen valt. Dat is geen pleidooi voor een gedachtepolitie of grootschalige onlinecensuur – niemand hoeft van het internet gegooid te worden omdat hij gortige dingen schrijft. Maar de vrijheid-blijheid waarop het internet gebouwd is en die altijd als een fundament van onze digitale wereld is blijven bestaan, is evenmin houdbaar.

Ook bij de veiligheidsdiensten dringt dat besef steeds dieper door. OCAD, het orgaan dat in ons land het veiligheidsniveau bepaalt, omschreef memes – een kenmerkende vorm van online collages – onlangs als een gewiekste manier om ‘rabiaat racisme’ en complottheorieën te verspreiden. Wat ooit als onschuldige humor werd gezien, blijkt soms dan toch iets problematischer. Dat veiligheidsdiensten dat luidop vaststellen, toont dat onze onlinenetwerken stilaan in een nieuw tijdperk zijn beland.