Donderdag 13/05/2021

Voor u uitgelegdFacebook

Facebook krijgt een ‘hooggerechtshof’: het lot van Trump en Zwarte Piet ligt in deze handen

null Beeld ANP XTRA
Beeld ANP XTRA

Facebook heeft sinds kort een soort ‘hooggerechtshof’ om besluiten te herzien. Deze maand beslist de raad of Trump en Zwarte Piet terecht zijn verbannen. Wie zetelt in die raad? En is het wel een goede oplossing om te bepalen wat wel en niet mag op het grootste sociale netwerk?

Een groepje van twintig mensen besluit deze maand of het terecht is dat een van de machtigste mannen ter wereld van het grootste sociale netwerk ter wereld is verbannen. Voor Donald Trump, op dat moment nog president van de Verenigde Staten, was geen plek meer op Facebook toen een meute het Capitool in Washington bestormde nadat hij de megafoon van het netwerk had gebruikt voor zijn onbewezen bewering dat de verkiezingen waren gestolen door zijn rivaal.

De leden van de Oversight Board bepalen of die verbanning terecht is. De raad van toezicht werd in juni 2019 door Facebook zelf in het leven geroepen om de beslissingen van het netwerk te heroverwegen. In de wandelgangen werd het al snel beschreven als Facebooks hooggerechtshof. Deze maand publiceert de raad zijn beslissing over de verbanning van Trump. Ook volgt het oordeel in een andere zaak: die van Zwarte Piet. Een video van een sinterklaasintocht waarin een zwarte piet te zien is, werd verwijderd omdat racistische blackfacekarikaturen zijn verboden op Facebook en Instagram. Een gebruiker tekende protest aan tegen dat besluit.

De Oversight Board zal beslissen of onder andere Trump terecht werd verwijderd van het sociale netwerk. Beeld Getty Images
De Oversight Board zal beslissen of onder andere Trump terecht werd verwijderd van het sociale netwerk.Beeld Getty Images

Nu zou je kunnen zeggen: trek je niets aan van wat op Facebook staat. Maar Facebook is het grootste sociale netwerk ter wereld, met drie miljard gebruikers, van wie 80 procent buiten de Verenigde Staten. En wat op Facebook verschijnt, heeft consequenties. Soms voor iemand die meent dat een bedrijf uit Californië niet kan beoordelen hoe een ‘onschuldige Nederlandse en Belgische traditie’ moet worden opgevat. Soms voor iemand die gediscrimineerd wordt. Soms als democratische instituties door horden mensen worden bestormd of een bevolkingsgroep de ruimte krijgt op te roepen tot moord op een andere bevolkingsgroep. En dat terwijl de ambitie van het bedrijf is, zoals oprichter Mark Zuckerberg het noemt, van platform te veranderen in een ‘sociale structuur’. Wie bepaalt dan wat daarbinnen mag?

Publieke ruimte

Facebook is, kun je zeggen, een deel van onze publieke ruimte. Een publieke ruimte waar moderatoren erop toezien dat iedereen zich aan de huisregels houdt. Kort samengevat: geen bloed, geen bloot, geen racisme. En, in toenemende mate de laatste jaren: geen desinformatie, geen complotten.

Het bedrijf bouwde daar met de Oversight Board nog een laag bovenop, in een poging tot meer transparantie. Twintig mensen die wereldwijd beslissen over mogelijk het moeilijkste onderwerp te wereld: wat je binnen het platform wel en niet kunt zeggen.

De term ‘hooggerechtshof’ voor die groep is misleidend, want Facebook is geen overheid, met publieke instellingen, grondwetten en een onafhankelijk rechtssysteem. Wel zijn er een paar gelijkenissen met de juridische wereld in de manier waarop de raad werkt.

Zo kunnen gebruikers een zaak aandragen bij de raad als ze het niet eens zijn met de beslissing om iets van het platform te verwijderen. Dat gebeurde bij de kwestie-Zwarte Piet. Facebook zelf kan, om het eigen oordeel te toetsen, ook beslissingen aandragen. Dat gebeurde met de zaak-Trump.

De raad oordeelt vervolgens of er terecht iets is verwijderd. Om het verwijt voor te zijn dat de slager zijn eigen vlees keurt, is de Oversight Board ondergebracht in een stichting buiten het bedrijf en zijn leden aangetrokken die niet voor Facebook werken. Beslissingen van de raad zijn bindend. Dus mocht de Oversight Board straks besluiten dat Trump ten onrechte is verbannen, dan krijgt hij zijn account terug.

Om de besluiten van de raad enig gewicht te geven, werden de twintig leden ervan aangetrokken uit verschillende landen en werd gezocht naar mensen met verschillende expertises en achtergronden. Tawakkol Karman is een Jemenitische activist die in 2011 de Nobelprijs voor de Vrede kreeg uitgereikt. Julie Owono is directeur van Internet Sans Frontières vanuit Kameroen. Oud-premier van Denemarken Helle Thorning-Schmidt zit ook in de raad. Net als Alan Rusbridger, oud-hoofdredacteur van de Britse krant The Guardian. Via een videoverbinding vertelt hij: “Ik vond dat Facebook geen geweldig werk deed in kwesties rond de vrijheid van meningsuiting. En niemand wil dat Mark Zuckerberg wereldwijd over de vrijheid van meningsuiting gaat. Mark Zuckerberg zelf ook niet. Ik dacht dat ik daar iets aan kon bijdragen.”

Het samenstellen van de Oversight Board ging niet vanzelf, beschreef Kate Klonick begin dit jaar in een grondig verhaal in The New Yorker. Al bij de samenstelling waren bijvoorbeeld Republikeinen in de Verenigde Staten bang dat er te veel Democraten in zouden zitten (naar verluidt is oud-president Obama gevraagd om mee te doen). Verdeeld over landen zijn negen van de twintig leden afkomstig uit een ‘westers’ land. Vier van hen wonen en werken in de Verenigde Staten, waar maar een vijfde van de Facebook-gebruikers woont. Dat is opvallend, want Facebook is in het ene land niet wat het in het andere is.

Myanmar

Na een coup door het leger zit Myanmar op slot. Terwijl via de paar onafhankelijke media die er nog zijn berichten naar buiten komen over demonstranten die door schijnbaar willekeurig geweld van het leger om het leven komen, is voor staatsmedia iets als het naderende warme weer het grootste nieuws. Die staatsmedia zijn in handen van het leger, dat internationaal wordt verdacht van genocide op de Rohingya-moslimminderheid in het land.

Myanmar is geen land van snelle vaste internetverbindingen, maar er is wel een goed werkend draadloos netwerk. Bijna elke telefoon wordt er verkocht met de Facebook-app alvast geïnstalleerd en voor het gebruik van het platform betalen gebruikers geen extra datakosten. Vraag je Mark Farmaner van mensenrechtenorganisatie The Burma Campaign in Londen naar het belang van Facebook in Myanmar, dan zegt hij dat ze in het land zelf zeggen dat Facebook in veel opzichten synoniem is voor het internet. “Facebook ís het internet.”

Toen in Myanmar in 2017 in de woorden van de Verenigde Naties een etnische zuivering “volgens het boekje” plaatsvond, waren op Facebook cartoons en teksten te vinden waarin in het mildste geval Rohingya werden gediscrimineerd en in het slechtste vrijuit werd gefantaseerd over het doden van moslims. Er zijn moorden gepleegd. Dat zou ook zijn gebeurd zónder Facebook, zegt Farmaner, maar het platform is wel gebruikt voor propaganda en om publieke steun voor het leger te vergaren.

Datzelfde leger kon het platform gebruiken om ook na de coup van dit jaar nieuwe leden te rekruteren. Advertenties van bedrijven die in handen zijn van de generaals mochten blijven staan en het regime kon doorgaan met het verspreiden van leugens en onwaarheden, zegt Farmaner. Hij noemt Facebook het irrationeelste en ondoorzichtigste bedrijf waar hij in 35 jaar mensenrechtenwerk mee te maken heeft gehad. “Waarom Trump verbannen en het Myanmarese leger niet?” Inmiddels is dat wel gebeurd, zegt hij, maar slechts zeer gedeeltelijk.

Aan de andere kant van de strijd hebben activisten weinig anders dan Facebook om aan te tonen dat er schijnbaar willekeurig mensen worden vermoord en dat protesten worden neergeslagen. Ze waarschuwen elkaar via Facebook voor naderend geweld. Uit het land worden filmpjes gestuurd van dode demonstranten als bewijs voor het geweld, soms nog met een telefoon in de hand om het geweld vast te leggen.

Facebook heeft altijd het platform willen zijn om onderdrukte stemmen ook te laten horen. Maar langs de huisregels zouden foto’s van al te verminkte lichamen niet komen. Wie bepaalt dan dat zo’n foto nieuwswaarde heeft en er andere regels voor gelden? Facebook is zich ervan bewust geworden dat het een cruciale rol speelt in wat we te weten komen over Myanmar, zegt Farmaner. De beelden blijven staan, maar met waarschuwingen over wat er is te zien. Om preciezer te kunnen beoordelen wat de lokale context is waarbinnen iets wel of niet moet worden verwijderd, zijn de afgelopen jaren meer medewerkers aangenomen die Birmaans spreken. Maar het wringt.

Dat snapt raadslid Alan Rusbridger ook wel, zegt hij via de videoverbinding. Het is te beperkt om alleen door de bril van de huisregels naar dit soort berichten te kijken, zoals traditioneel gebeurde. Wat hem betreft wegen mensenrechten juist mee in besluiten. “Dat vergt alleen wel netwerken van mensen die lokaal heel goed begrijpen wat er aan de hand is en het voor de raad kunnen interpreteren. Die worden nog opgebouwd en dat kost tijd.”

Rusbridger is een van de eerste leden van de raad. Sinds oktober 2020 behandelen hij en collega’s zaken over de verwijderde posts. Daarvoor probeerde de organisatie uit te vogelen wat de procedure moest zijn en om wat voor soort zaken het zou gaan. Dat gebeurde in proefpanels. Leden daarvan kregen verwijderde posts te zien en de vraag of de verwijdering terecht was.

‘Kill all men’

Een van de proefzittingen ging over een mopje van cabaretier Marcia Belsky. Wat schijnbaar overduidelijk onschuldig leek, bleek toch een extra moeilijkheid voor het oordeelproces van de raad bloot te leggen.

Marcia Belsky is een cabaretier van rond de 30 jaar uit New York en een feminist die van het einde van het patriarchaat haar thema heeft gemaakt. Dat doet ze met liedjes (“Alle oude witte mannen moeten dood / behalve mijn vader”), en door een foto op Facebook te plaatsen van zichzelf als 7-jarige met in een tekstballon “Kill all men”.

Die cartoon werd door Facebook verwijderd omdat hij in strijd is met de huisregels voor hatespeech. En dat had niet gemoeten, zei Facebook zelf destijds, want dit was overduidelijk geen oproep om over te gaan tot het doden van mannen. Maar toen de zaak tijdens een training van de Oversight Board in Nairobi werd overgedaan, vonden sommige panelleden het verwijderen terecht. Een van hen woont in Ethiopië.

Waarom dat van belang is, wil Endalk Chala wel uitleggen. Hij was een van de eerste politieke bloggers van Ethiopië, wat het land voor hem onveilig maakte. In 2013 vluchtte hij.

Vanuit Saint Paul in het Amerikaanse Minnesota vertelt hij telefonisch hoe in 2015 protesten tegen de zittende regering werden aangevuurd door Jawar Mohammed, een Ethiopiër die op dat moment zelf in de Verenigde Staten woont. Met zijn 1,4 miljoen volgers heeft hij een even groot bereik op Facebook als Ethiopische nieuwsorganisaties. De protesten hebben succes, er komt een nieuwe regering geleid door premier Abiy Ahmed, die later de Nobelprijs voor de Vrede zou krijgen.

Jawar Mohammed keert terug naar Ethiopië en verandert van toon. Hij begint via Facebook berichten te plaatsen over de etnische groep die voor de protesten in 2015 aan de macht was en waartoe hij niet behoort. En op een avond bericht hij zonder enig bewijs dat hij bang is vermoord te worden door leden van andere etnische groepen. Onder zijn berichten wordt opgeroepen leden van die groepen te vermoorden – en dat gebeurt. In 2019 vallen er bij rellen in één nacht zeker 86 doden. “De ironie is dat de verandering in het land er juist ook is gekomen door steun van Mohammed. Via Facebook”, zegt Endalk Chala.

Dit om te illustreren waarom panelleden in Nairobi, toen ze zonder verdere context een tekening zagen met “kill all men”, dachten: dat zou ik niet op Facebook laten staan. Endalk Chala, die eerder zijn verhaal deed in de podcast Radiolab: “Hatespeech in Californië is iets anders dan hatespeech in Ethiopië. We hebben daar alleen Facebook geïmporteerd. Niet de grotere vrijheid van meningsuiting zoals die in de Verenigde Staten geldt en niet de instituties die je bijvoorbeeld beschermen tegen de staat als je een onwelgevallige mening uit.”

Het is ook een probleem, zegt hij, dat er vijftien talen worden gesproken in Ethiopië. Het kan gebeuren dat van Facebook iets in het Amhaars wordt verwijderd dat in het Tigrinya blijft staan. En afhankelijk van waar je bent in het land kunnen berichten net een andere betekenis hebben. Zo kan de ene bevolkingsgroep verwijzen naar een andere als ‘ezels’. Dat klinkt onschuldig, maar het ontkent in feite het recht van die ‘ezels’ om in Ethiopië te mogen wonen, zegt Chala. “In de VS zijn extreemrechtse nationalisten van het platform verbannen, in Ethiopië mogen etnische nationalisten gewoon hun gang gaan.”

Kritiek op status raad

Los van kritiek op dit regionale precisiewerk is er kritiek op de organisatie en status van de raad zelf. Helemaal onafhankelijk van Facebook is de Oversight Board namelijk niet. De raad is ondergebracht in een stichting met het hoofdkantoor in Londen, die wordt gefinancierd met geld van Facebook, in eerste instantie 130 miljoen dollar. De besluiten van de raad gaan over beslissingen van Facebook om iets te verwijderen. Niet over wat nog op het platform is blijven staan. De raad mag beleidsadvies geven aan Facebook, maar dat is vrijblijvend.

Linnet Taylor werkt aan de Universiteit van Tilburg als hoofddocent data governance. Ze zegt ervan uit te gaan dat de leden van de Oversight Board van goede wil zijn. Misschien dat ze zelfs geloven dat ze iets kunnen veranderen aan Facebook. Maar deze hoge raad wekt door haar opzet ten onrechte de indruk dat er echt onafhankelijk transnationaal toezicht is, vindt Taylor.

“Er wordt door Facebook een volgende bureaucratische laag gebouwd rond moderatie. Individuele landen blijken er vervolgens, anders dan bij de wapenhandel en olieproductie bijvoorbeeld, niet goed in om grote bedrijven als Facebook te reguleren. Omdat zulke bedrijven de schijn wekken dat zelf te doen.”

‘Verdienmodel is het probleem’

Linnet Taylor ziet een probleem in het model van Facebook. “Extremen worden uitvergroot en beloond en in de vorm van advertenties verdient Facebook er geld aan. Niet moderatie is het probleem, maar het verdienmodel.”

Vanuit het Verenigd Koninkrijk zegt Alan Rusbridger echt te geloven in de wil van Facebook om de raad onafhankelijk te houden. The Guardian, waarvan hij hoofdredacteur was, wordt ook gefinancierd door een stichting zonder zeggenschap over de inhoud. De raad wordt uitgebreid met nog eens twintig leden het komende jaar, zodat er sneller gewerkt kan worden, en in al gepubliceerde besluiten suggereert de raad al dat Facebook transparanter moet worden over bijvoorbeeld zijn algoritmen. Die adviezen over het beleid van het bedrijf zullen aan gewicht winnen naarmate er meer deskundigen bij komen. Als het aan Rusbridger ligt, kan er straks ook besloten worden over wat er nog op Facebook staat, in plaats van alleen over wat er is verwijderd.

Vergeet niet, zegt hij, dat het internet nog niet zo lang bestaat. “Vergeleken met de uitvinding van de boekdrukkunst zitten we een jaar nadat Johannes Gutenberg in 1439 zijn eerste loden letters goot. Er zijn honderd boeken gedrukt en iedereen is in rep en roer. Over welke kant het op moet met het internet denken en debatteren we de komende honderd jaar nog. En iedereen wil volgende week dinsdag een antwoord op die vraag.’

Vijf leden van de Oversight Board

Endy Bayuni

Bayuni werkt voor The Jakarta Post, een van de belangrijkste kranten van Indonesië. Daarvoor was hij correspondent in zijn thuisland voor persbureaus AFP en Reuters.

Catalina Botero Marino

Aan de Universidad de Los Andes in Colombia bekleedt Botero Marino de Unesco-leerstoel voor Vrijheid van Meningsuiting. Ze deed eerder mensenrechtenwerk en was rechter aan het Colombiaanse constitutioneel hof.

Helle Thorning-Schmidt

Na haar tijd als premier van Denemarken, van 2011 tot 2015, werd Thorning-Schmidt hoofd van Save the Children, dat wereldwijd opkomt voor de situatie van kinderen in crisisgebieden. Daarnaast is ze lid van een aantal internationale denktanks.

Tawakkol Karman

Karman is de eerste Arabische vrouw die de Nobelprijs voor de Vrede kreeg uitgereikt voor haar – geweldloze – werk als activist en journalist in het door oorlog verscheurde Jemen. Er wordt vaak aan haar gerefereerd als de ‘Moeder’ van de Arabische Lente, een golf van opstanden tegen autoritaire regimes sinds 2011 in de Arabische wereld.

Ronaldo Lemos

Als advocaat gespecialiseerd in technologie en intellectueel eigendomsrecht schreef Lemos mee aan een aantal internetwetten in zijn thuisland Brazilië. Hij was ook lid van raden van toezicht van organisaties die pleiten voor vrije internettoegang wereldwijd.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234