Donderdag 24/09/2020

Technologie

Hoe Spaanse software (onbedoeld) een gevaarlijk wapen werd voor wereldwijde onlinemanipulatie

17 juli 2014. Een Boeing 777 van Malaysia Airlines met vluchtnummer MH17 stort neer nabij Donetsk, Oekraïne. In de eerste dagen na de ramp plaatst het Russische Internet Research Agency meer dan honderdduizend tweets die ­Oekraïne de schuld moeten geven van de crash.Beeld EPA

Een Spaans bedrijf ontwikkelt vanaf 2009 software die de stemming op sociale media kan beïnvloeden. Wanneer Rusland het te pakken krijgt, blijkt het een machtig wapen te zijn. De Spanjaarden belanden in een wereld van spionage, moord en propaganda.

Madrid. De goedlachse astronaut Charles ‘Chuck’ Baker reist voor een routineklus naar een ­verre planeet. Maar als de roodharige man in zijn witte Nasa-pak het ruimtevaartuig uit stapt, volgt een onaangename verrassing: het krioelt er van de groene mensjes die hem als een indringer beschouwen en hem het liefst zo snel mogelijk weer zien vertrekken. Chuck wil terug naar de aarde.

De ruimtereiziger is de hoofdpersoon van animatiefilm Planet 51 – een film uit 2009, bedacht en gemaakt door het Spaanse Ilion. Ilion is onderdeel van Zed Group, dat software maakt en ook eigenaar is van de private technische universiteit U-tad in Madrid. Tien jaar na het internationale succes van Planet 51 zijn de bedenkers zelf in een vergelijkbaar plot terechtgekomen. Ongewild zijn ze in een spionagewereld ­beland en gestuit op merkwaardige geldstromen en beïnvloeding.

1. De ontwikkeling van een online­wapen

Het begon allemaal in 2009, zegt ­‘Carlos’ – een van de medewerkers van Zed Group. Carlos – kort, naar voren gekamd haar, bril op een wat spitse neus – is een fictieve naam. De laatste weken hebben hij en ‘Julio’ – grijzend haar en gekleed in wit overhemd – ­diverse bedreigingen ontvangen. Ze hebben hoge posities bij het bedrijf, dat telecomdiensten levert en ‘digitale entertainmentproducten’ maakt; videospelletjes voor mobiele telefoons, animatiefilms. Ze doen hun verhaal noodgedwongen anoniem en hebben documenten en laptops meegenomen om het te staven.

Dat jaar, 2009, groeien de activiteiten van Zed hard. Het bedrijf is ­wereldwijd actief, koopt in verschillende landen concurrenten op en dochterbedrijf Ilion presenteert in november met succes de animatiefilm rondom astronaut Chuck. De film brengt 95 miljoen euro op.

Het is ook het jaar van de digitale omwenteling: mensen gaan sociale media gebruiken. Twitter wordt in Europa ontdekt, video’s delen op YouTube begint aan een opmars en Facebook maakt voor het eerst winst. Daarmee verandert het internet­gebruik: persoonlijker, meer delen, meer via smartphones. Carlos en Julio horen dat sociale media hun klanten – voornamelijk telecombedrijven die zelf weer honderden klanten hebben – ook confronteren met nieuwe obstakels: klachten via sociale media kunnen het sentiment over een bedrijf razendsnel kantelen.

Julio: “Bedrijven werden bijvoorbeeld afgeperst door personen die er nooit waren geweest maar wel een slechte recensie achterlieten. In ruil voor gratis diensten konden ze de klacht verwijderen.” Kunnen Carlos en Julio iets bedenken hiertegen?

Kunnen hun data-analisten en software-ontwikkelaars software maken die signaleert wanneer een onlinestorm opsteekt die schadelijk is voor een bedrijf? En kunnen zij die storm vervolgens een bepaalde kant op duwen of zelfs onschadelijk maken? De algoritmen van Twitter en Facebook zijn dan nog niet openbaar. Om dat te ondervangen, gebruiken de specialisten een truc: ze gaan zelf tweets en berichten plaatsen en het effect vastleggen.

Zo hopen ze zicht te krijgen op het ­mechaniek van beide Amerikaanse bedrijven. Bijvoorbeeld hoeveel tweets en retweets nodig zijn om een verhaal trending te krijgen. Wanneer een opvallend bericht uitgelicht wordt. En wanneer er te veel personen een bericht retweeten, waardoor Twitter en Facebook registreren dat sprake is van een georkestreerde activiteit, oftewel spam.

Na maanden proberen kennen de ontwikkelaars de grenzen. Hoe Twitter en Facebook berichten promoten, wanneer een bericht ‘viraal’ gaat en hoe die trends te beïnvloeden zijn. Daarna schrijven ze een eigen code die inzichtelijk maakt wanneer bedrijven last kunnen krijgen van negatieve publiciteit. ­Julio: “We noemden het Snap, Social Networks Analysis Platform.” Snap kan drie dingen: een onlineaanval detecteren, ­registreren hoe een bericht viraal wordt en een tegenaanval organiseren.

De klanten die ermee werken, vullen woorden in die ze ‘negatief’ voor hun werk vinden. De software zoekt naar die woorden in combinatie met het merk. Ook geeft Snap een melding als een tweet met een negatieve lading een hoge score haalt: als hij veel views krijgt. Dan is sprake van een aanval. Carlos: “En toen we dat konden, gingen we bedenken hoe we in de tegenaanval konden gaan.”

De truc: onlinebeïnvloeding

Een aanval detecteren is één, hem ­vervolgens onschadelijk maken is ingewikkelder. Wéér bestuderen ze de eigen code en werken twee ideeën uit. De eerste is om een negatieve tweet opvallend veel aandacht te geven met zogeheten bots – honderden nep­accounts die door één iemand worden bediend. Twitter en Facebook merken de opvallende aandacht van bots voor het onderwerp op, stellen vast dat sprake is van manipulatie en halen alle berichten – ook het origineel – weg. Julio grijnzend: “Heel doeltreffend.”

De tweede reactie is geraffineerder. Julio: “De aandacht wegblazen met een eigen, positieve tweet die viraal gaat.” Hoeveel aandacht moeten ze een bericht geven om het trending te laten worden en de andere aandacht te overstemmen? Het blijkt makkelijker dan gedacht. Als ze een bericht de juiste aandacht geven met een paar honderd accounts is het zo een halve dag trending. Julio: “Een plek in de top 10 van trending topics in Spanje kan al met driehonderd accounts.”

De methode werkt het best als de accounts van echte personen zijn, ­zodat Twitter en Facebook ze niet opmerken als bots. De Spanjaarden bouwen daarom een app die medewerkers van een bedrijf op hun telefoon zetten. Met die app geven ze Snap toegang tot hun Twitter-account: als hun werkgever een Twitter-aanval wil inzetten, krijgen de medewerkers een melding en kunnen ze met één klik de gesuggereerde tweet plaatsen. De software bepaalt het juiste moment en registreert het effect. Medewerkers die vroeg opstaan en in de ochtend op sociale media actief zijn, krijgen meldingen ’s ochtends. Avondmensen in de avond. Alles om ervoor te zorgen dat de campagne zo authentiek ­mogelijk lijkt. Carlos: “Bij een bedrijf als Telefónica werken alleen al 1.500 personen in het callcenter. Als een derde meedoet, heb je ruim voldoende mensen om op elk gewenst moment een boodschap trending te krijgen.”

De Spanjaarden merken dat de campagnes het best lopen via Twitter: dat werkt minder met groepen dan Facebook, waardoor een campagne effectiever is. Julio: “Twitter leeft van controverse. Hun algoritme is niet zo streng voor enige vorm van manipulatie.” In 2013 – na vier jaar analyseren, proberen, testen en bouwen – is Snap klaar voor gebruik. De eerste bedrijven melden zich en eind van dat jaar toont ook de Spaanse regering van toenmalig christendemocratisch premier Mariano Rajoy interesse. Carlos: “De regering had veel last van trol­accounts uit ­Venezuela.”

Europese verkiezingen

Een half jaar later zijn er Europese verkiezingen. De Partido Popular van Rajoy wil Snap gebruiken om het onlinesentiment te sturen. Carlos: “We hebben Snap toen gratis aangeboden aan de PSOE, de socialistische partij, om de democratie te beschermen. Als slechts één partij dit wapen kon inzetten, was het oneerlijk geweest.” Beide partijen gebruiken Snap volop: ze draaien er in drie jaar tijd honderden onlinecampagnes mee.

De link met Rusland

Terwijl Snap uitdijt, ontstaan ergens ­anders bij Zed Group problemen. Het bedrijf is hard gegroeid en werkt onder meer met Russische zakenpartners in Rusland en in voormalige Sovjetlanden. Voor de uitbreiding van het bedrijf is geld nodig, dat onder andere geleend wordt bij Alfa Group van de Rus Michail Fridman. Een steenrijke oligarch, met onder meer belangen in de olie-industrie, de telecomsector en in een supermarkt­keten. Directeur van Zed Group Javier Pérez reist geregeld tussen Madrid en Rusland.

Pérez ontmoet ook Jevgeni Prigozjin – zakenman en cateraar van de Russische president Vladimir Poetin. Prigozjin heeft een bijzondere status binnen het Kremlin. De oud-hotdogverkoper heeft een imperium gebouwd rond maaltijden: van het leveren van schoolmaaltijden tot de organisatie van staatsdiners. Dat heeft Prigozjin in de nabijheid van de president gebracht. Poetin dineert graag met regeringsleiders in zijn luxueuze restaurant. Beetje bij beetje is Prigozjin opgeklommen in de ­hiërarchie van het Kremlin.

2. De Russische roof: trollen aan het werk

Julio en Carlos bevestigen dat de gesprekken met Fridman en Prigozjin ook over Snap gingen. In 2014 komen een paar technische werknemers van Alfa Group zelfs naar het kantoor in Madrid: ze willen meer over Snap weten. Van 20 tot 24 januari 2014 krijgen ze ‘les’ in het gebruik van de software. De officiële verklaring voor de Russische aandacht is dat ze de potentie willen kennen voordat Alfa Group een financiële lening kan verstrekken. Carlos: “Wij zagen niets kwaads in die interesse.”

Snap groeit in Spanje en Carlos en Julio maken hun software steeds beter. Bij nieuwe klanten doen ze eerst een uitgebreide analyse, brengen het gedrag van twitteraars rond een onderwerp in kaart en brengen dan Snap in stelling. Met ­machine learning verbetert het programma zichzelf.

Dan komt 2017. Een van hen leest een artikel van Bloomberg over het Internet Research Agency in Sint ­Petersburg. Julio: “We schrokken ons rot.” Er wordt ­minutieus uitgelegd hoe Russische ­onlinemanipulatie werkt. Hoe honderden jonge Russen in een flatgebouw aan de rand van Sint-Petersburg desinformatie verspreiden. Carlos: “Het viel direct op dat het algoritme en het gedrag van de accounts hetzelfde waren als bij Snap.”

De Spanjaarden proberen te achterhalen hoe dat kan. Heeft iemand hun software gestolen? Ze zoeken in openbare bronnen en doen eigen onderzoek. Ze ­lezen dat een Russische politiekolonel eind 2013 het Internet Research Agency heeft opgericht. Dat deze kolonel in nauw contact staat met zakenman en cateraar Prigozjin – volgens de Russische onderzoeksjournalisten de werkelijke opdrachtgever. De teamleider is een medewerker van Prigozjins cateringbedrijf Concord. En in e-mails staat dat betalingen aan het Internet ­Research Agency (IRA) worden uitgevoerd door een ­accountant van Concord. Het idee van het IRA, begrijpen de Spanjaarden, is om jonge Russen president Poetin te laten prijzen. Daarmee hoopt Prigozjin in het gevlij bij de grote baas te komen.

De aanslag op MH17

Carlos en Julio gaan in de tegenaanval: omdat ze Snap kennen, weten ze ook hoe ze onlinemanipulatie kunnen achterhalen. Ze voelen het als hun morele verplichting om de effecten van hun uitvinding in kaart te brengen. Ze gaan trollen vangen.

Carlos: “We zagen veel MH17, heel veel MH17. MH17 is de enige campagne van de Russen die altijd is blijven doorlopen.” In de eerste dagen na de ramp plaatst het IRA meer dan honderdduizend tweets die ­Oekraïne de schuld moeten geven. Dat gaat vooral via bots: geautomatiseerde accounts die één iemand aanstuurt. Die ‘beïnvloeding’ is relatief vrij makkelijk te achterhalen, leggen de Spanjaarden uit.

Daarna wordt de beïnvloeding fijnzinniger. Ook de Russen leren klaarblijkelijk. Ze laten niet meer massaal een alternatieve theorie horen die ze middels bots trending krijgen, maar ze gaan werken met persoonlijker accounts.

Hoe langer de Spanjaarden zoeken, des te meer eigenaardigheden ze zien. Bijvoorbeeld dat de accounts op een gegeven moment een aantal ­media gaan promoten: uit Iran, Venezuela en Rusland. Ook hier werkt de beïnvloeding subtiel: de Spaanse variant van Russia ­Today (RT) publiceert bijvoorbeeld een nieuwsartikel over MH17 waarvan de ­titel luidt dat ­Nederlandse onderzoekers toegeven dat het MH17-onderzoek te complex voor ze is. In werkelijkheid gaat het ­citaat over een klein onderdeel van het onderzoek, maar de kop van het artikel vindt via Venezolaanse accounts een weg naar het grote publiek. Carlos: “We hebben ongeveer 10 procent van de activiteiten van het Internet ­Research Agency in kaart kunnen brengen. Je hebt niet zoveel nodig om het sentiment te sturen. 2.000 accounts in de Verenigde Staten, 600 in Engeland, 300 tot 400 in Nederland. We schatten dat Rusland er momenteel ongeveer 5.000 tot 6.000 heeft.” Elke maand komen er een paar honderd nieuwe accounts bij.

Stal Rusland Snap van de Spanjaarden? Twee developers van de Russische tak van Zed zijn overgestapt naar het IRA. Als Carlos en Julio voormalige leden van het IRA spreken, waarschuwen die hen: “Doe geen onderzoek, dan komen de Russen achter je aan.” Internationale experts, ook van de FBI, spreken hun vermoedens uit dat het IRA gebruikmaakt van ‘buitenlandse software’ bij het manipuleren van sociale media. En Prigozjin wordt na de Russische bemoeie­nis met de Amerikaanse verkiezingen door de FBI aangeklaagd vanwege betrokkenheid bij het Internet ­Research Agency. Julio: “We hebben het perfecte wapen gemaakt.”

3. De wereldwijde impact: van Vietnam tot Israël

Julio en Carlos zien vooral Russische en Venezolaanse desinformatie – die een opleving kennen rond het referendum over de Catalaanse onafhankelijkheid. Maar het zijn niet alleen de Russen en ­Venezolanen die het wapen gebruiken. Zeventig landen, toonde een onderzoek van Oxford in september aan, gebruiken ‘computergestuurde propaganda om de ­publieke opinie te sturen’. Een verdubbeling in twee jaar tijd.

En niet alleen autoritaire landen grijpen naar het middel: van de 70 landen zijn er 45 democratieën waarin politieke partijen onlinepropagandamiddelen gebruiken. Vietnam laat 10.000 personen het onlineklimaat bepalen, Israël 400, Oekraïne 20.000. Sommigen zijn niet alleen actief in eigen land maar ook daarbuiten. China is de nieuwe grote speler volgens het Oxford-onderzoek – het zet naar schatting tussen de 300.000 en 2 miljoen mensen in voor online­manipulatie – en Facebook is nog belangrijker bij het verspreiden van desinformatie dan Twitter. Philip Howard, hoogleraar bij het Oxford Internet Institute: “De schaal van deze campagnes is uitermate zorgelijk voor de moderne democratie.”

Ook in verschillende Europese landen wordt Facebook gebruikt voor manipulatie, beschrijft het rapport. Zo zet een adviseur van de Oostenrijkse sociaaldemocratische partij SPÖ in oktober 2016 twee Facebook-pagina’s op om de campagnes van de politieke rivalen te ondermijnen.

4. De les: de donkere kanten van een nieuwe technologie

Snap werd in juli 2017 beëindigd ­nadat de eigenaren van Zed ruzie hadden gekregen met hun Russische ­ zakenpartners. De Spanjaarden willen het niet meer gebruiken. “Te gevaarlijk.” Hun zoektocht stopte alleen niet bij de Russische trollen. Hoe dieper ze betrokken raakten bij de onlinecampagnes, hoe meer ze het grotere verband gingen zien. Carlos: “Een goede onlinecampagne gaat gepaard met echte beïnvloeding. Met politieke macht.”

Wat hij bedoelt: een onlinecampagne dient een politiek doel. Venezolaanse en Russische trollen steunen de Catalaanse beweging omdat ze denken dat het in hun voordeel is om Spanje te verzwakken. En om die manipulatie effectief te kunnen doen, zijn kennis en contacten in het desbetreffende land nodig. Toen de Spanjaarden dat doorzagen, vonden ze ook andere verbanden: wanneer Russische accounts actief werden in Afrikaanse landen, waren Prigozjin en zijn mannen vaak ook in de buurt, zagen ze.

In juli arresteerde Libië twee Russische ‘consultants’ die in nauw contact staan met Prigozjin. Ze hadden volgens Bloomberg een afspraak met de zoon van de verdreven dictator Muammar Kadhafi die wil meedoen aan de Libische presidentsverkiezingen en de steun van Moskou heeft. Bij de twee mannen werden laptops en USB-sticks gevonden waarop stond dat ze voor Fabrika Trollei werken – Russisch voor trollen­fabriek. De twee wilden volgens de ­Libische aanklacht ‘verkiezingen in verschillende Afrikaanse landen beïnvloeden’. Fabrika Trollei is de bijnaam van een aantal politieke en mediaorganisaties die verbonden zijn met Prigozjin. Ook Prigozjin stond volgens bronnen van Bloomberg in contact met de zoon van Kadhafi en was even­eens actief in Madagaskar, waar Rusland ook een desinformatiecampagne opzette. Rusland werkt met lokale mensen om Facebook-accounts op te zetten die zo authentiek mogelijk zijn: die zich met de juiste onderwerpen bemoeien in de lokale taal. Een observatie die wordt gedeeld door Carlos en Julio (‘dat maakt ze het meest effectief en lastig te detecteren’).

Moorden en een couppoging

En ook daar bleef het niet bij. Carlos leunt voorover op de vergadertafel. “Toen we de campagnes gingen koppelen aan het reisgedrag van bekende Russische inlichtingenofficieren en geldstromen, zagen we nog meer patronen.” Ze vertellen over de vergiftiging van een wapenhandelaar in Bulgarije, een couppoging in Montenegro, de moord op een Tsjetsjeen in Berlijn. Allemaal toegeschreven aan Russische leden van een destabilisatiegroep. Hoe verder ze geraken, hoe bizarder hun onderzoek wordt. Veel meer details kunnen ze niet geven, ook niet over contacten met Europese politiediensten. “Dat is een risico.” Wel laten ze documenten van justitieonderzoeken en voorbeelden van geldstromen zien en tonen ze een paspoort van een Rus die betrokken is bij ondermijnende activiteiten in Afrikaanse landen. Een dag later schrijven internationale media dat deze man is opgepakt voor het beïnvloeden van verkiezingen.

Door Snap zijn ze in een donkere ­wereld beland. Julio: “Er is een nieuw speelveld ontstaan waar conflicten en oorlogen worden uitgevochten. Op dit speelveld kunnen aanvallers met valse informatie het sentiment in een samenleving veranderen en landen in chaos storten.” Westerse landen kunnen volgens Carlos en Julio moeilijk omgaan met deze nieuwe werkelijkheid. De les van Snap? Julio: “Ik zag eerst de geweldige mogelijkheden van technologie. Nu zie ik vooral de donkere kanten ervan.”

De Alfa Group en het Internet ­Research Agency hebben niet gereageerd op een verzoek tot commentaar.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234