Woensdag 17/07/2019

Interview

‘Een programmeur? Een blanke jongeman met hoody’: techjournalist Clive Thompson pleit voor meer diversiteit

Clive Thompson: ‘Slechts 15 procent van de werknemers van Google is een vrouw, en het aantal zwarten en latino’s blijft beperkt tot een paar procent.’ Beeld Liz Maney

In grote IT-bedrijven als Google of Facebook is meer dan 80 procent van de programmeurs blank, jong en mannelijk. Hoog tijd voor diversiteit, aldus de Canadese expert Clive Thompson, want die blanke jongemannen kijken niet verder dan hun neus lang is.

Toen Jacky Alciné in de zomer van 2015 op zijn pc Google Photo opende was hij aangenaam verrast. Google had een update doorgevoerd en zijn foto’s waren nu gerangschikt op onderwerp of gebeurtenis. Alle kiekjes van het afstuderen van zijn broer stonden bijvoorbeeld onder het kopje ‘eindexamen’. Verder naar beneden scrollend stootte hij op de selfies die hij en zijn vriendin gemaakt hadden tijdens een openluchtconcert. Mooie herinneringen waren het, tot de zwarte Jacky het kopje zag waaronder ze stonden en dat aankwam als een slag in het gezicht: ‘gorilla’s’.

Een typisch voorbeeld van ongewild racisme noemt Clive Thompson dit voorval waarvoor Google nadien heel diep door het stof moest, en het gevolg van de afwezigheid van diversiteit onder de programmeurs van het bedrijf. “Slechts 15 procent van de werknemers van Google is een vrouw”, duidt hij het euvel, “en het aantal zwarten en latino’s blijft beperkt tot een paar procent. Alle anderen zijn blanke jonge mannen en Aziaten, die via hun programmeren een virtuele wereld scheppen die overeenstemt met hun eigen ervaringen. Ik kan me zo voorstellen hoe het gegaan is. Google Photo is het resultaat van machine learning. Het programma wordt gevoed met miljoenen foto’s en leert zo wat bijvoorbeeld een vliegtuig of een fiets is. Is er ergens een databank met een paar miljoen foto’s van gezichten, heeft er wellicht iemand gevraagd. Dat dit voornamelijk blanke gezichten waren zal niemand opgevallen zijn, net zomin als dat het programma uiteindelijk geen zwarte gezichten herkende.”

Computersoftware is niet neutraal, beweert Thompson, een gevierd IT-journalist die onder meer werkt voor The New York Times en Wired, in zijn boek De coders. Hij toont ons de wereld zoals de programmeurs die zien en daarom is het belangrijk om weten wie die programmeurs zijn. “Ik schrijf al een kwarteeuw over technologie en wat me daarbij opvalt is dat we veel vertrouwen hebben in onze computer en gsm terwijl we geen flauw idee hebben hoe zo’n ding werkt. Iedereen heeft wel een idee hoe een vliegtuig in elkaar zit, met een romp, vleugels en straalmotoren. Hoe bouw je een wolkenkrabber of voer je een operatie uit? We weten het ongeveer wel. 

“Maar software? Dat is een mysterie. Waarom ziet Facebook eruit zoals het eruitziet? Waarom heeft Twitter een retweet-functie? Dat heeft allemaal te maken met de mensen die de software schrijven. Net zoals er een bepaald type mensen geïnteresseerd is in rechten of geneeskunde, geldt dat ook voor programmeren. En je kan heel veel te weten komen over die disciplines door na te gaan wat die mensen bezighoudt, wat hun passies zijn en hoe ze naar de wereld kijken.”

Programmeurs zijn een beetje slonzige figuren, introvert en op het randje van asperger toch?

“Grotendeels wel. Ik heb in totaal een stuk of tweehonderd programmeurs gesproken en er zit duidelijk een lijn in. Ze zijn meer dan gemiddeld introvert en niet zo geïnteresseerd in andere mensen. Programmeren vereist van je dat je lange tijd alleen maar met je computer communiceert. Alleen mensen die dat leuk vinden zullen voor zo’n job solliciteren. 

“Een tweede vereiste is dat je heel logisch kunt denken, waarbij je gecompliceerde fenomenen tot een reeks eenvoudige componenten kunt reduceren en daarbij heel nauwkeurig te werk gaat. Bij het programmeren kan de kleinste fout gigantische gevolgen hebben. Als ik een punt verkeerd zet, verandert dat niets wezenlijks aan mijn tekst. Wanneer een programmeur dat doet tijdens het programmeren voert het programma zijn taak niet uit. Maar wat programmeurs nog veel vaker gemeen hebben is dat ze grof en arrogant zijn terwijl ze werken. Wanneer je op café gaat met hen, merk je dat niet, maar wanneer ze in een loop zitten met hun computer en je stoort hen, bijten ze je de strot af.”

Maar waarom zijn het dan vooral blanke jonge mannen?

“Wat het nog merkwaardiger maakt, is dat in alle andere technische beroepen het aantal vrouwen stijgt, behalve in de computerwetenschappen. In 1960 was 1 procent van de Amerikaanse ingenieurs een vrouw. Nu is dat 12 procent, wat natuurlijk nog veel te weinig is. Alleen in computerwetenschappen is het aantal afgenomen, en dat sinds de jaren 80. Er moet toen iets gebeurd zijn in de programmeurswereld waardoor die vrouwen op de loop zijn gegaan, want vroeger waren ze er wel. Toen in de jaren 40 en 50 de eerste computers geprogrammeerd werden, gebeurde dat bijna uitsluitend door vrouwen. Er werd zelfs gedacht dat vrouwen betere programmeurs waren omdat ze goed konden breien en borduren, zaken waarvoor eveneens nauwgezet denken noodzakelijk is. 

“De dertig jaar daarna werden programmeurs steeds beter betaald. Men ging ook kijken naar doorgroeimogelijkheden. Er werden programmeurs gezocht die uiteindelijk CEO zouden kunnen worden. In de jaren 70 en 80 wilde men daar geen vrouwen voor. Geroutineerde vrouwelijke programmeurs kregen expliciet de opdracht jonge mannen op te leiden die hun baas zouden worden. En wanneer die op hun beurt nieuwe mensen moesten aannemen waren dat vanzelfsprekend opnieuw jonge mannen. 

“Daar kwam het succes van de pc in de jaren 80 nog bovenop. Opeens stond er in ieder huis een computer en tieners hadden de kans om ermee aan de slag te gaan. Het is zo dat ik leerde programmeren. Net als mijn vrienden trouwens, maar niet mijn vriendinnen, want een computer was technologisch en dus voorbehouden voor jongens. Wanneer die jongens nadien op school leerden programmeren, hadden zij natuurlijk een voorsprong, waardoor zij doorzetten en veel meisjes afhaakten. En zo krijg je dus een zelfbevestigend systeem. De laatste zes jaar komt daar gelukkig geleidelijk aan verandering in.”

Wat is er dan opeens veranderd?

“Dat weten we in feite niet. De meest aannemelijke hypothese is dat meisjes zich minder laten doen en beseffen dat software belangrijk is op alle werkterreinen. Ook als je geïnteresseerd bent in geneeskunde, communicatie, het milieu of gewoon in een hoop geld verdienen, leer je beter programmeren. Dat was niet zo een jaar of twintig geleden. Toen moest je alleen maar interesse hebben in programmeren en kwam je wellicht ergens in een kelder terecht.”

Waarom werken zo weinig zwarten en latino’s in softwarebedrijven?

“Daar zijn meerdere redenen voor. Zwarten beginnen met een historische achterstand. Ze wonen in achterstandswijken, gaan naar slechte scholen en komen dus met een handicap aan de vertreklijn in het hoger onderwijs. Als ze al informatica studeren, moeten ze daarna opboksen tegen zich herhalende patronen die blanken bevoordelen. Ik wil een programmeur aanwerven. Hoe ziet zo iemand eruit? Een blanke jongeman met een hoody dus.”

Van enige meritocratie is dus geen sprake?

“Absoluut niet. Het is echt niet de beste die de job krijgt. Dat weten zwarten en latino’s ook en daarom solliciteren ze zelfs niet meer. Dat is extra jammer omdat diversiteit onder programmeurs door AI nog belangrijker is geworden. Neem bijvoorbeeld de software die bepaalt of je in aanmerking komt voor een hypotheeklening. Die is gebaseerd op een geschiedenis van dertig jaar leningen verstrekken, zegt men dan, maar wat blijkt? Dat blanken op basis daarvan veel makkelijker een lening krijgen dan zwarten of Roma. Want die komen niet zo vaak voor in die geschiedenis en zijn daardoor verdacht. Hoe meer verschillende mensen aan iets werken, hoe diverser het wordt en hoe efficiënter het ook zal zijn.”

Programmeurs van Google tijdens een pauze op een conferentie in San Francisco. Beeld Corbis via Getty Images

Stel dat Facebook niet door een stel jonge blanke mannen was bedacht, had het er dan anders uitgezien?

“Blanke jonge mannen hebben geen last van stalking of gecoördineerde haatcampagnes. Ze dachten er dus niet aan om daar beveiliging tegen in te bouwen. Vrouwen en zwarten hebben daar wel last van. Stel dus dat je terug zou kunnen keren in de tijd en een paar vrouwen en zwarten toevoegen aan het team dat Facebook ontwierp, dan was die beveiliging wellicht wel ingebouwd. Maar mensen zullen altijd krengen blijven natuurlijk. Sociale netwerken zullen nooit hemelse plekken vol onschuld worden, maar je kan ze wel verbeteren. 

“Een ex-werknemer van Twitter stelde vast dat wanneer een vrouw gestalkt wordt door een man, ook haar vriendinnen daar vaak last van hebben. Wanneer die ene vrouw die stalker dan blokkeert, hebben de anderen er nog steeds last van. Dus bedacht hij Block Together. Als mensen zich aansluiten bij een Block Together-groep wordt iemand automatisch door alle leden van de groep geblokkeerd wanneer een van hen dat doet. Het is een slimme manier om van Twitter te blijven genieten zonder er de nare kantjes van de moeten ervaren. Twitter kon dat van bij aanvang ingebouwd hebben. Alleen dacht geen enkele van de eerste ontwikkelaars daaraan omdat het jonge mannen waren.”

Houden adverteerders daar wel van, van al dat blokkeren?

“Daar zit inderdaad een deel van het probleem. Zij willen dat je doorklikt, zodat je nog meer advertenties te slikken krijgt en dus propageren ze de gekste zaken, omdat die aandacht en clicks trekken. Maar zo voer je mensen wel hele dagen samenzweringstheorieën natuurlijk. Misschien hadden ze eerst eens kunnen kijken naar wat er gebeurde bij traditionele media. Kranten zoeken al honderdvijftig jaar naar het juiste evenwicht tussen het verkopen van advertenties door hun lezers heel veel smeuïg nieuws voor te schotelen over bekende mensen en hun ethische taak om hen ook nieuws te brengen over internationale politiek. Sociale netwerken hadden daar iets uit kunnen leren.”

Maar sociale netwerken zijn toch geen nieuwskanalen zoals kranten? Zij leveren een format waarin anderen op hun beurt content plaatsen. Facebook levert de inhoud toch niet van wat u in uw newsfeed leest?

“Natuurlijk niet, maar het selecteert die wel. Weet je hoe Facebook zijn newsfeed noemde toen het die introduceerde? Een persoonlijke krant voor tien miljoen mensen. Wanneer je een algoritme creëert dat selecteert wat iemand te zien krijgt en wat niet, neem je een redactionele beslissing. Wat doet een krantenredactie anders dan vaststellen dat er drieduizend verschillende verhalen te brengen zijn en dat daaruit een keuze gemaakt moet worden? Bij die keuzes wordt een set regels gebruikt, wat je een algoritme zou kunnen noemen. En dat is ook wat Facebook doet. Ze zouden je drieduizend zaken kunnen tonen die je vrienden hebben gepost, maar ze maken een selectie van honderdvijftig op basis van hun algoritme. Ik noem dat een redactionele beslissing.”

Een Facebook dat door een diverse groep informatici bedacht was zou dus geen last gehad hebben van Cambridge Analytica of fake news?

“Het zou zeker veel minder geweest zijn. Maar misschien is het feit dat Facebook zijn geld verdient door advertentieruimte te verkopen wel belangrijker. Misschien had Facebook het Linkedin-model moeten kiezen, waarbij je een gratis basisversie kan gebruiken maar moet betalen als je alle toeters en bellen wil. Dat had hen een smak geld kunnen opleveren zonder dat de gebruikers de hele tijd zaten door te klikken. 

“YouTube heeft nu trouwens hetzelfde probleem, al lijkt niemand daar echt aandacht aan te besteden. Wat je daar allemaal aangeraden krijgt in de rechterkolom is gewoon te gek. Een bevriend programmeur kocht een nieuwe laptop. Het eerste wat ze deed was meteen naar YouTube gaan om er een video op te zoeken over Closure, de taal waarin ze werkt. Er stond dus geen geschiedenis op die laptop op basis waarvan YouTube andere filmpjes had kunnen suggereren. Maar toch kwamen die wel, en ze waren stuk voor stuk seksistisch, antisemitisch en racistisch. Het algoritme dat YouTube gebruikt om je nieuwe filmpjes te suggereren is dus heel problematisch. Zeker aangezien jongeren YouTube steeds vaker zien als hun belangrijkste bron van informatie. Willen ze weten hoe een versterker werkt of hoe dat precies zat met Plato en die grot, dan gaan ze niet meer naar Wikipedia, maar naar YouTube. En dan krijgen ze dus al die bagger over zich heen.”

Is het niet gek dat programmeurs, die de reputatie hebben libertair of anarchistisch te zijn, zo makkelijk meestappen in een systeem dat de persoonlijke informatie van gebruikers oogst en die vervolgens misbruikt om hen gepersonaliseerde advertenties door de strot te duwen?

“Wij denken vaak dat programmeurs libertairen of anarchisten zijn, maar veel onderzoek is daar niet naar gedaan. Aan Stanford University is wel een dergelijk onderzoek gebeurd en daaruit bleek dat ze links denken wanneer het gaat over klimaatwijziging en belastingen, maar bijzonder rechts en libertair wanneer het over werk gaat. Ze vinden dat er geen enkele wet zou moeten zijn over het aannemen of ontslaan van mensen. Ergens is dat ook wel te begrijpen, omdat ze in een professionele wereld leven waarin iedereen ervan uitgaat dat alles om talent draait. Wie goed is haalt de top, wie slecht is zoekt beter een andere baan. 

“Heel lang legden ze echter geen link tussen hun persoonlijke politieke meningen en hun job. Ze deden gewoon hun werk, zonder na te denken over de politieke connotaties ervan. Dat is vandaag niet langer zo. De voorbije twee jaar zijn programmeurs in opstand gekomen omwille van ethische bezwaren. Bij Google legden ze het werk neer omdat ze niet akkoord gingen dat het bedrijf een contract gesloten had voor het maken van AI voor militaire drones. Eerst wilden ze dat conflict binnenshuis houden, maar omdat het management niet wou luisteren zijn ze er vervolgens mee naar buiten gekomen. Er kwam steun vanuit het hele bedrijf, mensen namen ontslag en uiteindelijk heeft Google het contract verbroken. 

“Hetzelfde gebeurde bij Microsoft toen programmeurs ontdekten dat hun bedrijf een contract had met de Amerikaanse immigratiedienst voor software die het uitwijzen van migranten makkelijker zou maken. Waarom de link tussen persoonlijke politieke overtuigingen en werk vandaag wel gelegd wordt en vroeger niet, is onduidelijk, maar ik denk dat de verkiezing van Trump en het idee van fake news dat ermee gepaard ging doorslaggevend was.”

Clive Thompson, De coders, Maven Publishing, 400 p., 21,50 euro.

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle verhalen van De Morgen rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar info@demorgen.be.
© 2019 MEDIALAAN nv - alle rechten voorbehouden