Na haar ontslag bij Google gaat Timnit Gebru nu zelf de ethiek van algoritmen onderzoeken

Juist van binnenuit kon ze technologiebedrijven veranderen, dacht Timnit Gebru, maar een kritisch onderzoek kostte Gebru haar baan bij Google. Begin deze maand lanceerde ze haar eigen onderzoeksinstituut. Dan maar van buitenaf.

Het is 1998 en in het Australische Brisbane presenteren Sergej Brin, dan 24, en Larry Page (25) voor het eerst hun algoritme PageRank. Een manier, vertellen de twee Stanford-studenten aan de zevende World Wide Web Conference, om de waarde van webpagina’s in kaart te brengen. Om het wereldwijde web te ordenen op relevantie.

Een maand later breekt een bloedige oorlog uit tussen Ethiopië en Eritrea over het verloop van de grens tussen beide landen. Timnit Gebru, een 15-jarige Eritrese, zit in mei 1998 vast in de Ethiopische hoofdstad Addis Abeba. Haar moeder heeft een visum voor de Verenigde Staten, Gebru krijgt onderdak in Ierland, waar ze niet graag woont. Vooral de regen, vertelde ze aan technologietijdschrift Wired voor een omvangrijk stuk over haar carrière.

Een jaar later mag ze als vluchteling naar de Verenigde Staten komen, een eerste stap op weg naar een baan als hoofd van de afdeling binnen Google die onderzoek doet naar ethisch gebruik van kunstmatige intelligentie. PageRank, dat vlak voor haar vlucht aan de wereld werd gepresenteerd is, nog steeds de motor van het zoekalgoritme van Google.

Ontslagen of ontslag genomen

Haar baan bij Google is Gebru (38) sinds vorig jaar kwijt. Ze publiceerde een kritisch onderzoek naar vooroordelen in kunstmatige intelligentie (KI) bij Google en werd begin december 2020 ontslagen. Dat zegt ze zelf althans. Volgens Google nam ze ontslag.

Precies een jaar later, begin deze maand, maakte ze de oprichting bekend van Dair, afkorting voor Distributed Artificial Intelligence Research Institute, dat de ethische kanten van KI onderzoekt. De enige manier om goed onderzoek te doen is van buitenaf, en niet van binnenuit, schrijft de vrouw die juist jarenlang de grootste bedrijven op aarde probeerde bij te sturen als werknemer van die bedrijven.

iPad

Haar vader overleed toen ze 5 jaar oud was, Gebru wordt grootgebracht door haar moeder, een econoom. Eenmaal toegelaten tot de prestigieuze Stanford-universiteit in de VS kiest Gebru voor dezelfde studie als haar vader: elektrotechniek. Al tijdens die studie komt Gebru fulltime in dienst van Apple. Daar werkt ze aan algoritmen voor de eerste iPad.

Ze begint aan een masteropleiding Computer Vision, oftewel de manier waarop mensen computers leren te ‘zien’. Verbaasd als ze is over de bedragen die onderzoeksbureaus overhebben voor het in kaart brengen van bijvoorbeeld stemgedrag in een wijk, leert ze een computer via kunstmatige intelligentie auto’s herkennen. Want aan een auto kun je veel aflezen, denkt ze.

Twee van haar studenten halen 50 miljoen beelden van auto’s van Google Street View. Met hulp van auto-experts omschrijft ze 70.000 van die beelden, om die met behulp van kunstmatige intelligentie weer te voeden aan een computer. Die zou in staat moeten zijn de overige auto’s op de beelden te herkennen.

Gebru combineert de data met andere gegevens, over stemgedrag bijvoorbeeld, en criminaliteitscijfers. En toont zo aan dat de aanwezigheid van Volkswagens en pick-ups indicaties zijn voor een wijk met veel witte inwoners, en Buicks en Oldsmobiles voor inwoners van kleur. Zie je meer pick-ups staan dan sedans, dan is er een grotere kans dat men er stemt op een Republikein.

Haar onderzoek wordt gepubliceerd in een tijd dat kunstmatige intelligentie door techneuten in Silicon Valley gold als De Grote Belofte. Computers zijn eerlijk, mensen niet. Een heilig geloof in de mogelijkheden van techniek, van het soort dat achteraf vrijwel zonder uitzondering op z’n minst naïef blijkt.

Ze had na het halen van haar doctorstitel en de presentatie van haar onderzoek gemakkelijk honderdduizenden euro’s kunnen verdienen bij een groot technologiebedrijf. Maar er wrong iets, en Timnit Gebru kon zelf heel goed zien wat.

‘Arrogantie in de KI-gemeenschap’

Op de Conference on Neural Information Processing Systems (NIPS), een van de belangrijkste conferenties op het gebied van KI, besluit ze in 2016 het aantal deelnemers van kleur te turven. Het zijn er zes, van de 8.500. Dat moet gevolgen hebben voor de manier waarop de mensen die onze technologie ontwerpen naar de wereld kijken. “Ik ben niet bang dat machines de wereld overnemen”, schrijft ze dat jaar op Facebook. “Ik maak me zorgen over groepsdenken, onwetendheid en arrogantie in de KI-gemeenschap.” Ze raakt ervan overtuigd dat de technologiesector te maken heeft met een diversiteitscrisis, zegt ze later in interviews. En die is schadelijk voor iedereen die technologie gebruikt.

Omdat ze er samen met Margaret Mitchell de afdeling Ethiek en kunstmatige intelligentie mag gaan leiden, maakt ze in 2018 de overstap naar Google. Daar wijst ze het bedrijf er bijvoorbeeld op dat de suggesties in Gmail bij het schrijven van een mail automatisch naar programmeurs verwijzen als ‘hij’ of ‘hem’.

Door middel van kunstmatige intelligentie tekst produceren, is op dat moment de nieuwe heilige graal. En Google traint Bert, afkorting voor Bidirectional Encoder Representations From Transformers, een taalmodel dat moet gaan anticiperen op zoekopdrachten en zo relevantere suggesties doet of resultaten toont.

Verknipt beeld van werkelijkheid

In het onderzoek dat Gebru haar baan zou kosten, waarschuwt ze voor een papegaai-effect. Als je kunstmatige intelligentie traint met alle woorden op internet, krijgt die KI een verknipt beeld van de werkelijkheid. Bovendien zal zo’n model net als een papegaai onnadenkend herhalen wat het heeft geleerd, zonder dat het weet wat het precies zegt, stelt Gebru.

Niet eens zo’n controversiële studie, schreef MIT Technology Review,; zo nieuw zijn de inzichten niet. Gebru’s bazen bij Google eisen desondanks dat ze haar naam van het onderzoek haalt of de studie intrekt. Die ruzie leidt tot haar ontslag (of vertrek). Haar collega Margaret Mitchell is in februari ontslagen.

Haar werk zet Gebru nu voort met haar eigen organisatie, met een startbedrag van 3,7 miljoen dollar van donateurs. Ze zal doorgaan met waar ze binnen de techbedrijven te veel weerstand bij ondervond: niet mensen waarschuwen voor de machines, maar voor de mensen die de machines bouwen.