Dinsdag 10/12/2019

Start me up

Jonas Degrave: "We moeten dringend het debat voeren: hoe, waar en wanneer willen we algoritmes inschakelen?"

Jonas Degrave: “In plaats van ons zorgen te maken over migratie, zouden we ons moeten voorbereiden op de automatisering die op ons afkomt” Beeld Tim Coppens

De Belg Jonas Degrave (28) wandelt sinds vorig jaar iedere ochtend 10 minuten naar zijn werk in hartje Londen. Hij discussieert er met wetenschappers van over de hele wereld over de toekomst van artificiële intelligentie (AI). “Zou het niet fantastisch zijn, mochten we een robot leren lopen zoals een kleuter dat leert.”

DeepMind, het Londense bedrijf dat in 2014 overgenomen werd door Alphabet, het moederbedrijf van Google, is de voorbije jaren uitgegroeid tot een van de meest tot de verbeelding sprekende onderzoekscentra ter wereld. Het is onder andere verantwoordelijk voor het algoritme AlphaGo Zero, dat zich binnen de 40 dagen tot kampioen kroonde in het verfijnde Chinese bordspel Go.

“Het nieuwe algoritme is veel sterker dan vorige versies omdat het niet langer begrensd is door beperkte menselijke kennis”, sprak Google DeepMind-oprichter Demis Hassabis. “Het bordspel bestaat al meer dan 2.000 jaar. De mensheid is al heel die periode bezig met te bestuderen hoe je dat spel het beste kan spelen. Hier werd een computer ontwikkeld die 2.000 jaar leren inhaalde in 40 dagen.”

De beeldresolutie tijdens het video-interview lijkt het even te begeven onder het enthousiasme waarmee Jonas Degrave over een van de belangrijkste doorbraken in het onderzoek naar artificiële intelligentie vertelt.

“Het is moeilijk om uit te leggen waarom dat zo is. Maar onthoud dat AlphaGo Zero niet geprogrammeerd werd door doorgewinterde Go-spelers, zoals IBM in de jaren 90 DeepBlue leerde schaken via schaakexperts. Het enige wat Alphago Zero te zien kreeg, waren de spelregels en het doel om het zo goed mogelijk te leren.”

Het belangrijkste dat we moeten onthouden uit de overwinning van de computer op de mens is het enorme potentieel van artificiële intelligentie. De zogenaamde reinforcement learning om precies te zijn.

Kort door de bocht komt het erop neer dat een computer een bepaalde taak leert via trial-and-error. De meest eenvoudige manier om het u voor te stellen is aan de hand van Breakout, het arcadespel van Atari. Daarin moet je als speler verschillende lagen blokken kapotmaken met een bal. Je kaatst de bal beneden in het scherm terug met een soort palet die je naar links en rechts over het scherm kan bewegen.

De computer leert aan de hand van de score hoe het spel in elkaar zit. Al doende leert het algoritme een strategie waarmee het alle topscores verslaat.

(Lees verder onder de video.)

Trappen oplopen

Wetenschappelijk onderzoek naar artificiële intelligentie is Degraves lang leven. Als we hem vragen om zichzelf te omschrijven, antwoordt hij met: “Jonas Degrave uit Wijtschate, een dorpje onder Ieper. Wat kan ik daar meer over zeggen?” Als we hem bij een tweede poging vragen wat voor persoon hij is, antwoordt hij: “Ik ben gepassioneerd door AI, zo zou ik me omschrijven.” Zijn antwoorden lijken soms op antwoorden die je krijgt van virtuele assistenten: kort en to the point.

De jonge onderzoeker heeft niet lang getwijfeld tussen een postdoctoraal onderzoek aan de universiteit van Gent, of zijn onderzoek verder zetten in Londen. “Mocht ik vandaag een postdoc doen, dan zou ik 50 tot 75 procent van mijn tijd spenderen aan het zoeken naar fondsen. Hier kan ik al mijn tijd spenderen aan het onderzoek en erover communiceren.”

Worden universiteiten dan financieel weggespeeld door technologiespelers zoals DeepMind? Degrave benadrukt van niet. “DeepMind heeft zelf ook baat bij een bloeiend academisch, onafhankelijk ecosysteem.” Zo zijn er heel wat collega’s die naast hun onderzoek bij DeepMind ook les geven aan universiteiten.

Hij vindt het hele verhaal over de strijd tussen grootmachten om artificiële intelligentie serieus overdreven. Kennis rond AI verzamelen is volgens Degrave geen doel voor Google, China of de Verenigde Staten alleen.

“We werken als mensheid samen om het mysterie rond artificiële intelligentie te ontrafelen. Wie dat probleem precies oplost, maakt eigenlijk niet uit. Ik werk hier letterlijk met wetenschappers van over de hele wereld samen. Je moet het zien als een internationale wetenschapsconferentie die 7 op 7, 24 op 24 duurt.”

Degrave heeft niet meegewerkt aan de ontwikkeling van AlphaGo Zero. Hij specialiseert zich binnen DeepMind in robotica. “Hoe kunnen we een combinatie maken van slimme algoritmes en machines om uiteindelijk robots te bouwen die ons leven kunnen vergemakkelijken?”

Een deel van de uitdaging is robots op een efficiënte manier laten bewegen. Denk aan Spot, de robothond van Boston Dynamics, die trappen kan oplopen en deuren kan openen.

Vertrouwen van een microgolfoven

“We onderschatten soms hoe complex en slim ons lichaam in elkaar zit en verwachten van een robot dat die ons zomaar kan kopiëren, maar dat is niet zo. Alle bewegingen die de robots van Boston Dynamics maken zijn voorgeprogrammeerd. Maar zou het niet fantastisch zijn als je een robot kan leren lopen zoals een kleuter dat leert.”

Over het onderzoek waar hij op dit moment aan werkt, kan hij nog niet veel zeggen. Over enkele maanden zullen we het kunnen lezen. Tussen al die andere voor leken niet te begrijpen papers die op de website van Google DeepMind pronken.

Zonder al te technisch te worden, slaagt Degrave erin om zijn doel te beschrijven. “Iedereen kan zich een lopende band met robotarmen in een autofabriek voorstellen. Al die robots zijn voorgeprogrammeerd. Voor heel wat handelingen is dat voldoende. Maar wie een robot wil bouwen die dozen kan openen, er een pakketje moet uithalen om het in een andere doos te stoppen, zal dat niet kunnen programmeren.

“Daar heb je een vorm van intelligentie voor nodig. Wij weten als mensen bijvoorbeeld perfect hoe hard we op een voorwerp kunnen knijpen om het vast te nemen, een robot moet dat voorwerp leren interpreteren om het dan op de juiste manier vast te pakken.”

Degraves ultieme droom is om er mee voor te zorgen dat robots aanvaard worden in onze samenleving, net zoals we de microgolf hebben leren aanvaarden. Hij herinnert ons aan hoe magisch dat toestel is: “We stoppen er een kop thee in, drukken een aantal knoppen in en enkele minuten later is dat warm. Kan jij me uitleggen hoe dat precies werkt? En toch vertrouw je die oven. Waarom zouden we slimme robots niet vertrouwen als ze ons helpen?”

Een van de enige robots die er op dit moment echt in slaagt om ons vertrouwen te winnen is de stofzuigrobot Roomba. “Het bedrijf iRobot heeft heel goed nagedacht over het design en de verwachtingen die de robot uitstraalt. Ze hebben de Roomba heel bewust geen menselijke eigenschappen meegegeven. Wanneer die begint te stofzuigen, geeft die een piepend signaal. Mocht die vriendelijk vragen om uit de weg te gaan, zouden we heel anders met die robot omgaan.”

Een andere mogelijke verklaring waarom we de Roomba niet als bedreigend zien, is omdat die niet meteen jobs van mensen afneemt.

Piratenpartij

Ook dat zijn vragen waar de West-Vlaming zich al jaren het hoofd over breekt. Tijdens de verkiezingen van 2014 voelde hij zich zelfs genoodzaakt om de lijst te trekken voor de Piratenpartij. Hij heeft het gevoel dat we dringend een debat moeten voeren over robots en automatisering, maar daar hebben onze politici geen oren naar.

Telkens als hij een discussie hoort over hoe migranten een bedreiging vormen voor onze samenleving, zucht Degrave diep. “Het is de automatiseringsgolf waar we ons zorgen over zouden moeten maken. De welvaart in onze samenleving wordt verdeeld aan de hand van werk. Alleen beukt de automatisering steeds harder in op dat model. Het is maar de vraag hoelang dat nog kan standhouden.”

Om zijn punt kracht bij te zetten, verwijst Degrave naar de zelfrijdende wagen. De technologie is er, we weten hoe die gebouwd moet worden, het is een kwestie van enkele jaren vooraleer die te koop is voor bedrijven en particulieren. “Maar wat gaan we doen met al die mensen die in de transportsector werken?”

Bovendien vindt hij dat we allemaal wel wat meer op onze strepen mogen staan als het om nieuwe technologie gaat. “Technologiebedrijven zouden veel data-efficiënter kunnen werken, maar we dwingen hen daar niet toe.” Als we Degrave confronteren met het feit dat hij deel uitmaakt van een technologiegigant die groot geworden is dankzij persoonlijke data, wijst hij er fijntjes op dat DeepMind niet voor Google werkt, ook al werkt het onder dezelfde paraplu Alphabet.

Algoritme als excuus

Degrave werkte in 2016 mee aan een algoritme om longkanker op te sporen. Aan de hand van een database vol MRI-scans van longen en notities van dokters leerde hij samen met zijn collega’s een algoritme kwaadaardige gezwellen herkennen. Het algoritme kon even goed de zieke longen herkennen als de dokters zelf.

“Het is niet zo dat de computer de scans interpreteert en zegt: op dit beeld zie je kanker of hier zie je geen kanker. Hij zal de dokter wel een aantal beelden tonen met de vraag om de data nog eens te dubbel checken.

Uiteindelijk gaat het om mensenlevens, en die laat je niet afhangen van beslissingen door algoritmes. Tot ergernis van Degrave en zijn collega’s gebeurt dat wel al. In verschillende staten in de Verenigde Staten roepen rechters de hulp in van het COMPAS-algoritme of een gedetineerde al dan niet vervroegd kan vrijkomen. Het algoritme moet aan de hand van verschillende data voorspellen hoe groot de kans is dat een gedetineerde opnieuw een misdrijf begaat.

Verschillende onderzoeken toonden al aan dat er voorzichtig moet worden omgesprongen met dat algoritme. Zo bewees een studie uit 2017 dat je even goed willekeurig een aantal mensen van het internet kon plukken om voorspellingen en te maken die minstens even nauwkeurig waren als het COMPAS-algoritme.

Die manier van algoritmes gebruiken ergert Degrave ook. Hier wordt de computer niet ingezet als gereedschap of assistent, maar neemt hij beslissingen. Een algoritme dat op deze manier gebruikt wordt, kan veel schade aanrichten. Waarom wordt de ene persoon vrijgelaten en de andere niet?

“Dit bedoel ik met het debat dat we dringend moeten voeren: hoe, waar en wanneer willen we algoritmes inschakelen? We moeten goed beseffen dat het hier om heel complexe beslissingen gaat. En daar schuilt het gevaar: wanneer een machine een beslissing neemt, zijn we geneigd om daar als mens geen vragen bij te stellen. Dat is helemaal niet oké. Dan gebruik je een algoritme als excuus, niet als gereedschap om te helpen bij een taak. Je schuift de verantwoordelijkheid af op iets wat niemand begrijpt.”

De onderzoeker beseft dat hij de antwoorden op al die maatschappelijke vragen niet in pacht heeft. Wat hij wel zeker weet is dat het technologiedebat een stevige injectie nodig heeft. “We moeten ophouden met te kijken hoe we de zaken twintig jaar geleden georganiseerd hebben, we moeten met elkaar met een open blik over de toekomst debatteren."

DeepMind in het kort

De Brit Demis Hassabis richtte in 2010 het bedrijf DeepMind op. Het heeft een duidelijke missie: eerst alle vraagstukken rond artificiële intelligentie oplossen om dan wereldproblemen aan te pakken. In 2014 kocht Google DeepMind over voor ongeveer 300 miljoen euro. In 2016 maakte het bedrijf furore toen zijn algoritme AlphaGo de wereldkampioen in het Chinese bordspel Go versloeg.

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle verhalen van De Morgen rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234