Zaterdag 06/03/2021

InterviewMieke De Ketelaere

‘We staan nog nergens met artificiële intelligentie’

Mieke De Ketelaere: “Artificiële intelligentie is lui. Het gaat altijd op zoek naar shortcuts.” Beeld Tim Dirven
Mieke De Ketelaere: “Artificiële intelligentie is lui. Het gaat altijd op zoek naar shortcuts.”Beeld Tim Dirven

Mieke De Ketelaere zet de strategie uit op het vlak van artificiële intelligentie voor het onderzoekscentrum Imec. Die technologie is volgens haar veel minder spectaculair of revolutionair dan ze in de media wordt voorgesteld.

Er zijn dromers en er zijn pragmatici. Er zijn mensen en er zijn machines. Er is grootspraak en er is nuance. Er is Elon Musk en er is Mieke De Ketelaere (49). We pikken er hier Musk uit, de techondernemer achter Tesla en SpaceX, omdat we benieuwd zijn naar zijn mening over het boek dat De Ketelaere schreef. 

De ICT-topvrouw vindt het hoog tijd om het gesprek over artificiële intelligentie (AI) in mensentaal te voeren. In haar boek Mens versus machine doorprikt De Ketelaere de mythes rond zelflerende computers. Het zal de liefhebbers van sciencefiction en Musk misschien wat teleurstellen, maar de impact van AI op ons leven is volgens De Ketelaere nog minimaal ten opzichte van wat we in films en series vaak te zien krijgen.

Vooraleer we dieper ingaan op artificiële intelligentie moeten we het over het laatste hoofdstuk van uw boek hebben. U spreekt er over breinchauvinisme. Wat is dat?

Mieke De Ketelaere: “Tijdens de renaissance kregen we als mens zodanig veel vertrouwen in ons eigen kunnen dat we onszelf op een piëdestal hebben gezet. We hebben de mens boven alle andere zaken in dit hemelstelsel geplaatst. Wij zouden het meest intellectuele wezen op deze aardbol en daarbuiten zijn, want wij hebben een brein. Ontwikkelde hersenen die kunnen leren, redeneren en ageren. Dat kunnen dieren niet, planten nog minder. Op die manier hebben we onszelf wijsgemaakt dat wij mogen oordelen over andere mensen, over het leven van dieren en over het snoeien van planten.”

Waarom is dat belangrijk in een boek over AI?

“Neem de mens weg uit de natuur en de natuur zal lekker haar plan trekken. Neem de natuur weg van de mens en hij zal ophouden te bestaan. Nochtans denken veel wetenschappers dat ze in het onderzoeksdomein artificiële intelligentie bezig zijn met het summum van intelligentie. Maar na twintig jaar in het vakgebied te hebben gezeten, kan ik je vertellen: dat valt dik tegen.”

Hoe bedoelt u?

“Het script voor mijn boek was klaar toen de eerste coronagolf ons land overspoelde. Ik voelde meteen een drang om te helpen. Maar ik moest vaststellen dat mijn kennis zo goed als nutteloos was. Om ons land te helpen bij het bedwingen van de crisis zouden we met behulp van technologie zuurstof proberen bij te maken. Maar zulke projecten zijn tot nu toe allemaal mislukt. Of we konden proberen robots in te schakelen om verplegers te helpen, maar ik zou die niet vertrouwen om een naald in mijn arm te prikken. Het enige wat ik kon doen, was mijn 3D-printer aanzetten om maskers te maken.”

Bent u nu niet te negatief?

“Er zijn later in de crisis mooie technologische toepassingen ontwikkeld die ons hebben geholpen. Maar de crisis heeft me doen inzien hoe hulpeloos we als mens zijn. De hele wereld was in paniek terwijl de bloemen, planten en dieren zich opmaakten voor de lente. Het coronavirus heeft me met de neus op de feiten gedrukt: we staan nog nergens met artificiële intelligentie. Ondanks de miljoenen en miljoenen die in de technologie werden gepompt. Onze kijk op intelligentie is veel te eng.”

Mieke De Ketelaere: “De coronacrisis heeft me doen inzien hoe hulpeloos we als mens zijn.” Beeld Tim Dirven
Mieke De Ketelaere: “De coronacrisis heeft me doen inzien hoe hulpeloos we als mens zijn.”Beeld Tim Dirven

Of de miljoenen euro’s aan investeringen in AI hebben de verwachtingen te veel opgepompt.

“Dat heeft er zeker mee te maken. Toen ik bij SAS werkte (een Amerikaanse multinational gespecialiseerd in analysesoftware, FE) spraken wij niet over AI maar over analytics. Inhoudelijk is er nauwelijks verschil. Op basis van klantendata verschaften wij banken, telecombedrijven en supermarkten inzichten die ertoe moesten leiden dat consumenten meer geld uitgaven. We zochten met onze software naar patronen die je met het blote oog niet zomaar zag. 

“Als iemand in die tijd een conferentie over analytics organiseerde, kwam daar geen kat op af. Maar na een tijd zijn marketingbedrijven beginnen te praten over spannend klinkende termen zoals ‘big data’ en ‘artificial intelligence’. Om dezelfde reden zijn bedrijven zoals Salesforce en SAP hun software Einstein en Leonardo beginnen te noemen. Door een personage te maken van hun systemen moeten zulke systemen slimmer overkomen.”

Laat ons dat eens definiëren: slimme systemen.

“Een slim systeem is een systeem dat op basis van data zelf patronen leert herkennen. Net zoals bij een baby begin je met een leeg brein. Alles moet worden aangeleerd. Net zoals je een kind toont hoe een hond eruitziet door veel voorbeelden te geven, doe je dat bij een algoritme ook. Dat zorgt er op termijn voor dat het algoritme een hond kan herkennen zonder dat het diezelfde hond ooit gezien heeft.”

Dat is blijkbaar niet vanzelfsprekend. In uw boek geeft u het voorbeeld van een algoritme dat er niet in slaagt wolven en husky’s uiteen te houden.

“Klopt. Er kan namelijk heel wat fout lopen tijdens het trainen van een algoritme. In dit voorbeeld had een jonge onderzoeker een algoritme getraind om wolven en husky’s van elkaar te onderscheiden. Dat leek te lukken, tot het algoritme geëvalueerd werd. Zo had het systeem geleerd dat wanneer er sneeuw op de beelden te zien was, het om een wolf ging. Was er geen sneeuw, dan was het een husky. Artificiële intelligentie is lui. Het gaat altijd op zoek naar shortcuts. Daar moet je als ontwikkelaar rekening mee houden.”

Waar moeten we nog rekening mee houden?

“Er zijn verschillende menselijke en technische valkuilen. De belangrijkste valkuil is de data die we in algoritmes gieten. Nog te veel mensen gaan ervan uit dat data neutraal zijn. Dat is allerminst zo. Data zijn subjectieve beslissingen uit het verleden die we in tabellen gieten. Je kunt bijvoorbeeld een algoritme ontwikkelen dat ons helpt om leraren te evalueren. Maar wat is een goede leraar? Wie bepaalt dat? De klasresultaten? De feedback van de ouders? Als je naar de data van de voorbije vijf jaar zou kijken, is het goed mogelijk dat algoritmes ervan uitgaan dat een goede leraar een vrouw moet zijn. Puur omdat er meer vrouwen in het beroep zitten.”

Een husky onderscheiden van een wolf, daar slaagt AI moeilijk in.
Een husky onderscheiden van een wolf, daar slaagt AI moeilijk in. "Zo had het systeem geleerd dat wanneer er sneeuw op de beelden te zien was, het om een wolf ging."Beeld REUTERS

Kunnen we zulke vooroordelen niet bijsturen?

“Dat is heel moeilijk. Artificiële intelligentie iets leren lijkt op kinderen iets bijleren. Stel dat je een kind wijsmaakt dat een vogel een vis is en omgekeerd. Dan is het heel moeilijk om dat kind te overtuigen van het tegendeel. Of het zal minstens heel erg twijfelen wie het nu precies moet geloven. Ook fouten die je maakt wanneer je een algoritme traint zijn heel moeilijk terug te draaien. Het enige voordeel is misschien wel dat we een systeem kunnen uitschakelen en opnieuw kunnen opleiden. Bij een kind kan dat natuurlijk niet.”

U bent in uw boek heel duidelijk over waar we AI-systemen voor moeten ontwikkelen: saaie, vuile, gevaarlijke en moeilijke taken. Leg eens uit.

“Ik erger me aan het feit dat men in de media altijd doet alsof AI de jobs van laaggeschoolden bedreigt. Dat is niet per se aan de orde. AI kan ook taken van hooggeschoolden overnemen. Ik hoop dat er snel een AI-systeem komt dat mijn planning overzichtelijk helpt te maken. Dat is een saaie taak waar ik te veel tijd aan verlies. Een voorbeeld van een gevaarlijke job is weggelegd voor mensen die windmolens moeten controleren op corrosie. Je zou ook slimme camera’s kunnen hangen die een melding geven zodra er corrosie optreedt. Op die manier moeten mensen enkel omhoog klimmen als het nodig is.”

Dat zijn relatief eenvoudige taken. Wat zijn de moeilijke taken?

“Alle gegevens die we verzamelen in verband met de klimaatopwarming zijn niet in een Excel te gieten omdat die uit meerdere dimensies bestaat. Het is als mens heel moeilijk om daar overzicht over te houden. Artificiële intelligentie zou kunnen helpen om in een complexe set van gegevens patronen te herkennen die we als mens niet zien. Ze kan ook helpen om een helikopterzicht te krijgen op bepaalde situaties. Denk bijvoorbeeld aan het afschakelplan dat moet maken dat cruciale infrastructuur nog elektriciteit heeft bij een stroompanne of elektriciteitstekort.”

Zouden we dat wel vertrouwen? De algoritmes in mijn leven, die van Facebook of Instagram, stellen mij vooral teleur. Zeker op het vlak van zogenaamde reclame op maat.

“Klopt. In die systemen komt er weinig intelligentie te pas. De reden is eenvoudig: die platformen zijn niet gebouwd met het oog op de gebruikers, maar met het oog op de adverteerders. Als je écht in functie van de gebruiker wilt werken, dan is finesse heel belangrijk. 

“Platformen als Facebook en Instagram zijn voor adverteerders massamedia waar ze boodschappen kunnen delen, meer niet. Bij een bedrijf als Bol.com, waar ik nog in een project mee gewerkt heb, zie je die verfijning beter. Daar werken algoritmes en mensen zo goed mogelijk samen om verschillende doelen te verwezenlijken: stock verminderen, customer service verhogen, klantenervaring verbeteren. Algoritmes kunnen helpen om die inzichten goed in beeld te brengen en juiste keuzes te maken om een website te personaliseren. Tegelijkertijd wil het bedrijf zijn klanten niet bombarderen met gepersonaliseerde informatie. Ook daar kunnen algoritmes helpen: welke producten zijn voor welk soort klanten interessant? En dan is het belangrijk om heel slim te communiceren en reacties te meten. Daar heb je meestal een stel menselijke hersenen voor nodig.”

De Ketelaere: “AI werd tot nu toe vooral gebruikt als een soort attractie in Disneyland. Om mensen te verbazen.
De Ketelaere: “AI werd tot nu toe vooral gebruikt als een soort attractie in Disneyland. Om mensen te verbazen."Beeld Tim Dirven

U zei zonet dat algoritmes kunnen helpen bij afschakelplannen. Zelf hebben die algoritmes ook enorm veel energie nodig.

“We vergeten al te vaak dat een computer een heel grote rekenmachine is. Als we een mail sturen of een film bekijken op Netflix, dan gebeurt dat dankzij een lijncode die wordt uitgevoerd door de computer. Die code wordt door de computer of op servers vertaald naar een reeks plussen en malen. Bij artificiële intelligentie zijn die berekeningen haast niet in cijfers uit te drukken. Dat kost allemaal energie. Zeker wanneer je een algoritme opleidt, is het enorm gulzig.

“Dan hebben we het nog niet over alle toestellen, zoals Google Home of Amazon Alexa, die tegenwoordig dag en nacht op stand-by staan om twee of drie keer per dag een antwoord op te halen bij een centrale server. Energie-efficiëntie is nooit een bezorgdheid geweest in artificiële intelligentie.

“AI werd tot nu toe vooral gebruikt als een soort attractie in Disneyland. Om mensen te verbazen. ‘Moet je eens kijken wat die computer kan? Kijk, die computer kan beter schaken dan de mens. Wauw.’ Wat die inspanningen aan energie kosten, werd nooit gevraagd. Dat maakte geen deel uit van de race naar AI. Gelukkig komt daar stilaan wat verandering in.”

Hoe kijkt u dan naar een project als GPT-3, dat probeert om computers taal te leren interpreteren en gebruiken? De software kreeg de laatste maanden veel aandacht, onder andere omdat het een column in The Guardian schreef.

“Taal is het allermoeilijkste om in een autonoom computersysteem te gieten. Dat is een van de redenen waarom de turingtest gebruikmaakt van taal om mens van machine te onderscheiden. Het GPT-3-project is een prestigeproject dat tot de verbeelding moet spreken. Het moet tonen waar artificiële intelligentie toe in staat is. Het hele project is in handen van OpenAI, dat nu een partnership heeft getekend met Microsoft. Maar helemaal open zoals zijn voorgangers is het systeem deze keer niet. Bovendien krijgen we als wetenschappers heel weinig inzicht in hoe het algoritme precies werkt. Dat is heel jammer.”

En wat vond u van de prestaties van het algoritme?

“Begrijp me niet verkeerd, het is verrassend hoe goed GPT-3 in staat is de specifieke dynamiek van gesprekken aan te leren. Onlangs gebruikten de Nederlanders Ernst-Jan Pfauth en Alexander Klöpping het algoritme om dialogen voor hun podcast ‘Een podcast over media’ te laten uitschrijven op basis van hun vorige afleveringen. Je kon bijna niet horen dat software die aflevering schreef. Maar toch blijven zulke systemen door de mand vallen. Zo ging het gesprek plots over een astronaut in de jaren vijftig. Dat kan natuurlijk helemaal niet. Joeri Gagarin was de eerste ruimtevaarder in 1961. Met andere woorden: hoe goed je de dynamiek van taal ook kunt nabootsen met AI, het ontbreekt die systemen aan een ruimere context om juiste verbanden te leggen in de complexe wereld waarin we leven.”

Wie is Mieke De Ketelaere?

Specialiseerde zich aan de universiteiten van Leuven, Stuttgart en Auckland in artificiële intelligentie.
Liet de academische wereld achter zich voor een loopbaan bij technologiebedrijven. 
Werkte onder andere voor Microsoft en SAS.
Tegenwoordig zet ze mee de lijnen uit bij het onderzoekscentrum Imec als directeur voor artificiële intelligentie.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234