Maandag 09/12/2019

'Mensen voelen zich onbehaaglijk, er hangt iets in de lucht'

Met Klont schreef de Nederlandse filosoof, jurist en schrijver Maxim Februari een roman die het midden houdt tussen een licht paranoïde satire en een verontrustend pamflet. Erudiet en lichtvoetig wijst de auteur op de gevaren van big data, algoritmes en artificiële intelligentie.

Enig magisch denken is Bodo Klein, technologie-expert en vooraanstaand ambtenaar op het ministerie van Veiligheid, niet vreemd. Als er vlak na zijn nauwkeurig geplande maar niet uitgevoerde suïcide een zondvloed uitbreekt waardoor de riolen hun inhoud teruggeven en de helft van de stad onbewoonbaar maken, is hij ervan overtuigd dat hij hiervoor verantwoordelijk is omdat hij zich onvoorspelbaar gedroeg. De gecodeerde afscheidsbrief die hij verstuurde, veroorzaakte evenwel zoveel beroering onder zijn collega's en medewerkers, dat zijn minister hem liever niet op kantoor ziet. Ze stuurt hem op een geheime missie: hij moet achterhalen of de beroemde publicist Alexei Krups wel bonafide is. Die man reist de wereld rond met een veelbesproken onheilslezing over de mysterieuze Klont, een radicaliserende groep van digitale data die de mensheid bedreigt.

Dat Krups ontmaskerd wordt, is geen geheim. Door het verhaal heen vertelt hij in TED-talk-turbotaal ('je bent de architect van je eigen leven') zijn versie van de feiten. Hoe hij door het populariseren van wetenschappelijke theorieën tot het narratief van de Klont kwam. Hoe hij een hype werd, toen een megalomane en onbetrouwbare hoofdredacteur besliste om hem te steunen. Hoe zijn luchtkasteel uiteindelijk lekgeprikt werd.

Er passeren allerlei markante personages de revue die op een of andere manier invloed uitoefenen op de twee mannen, maar de hoofdrol is weggelegd voor fenomenen als big data en artificiële intelligentie. Een gewaagde keuze: de toenemende digitalisering blijft voor velen veeleer een onderwerp voor dystopische sciencefictionromans als Brave New World en 1984. Heel even heb je inderdaad de indruk dat Klont een orwelliaanse sf-roman is, of een technothriller à la Michael Crichton, waarbij de big data bezielde entiteiten zijn die de mensheid belagen.

Maar moord en doodslag door een zwerm vleesetende bits en bytes blijven uit, dat is niet waar Februari heen wil. Integendeel: overdrijving acht hij onnodig. Onze sterk gerobotiseerde wereld waarin artificiële intelligentie zelfstandig handelt is ook zonder boosaardige algoritmes een reden tot ernstige bezorgdheid. Dat men in de drang naar het rationaliseren en dataficeren van het leven de roman - en bij nader inzien ook de mens - doodverklaart, houdt hem bezig. Maar tegelijk laat hij ook zien dat de relatie tussen mens en technologie, en het idee dat je het leven kunt controleren en nabootsen, eeuwenoud is. Dus ook de angst om erdoor te worden verslonden.

Maxim Februari: "Als je de robottraditie tot in de oudheid volgt, zie je dat de mens altijd op zoek is geweest naar een manier om zelf leven te creëren en te controleren. Een kunstmens maken en er zelf een geest in blazen is een oud streven. Denk maar aan de robotbouwers uit de 12de eeuw, of de Golem uit de joodse traditie. De mens is nu eenmaal een technologisch wezen. Toch is die robotica geen kwestie van kille technologie. De drang om dingen te maken en die leven in te blazen, komt voort uit een romantisch verlangen. Het is een manier om aansluiting te vinden bij de bezielde natuur."

U schetst in Klont evenwel de gevaren van de toenemende dataficering en wat er fout kan gaan als er kunstmatige intelligentie wordt losgelaten op die data.

"Als je artificiële intelligentie (AI) loslaat op louter gegevens, en die AI zichzelf vervolgens loskoppelt, dan is het gevolg daarvan dat de wereld autonoom wordt bestuurd. Automatische wapens worden op die manier autonome wapens: ze gaan zelf nadenken. Dat geldt voor alles waar we AI aan toewijzen, en we weten niet hoe die intelligentie zich zal ontwikkelen. Voorzichtigheid is dus geboden."

We gaan te onachtzaam met onze gegevens om, zegt u. We gebruiken apps waarop we onze gezondheidstoestand prijsgeven. Sturen ons DNA naar een onbekend labo dat voor ons uitzoekt waar onze voorouders vandaan komen. Vullen nietsvermoedend onschuldige Facebook-quizjes in.

"Dat weldenkende mensen aan dit soort dingen meedoen, begrijp ik niet. Begin dit jaar gaf ik een lezing over de mogelijke gevaren van dataficering. Ja, zeiden mensen me nadien, we moeten daarop letten. De volgende dag stuurde een van hen me een link naar een onderzoek aan de universiteit van Cambridge, waarbij men aan de hand van een leuke vragenlijst je persoonlijkheidsprofiel analyseert. Wat hij niet wist, is dat die vragenlijst gebruikt wordt als instrument voor datamining voor het bedrijf Cambridge Analytica, een direct marketingbureau dat voor Donald Trump werkt. Door zo'n ogenschijnlijk onschuldige vragenlijst in te vullen, zet je dus de verkiezingen op het spel.

"Wat ook niemand lijkt te weten, is dat een van de labo's die die DNA-ancestry tests analyseert een dochteronderneming is van Google. 23andme werd opgericht door de echtgenote van een van de oprichters. Dus Google verzamelt wat ons interesseert via onze zoekopdrachten, collectioneert ons DNA en bouwt militaire macht op door robotica en kunstmatige intelligentie te kopen die ontwikkeld zijn voor het Amerikaanse leger. Waarom hebben zij dat nodig? Zoveel macht in handen van één bedrijf lijkt me doodgevaarlijk.

"Google, Amazon en Facebook zijn de drie grootmachten aan het worden door de kennis die ze van mensen hebben. Maar omdat het over ongrijpbare zaken gaat, is het niet nieuwswaardig genoeg om in de krant te zetten. De schade lijkt niet groot, er vallen geen doden. Maar de schade is sluipend, en telt stilaan op. Men maakt zich nu ongerust over het verlies aan privacy, maar dat is het minste van onze zorgen. Vervelend, dat wel, maar dat die informatie misbruikt kan worden om mensen een verzekering, een hypotheek of een baan te weigeren, vind ik veel zorgwekkender."

Dat is precies het thema van The Circle, de orwelliaanse roman van Dave Eggers. Wist u dat The Circle, 1984 en Lord of the Flies de laatste tijd de meest verkochte boeken zijn op bol.com? Ook dystopische sciencefictionromans als Blade Runner van Philip K. Dick en The Handmaid's Tale van Margaret Atwood zijn opnieuw erg populair. Toeval, denkt u?

"Voor alle duidelijkheid: ik heb geen sciencefictionroman geschreven. Dan had ik er allerlei dingen bij moeten verzinnen die niet bestaan. Ik heb me netjes aan de realiteit gehouden, heb eerder onderdreven dan overdreven. Hoewel er vandaag al veel meer mogelijk is op het vlak van kunstmatige intelligentie, heb ik de meer avant-gardistische kant van robotica en AI opzettelijk achterwege gelaten. Die huiselijke, herkenbare sfeer was nodig om de lezer te ontdoen van de indruk dat de Klont verzonnen is. Want de Klont bestaat, al zijn er meerdere interpretaties voor.

(denkt na) "Er is natuurlijk een reden voor het huidige succes van die titels. De grote onrust in de wereld heeft niet alleen te maken met vluchtelingenstromen en de toenemende kloof tussen arm en rijk. Ook het feit dat ons leven wordt omgezet in data, en dat kunstmatige intelligentie ons begint te sturen op basis van die data, speelt hier een rol in. Mensen worden gewaar dat er iets in de lucht hangt waar ze geen grip op hebben. Ze voelen zich onbehaaglijk, al weten ze niet precies waarom. Ook dat is die Klont."

Het doet denken aan de morele paniek die ontstond ten tijde van de grote ontdekkingsreizen en de eerste industriële revolutie. Is het niet zo dat de angst om opgeslokt te worden door het onbekende al opduikt van toen we in spelonken leefden, en dat we die angsten tastbaar maken in de verhalen die verteld worden?

"In Hard Times ging Charles Dickens al tekeer tegen dat utilitaristische mensbeeld waarbij men alles terugbrengt tot cijfers en getallen. We kennen ook de gevolgen van die eerste industriële revolutie: het klimaat en de mens lijden er nog steeds onder. Maar wat zich vandaag afspeelt, is nog ingrijpender, want we veroorzaken de dreiging deels zelf. We moeten ons afvragen of het verstandig is wat we doen. De voortdurende dataficering van wie we zijn en hoe we ons gedragen resulteert in een abstract wereldbeeld dat ons dan weer zegt hoe we moeten leven. Die vreemde paradox wilde ik laten zien, want we zitten er middenin."

Wat moeten we dan doen? Kunnen we nog terug?

"We kunnen er niet meer van loskomen. Vandaag doet men aan ecologisch onderhoud door stukken oerwoud en oceaan via sensoren te koppelen aan kunstmatige en autonome intelligentie. Steden beginnen steeds meer op computers te gelijken omdat ze zichzelf reguleren. Het hoeft niet noodzakelijk negatief te zijn, er zijn voor- en nadelen. We moeten ons wel realiseren dat we het leven niet kunnen stollen in gegevens. Als het van de fans van dataficering zou afhangen, hoeft binnenkort niemand nog naar de stembus, want op basis van je onlinegedrag zou men kunnen voorspellen op wie je stemt. Alsof mensen niet kunnen veranderen.

"In dat opzicht zijn de simulacra van de Franse cultuurfilosoof Jean Beaudrillard het vermelden waard. Beaudrillard zei dat we niet meer in de wereld met de materiële dingen leven, maar in een afspiegeling van die wereld. We halen bijvoorbeeld veel van onze ervaringen uit films, in plaats van uit het echte leven. Ook de wetenschap zou je als een afspiegeling van de realiteit kunnen zien, want zij zet die om in gegevens.

"Maar wat als je je enkel nog bezighoudt met de gegevens in plaats van met het origineel? Dat is alsof je kinderen in een klas zou vertalen naar kinddossiers, om je vervolgens te concentreren op de dossiers in plaats van op de kinderen. We zorgen ervoor dat hun prestaties op papier omhoog gaan, maar de kinderen zelf krijgen steeds minder aandacht. Die slag is momenteel overal gaande. Mensen worden gereduceerd tot de gegevens die men van hen heeft. Patiënten worden bijvoorbeeld patiëntdossiers. We mogen het leven niet platslaan met procedures en protocollen, moeten ruimte laten om het organisch en onvoorspelbaar zijn gang te laten gaan.

"Om die reden heb ik me de afgelopen tijd in Nederland bemoeid met de zogeheten Voltooid Leven-discussie, waarbij mensen nu al de voorwaarden - een bepaalde ziekte, bijvoorbeeld - bepalen op grond waarvan ze over twintig jaar euthanasie willen. Maar hoe kunnen wij nu al weten hoe we ons over twintig jaar zullen voelen onder die voorwaarden? Misschien vinden we - ook al zijn we ziek - het leven nog steeds waardevol en willen we helemaal niet dood. Zullen we dan verplicht zijn om de data en het logaritme te volgen? Dan krijg je gruwelverhalen, hoor.

"Het komt nu al voor. Een vriendin van me die in de zorgsector werkt, vertelde me laatst over een bejaarde vrouw van in de 90. Ze had met haar huisarts besproken dat ze euthanasie wilde. 'Dat kan dan komende maandag', zei de huisarts. Zij wilde helemaal niet zo snel gaan, maar durfde dat niet te zeggen en dus is het gebeurd. Zij is gestorven omdat ze haar huisarts niet wilde ontrieven."

Een andere bekommernis in Klont is de vraag of de roman al dan niet dood is, en wat het nut ervan is. Er zijn mensen die romans lezen verloren energie vinden, en schrijvers onwetende experts. Zij zien het woord liever bij de wetenschappers.

"Het klopt dat er aan de universiteiten veel deskundigen zijn die we zelden of nooit horen. Dat zou anders mogen. Maar dat is nog geen reden om neer te kijken op de roman, wat tegenwoordig bon ton is. In hun zomerinterviews geven politici het trots toe: ik lees geen romans. Dat zouden ze beter wel doen. Alsof de roman geen rol zou kunnen spelen om je te laten nadenken over je eigen tijd.

"Ik schreef ooit een proefschrift over de uitsluiting van informatie in de wetenschap. In het opstellen van onderzoeksmodellen gooit de wetenschap vaak informatie over het individu weg, omdat het niet relevant is. Dataficering doet dat ook. Wat te complex is, wordt niet meer onderzocht. Terwijl dat net het boeiendste is. Hoe binnen een huwelijk bijvoorbeeld veel wordt gesuggereerd maar onuitgesproken blijft, kun je maar moeilijk in data beschrijven. Net dat soort mist en ruis maakt de mens tot mens. De roman laat dus zien wat er je allemaal ontglipt door het leven te willen dataficeren. Het brengt die complexiteit terug, wat het tot een betrouwbare bron maakt. De intenties zijn ook duidelijk. Als auteur geef ik een signaal van wat ik belangrijk vind, en iedereen kent de afspraak dat ik daarbij retorische trucs mag gebruiken. Bij de wetenschap weet je niet altijd wat er speelt, hoe de onderzoeker in kwestie de wereld interpreteert en wat de invloed daarvan is."

U steekt de draak met de popularisering van wetenschap en het showbizzgehalte van het lezingencircuit. 'Mensen willen niet de waarheid horen, ze willen agitatie', zegt Alexei Krups.

"De ironie is dat, terwijl ik me in dit boek kritisch uitlaat over het TED-talkcircuit, ik werd uitgenodigd om te spreken voor TEDxAmsterdam. Tot mijn verbazing kreeg ik van de hoofdzetel uit Amerika een brief waarin stond dat het niet de bedoeling was om kritisch te zijn, maar optimistisch. Dat staat in het boek, maar is dus echt gebeurd.

"Nu, ik geef geregeld lezingen, en ik betrap mezelf er ook op dat ik mijn boodschap zo leuk mogelijk probeer te verpakken. Als je iets wilt vertellen, wil je het wel zo aanpakken dat mensen nadien met je in gesprek willen gaan. Om die reden wilde ik ook een lichtvoetig boek schrijven.

"Maar mijn punt is ook dat ik vind dat bepaalde onderwerpen eerder thuishoren in de politiek dan op een sprekerspodium. De politiek had zich tien jaar geleden al moeten bekommeren om de nieuwe technologie. Als ze er nu niet meteen aan beginnen, worden de gevolgen kwalijk."

Intussen is ook de boekenwereld in de greep van het algoritme. De directeur van WPG wil in de toekomst alleen nog bestsellers op basis van data.

"Wat houdt zo'n algoritme voor een bestseller dan in? Veel tranen en emoties? (knikt) Allicht verkoopt een boek goed als je de emotionele snaar raakt, ja. Mijn stijl is daar vrees ik te luchtig en te grappig voor. Aan de andere kant, dat was die van Shakespeare ook. Ach, die algoritmes. Men kan dat proberen, maar je zult zien dat het niet werkt.

(denkt na) "Het is als met dat idee van de CEO van Amazon, die mensen wil laten betalen per gelezen pagina. Als je het boek maar voor de helft leest, dan betaal je ook maar de helft. Nochtans heb ik de boeken die mij het meest hebben beïnvloed nooit uitgelezen. Herzog van Saul Bellow, of het oeuvre van Virginia Woolf kun je nauwelijks uitlezen, daar is het veel te heftig voor. Als zij levende auteurs zouden zijn, zouden ze dus amper betaald worden en er bijgevolg niet toe doen. Zo'n aanpak is de doodsteek voor de literatuur. Ook daar schuilt die miskenning. Van dat heilloze moeten we af. Op den duur wordt een roman schrijven nog een verzetsdaad."

Tot slot: u ziet erotiek waar ze zelden wordt benoemd. Zo nam u uitgebreid de tijd om het betoverende lillen van het obese lichaam van een wetenschapster te beschrijven, en de hypnotiserende invloed daarvan op mannen. Verwacht u straks boze reacties van zwaarlijvige vrouwen?

"Waarom zouden ze boos moeten zijn? Ik denk dat men net blij zal zijn dat obesitas eens niet wordt voorgesteld als een probleem dat dringend moet worden opgelost. Hoe vaak hoor je over de aantrekkingskracht van volheid, of in dit geval: overvolheid? Nochtans is die er wel. Mensen roepen nu eenmaal dingen bij elkaar op als ze lijfelijk aanwezig zijn. Dingen die data en algoritmes nooit zullen kunnen vangen."

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle verhalen van De Morgen rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234