Dinsdag 27/07/2021

BoekeninterviewBoeken

Kazuo Ishiguro: ‘Robots kunnen de democratie bedreigen’

null Beeld AFP
Beeld AFP

Nobelprijswinnaar Kazuo Ishiguro (66) vindt het moeilijk om de wereld van nu te doorgronden. Des te meer reden om erover te schrijven. Zoals in Klara en de zon, met een robot als hoofdpersoon. ‘Mijn generatie is uitgeput. De grote vraagstukken zijn helemaal veranderd.’

Nee, de Nobelprijs die hem in 2017 werd toegekend mag hem dan een hoop eer en publiciteit hebben opgeleverd, veel veranderd heeft de bekroning niet. “Het voelt een beetje of een avatar van mij, die in een parallel universum leeft, de prijs heeft gekregen. Toen ik na alle ceremonies, interviews en alles wat erbij hoort naar mijn werkkamer terugkeerde, trof ik dezelfde rommelige situatie aan. Mijn problemen waren dezelfde gebleven, ik was er niet intelligenter op geworden. Wel voelde ik een zeker ongemak ten opzichte van al die andere schrijvers die de prijs niet hadden gekregen.”

BIO • geboren op 8 november 1954 in Nagasaki • brak door met het verfilmde en met de Booker Prize bekroonde The Remains of the Day (1989) • andere romans: De troostelozen, Laat me nooit alleen en Vergeten reus • kreeg in 2017 de Nobelprijs • dochter Naomi debuteert deze maand met Common Ground

Dus ging Kazuo Ishiguro (1954) na zes hectische maanden in het voorjaar van 2018 gewoon weer verder met de roman waaraan hij een jaar eerder was begonnen; hij was ongeveer op een derde. Wel nam hij zich voor niet aan het beruchte genius syndrome ten prooi te vallen dat sommige Nobel­prijs­winnaars treft. “Veel winnaars hebben zich veertig jaar lang beziggehouden met een klein deelgebiedje, waarvan ze alles weten. Na hun bekroning krijgen sommigen het idee dat ze overal verstand van hebben – ze zijn immers Nobel-­laureaten – en geven gretig hun mening over zaken die hun kennis te buiten gaan. Dat wordt soms gênant. Ik hoop dat ik blijf beseffen dat ik mijn prijs heb gekregen voor een handvol boeken en niet meer dan dat.”

Kazuo Ishiguro – sir Kazuo, sinds 2019 – mag dan naar een zo gewoon mogelijk schrijversbestaan zijn teruggekeerd, zijn status als Nobelprijs­winnaar maakt het, in combinatie met de coronapandemie, onmogelijk zijn nieuwe roman op de traditionele manier te promoten. Bij wijze van compromis houdt hij een internationale Zoom-persconferentie, waarbij journalisten van tevoren vragen mochten indienen. Dat is behelpen, maar bij een bedachtzame, zorgvuldig formulerende interviewkandidaat als Ishiguro blijken de nadelen mee te vallen.

Aanleiding voor de persconferentie is zijn achtste roman, Klara en de zon, zijn eerste boek als ­Nobelprijswinnaar. Het is geschreven vanuit het perspectief van de Klara uit de titel. Zij is een zogenoemde ‘Kunstmatige Vriendin’ (KV): een robot die met een hoogontwikkelde vorm van zelf­lerende kunstmatige intelligentie is toegerust. ‘Robot’ is bijna een onvriendelijk woord: in de wereld die Ishiguro beschrijft, zijn KV’s alleen van ‘echte kinderen’ te onderscheiden als je heel goed kijkt. Ook hun manier van denken blijkt dicht bij de onze te komen.

Klara begint haar bestaan in een winkel, waar zij en andere Kunstmatige Vriendinnen en Vrienden te koop zijn als gezelschap voor kinderen. De KV’s werken op zonne-energie en Klara bouwt in gedachten al snel een speciale band op met de zon, vooral de keren dat ze in de etalage mag staan. Uiteindelijk komt ze terecht bij een ziekelijk meisje dat Josie heet. In de beste Ishiguro-traditie blijkt Klara een verteller die we niet altijd op haar woord kunnen geloven.

Wat bracht u op het idee om te schrijven vanuit het perspectief van een wezen met kunstmatige intelligentie (AI)?

“De figuur van Klara kwam via een omweg in mijn hoofd. Ik ben altijd erg geïnteresseerd geweest in de geïllustreerde kinderboeken die we voorlezen aan 4- of 5-jarigen. Deze boeken kennen een wonderlijke logica, waarbij het bijvoorbeeld helemaal niet raar is dat de maan die je door het raam ziet, kan praten. En dat je als kind een ladder kunt pakken en naar de maan kunt klimmen.

“Aanvankelijk wilde ik een kinderboek schrijven over een ziek meisje dat niet naar buiten kan en elke avond samen met haar pop de zon ziet ondergaan. Op een dag gaat ze tóch naar buiten. Mijn dochter Naomi, inmiddels ook als schrijver gedebuteerd, overtuigde mij ervan dat mijn verhaal te zielig zou zijn voor een kinderboek. Daarom besloot ik het over een andere boeg te gooien en te kiezen voor een hoofdpersoon die geen ‘echt’ kind is, maar het product van kunstmatige intelligentie.

Stockholm, 2017. Kazuo Ishiguro krijgt de Nobelprijs Literatuur aangereikt door de Zweedse koning Carl Gustaf XVI.   Beeld BELGAIMAGE
Stockholm, 2017. Kazuo Ishiguro krijgt de Nobelprijs Literatuur aangereikt door de Zweedse koning Carl Gustaf XVI.Beeld BELGAIMAGE

“Ik ben al een tijdlang bijzonder geïnteresseerd in dat fenomeen en heb het voorrecht gehad er met een aantal wetenschappers over te praten, onder wie Demis Hassabis van het Britse AI-bedrijf DeepMind. Zo ontstond een roman die bestemd is voor volwassenen maar deels is geschreven volgens de wetten van het kinderboek. Klara begint haar leven als een soort baby die bijna niets weet en vervolgens snel leert. Net als kleine kinderen trekt ze conclusies wanneer ze dingen ziet, maar niet begrijpt. Dus als Klara vanuit Josies raam ziet dat de zon ondergaat achter een schuur in de verte, concludeert ze dat de zon ’s nachts in die schuur slaapt.”

Wat voor onderzoek hebt u voor dit boek verricht?

“Sinds de verschijning van Laat me nooit alleen (2005), over gekloonde jonge ‘donors’ die worden gekweekt om hun organen aan ‘echte’ mensen af te staan, ben ik regelmatig door wetenschappers uitgenodigd om te discussiëren over de sociaal-maatschappelijke consequenties van wetenschappelijke ontwikkelingen.

“Via gesprekken met hen heb ik een aantal ­rele-vante zaken over kunstmatige intelligentie ­geleerd. AI heeft zich sterk ontwikkeld sinds de tijd dat mensen computers begonnen te programmeren. Computers die schaakgrootmeesters ­verslaan, zijn een primitieve vorm van kunstmatige intelligentie. Inmiddels bevinden we ons in het tijdperk van reinforcement learning.

“Daarbij krijgt AI een missie, een taak, om zichzelf vervolgens nieuwe dingen te leren. Van mensen die er verstand van hebben, begrijp ik dat AI heel positieve dingen kan opleveren. In Groot-Brittannië bestaat een partnerschap tussen DeepMind en de National Health Service. Dat heeft tot belangrijke doorbraken op het gebied van medische zorg geleid. Mijn personage Klara is gebaseerd op het principe van reinforcement learning.”

Ondanks de positieve verworvenheden van kunstmatige intelligentie is de wereld die Ishiguro in Klara en de zon beschrijft nogal dystopisch. Er is sprake van een grote ongelijkheid tussen kinderen die zijn ‘opgetild’, zoals Josie, en kinderen voor wie dat niet geldt, zoals haar buurjongen Rick. Wat dat ‘opgetild’ zijn precies inhoudt, blijft lange tijd onduidelijk, zoals ook de lezer van Laat me nooit alleen pas gaandeweg meer te weten komt over het lot van de hoofdpersonen. Het resultaat is een ongemakkelijke, briljant opgewekte spanning.

Tussen de bedrijven door wordt duidelijk dat er grote werkloosheid heerst. Een sinistere kunstenaar die aan een portret van Josie werkt, speelt een rol van betekenis. Er is sprake van een helse machine die de lucht vervuilt, van vogels die ­eigenlijk surveillancedrones zijn, en bij nadere beschouwing blijkt lang niet iedereen even gelukkig met het bestaan van Klara en haar soort­genoten.

Gaat uw fascinatie voor kunstmatige intelligentie met een gevoel van dreiging gepaard?

“Ik denk dat AI ons op veel gebieden kan helpen, maar daar staan drie problemen tegenover. Om te beginnen de werkloosheid. De implementatie van AI zal hoogstwaarschijnlijk tot het verdwijnen van veel bestaande beroepen leiden. Dat heeft niet alleen economische, maar ook mentale consequenties. Het betekent een verlies van status, prestige, zelfrespect.

“Daarnaast is er het probleem van de black box. We zijn weliswaar blij dat we met kunstmatige intelligentie ontdekkingen kunnen doen en problemen oplossen, maar we weten niet hoe dat gebeurt. De angst is dat wij mensen de controle verliezen. Ik heb dat gevoel al bij mijn nieuwe auto. Die maakt alarmerende geluiden als ik ergens te dicht langsrijd, terwijl ik zelf niet zie wat er aan de hand is. En dan hebben we het nog over heel elementaire kunstmatige intelligentie.

“Het derde punt waarover ik me zorgen maak, is dat in die black box bepaalde patronen of opvattingen zich tot standaard zullen ontwikkelen. Zelf kunnen we het bestaan van vooroordelen vaststellen en er bewust afstand van nemen; denk aan racisme of seksisme. Bij kunstmatige intelligentie is het gevaar dat die vooroordelen als het ware in de algoritmes ingebakken zullen raken. En dat we ze er dan niet meer uit krijgen. AI zou weleens een bedreiging kunnen zijn voor de vrije democratie.”

De verworvenheden van kunstmatige intelligentie betekenen in Klara en de zon dat concepten als liefde en het onderscheid tussen mens en machine ter discussie komen te staan.

“Een belangrijke vraag voor mij is: zullen de stappen die we hebben gezet op gebieden als kunstmatige intelligentie, genetische manipulatie en big data ons beeld veranderen van wat een mens is? Van Amazon, Netflix en andere bedrijven krijgen we voortdurend suggesties aangereikt voor producten op basis van ons koop- en kijkgedrag. Als die op algoritmes gebaseerde suggesties kloppen, betekent dat dan dat wij mensen een verzameling algoritmes zijn?

“Ik geloof dat ik van mijn vrouw en dochter hou omdat ze uniek zijn. Maar als we aannemen dat we slechts algoritmes zijn, en dat we dus met de benodigde technologie in staat zijn mensen te scheppen, beïnvloedt dat dan de manier waarop we naar ons gezin kijken?

‘Na hun bekroning krijgen sommige Nobelprijswinnaars het idee dat ze overal verstand van hebben. Dat is soms gênant.'
 Beeld REUTERS
‘Na hun bekroning krijgen sommige Nobelprijswinnaars het idee dat ze overal verstand van hebben. Dat is soms gênant.'Beeld REUTERS

“In Klara en de zon schrijf ik over een moeder die bang is dat haar zieke dochter zal sterven. Zij wordt geconfronteerd met de vraag: is haar dochter onvervangbaar of kan ze op een bepaalde manier voortleven? Kan alles wat haar uniek maakt worden opgeslagen als data? Wat mij interesseert, is niet zozeer de vraag of dat mogelijk is, als wel: wat betekent dat voor menselijke liefde?”

Veel details suggereren dat Klara en de zon in de VS is gesitueerd. Er is zelfs een passage waarin de personages het schilderij Nighthawks van Edward Hopper lijken binnen te wandelen.

“Aanvankelijk was de keuze voor de VS puur intuïtief. Ik voel mij aangetrokken tot Amerikaanse beelden, vooral van schilderijen uit de jaren 1920 en ’30: grote open velden met uitgestrekte luchten daarboven, en een graanzuiger aan de horizon. Of een trein die door vlak prairieland rijdt. En stadsbeelden zoals je die in het werk van ­Edward Hopper tegenkomt.

“Gaandeweg kwam daar nog een reden bij. De VS zijn een jonge maatschappij en vergeleken met Europa en Japan is Amerika kwetsbaar op een manier die veel met die jeugdigheid te maken heeft. Alles is nieuw, zodat ook instituties minder op de proef zijn gesteld. De recente gebeurtenissen rond de presidentsverkiezingen hebben dat nog eens laten zien.

“Mijn boek gaat over een maatschappij die door technologische ontwikkelingen wordt gedwongen haar waarden aan te passen. Het leek mij passend het verhaal te situeren in een jong land, een relatieve tabula rasa.”

In uw Nobelprijs-toespraak uit 2017 noemde u zichzelf deel van een intellectueel uitgeputte generatie romanschrijvers en stelde u dat de toekomst aan de nieuwe generatie is.

“Ik ben negen jaar na het einde van de Tweede Wereldoorlog geboren en behoor tot de generatie die in de schaduw van die oorlog opgroeide, met ouders die hem hadden meegemaakt. De Koude Oorlog die volgde, was vaak hevig. Er waren proxy­oorlogen in Vietnam, Centraal-Amerika en Afrika. Dat was de lens waardoor ik naar de wereld keek: het grote conflict tussen communisme en kapitalisme, tussen een autoritair, totalitair bewind en een open, liberale maatschappij.

“Veel van mijn instincten waren gericht op de vraag: hoe kunnen we de fouten voorkomen die in de eerste helft van de 20ste eeuw zijn gemaakt? Net als veel generatiegenoten was ik erg gespitst op signalen die erop konden wijzen dat Groot-Brittannië te autoritair werd. En we waren bang voor een kernoorlog.

“Als ik zeg dat mijn generatie uitgeput is, bedoel ik dat we zoveel tijd hebben besteed aan het denken in deze oude context, dat het moeilijk is ons een oordeel te vormen over de wereld zoals die zich na de val van de Muur in 1989 heeft ontwikkeld. De doelpalen zijn verplaatst, de grote vraagstukken zijn veranderd. Mijn dochter noemt mij representatief voor mijn generatie, in de zin dat ik niet echt begrijp hoe belangrijk klimaatverandering is. Ze zegt vaak tegen me: pap, je bent een intelligente man, maar ook erg zelfgenoegzaam. Je bewijst slechts lippendienst aan de zorgen over klimaatverandering, maar begrijpt die niet echt. En ik denk dat ze daarin gelijk heeft.”

In Klara en de zon stelt u wel een ander hedendaags probleem aan de orde: de morele complicaties als gevolg van de voort­schrijdende technologie.

“Omdat ik altijd op de ontwikkelingen van het kapitalisme gericht ben geweest, is het mij niet ontgaan dat dat kapitalisme aan het veranderen is, vooral door de opkomst van big data. De machtigste bedrijven ter wereld zijn momenteel niet General Motors of Toyota – bedrijven die dingen maken en aan je verkopen – maar Google, Facebook, Amazon en Apple. Die bedrijven werken met een compleet ander businessmodel: ze handelen in data waarvan we niet eens beseffen dat we ze bezitten.

“Het is moeilijk voor mensen van mijn generatie om dat echt te begrijpen. Klara en de zon is het product van een oudere schrijver die erg zijn best doet om naar de wereld van na de Koude Oorlog te kijken. Maar alles wat ik zie, is een dichte mist waarin ik vage figuren onderscheid, die ik in taal probeer vast te leggen.

“Daarom kijk ik uit naar de volgende generatie schrijvers, die een helderder beeld hebben van de wereld die aan het ontstaan is. De nieuwe generatie zal zaken als kunstmatige intelligentie, genetische manipulatie en big data niet alleen begrijpen, maar zich er ook emotioneel toe verhouden. Ze zullen hun angst en hoop in een ander soort literatuur tot uitdrukking brengen. Er zullen nieuwe genres, technieken en stijlen komen. Ik vind dat opwindend.”

In uw hele oeuvre, ook in Klara en de zon, legt u de nadruk op het belang van menselijke gevoelens. Ook in uw Nobel­toespraak noemde u het overdragen van gevoelens de essentie van uw schrijverschap.

“Inmiddels voel ik de behoefte daar een kant­tekening bij te plaatsen. De afgelopen periode zagen we ons geconfronteerd met een opmerkelijke veronachtzaming van feiten, in het bijzonder in de Verenigde Staten. Naar verluidt gelooft de helft van de Amerikaanse bevolking dat het presidentschap is ‘gestolen’ van Donald Trump, hoewel daar volstrekt geen bewijs voor bestaat. Veel mensen zijn kennelijk van mening dat het ontbreken van bewijs er niet toe doet, omdat zij het gevoel hebben dat Trump de verkiezingen heeft gewonnen. De nieuwe definitie van de waarheid ligt kennelijk in wat je voelt.

“Ik heb altijd gezegd dat wat echt belangrijk is aan verhalen, romans en films het overdragen en delen van gevoelens is. Via kunst delen we niet alleen feiten, gedachten en ideeën, we delen ook onze emotionele beleving van de werkelijkheid. Daarom hebben we niet alleen non-fictie nodig, maar ook romans. Door de gebeurtenissen van het afgelopen jaar ben ik me nogal ongemakkelijk gaan voelen over die uitspraak. Want misschien heeft wat ik mijn hele leven heb gedaan wel bijgedragen aan de situatie waarin wat je voelt het enige is wat ertoe doet. Ik geloof nog steeds dat het waardevol is om gevoelens over te brengen, maar ik vind het moeilijker geworden om het bestaan van literatuur op die manier te rechtvaardigen.

“Ik heb hier nog geen antwoord op. Het is gewoon een van de vragen die bij me opkwamen tijdens de lockdown waarin ik, net als iedereen, ­maandenlang heb verkeerd. Ik denk dat het een goed idee is dat wij – iedereen in de vrije wereld die zich met kunst en cultuur bezighoudt – vraagtekens zetten bij onze aannamen, onze uitgangspunten. Hebben die iets te maken met de situatie in de VS, waar mensen krankzinnige dingen ­geloven omdat hun gevoel ze dat ingeeft? Dat is de vraag die ik graag aan iedereen wil voor­leggen.”

Kazuo Ishiguro, Klara en de zon, Atlas Contact, 352 p., 22,99 euro. Uit het Engels vertaald door Peter Bergsma.

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234