Zondag 21/07/2019

'Machines geen gevoelens? Zeiden ze ook van slaven'

Kunstmatige intelligentie zal onze toekomst domineren, meent fysicus Max Tegmark (50), en daarom moeten we dringend nadenken over waar we precies naartoe willen. 'Maar stupide films als Terminator helpen daar niet bij.'

Max Tegmark ziet de toekomst van artificiële intelligentie (AI) rooskleurig in. Kom bij de Zweeds-Amerikaanse theoretisch fysicus niet aan met de in zijn ogen stompzinnige scenario's uit films als Terminator waarin de mens wordt dwarsgezeten door kwaadaardige robots. Het idee dat we uiteindelijk worden overvleugeld door machines vindt hij zelfs 'poëtisch'. Maar er is wel werk aan de winkel, zo schrijft hij in zijn even spectaculaire als toegankelijke boek Life 3.0.

Uw boek leest als een pleidooi om heel goed na te denken over hoe we onze toekomst met artificiële intelligentie voor ons zien. We hebben nog wel even, toch?

Max Tegmark: "Nee, daar moeten we nu al mee beginnen. We kunnen niet wachten tot het moment dat machines ons op alle terreinen verslaan, want dan is het te laat. Het probleem is niet zozeer het misplaatste idee dat machines kwaadaardig zijn, zoals ons in stupide films als Terminator wordt voorgehouden. Dat verbloemt het echte probleem: dat onze doelstellingen niet overeenkomen met die van de kunstmatige intelligentie.

"Machines zijn niet kwaadaardig, ze zullen er alleen alles aan doen om hun vooraf meegegeven doelstellingen te realiseren. Daarom moeten we er goed over nadenken. En dat is al lastig genoeg."

Tegmark haalt in Leven 3.0 het "opzettelijk onbenullige voorbeeld" van filosoof Nick Bostrom aan van een kunstmatige intelligentie die als doelstelling het produceren van een maximale hoeveelheid paperclips heeft, zoals een schaakcomputer geen ander doel heeft dan het winnen van een partij schaak. De paperclipmaximalisator zal alles op alles zetten om zijn doel te bereiken. Hij zal mensen doden als het nodig is. Niet omdat hij tegen mensen is, maar omdat hij onze atomen nodig heeft voor de fabricage van paperclips.

"Mag ik een ander voorbeeld geven? De klassieker 2001: A Space Odyssey van Stanley Kubrick. Je hebt die beroemde scène (Tegmark imiteert met speels gemak de monotone machinestem van de slimme boordcomputer, LV) waarin HAL zegt: 'I'm sorry Dave, I'm afraid I cannot do that.' Die is prachtig, omdat dit zo goed illustreert wat het probleem is. HAL komt in opstand omdat Dave hem wil uitschakelen. Het probleem is dus niet kwaadaardigheid, maar een verschil in doelstellingen."

Wat hebt u tegen Terminator?

"Dat soort films reduceert complexe technologie tot een dystopische kermisattractie. Je kunt het afdoen als gewoon een film, maar in elke discussie over AI komen de Terminator-achtige analogieën terug. En die volstrekt onrealistische angst voor robots die de macht grijpen, leidt ons af van de werkelijke gevaren en uitdagingen. Ik heb niets tegen scienceficton, hoor. Maar dan kijk ik liever naar complexere series en films als Black Mirror, Transcendence, Her of Ex Machina."

Dystopieën, al of niet denkbeeldige samenlevingen met louter akelige kenmerken, kunnen ons toch ook een spiegel voorhouden?

"Bijna alle toekomstfilms zijn dystopieën en dat is een verschrikkelijk groot probleem. Ik zie het ook als studenten naar me toekomen met verhalen hoe erg het allemaal is. Ze kunnen maar beter een ander vak kiezen, vertel ik ze dan. Het is allemaal alleen maar een recept voor paranoia en hypochondrie. Als er geen positieve toekomstvisie is, dan zullen we er ook nooit komen. We móéten een idee hebben van waar we naartoe gaan.

"Als we ons de toekomst proberen voor te stellen, dan zijn we er altijd veel beter in om een negatief beeld te schetsen. In religies zijn de beschrijvingen van de hel altijd veel gedetailleerder dan die van de hemel. Het is blijkbaar heel lastig om ons een mooie hightechtoekomst voor te stellen."

Drones ter grootte van een hommel die autonoom op zoek zijn naar slachtoffers zijn toch niet echt de gedroomde toekomst?

"Ho, dit is niet iets voor een verre toekomst, dat gebeurt nu. Wellicht nog niet ter grootte van een hommel, maar autonome wapens zijn er al. Niet voor niets waren de Verenigde Naties onlangs in Genève bij elkaar om te praten over een verbod op autonome wapens, net zoals eerder bij chemische wapens gebeurde. Het is heel belangrijk dat zo'n verbod er komt."

Maar ik hoor ook genoeg mensen die zeggen dat het allemaal zo'n vaart niet loopt, omdat de mens nog altijd aan de knoppen zit.

"Als ik het aardig zeg: die zijn naïef. Het argument is vaak dat het inzetten van dergelijke wapens helpt om verder geweld te voorkomen. Maar dat gaat niet gebeuren. Want de NAVO krijgt niet het alleenrecht op die wapens. Nee, in plaats daarvan zal iedereen ze vrij gemakkelijk kunnen produceren. Dus straks zitten de zwarte markten op internet vol met die dingen, waarna ze voor een paar honderd euro door iedere terrorist op de kop zijn te tikken. Het zijn de kalasjnikovs van morgen.

"Zo'n wapenwedloop wil je niet. Alles gebeurt autonoom en je komt gewoon niet meer te weten wie erachter zit."

U citeert in uw boek Alan Turing, die zegt dat de mens een toontje lager moet zingen als blijkt dat we machines kunnen maken die intelligenter zijn dan wij. Is dat zo?

"Ja natuurlijk: we moeten ons nederig voelen. Maar die nederigheid zie ik niet als negatief. Een klein beetje meer nederigheid zou ons alleen maar goed doen. We moeten ons niet verlaten op een of andere notie van superioriteit, want dat heeft ons tot nu toe weinig goeds gebracht. We zijn niet superieur en we zijn niet uniek.

"Mensen houden graag vast aan het misplaatste idee dat de mens de enige is die bewustzijn heeft of de enige die kunst kan maken. Stel je een buitenaardse beschaving voor die ons op alle vlakken de baas is, zowel in de wetenschap als de kunst, maar die ons verder met rust zou laten. Is dat nu zo erg? Zouden we minder van kunst genieten? Dat denk ik niet. We hebben de uniekheid niet nodig om gelukkig te zijn. Is het niet heel poëtisch dat we zoveel moeite doen om de slimste te zijn en dat we tegelijk zelf machines bouwen die ons de baas zullen zijn?"

U gaat het netelige en controversiële onderwerp 'bewustzijn' niet uit de weg. Machines kunnen ook bewustzijn hebben?

"Voor mij staat bewustzijn gelijk aan subjectieve ervaring. En die ervaring is de basis van elke moraal: pijn, lijden, plezier, genot. We mogen dat onderwerp niet uit de weg gaan, hoe lastig het ook is.

"Het is te makkelijk om te zeggen dat machines geen subjectieve ervaringen kunnen hebben. Hetzelfde werd ooit ook over slaven gezegd. Het zou zelfs geen probleem zijn om ze te martelen, want ze zouden geen ziel hebben. En sommigen zeggen het nog steeds ook over dieren, die geen ervaring van pijn zouden hebben en dus per definitie niet kunnen lijden. We moeten niet dezelfde fouten maken als we het over machines hebben. Bewustzijn is wetenschappelijk gezien nog een van de laatste bastions van niet-opgeloste zaken en ik denk echt dat we hier nog progressie kunnen maken.

"Daarnaast moeten we enorm oppassen met wat ik koolstofchauvinisme noem: het idee dat je van koolstofatomen moet zijn gemaakt om überhaupt wat te kunnen voelen. Waar het om gaat, is informatieoverdracht, niet van welke atomen we zijn gemaakt."

Waarom is dit zo belangrijk voor u?

"Zonder bewustzijn is er niets. Geen geluk, geen betekenis of goedheid, geen schoonheid. Slechts een astronomische verspilling van ruimte. Dat is precies de reden dat we ons, als we het over de toekomst hebben, moeten richten op het behoud of de vermeerdering van het bewustzijn in ons universum, of het nu biologisch of kunstmatig is. En niet op de vernietiging."

Max Tegmark, Life 3.0: Mens zijn in het tijdperk van kunstmatige intelligentie, Maven Publishing, 392 p., 24,50 euro.

Meer over

Wilt u belangrijke informatie delen met De Morgen?

Tip hier onze journalisten


Op alle verhalen van De Morgen rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar info@demorgen.be.
© 2019 MEDIALAAN nv - alle rechten voorbehouden