In een schaakspel kan een mens alleen hopen een computer te verslaan. Wat als dat ook gebeurt met AI en onze cultuur?

Yuval Noah Harari is historicus en de auteur van onder meer Sapiens en Homo Deus. Tristan Harris en Aza Raskin zijn medestichter van het Center for Humane Technology en hosten de podcast Your Undivided Attention.

Stel u voor dat u op het punt staat aan boord van een vliegtuig te gaan wanneer u hoort dat de helft van de ingenieurs die het hebben gebouwd zegt dat er een kans op tien is dat het zal neerstorten en iedereen zal omkomen. Zou u nog aan boord gaan?

In 2020 vroeg een peiling aan meer dan 700 topacademici en onderzoekers van AI-bedrijven naar de toekomstige risico’s van AI. De helft antwoordde dat er een kans van 10 procent of meer bestond dat toekomstige AI-systemen de mensheid zouden uitroeien (of op andere manieren blijvend machteloos zouden maken). De technologiebedrijven die de huidige grote taalmodellen, zoals GPT-4, ontwikkelen, haasten zich om de hele mensheid in dat vliegtuig te krijgen.

Farmaceutische bedrijven mogen geen nieuwe medicijnen op de markt brengen zonder ze eerst aan strenge veiligheidscontroles te onderwerpen. Biologische laboratoria mogen geen nieuwe virussen op het publiek loslaten om hun aandeelhouders te tonen hoe knap ze wel zijn. In dezelfde logica mogen we niet aanvaarden dat AI-systemen met de kracht van GPT-4 of meer het leven van miljarden mensen sneller zullen beïnvloeden dan onze cultuur ze veilig kan verwerken. De vaart van hun ontwikkeling mag niet worden bepaald door een wedren om de markt te domineren.

Manipuleren

Het spookbeeld van AI achtervolgt de mensheid al sinds het midden van de 20ste eeuw. Maar tot voor kort bleef het een ver toekomstbeeld, iets dat meer in de scifi thuishoorde dan in ernstige wetenschappelijke en politieke debatten. Onze menselijke geest kan de nieuwe mogelijkheden van GPT-4 en soortgelijke tools moeilijk vatten. Het is nog moeilijker om de exponentiële snelheid te begrijpen waarmee ze nog meer geavanceerde en krachtige capaciteiten ontwikkelen. Maar de essentieelste vaardigheid is dit: het vermogen om taal te manipuleren en te genereren, in woorden, klanken of beelden.

In den beginne was er het woord. De taal is het besturingssysteem van de menselijke cultuur. Uit de taal worden mythen geboren en wetten, goden en geld, kunst en wetenschap, vriendschappen en naties – en zelfs computercode. Nu AI de taal machtig is, kan ze het besturingssysteem van de beschaving hacken. Ze heeft nu de sleutel van onze beschaving in handen.

Hoe zou het zijn om in een wereld te leven waar een groot percentage van de verhalen, de melodieën, de beelden, de wetten, het beleid en de tools door een niet-menselijke intelligentie gemaakt zijn? Een intelligentie die met bovenmenselijke efficiëntie de zwakten, vooroordelen en verslavingen van de mens kan exploiteren? En die bovendien weet hoe ze intieme relaties met mensen kan vormen? In het schaakspel kan geen enkele mens ook maar hopen een computer te verslaan. Wat als dat ook met de kunst, de politiek en zelfs de godsdienst gebeurt?

Prisma

AI zou snel heel de menselijke cultuur kunnen verslinden, alles wat we in duizenden hebben geproduceerd, het verteren en een stortvloed van nieuwe culturele artefacten uitbraken. Niet alleen verhandelingen voor scholieren maar ook politieke toespraken, ideologische manifesten of zelfs heilige boeken van nieuwe godsdiensten. Misschien zullen de Amerikaanse presidentsverkiezingen van 2028 niet langer door mensen worden betwist.

Mensen hebben vaak geen rechtstreeks contact met de realiteit. We leven in een culturele cocon en ervaren de realiteit door een cultureel prisma. De verhalen van journalisten en de anekdotes van vrienden vormen onze politieke opvattingen. Kunst en godsdienst beïnvloeden onze seksuele voorkeuren. Tot nu toe werd die culturele cocon door andere mensen gesponnen. Hoe zal het zijn als we de realiteit door het prisma van een niet-menselijke intelligentie ervaren?

Duizenden jaren lang hebben wij mensen in de dromen van andere mensen geleefd. We hebben goden aanbeden, schoonheidsidealen nagestreefd, ons leven gewijd aan de hersenspinsels van een profeet, een dichter of politicus. Weldra zullen we ook leven in de hallucinaties van een niet-menselijke intelligentie.

In de Terminator-films lopen robots door de straten en schieten ze op mensen. In The Matrix controleert AI de menselijke maatschappij door de fysieke controle over onze hersenen te verwerven en ons rechtstreeks op een computernetwerk aan te sluiten. Maar in werkelijkheid is dat niet eens nodig. Om ons in een Matrix-achtige wereld van illusies gevangen te houden, volstaat het dat AI de taal controleert. Mensen neerschieten of chips in hersenen inplanten hoeft niet. En als er toch moet worden geschoten, zal AI ervoor kunnen zorgen dat mensen de trekker overhalen, gewoon door ons het juiste verhaal te vertellen.

Het schrikbeeld van gevangen zijn in een wereld van illusies achtervolgt de mensheid al veel langer dan het schrikbeeld van AI. Nog even, en we zullen eindelijk oog in oog staan met de demon van Descartes, de grot van Plato, de Maya van het boeddhisme. Een waas van illusies zou over de mensheid kunnen neerdalen. We zouden niet eens beseffen dat het er is.

Sociale media

De sociale media waren het ‘eerste contact’ van AI met de mensheid. De mensheid verloor. Dat eerste contact heeft ons een bittere voorsmaak gegeven van wat zou kunnen komen. De nog primitieve AI van de sociale media creëert geen inhoud, maar manipuleert de inhoud die de gebruikers creëren. De AI achter onze nieuwsfeeds kiest welke woorden, klanken en beelden onze netvliezen en trommelvliezen bereiken. Ze bepaalt wat viraal zal gaan, de meeste reacties zal uitlokken en ons in zijn ban zal houden.

Zelfs de primitieve AI achter de sociale media is erin geslaagd een waas van illusies te scheppen die onze maatschappij verder polariseren, onze geestelijke gezondheid ondermijnen en onze democratie in gevaar brengen. Miljoenen mensen nemen die illusies voor werkelijkheid. Terwijl de Verenigde Staten de beste informatietechnologie ooit bezitten, zijn hun burgers het niet langer eens over wie een verkiezing heeft gewonnen. En hoewel iedereen zich van de nadelen van de sociale media bewust is, wordt er niets tegen gedaan. Ze zijn nu te sterk verweven met onze sociale, economische en politieke instellingen.

De grote taalmodellen zijn ons ‘tweede contact’ met AI. We kunnen ons geen tweede nederlaag veroorloven. Maar hoe kan de mensheid deze nieuwe vormen van AI in haar voordeel benutten? Als er niets verandert zullen de nieuwe capaciteiten van AI weer worden gebruikt voor winst en macht, zelfs als dat ten koste van onze samenleving gaat.

AI heeft het potentieel om ons te helpen kanker te verslaan, nieuwe geneesmiddelen te ontwikkelen die levens redden, oplossingen te vinden voor de crisis van het klimaat en de energie. Er zijn nog ontelbare andere mogelijkheden, meer dan we ons kunnen voorstellen. Maar hoe hoog de toren van voordelen die AI ons schenkt ook wordt, we schieten er niets mee op als zijn fundering instort.

Chaos

We moeten AI aan banden leggen voor onze politiek, onze economie en ons dagelijkse leven er afhankelijk van worden. Democratie is een conversatie en een conversatie heeft taal nodig. Als de taal zelf gehackt wordt, is er geen conversatie meer en dus ook geen democratie maar alleen chaos. Als we het zo ver laten komen, zal te laat zijn om een oplossing te vinden.

Maar is het Westen dan niet verplicht om zo snel mogelijk vooruit te gaan, om niet van China te verliezen? Nee. De greep van een ongecontroleerde AI op onze samenleving, een bron van goddelijke krachten zonder verantwoordelijkheid, zou net de reden kunnen zijn waarom het Westen van China verliest.

We kunnen onze toekomst nog altijd kiezen. Als we erin slagen die goddelijke krachten met verantwoordelijkheid en controle te combineren, kunnen we de beloften van AI waarmaken.

We hebben een intelligentie in het leven geroepen die ons vreemd is. We weten er weinig over, behalve dat ze extreem krachtig is en ons heel veel te bieden heeft, maar ook dat ze onze beschaving te gronde kan richten. Wij roepen de wereldleiders op om deze uitdaging alle aandacht te geven die ze verdient. Als eerste stap is het tijd om onze 19de-eeuwse instellingen te upgraden na een wereld met AI. En om te leren hoe we AI de baas kunnen worden nu het nog kan.

_{© The New York Times}