Alle grote ontdekkingen hebben een potentieel van vooruitgang én destructie. Dat geldt ook voor ChatGPT

Bart Eeckhout is hoofdcommentator van De Morgen.

Elke generatie gelooft graag van zichzelf dat ze op een kantelpunt leeft. Maar in het geval van de generatie die nu opgroeit zou het nog weleens kunnen kloppen ook. Denk daarbij niet aan de verhouding met Rusland of China, aan de verandering van het klimaat of aan de vernieuwing van cd&v. Neen, het gaat over de spectaculaire innovatie in artificiële intelligentie. De meest spraakmakende doorbraak kennen we onder de naam Chat GPT, een instrument om in opdracht of in dialoog waarachtige teksten te produceren. Gelijkaardige uitvindingen maken het mogelijk om vanuit het niets precieze, geloofwaardige beelden of klank en spraak te creëren en dus een eigen werkelijkheid te scheppen, die amper te onderscheiden valt van onze werkelijkheid.

Twee tegenstrijdige nieuwsfeiten illustreren hoe dat tegelijkertijd wonderbaarlijk en destructief kan zijn. Zo gaat een geestig portret van paus Franciscus in een hippe, witte ski-jas de wereld rond. Vele mensen namen aan dat het perfect getrukeerde beeld echt was, wat dus niet het geval is. Het had waar kunnen zijn... Tegelijk lijkt het erop dat een Belgische man ertoe gebracht is zichzelf te doden, na een ontspoord gesprek met een chatbot. De man ging de bot als een echte vriendin beschouwen en ‘zij’ zou hem tot de wanhoopsdaad aangespoord hebben.

Het grotere plaatje maakt de twee losstaande ‘incidenten’ pas echt duizelingwekkend. We staan vlak bij een tijdperk waarin amper of zelfs niet meer uit te maken valt of geproduceerde teksten, beelden of geluiden ook echt van menselijke makelij zijn. Om uit te maken wat waar is, zullen we niet langer op onze zintuigen kunnen vertrouwen. Maar kunnen we de hulpmiddelen die technologie ons geeft wel vertrouwen?

Het maatschappelijke risico ligt voor de hand. Deze vorm van nieuwe artificiële intelligentie (AI) is “niet betrouwbaar en niet eerlijk”, zoals de kritische AI-expert Gary Marcus het formuleert. Niet omdat ze perfide is of gecreëerd door perfide mensen, wel omdat ze geen belang stelt in de ‘waarheid’, enkel in het geven van zo waarschijnlijk mogelijke antwoorden op opdrachten. Dat kan van de innovatie een wapen maken in handen al wie mensen wil manipuleren, misleiden of tegen elkaar opzetten. Dit kan samenlevingen ontwrichten.

Toch is doemdenken niet het juiste antwoord. Alle grote ontdekkingen en uitvindingen - van het vuur tot kernenergie - dragen tegelijk een potentieel van vooruitgang en destructie in zich. Deze doorbraak in computerintelligentie kan de mens ook helpen om vraagstukken op te lossen, die voorheen onbereikbaar schenen.

Wel zeker is dat regulering nodig zal zijn. De dodelijke chatbot is het product van een bedrijfje dat naar eigen zeggen zelf niet goed besefte welk monster het gecreëerd heeft. Hier heeft de overheid een taak om mensen te beschermen zonder met de rug naar de toekomst te gaan staan. De Europese Unie heeft een traditie van strenge maar rechtvaardige regels voor toegang tot haar eenheidsmarkt. Nog voor Chat GPT & co het licht zagen, werkte de EU al aan regels voor AI-toepassingen. Dat initiatief komt geen moment te vroeg.