Elon Musk en experts roepen op om AI-onderzoek on hold te zetten vanwege ‘risico’s voor de samenleving’

Een groep experts en leidinggevenden uit de industrie vraagt een pauze van zes maanden voor AI-systemen die krachtiger zijn dan de onlangs door OpenAI gelanceerde GPT-4. In die periode moeten veiligheidsprotocollen worden ontwikkeld, geïmplementeerd en gecontroleerd door onafhankelijke deskundigen.

In de open brief wijzen de experts op potentiële risico’s voor de samenleving en de mensheid. “Krachtige AI-systemen moeten pas ontwikkeld worden als we er zeker van zijn dat hun effecten positief zullen zijn en hun risico’s beheersbaar zijn”, aldus de brief.

Verder beschrijven de deskundigen de potentiële risico’s van mens-competitieve AI-systemen voor de samenleving en beschaving, in de vorm van economische en politieke verstoringen. Ze roepen ontwikkelaars op samen te werken met beleidsmakers op het gebied van bestuur en regelgeving.

De brief komt er onder meer nadat de EU-politie Europol zich maandag zich aansloot bij de ethische en juridische bezorgdheid over geavanceerde AI zoals ChatGPT. Zo waarschuwde Europol voor mogelijk misbruik van het systeem bij phishingpogingen, desinformatie en cybercriminaliteit.

Sinds de introductie van ChatGPT vorig jaar zijn rivalen van Microsoft aangespoord om sneller soortgelijke grote taalmodellen te ontwikkelen, en zijn grote bedrijven geneigd om generatieve AI-modellen in hun producten te integreren.

De brief is uitgegeven door de non-profitorganisatie Future of Life Institute en ondertekend door meer dan 1.000 mensen. Onder hen ook Elon Musk, wiens autofabrikant Tesla AI gebruikt voor een autopilootsysteem, die eerder zijn bezorgdheid over AI heeft geuit. Volgens gegevens van de Europese Unie wordt het Future of Life Institute voornamelijk gefinancierd door de Musk Foundation.