Italiaanse toezichthouder blokkeert ChatGPT om privacyproblemen

De blokkade door de Garante per la Protezione dei Dati Personali (GPDP), de Italiaanse tegenhanger van de Gegevensbeschermingsautoriteit, is de eerste keer dat een toezichthouder optreedt tegen ChatGPT. De chatbot wekte in de afgelopen maanden verbazing door op basis van de gekste vragen en opdrachten binnen luttele seconden grote lappen goed lopende tekst te produceren, met vaak – maar zeker niet altijd – accurate informatie. Met 100 miljoen gebruikers binnen twee maanden is het de snelst groeiende app ooit.

Tegelijkertijd is er kritiek op de razendsnelle ontwikkeling van krachtige kunstmatige intelligentie (AI) zoals ChatGPT. Woensdag waarschuwden ruim duizend techprominenten dat de mensheid de controle over kunstmatige intelligentie dreigt te verliezen. Behalve tegen techprominenten moet de ontwikkelaar van de chatbot, OpenAI, zich dus ook verweren tegen de bezwaren van privacywaakhonden.

Persoonsgegevens

Om logische teksten te produceren en correcte antwoorden te geven, hebben de ontwikkelaars ChatGPT grote delen van het internet laten lezen. De manier waarop deze trainingsdata zijn verzameld, is de grootste steen des aanstoots voor de GPDP. Het programma komt daarbij namelijk regelmatig persoonsgegevens tegen. Die “massale verzameling en opslag van persoonsgegevens, met het oog op de ‘training’ van de algoritmen die aan de basis liggen van de werking van het platform” is volgens de toezichthouder ongerechtvaardigd en dus illegaal. Bovendien informeert OpenAI gebruikers en andere personen wier gegevens het verzamelt hier niet over.

De blokkade van ChatGPT gaat volgens de GPDP “onmiddellijk” in, en duurt “totdat het voldoet aan de privacyregels”. Kort na de bekendmaking vrijdagmiddag was de dienst echter nog beschikbaar in Italië. OpenAI moet binnen twintig dagen laten weten welke stappen het heeft genomen om aan het bevel van de toezichthouder te voldoen, op straffe van een boete van maximaal 20 miljoen euro of 4 procent van de jaaromzet. OpenAI heeft nog niet gereageerd.

Datalek

De GPDP wijst erop dat de antwoorden die ChatGPT geeft niet altijd kloppen, en dat het programma persoonsgegevens dus op onnauwkeurige wijze verwerkt. Een ander punt van kritiek is dat ChatGPT volgens OpenAI bedoeld is voor gebruikers vanaf 13 jaar oud, maar dat het bedrijf er niets aan doet om te verifiëren dat gebruikers inderdaad zo oud zijn.

Ten slotte bleek onlangs dat er bij ChatGPT sprake is geweest van een datalek. OpenAI legde zelf deze week uit dat door een technische fout negen uur lang gevoelige gegevens van 1,2 procent van alle gebruikers onbedoeld zichtbaar was. Het ging niet alleen om de geschiedenis van gebruikersvragen, maar ook voor- en achternamen, mailadressen, betalingsadressen, gebruikte betaalmethoden en de laatste vier cijfers en vervaldatum van hun creditcard. Ook dit was voor de GPDP een reden om in te grijpen.