AP wil weten hoe ChatGPT met persoonsgegevens omgaat

ChatGPT is net als andere AI-modellen getraind met data. Daarvoor zijn bijvoorbeeld data verzameld die al op het internet stonden, maar er kan ook gebruik worden gemaakt van vragen die mensen stellen. Die vragen worden dan opgeslagen en toegevoegd aan de trainingsset. Volgens de AP kunnen dergelijke data ook gevoelige en heel persoonlijke informatie bevatten, "bijvoorbeeld als iemand advies vraagt over een echtelijke ruzie of over medische zaken".

Of ChatGPT dergelijke data ook gebruikt en zo ja, op welke manier dan, is niet helemaal duidelijk. Dat wil de privacywaakhond nu weten van OpenAI. In een brief heeft de waakhond het bedrijf om opheldering hierover gevraagd. Daarnaast zijn er vragen gesteld over de manier waarop OpenAI persoonsgegevens van het internet verzamelt en gebruikt.

Naast het gebruik van persoonsgegevens maakt de AP zich ook zorgen over de antwoorden die door ChatGPT gegenereerd worden. "De gegenereerde inhoud kan onnauwkeurig zijn, verouderd, onjuist, ongepast, beledigend, of aanstootgevend en kan een eigen leven gaan leiden. Of en zo ja hoe OpenAI die gegevens kan rectificeren of verwijderen, is onduidelijk", aldus de toezichthouder.

Zorgen in heel Europa

De AP is niet de enige Europese privacytoezichthouder met vragen rondom generatieve AI. Eind mei kondigde het samenwerkingsverband van Europese privacytoezichthouders EDBP aan dat een speciale werkgroep belast wordt met de consequenties van generatieve AI voor de gevoelige persoonsgegevens van Europanen.

Aanleiding is het tijdelijke verbod op het gebruik van ChatGPT in Italië. De Italiaanse toezichthouder vond dat OpenAI zich niet aan de regels hield voor vergaring van persoonsgegevens. Die blokkade werd op 28 april weer opgeheven, toen OpenAI volgens de toezichthouder voldoende aanpassingen had gemaakt om de grootste bezwaren weg te nemen. De resterende problemen moeten binnen enkele weken opgelost worden. 

In Nederland werkt het kabinet sinds eind vorig jaar aan een visie op de snelle ontwikkelingen van generatieve AI. Daarin gaat het kabinet ook in op de risico's van deze systemen.