Waarom ChatGPT een privacynachtmerrie kan zijn

Het geleerde ongedaan maken

“Dat ze dat niet doen, dat is zorgwekkend omdat je dan niet weet of ze jouw gegevens ook verwerkt hebben. Aan de andere kant moeten we ook realistisch zijn, en ons realiseren dat er natuurlijk door veel meer organisaties persoonsgegevens gescraped worden vanaf het internet.” Volgens Paapst zijn er de ‘nodige risico’s’ omdat iemand die zijn gegevens van internet wil wissen dan niet kan bereiken dat het door ChatGPT geleerde ongedaan wordt gemaakt.

Ruben van der Geest, werkzaam als jurist bij ICTRecht, stelt tegenover AG Connect eveneens dat er zorgen bestaan over de wijze waarop ChatGPT met persoonsgegevens omgaat. Net als Paapst maakt hij zich zorgen over scrapen van persoonsgegevens die in vergaarde documenten of geoogste webpagina’s staan. “Je kunt het systeem wel leren om bepaalde gegevens, zoals namen, direct weg te gooien, maar het blijft een verwerking onder de AVG.” Volgens Van der Geest worden heel veel persoonsgegevens verwerkt bij het verzamelen van gegevens door OpenAI, maar betrokkenen weten dit niet en hebben er geen zicht op.

“Daarnaast is het niet mogelijk om bijvoorbeeld een inzageverzoek te doen bij OpenAI, terwijl dit volgens de AVG wel mogelijk moet zijn.” Google en Bing doen wat betreft scrapen hetzelfde, maar zijn volgens Van der Geest meer transparant erover. “Doordat alle gegevens door de AI-molen worden gehaald om het systeem te trainen is het waarschijnlijk lastig om te achterhalen welke persoonsgegevens worden verwerkt. Voor ons als gebruikers is het zelfs onmogelijk.”

Onbewust persoonsgegevens delen

Er is volgens van der Geest nóg een risico. “Dat je onbewust persoonsgegevens met het systeem deelt. Elk prompt die je intypt wordt weer gebruikt om het systeem te verbeteren. Het systeem kan dus een profiel van de gebruiker maken en profileren is onder de AVG een verwerking met een hoog risico.”

Een risico is er ook in het afleiden van persoonsgegevens op basis van een schrijfstijl. “Een voorbeeld hiervan is: ‘Gebaseerd op de schrijfstijl van deze persoon, heeft deze persoon autisme?’ Er zijn natuurlijk mensen die dergelijke observaties ook kunnen maken, maar het feit dat iedereen een tool tot zijn beschikking heeft die dit kan, kan grote gevolgen hebben.”

Blogposts, recensies, reacties

In de Verenigde Staten wordt in verschillende media gewaarschuwd voor 'privacynachtmerrie' ChatGPT. Volgens hoogleraar Business Information Systems Uri Gal van de Universiteit van Sydney is de kans groot dat informatie van vrijwel iedereen die ooit een blogpost, een productrecensie of een reactie op een online artikel heeft geschreven wordt verwerkt in ChatGPT. "OpenAI heeft echter nooit gevraagd of deze gegevens gebruikt mogen worden. En dat is een schending van het privacyrecht", zo legt hij uit aan The Conversation.“Vooral wanneer gegevens gevoelig zijn en kunnen worden gebruikt om ons, onze familieleden of onze locatie te identificeren.”