ChatGPT ligt onder vuur van Russische hackers

OpenAI - eigenaar van ChatGPT en de ontwikkelaar van het onderliggende taalmodel GPT - heeft de toegang geblokkeerd voor opdrachten afkomstig uit Rusland. Pete Nicoletti, de field chief information security officer bij Check Point heeft aanwijzingen dat geprobeerd wordt deze blokkade te omzeilen. Hij noemde het incident als onderdeel van een kleine persbijeenkomst op een klanten- en partnerevenement in New York waar ZDnet bij aanwezig was. Hoe zijn teams op het spoor waren gekomen van de pogingen liet hij in het midden.

Maar de Russen zijn niet de enigen die proberen de tekstrobot te manipuleren op een manier die niet de bedoeling is. Zo noemde Nicoletti ook dat op Reddit een exploitmethode is opgedoken genaamd DAN, wat staat voor 'Do anything now'. DAN is een verzameling instructies waarmee zogeheten 'prompt injections' kunnen worden uitgevoerd. Via de 'chat prompt' worden dan opdrachten ingevoerd die de AI-schrijfbot de beveiliging en restricties laten negeren die zijn ingesteld om te voorkomen dat er racistische en opruiende teksten door de bot worden geproduceerd.

Zo'n exploit zou gebruikt kunnen worden voor het creëren van geavanceerde phishingmails gebaseerd op gevoelige persoonlijke data.