Dat AI kan zorgen voor fake news en deepfakes is alom bekend. Mogelijk nog destructiever is dat malafide gebruik van AI ook kan bijdragen aan deepfake science. Dat kan het vertrouwen in wetenschap en wetenschapsgebaseerd beleid zwaar beschadigen en zeer duistere gevolgen hebben voor grote maatschappelijke vraagstukken. Het is hoog tijd ons daar grondig tegen te wapenen, constateren Leon Kester en Bart Wernaart.

Ten minste drie belangrijke ontwikkelingen hebben maatschappelijke impact en roepen dus vragen op: Artificial Intelligence (AI); Extended Reality (XR) en Epistemische Veiligheid (EV). [1] Deze gebieden werden tot voor kort vaak los van elkaar onderzocht in een ethische context. De laatste jaren druppelt het besef mondjesmaat door dat juist de combinatie van deze technologische ontwikkelingen voor veel grotere maatschappelijke risico’s kan zorgen.[2] Platgeslagen: wanneer technologie ‘intelligente’ systemen behelst (AI), die bepalend zijn in hoe mensen de wereld zien, ervaren (XR) en bepalend zijn in hoe zeker zij zich daarbij tegen epistemische bedreigingen voelen (EV) dan moeten we ons ernstige zorgen maken, en acuut handelen. Alle mogelijkheden en techno-optimisme ten spijt. Een voorbeeld waar deze drie ontwikkelingen samen komen is ‘deepfake science’.[3]

Waar we het vooralsnog veel hebben over fake news, deepfakes en het herkennen van nep-berichten en visuals, halen de technologische mogelijkheden dergelijke discussies snel in. Misschien gaan we wel voorbij aan een destructievere mogelijkheid: deepfake science.

Onderuit halen

Vanwege het algemenere gebruik van AI om teksten te schrijven, denk bijvoorbeeld aan NBD Biblion die onlangs al haar recensenten verving door AI [4], of de toenemende praktijk van AI-ondersteunde journalistiek. [5] Dit roept al vragen op rondom AI-veiligheid, Intellectueel Eigendom, autonomie en gerelateerde (economische) belangen. Maar deze ontwikkeling staat in schril contrast met de potentie AI als ondersteuner of zelfs als auteur in de wetenschap te gebruiken.[6] Waar we in theorie fake news nog aan de meetlat van de wetenschap kunnen leggen, wordt het lastig wanneer AI moedwillig gebruikt wordt als een politiekgedreven wapen om wetenschappelijke standpunten onderuit te halen. Mogelijk malafide gebruik kan bijvoorbeeld bestaan uit het kunstmatig creëren van datasets, video’s en audio’s of geschreven wetenschappelijke artikelen zelf. [7] De taalkundige imitatiecapaciteit van AI is drastisch verbeterd met bijvoorbeeld GPT-3-achtige systemen. [8] In theorie zou het binnen niet afzienbare tijd mogelijk zijn epistemologische kwetsbaarheden in de wetenschap zo te misbruiken.[9]