2019 staat deels in het teken van de deepfakes; afbeeldingen en video’s die met kunstmatige intelligentie (AI) gemaakt of gemanipuleerd zijn. Maar er is een tegenbeweging: wetenschappers en bedrijven werken aan software die de gemanipuleerde of gegenereerde beelden kan herkennen. Een AI-wapenwedloop in de maak?

Op het internet circuleren inmiddels meerdere deepfake-afbeeldingen en -video’s, die nauwelijks van echt te onderscheiden zijn. Een groot probleem, want deze technologie kan ook voor malafide doeleinden ingezet worden. Denk aan manipulatie van mensen of markten door overtuigend nepnieuws. Of denk aan afpersing, waarbij mensen worden bedreigd met online zetten van nepbeelden met bijvoorbeeld seksuele handelingen.

Deepfakes kunnen dan ook een grote uitdaging gaan vormen, erkennen techbedrijven nu ook. Daarom zijn onder meer Microsoft en Facebook in september begonnen met de DeepFake Detection Challenge (DFDC). Met dat initiatief dagen de twee techreuzen universiteiten en gebruikers uit om oplossingen te ontwikkelen voor het herkennen van deepfakes.

Maar er zijn al meer projecten in ontwikkeling, waaronder via de Universiteit van Amsterdam. Professor Theo Gevers leidt daar de ontwikkeling van een AI die gegenereerde en gemanipuleerde beelden kan herkennen. De AI is inmiddels ondergebracht onder een commerciële spin-off: 3DUniversum. Maar hoe maak je zo'n AI eigenlijk? AG Connect krijgt een lesje in AI-ontwikkeling.