AI-spraaksynthese zorgt voor nieuwe golf aan oplichting

De afgelopen jaren werden ouders opgelicht via appjes met een verzoek om geld die schijnbaar van eigen kinderen kwamen. Nu blijken criminelen ook spraaksynthese in te zetten om mensen geld af te troggelen, meldt The Washington Post. AI-gebaseerde spraaksynthese heeft vaak nog maar enkele seconden originele spraak nodig voor training. Vervolgens kan met het systeem een gesprek worden opgezet met een stem die sterk lijkt op het origineel. Volgens de Washington Post worden vooral ouderen benaderd, schijnbaar door een kind in grote problemen met een verzoek om snel geld over te maken.

Volgens de toezichthouder FTC is dit type misleiding de meest voorkomende vorm van fraude in 2022 met 36.000 meldingen en een schade van 11 miljoen dollar. Met AI-gebaseerde spraaksynthese wordt het steeds makkelijker een overtuigend gesprek te  voeren.

Aanpakken criminelen blijkt lastig

Het opsporen van de daders is extreem moeilijk omdat de gesprekken overal ter wereld kunnen worden opgezet. Ook is het lastig als een groep criminelen vanuit verschillende landen werkt, om te bepalen welke jurisdictie van toepassing is. Bovendien is er een gebrek aan specialisten die dit type criminaliteit goed kan onderzoeken.

Volgens Ars Technica is het probleem dat de bedrijven die de technologie maken, vaak niet van zin zijn om maatregelen te nemen die het misbruik tegen gaan. Al eerder waren beroemdheden slachtoffer van AI-gebaseerde spraaktechnologie toen op het rechtse sociale medium 4Chan hun stemmen werden misbruikt voor racistische en andere confronterende uitingen. Wie dan aansprakelijk gesteld kan worden, is volgens Ars Technica nog niet duidelijk.