Datingapp scamt scammers met bots

Filter Off is een datingsite waar mensen kunnen daten via videobellen, maar waar ze ook via chat kunnen communiceren. Logischerwijs trekt zo'n platform ook scammers aan, die slachtoffers geld afhandig proberen te maken. In eerste instantie werden dergelijke profielen verwijderd, vertelt Brian Weinreich, head of product bij de datingsite, aan TechCrunch. Maar de scammers bleven terugkomen en er kwamen steeds meer nieuwe bij. Tijd voor een andere aanpak.

De oplossing is gevonden in AI. Allereerst werd AI ingezet om gebruikers automatisch in twee groepen te zetten: de gewone gebruikers en de 'Dark Dating Pool'. Scammers worden op basis van "karakteristieken die me op begonnen te vallen" in die tweede groep gezet, aldus Weinreich. Vervolgens werd er aan de hand van het taalmodel GPT-3 een leger aan chatbots opgezet, die net als mensen praten en profielen met neppe foto's hebben. GPT-3 is gemaakt door OpenAI en kan teksten genereren die door mensen geschreven lijken te zijn. Deze bots worden vervolgens ingezet om met de oplichters in gesprek te gaan.

Hilarische gesprekken

"Deze aanpak leverde ons drie geweldige dingen op", legt Weinreich uit op Medium. "Onze bots klinken als mensen (een soort van), de scammers hebben geen idee dat ze gedetecteerd zijn, en we hebben een serie van hilarische gesprekken tussen bots en scammers gekregen." Een aantal van die gesprekken plaatste hij ook bij zijn artikel op Medium.

Tegenover TechCrunch zegt hij dat er waarschijnlijk ruim duizend oplichters zijn die actief met alleen bots in gesprek zijn. Een deel van die scammers heeft overigens wel door dat ze niet met echte mensen praten. Via de rapporteerknop - bedoeld voor gewone gebruikers om potentiële scammers te melden - komen nogal eens klachten binnen van mensen die zeggen dat ze tegen een bot praten. "Dan denk ik: 'Weet ik, dat is het punt.'", aldus Weinreich.

Scammers 'daten' scammers

Het kan daarentegen ook voorkomen dat scammers met elkaar in gesprek raken. Gewone gebruikers zien de oplichters namelijk niet, maar de scammers kunnen elkaar wel zien. Weinreich vertelt dat het zelfs voorkomt dat ze elkaar proberen op te lichten: "Dan zeggen ze: 'ik wil 40 dollar voor een Google Play-cadeaukaart.' De ander reageert dan: 'Nee, nee, je moet mij een cadeaukaart geven.' En dan blijven ze met elkaar discussiëren."