Facebook gaat erg 'deep' bij weren ongewenste accounts

De inzet van het gereedschap - genaamd Deep Entity Classification (DEC) - heeft er sinds het gereedschap in december vorig jaar werd geïntroduceerd al toe geleid dat 6,6 miljard accounts zijn geblokkeerd, zo blijkt uit presentatie waar diverse nieuwsdiensten over rapporteren.

Het gereedschap kijkt niet meer, zoals traditioneel gebeurt, naar een aantal voor de handliggende aspecten van een account, zoals de aanmaakdatum en de vriendschapsverzoeken die met het account zijn gemaakt. Het duikt veel dieper in de gedragspatronen van elk account en de interactie met andere leden van de Facebook-gemeenschap.

DEC brengt misdragingen in kaart

DEC kijkt dus ook naar de groepen waar het betreffende account zich heeft aangemeld, het aantal admins in zo'n groep, de leden van de groep en het aantal vriendschapsverzoeken dat vrienden van het account hebben uitgestuurd. Op die manier stelt het algoritme een gemiddelde grootte vast van de groepen waar het account in deelneemt en de dynamiek daarin. Zo levert DEC een beeld op van de complexiteit van het netwerk waarin elk Facebook-lid zich bevindt waarbij tot wel 20.000 karakteristieken per account worden bepaald.

Op basis van die gegevens krijgt Facebook een beter inzicht in de rol van dat account ten opzichte van andere accounts en of er bijvoorbeeld sprake is van misdragingen zoals het maskeren van de werkelijke identiteit. Volgens engineeringmanager Daniel Bernhardt en datasciencemanager Bochra Gharbaoui die bij Facebook dit project begeleiden, zijn de huidige machinelearning-algoritmen te makkelijk om de tuin te leiden. Kwaadwillenden kunnen bijvoorbeeld eenvoudig spelen met het aantal vriendschapsverzoeken dat zij uitsturen. Daarom is het belangrijk te kijken naar 'deep features', de 'graph' en het 'model' rond het account.

Op basis van de eerste resultaten met het gereedschap schat Gharbaoui in dat zo'n 5 procent van alle Facebook-accounts eigenlijk nep-accounts zijn, aangemaakt om ongewenste activiteiten op te zetten. De twee maken duidelijk dat zelfs geavanceerd gereedschap als DEC zeker geen einde gaat maken aan ongewenst gedrag. Het gaat om een kat-en-muis-spel dat waarschijnlijk nooit kan worden gewonnen.