Beheer

Privacy
Gezichtsherkenning

Pas als jouw data er niet meer toe doen kun je van echte privacy spreken

Hoe bewaak je de privacy als je machinelearningsystemen traint?

https://pixabay.com/illustrations/face-detection-scan-scanning-4760281/ © CC0/Pixabay License
10 september 2020

Machine learning heeft zijn weg naar tal van toepassingen gevonden. Maar zo’n systeem heeft data nodig, en de output van een algoritme kan in theorie best wat onthullen over de mensen in die dataset. Hoe zorg je ervoor dat de privacy van de mensen in die dataset behouden blijft, terwijl ook de accuraatheid van het algoritme hoog blijft?

Stel je voor: je maakt met natural language processing een systeem dat vergelijkbaar is met de zoekbalk in Google. Iemand typt een stuk tekst in en het systeem vult de zin automatisch aan. Om dit model te trainen gebruik je een speciale dataset, met privégegevens van allerlei Amerikanen. Maar in die dataset zitten alleen gegevens van witte Amerikanen, en van één Afro-Amerikaan. Als je nu de zin intypt “het burgerservicenummer van een Afro-Amerikaan is”, dan vult het model de zin aan met het daadwerkelijke burgerservicenummer van deze persoon.

Dit voorbeeld wordt niet zomaar uit een duim gezogen. Het is een daadwerkelijke use case uit een paper genaamd The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks. Met deze use case wordt aangetoond waarom het bewaken van de privacy belangrijk is bij machine learning: het is niet de bedoeling dat de output van zo’n model terug kan leiden naar specifieke personen uit de gebruikte dataset, of naar hun gegevens. Stel je immers maar eens voor wat een kwaadwillende met een gevoelig gegeven als een burgerservicenummer kan doen.

Zelfs Jeff Bezos kun je wegfilteren

 
Lees het hele artikel
Je kunt dit artikel lezen nadat je bent ingelogd. Ben je nieuw bij AG Connect, registreer je dan gratis!

Registreren

  • Direct toegang tot AGConnect.nl
  • Dagelijks een AGConnect nieuwsbrief
  • 30 dagen onbeperkte toegang tot AGConnect.nl

Ben je abonnee, maar heb je nog geen account? Laat de klantenservice je terugbellen!