Machine learning heeft zijn weg naar tal van toepassingen gevonden. Maar zo’n systeem heeft data nodig, en de output van een algoritme kan in theorie best wat onthullen over de mensen in die dataset. Hoe zorg je ervoor dat de privacy van de mensen in die dataset behouden blijft, terwijl ook de accuraatheid van het algoritme hoog blijft?

Stel je voor: je maakt met natural language processing een systeem dat vergelijkbaar is met de zoekbalk in Google. Iemand typt een stuk tekst in en het systeem vult de zin automatisch aan. Om dit model te trainen gebruik je een speciale dataset, met privégegevens van allerlei Amerikanen. Maar in die dataset zitten alleen gegevens van witte Amerikanen, en van één Afro-Amerikaan. Als je nu de zin intypt “het burgerservicenummer van een Afro-Amerikaan is”, dan vult het model de zin aan met het daadwerkelijke burgerservicenummer van deze persoon.

Dit voorbeeld wordt niet zomaar uit een duim gezogen. Het is een daadwerkelijke use case uit een paper genaamd The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks. Met deze use case wordt aangetoond waarom het bewaken van de privacy belangrijk is bij machine learning: het is niet de bedoeling dat de output van zo’n model terug kan leiden naar specifieke personen uit de gebruikte dataset, of naar hun gegevens. Stel je immers maar eens voor wat een kwaadwillende met een gevoelig gegeven als een burgerservicenummer kan doen.

Zelfs Jeff Bezos kun je wegfilteren