Weer rumoer rondom gezichtsherkenning

Microsoft wil niet meewerken aan een verzoek om de techniek te installeren in dienstauto’s en op bodycams van agenten van de politiedienst, omdat het bedrijf zich zorgen maakt om de mensenrechtenschending die de techniek kan opleveren. Dat verklaarde Microsoft-president Brad Smith vorige week op een conferentie. De president riep eerder al op tot meer regelgeving rond de toepassing van de techniek.

Blanke mannen

De zorgen van Microsoft komen voort uit de manier waarop de AI-modellen zijn getraind, zegt persbureau Reuters. Hiervoor zijn tot nu toe grotendeels afbeeldingen van blanke mannelijke personen. Hierdoor is volgens het persbureau een grotere kans op identiteitsverwisselingen bij vrouwen en culturele minderheden, zo concludeert Reuters uit verschillende onderzoeksprojecten.

“Bij iedere staandehouding wilden ze (de politiedienst, red.) een gezichtsscan uitvoeren, maar wij hebben gezegd dat onze techniek niet het antwoord op hun vraag is”, zo tekende Reuters op uit de mond van Microsoft-president Brad Smith tijdens een conferentie in de universiteit van Stanford. Ook verklaarde hij dat Microsoft heeft geweigerd het centrum van een onbenoemd gelaten wereldstad vol te hangen met de techniek. Volgens de Microsoft-president zou het de vrijheid van de burgers flink hebben ingeperkt.

Burgerrechten

Het is niet de eerste keer dat er kritische geluiden rondom het gebruik van de techniek door overheidsdiensten opgaan. Zo keerden aandeelhouders en AI-onderzoekers zich eerder al tegen producent AWS dat de eigen Rekognition-tool zonder aarzeling aan overheidsdiensten verkocht. Zowel de aandeelhouders als de onderzoekers riepen op tot een verkoopstop van de tool, een verzoek waar Amazon Web Services vooralsnog niet in mee is gegaan. De beide groepen maken zich grote zorgen over de potentiële schending van de mensen- en burgerrechten.  

Oeigoeren

In China wordt gezichtsherkenning al langere tijd gebruikt, en wordt hiermee volgens berichten het niet altijd even nauw genomen met de mensen- en privacyrechten. Zo zou de Chinese overheid volgens The New York Times de techniek onder andere gebruiken om de Oeigoeren, een onderdrukte minderheid in het land, etnisch te profileren en in de gaten te houden.