Management

Software-ontwikkeling
Gezichtsherkenning

Weer rumoer rondom gezichtsherkenning

Weigering Microsoft om techniek aan Amerikaanse politiedienst te verkopen nieuw hoofdstuk in ethische discussie.

© CC0 - Pixabay BrownMantis
25 april 2019

Weigering Microsoft om techniek aan Amerikaanse politiedienst te verkopen nieuw hoofdstuk in ethische discussie.

De ontwikkelingen rondom gezichtsherkenningstechnologie houden niet op. Met de opkomst van de techniek, wordt de roep om regulering rondom toepassingen van de gezichtsherkenningstechnieken steeds groter. Microsoft heeft daad bij woord gevoegd als het gaat om het reguleren van het gebruik van technologie door naar eigen zeggen te weigeren de techniek te installeren bij een Californische politiedienst.

Microsoft wil niet meewerken aan een verzoek om de techniek te installeren in dienstauto’s en op bodycams van agenten van de politiedienst, omdat het bedrijf zich zorgen maakt om de mensenrechtenschending die de techniek kan opleveren. Dat verklaarde Microsoft-president Brad Smith vorige week op een conferentie. De president riep eerder al op tot meer regelgeving rond de toepassing van de techniek.

Blanke mannen

De zorgen van Microsoft komen voort uit de manier waarop de AI-modellen zijn getraind, zegt persbureau Reuters. Hiervoor zijn tot nu toe grotendeels afbeeldingen van blanke mannelijke personen. Hierdoor is volgens het persbureau een grotere kans op identiteitsverwisselingen bij vrouwen en culturele minderheden, zo concludeert Reuters uit verschillende onderzoeksprojecten.

“Bij iedere staandehouding wilden ze (de politiedienst, red.) een gezichtsscan uitvoeren, maar wij hebben gezegd dat onze techniek niet het antwoord op hun vraag is”, zo tekende Reuters op uit de mond van Microsoft-president Brad Smith tijdens een conferentie in de universiteit van Stanford. Ook verklaarde hij dat Microsoft heeft geweigerd het centrum van een onbenoemd gelaten wereldstad vol te hangen met de techniek. Volgens de Microsoft-president zou het de vrijheid van de burgers flink hebben ingeperkt.

Burgerrechten

Het is niet de eerste keer dat er kritische geluiden rondom het gebruik van de techniek door overheidsdiensten opgaan. Zo keerden aandeelhouders en AI-onderzoekers zich eerder al tegen producent AWS dat de eigen Rekognition-tool zonder aarzeling aan overheidsdiensten verkocht. Zowel de aandeelhouders als de onderzoekers riepen op tot een verkoopstop van de tool, een verzoek waar Amazon Web Services vooralsnog niet in mee is gegaan. De beide groepen maken zich grote zorgen over de potentiële schending van de mensen- en burgerrechten.  

Oeigoeren

In China wordt gezichtsherkenning al langere tijd gebruikt, en wordt hiermee volgens berichten het niet altijd even nauw genomen met de mensen- en privacyrechten. Zo zou de Chinese overheid volgens The New York Times de techniek onder andere gebruiken om de Oeigoeren, een onderdrukte minderheid in het land, etnisch te profileren en in de gaten te houden.

Lees meer over Management OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.