Management

Software-ontwikkeling
Thales-ceo Patrice Caine

'Gezichtsherkenning niet uitbannen, maar reguleren'

Thales-ceo Patrice Caine ziet naast ethische bezwaren ook veel voordelen van gezichtsherkenningstechniek.

Thales-ceo Patrice Caine © Thales Thales
25 januari 2019

Thales-ceo Patrice Caine ziet naast ethische bezwaren ook veel voordelen van gezichtsherkenningstechniek.

Met de enorme ontwikkelingen rondom AI en machine learning, spreken steeds meer grote spelers op de markt zich uit voor regulering rondom de ontwikkelingen van AI-toepassingen, zoals gezichtsherkenningstechnologie, omdat deze op onethische wijze kunnen worden ingezet. Ook Thales-ceo Patrice Caine wil toezicht op de ontwikkeling van de AI-toepassingen, maar noemt een ban op de techniek 'onzin'. 

Er is de laatste tijd veel te doen rond de facial recognition-technologie, en vooral de impact van de techniek op mensenrechten, de samenleving en privacy. Zo sprak Microsoft-president Brad Smith, zijn zorgen uit over de gevolgen van de gezichtsherkenningstechnologie voor de samenleving en privacy van burgers. Hij vindt dat overheden en de tech-industrie moeten overgaan tot wetgeving en zelfregulering om de potentieel nadelige gevolgen zoveel mogelijk te beperken.

Ook opperden aandeelhouders van Amazon recentelijk dat de verkoop van AWS Rekognition, de gezichtsherkenningstool van AWS, aan overheden per direct aan banden moest worden gelegd uit morele en ethische overwegingen. Het gebruik van de techniek door Amerikaanse overheidsinstanties zoals de douane, zou volgens de aandeelhouders kunnen zorgen voor schending van mensen- en privacyrechten. Ook claimen zij dat de tool 'vooringenomen' is. 

Uitbannen?

Op de tweede editie van de Thales Media Day in Montreal (Canada) afgelopen donderdag, werd Patrice Caine -ceo van technologiebedrijf Thales- in een discussie over de ethische vraagstukken rondom kunstmatige intelligentie gevraagd naar de recente ontwikkelingen rondom de gezichtsherkenningstechnologie.  

Op de vraag of de techniek niet verder ontwikkeld moest worden om misbruik uit te sluiten, reageerde Caine ontkennend. Daarvoor zou de techniek inmiddels te eenvoudig te maken zijn, stelde hij. "De techniek volledig uitbannen zou zonde zijn. Dat zou ook ten kosten gaan van mooie applicaties. Maar er zijn scenario’s te verzinnen waarop overheden facial recognition inzetten op een manier die gevaarlijk of tegen regels en menselijke waarden is. Het is daarnaast moeilijk om de techniek uit te bannen, gezichtsherkenningstechniek is relatief makkelijk te bouwen op dit moment." 

Techniek kan beschermen

Wel pleitte Caine, net als zijn Microsoft-collega Brad Smith dus onlangs deed, voor regulering vanuit overheden en de tech-industrie. "We moeten de morele waarden goed in ogenschouw nemen bij toepassing van facial recognition. Er is regulering nodig. We moeten begrijpen wat we allemaal met de techniek kunnen, zowel in positieve als negatieve zin. Naast misbruik, is de techniek uitermate geschikt om mee te beschermen of verdedigen. Als we met de techniek bijvoorbeeld terroristische aanslagen voorkomen, zou je het dan willen uitbannen? Ik denk van niet. We moeten de techniek daarom - wellicht streng- reguleren, maar zeker niet uitbannen", zo zei de Thales-ceo stellig. 

Lees meer over Management OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.