Innovatie & Strategie

Privacy
camera

AI-camera's krijgen een nee van EU-privacytoezichthouders

EU-privacywaakhonden willen algehele ban op 'AI-herkenning' in publieke ruimte.

© CCO / Pixabay Michael Gaida
21 juni 2021

EU-privacywaakhonden willen algehele ban op 'AI-herkenning' in publieke ruimte.

Europese toezichthouders op het gebied van privacy spreken zich hard uit tegen camera's in de publieke ruimte die aan enige vorm van gezichtsherkenning kunnen doen. De koepelorganisaties European Data Protection Board (EDPB) en de European Data Protection Supervisor (EDPS) vragen niet om maatregelen om privacy te waarborgen, maar willen een complete ban op gebruik van AI voor geautomatiseerde herkenning van mensen. Daarnaast nemen de privacywaakhonden nog andere soorten AI-gebruik op de korrel.

Inzet van de oproep voor een ban is de mogelijkheid tot oneerlijke discriminatie. De twee Europese privacy-organisaties hebben een gezamenlijke verklaring opgesteld over het voorstel van de Europese Commissie (EC) voor regulering van kunstmatige intelligentie (AI). Terwijl de EDPB en EDPS het doel van geharmoniseerde regelgeving verwelkomen, zijn ze bezorgd over details zoals de uitzondering in de beoogde AI-regels voor internationale wetshandhavers.

Het uitsluiten van politie- en Justitie-medewerkers die in internationaal verband samenwerken, zou het aan banden leggen van gezichtsherkenning in de publieke ruimte aantasten. Dit terwijl elke verwerking van persoonlijke data, inclusief scannen en herkennen van gelaatskenmerken, valt onder huidige databeschermingsregels en -wetten, benadrukken de EDPB en de EDPS. Dit omvat naast de GDPR (AVG in het Nederlands) ook de EUDPR (European Union Data Protection Regulation) en de LED (Law Enforcement Directive).

Méér dan gezicht

Automatische biometrische identificatie op afstand van individuen in openbaar toegankelijke ruimtes heeft extreem grote risico's, stellen de twee Europese privacywaakhonden. Gezien die extreem grote risico's roepen de EDPB en de EDPS op tot een algemeen verbod op elk soort gebruik van AI voor geautomatiseerde herkenning van menselijke kenmerken. Dit gaat dus verder dan alleen gezichtsherkenning; ook herkenning op basis van loop of tred, vingerafdrukken, DNA, stem, toetsaanslagen en andere biometrische of gedragsmatige kenmerken.

Deze strenge afkeuring van AI-inzet voor identificatie van individuen geldt niet alleen voor inzet maar ook voor invoer. Het voldoen aan wettelijke vereisten, inclusief de beoogde ban op brede 'AI-herkenning', moet een voorwaarde zijn voor apparatuur en systemen om een CE-keurmerk te krijgen voordat het de Europese markt binnen mag komen.

Dystopisch gevaar

De Nederlandse toezichthouder AP (Autoriteit Persoonsgegevens), die valt onder koepelorganisatie EDPB, bekritiseert het EC-voorstel om gezichtsherkenning en andere vormen van 'AI-herkenning' te reguleren. De huidige tekst van het wetsvoorstel maakt het mogelijk dat overheden dit soort technieken mogen inzetten om bijvoorbeeld criminaliteit te voorkomen en te bestrijden, merkt de AP op. In dat voorkomen schuilt een dystopisch gevaar. "Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij", zegt AP-voorzitter Aleid Wolfsen, die ook vicevoorzitter is van de EDPB.

Hij legt uit: "Een maatschappij waarin je nooit meer ongedwongen over straat loopt. Waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn." Wolfsen verklaart dat mogelijke hulp voor het voorkomen en bestrijden van criminaliteit het niet waard is om de vrijheid van iedere burger op te geven.

Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.