Innovatie & Strategie

Privacy
onderzoek

AVG is niet alles of niets

Het delen van data vraagt om een flexibele technologie.

© CC0 - Pixabay geralt
12 april 2018

Het delen van data vraagt om een flexibele technologie.

Volgens de Algemene verordening gegevensbescherming (AVG) mogen data verzameld worden als gebruikers daar toestemming voor geven. Maar met de huidige technologie is het delen van verzamelde data niet flexibel geregeld: het is alles of niets. En dat is niet wat mensen willen. Ontwikkelaars, zegt Birna van Riemsdijk, zullen anders moeten ontwerpen en bouwen.

Digitale technologieën komen letterlijk en figuurlijk steeds dichter op – en soms zelfs onder – de huid te zitten. Denk bijvoorbeeld aan quantified self wearables en apps, smarthomes, hightechkleding en digitale pillen, waarmee bijgehouden kan worden of en wanneer we onze medicijnen hebben ingenomen. Deze persoonlijke en intieme technologieën maken het niet alleen steeds makkelijker om grote hoeveelheden persoonlijke data te verzamelen, maar ook om deze data te delen met andere mensen en organisaties.

Dit verandert de manier waarop we naar onszelf kijken en hoe we met elkaar omgaan. We kunnen met behulp van technologie nieuwe dingen over onszelf en anderen te weten komen. En dat brengt nieuwe kwetsbaarheden met zich mee. Het roept de vraag op hoe we hier als maatschappij en ontwikkelaars van technologie mee om willen gaan.

Regulatie door de overheid kan hierin een rol spelen door ethische randvoorwaarden vast te stellen en technologie die duidelijk over deze grenzen gaat, te verbieden. De nieuwe Europese privacywetgeving AVG is daarin een belangrijke stap. De wet schetst kaders waarbinnen het verzamelen van persoonlijke data is toegestaan, en legt rechten van betrokkenen vast om controle te kunnen uitoefenen door de mogelijkheid eenmaal verzamelde data in te zien en te wijzigen.

Niet alle ethische afwegingen kunnen in wetten worden gevangen

Echter, we kunnen niet alle ethische afwegingen die bij de ontwikkeling van nieuwe technologie komen kijken, makkelijk in wetten vangen. Zo legt de AVG vast dat data verzameld mogen worden wanneer gebruikers daarvoor toestemming geven. De huidige technologie is echter vaak zo ontworpen dat dan ook meteen alle verzamelde data worden gedeeld. De gebruiker kan deze toestemming weliswaar weer intrekken, maar dan worden er geen data gedeeld. Het is alles of niets.

Deze inflexibele technologie staat op gespannen voet met hoe we als mensen gewend zijn om te gaan met het delen van informatie. Wat we met anderen delen verschilt per persoon en per situatie: onze data-sharingnormen zijn sterk contextafhankelijk. Om daarop in te kunnen spelen, moeten we persoonlijke en intieme technologie veel flexibeler maken. Dit vraagt dat we als ontwikkelaars anders naar deze technologie gaan kijken; dat we anders ontwerpen en bouwen.

1. Anders kijken: van tool naar electronic partner

De ontwikkeling van nieuwe soorten digitale technologie begint met anders kijken naar de rol van technologie. We zien ICT nu vaak als tool die het ons makkelijker maakt onze taken uit te voeren en doelen te realiseren. In de basis zijn tools passief. Ze functioneren voor verschillende gebruikers min of meer hetzelfde, en er is een directe relatie tussen wat de gebruiker doet en hoe de tool reageert.

Vanuit de kunstmatige intelligentie wordt op een andere manier naar digitale technologie gekeken: we ontwikkelen technologie die kan waarnemen, redeneren, zelfstandig beslissingen kan nemen en leren. Denk aan zorgrobots, question-answeringtechnologie en beslissingsondersteunende systemen. Bovendien beginnen we ons steeds meer te realiseren dat autonomie alleen niet voldoende is. Om effectief te functioneren, moet deze intelligente technologie in staat zijn samen te werken met mensen en andere intelligente systemen. Daarmee wordt ze meer dan een tool: we kunnen de technologie gaan zien als teamgenoot.

In de basis zijn tools passief

Deze manier van kijken kunnen we vertalen naar de ontwikkeling van persoonlijke en intieme technologie. We kunnen haar zo ontwikkelen dat ze meer is dan een tool om data te verzamelen en te delen: ze moet ons ook ondersteunen om dat op een verantwoorde manier te doen.

Zo’n electronic partner voor responsible data sharing moet gebruikers in staat stellen contextafhankelijke afspraken te maken over welke data wanneer met wie gedeeld en van wie ontvangen worden (respect voor data-sharingnormen en -waarden). Hij moet aan de gebruiker kunnen uitleggen in hoeverre garanties kunnen worden gegeven dat aan deze afspraken wordt voldaan en welke gevolgen het delen van de data heeft voor de gebruiker (reliability). En hij moet de achtergronden van de afspraken snappen en op basis daarvan op een passende manier kunnen reageren wanneer niet aan deze afspraken voldaan kan worden (resilience). Op deze manier helpt de electronic partner de gebruiker om actief vorm te geven aan zijn leven.

2. Anders ontwerpen: rekening houden met waarden van mensen

Om persoonlijke, intieme technologie te ontwikkelen die waarden van mensen respecteert, is het van belang dat we in het ontwerpproces systematisch rekening houden met deze waarden. Het ontwerpen van technologie op deze manier wordt Value Sensitive Design (VSD) genoemd (zie kader).

Value Sensitive Design

VSD is een ontwerpmethodologie die sinds de jaren negentig in ontwikkeling is, geïnitieerd door Batya Friedman. De methodologie kan gezien worden als onderdeel van het requirements-engineeringproces, waarbij niet alleen gekeken wordt naar (functionele) requirements, maar ook naar onderliggende waarden. Welke waarden van belang zijn om mee te nemen in het ontwerp, wordt in deze methode vanuit drie perspectieven onderzocht.

• In een conceptuele verkenning wordt in kaart gebracht op wie en hoe de technologie van invloed kan zijn, en aan welke waarden dit raakt. Daarbij worden zowel directe als indirecte stakeholders beschouwd.

• In een technologische verkenning wordt onderzocht op welke waarden de technologie zelf een positieve of negatieve invloed kan hebben.

• En in een empirische verkenning wordt met behulp van technieken uit de user-centred design onderzocht hoe stakeholders de (abstracte) waarden in de specifieke ontwerpcontext interpreteren en hoe zij prioritering aanbrengen wanneer waarden met elkaar in strijd zijn.

Een waarde beschrijft wat iemand belangrijk vindt in het leven. Voorbeelden van waarden die bij de ontwikkeling van persoonlijke en intieme technologie een rol kunnen spelen, zijn vertrouwen, autonomie, privacy, vrijheid, informed consent, veiligheid, identiteit, verantwoordelijkheid en (gemoeds)rust.

Data-sharingnormen zijn sterk contextafhankelijk

In de ontwikkeling van (digitale) technologie is er vaak sprake van een spanningsveld tussen verschillende waarden. Een bekende in de context van persoonlijke en intieme technologie is dat maatregelen om het veiligheidsgevoel te vergroten ten koste kunnen gaan van privacy. Maar denk ook aan veiligheid versus verantwoordelijkheidsgevoel – door het delen van persoonlijke data kunnen andere mensen medeverantwoordelijk gemaakt worden voor iemands welbevinden – en vertrouwen versus gemoedsrust. Met behulp van VSD worden deze waardenconflicten aan de oppervlakte gebracht. Op basis daarvan kunnen afwegingen expliciet onderdeel gaan vormen van het ontwerpproces.

In het omgaan met waardenconflicten kan ervoor gekozen worden, bijvoorbeeld op basis van een cost-benefitanalyse, om door het maken van ontwerpkeuzes bepaalde waarden te ondersteunen ten koste van andere waarden. Nog beter is het echter wanneer een innovatieve technologische oplossing gevonden wordt die rechtdoet aan verschillende waarden die op het eerste gezicht met elkaar in strijd zijn.

3. Anders bouwen: flexibele technologie

Zo’n innovatieve oplossing is het vormgeven van data-sharingtechnologie als electronic partner, die kan meebewegen met normen en waarden van gebruikers ten aanzien van het delen van data. In plaats van het maken van een design-timeafweging tussen waarden, zorgen we dat de technologie zich at run-time kan aanpassen aan de context waarbinnen zij functioneert en de normen en waarden die daarbinnen belangrijk zijn. Daarmee ondersteunt de technologie het maken van fijnmazige afspraken tussen gebruikers over het delen van data, waarmee afwegingen tussen waarden geen kwestie hoeven te zijn van alles of niets.

Flexibele technologie is nog volop onderwerp van onderzoek

Hoe we dit soort flexibele technologie het best kunnen bouwen, is nog volop onderwerp van onderzoek. Desalniettemin kunnen we met bestaande technieken al stappen zetten richting meer flexibele data-sharingtechnologie. We moeten daarvoor allereerst een softwaremodel ontwikkelen waarmee gebruikers contextafhankelijke afspraken (normen) over het delen van data kunnen vastleggen: representatie.

Als basis daarvoor kunnen we bijvoorbeeld het social-commitmentmodel gebruiken. Een social commitment is een afspraak tussen de initiator en degene op wie de afspraak van toepassing is, die vastlegt onder welke condities welke data al dan niet gedeeld of ontvangen moeten worden met de initiator of een derde partij. Met behulp van gebruikersonderzoek kan voor een specifieke data-sharingapplicatie onderzocht worden welke soorten condities relevant zijn en op welke soorten data de afspraken betrekking moeten hebben, en welke waarden daarmee ondersteund worden. Via een userinterface kunnen gebruikers deze afspraken vervolgens specificeren en al dan niet accepteren. Wanneer de applicatie at run-time vaststelt dat de conditie van een afspraak geldt, deelt de applicatie de data conform de gemaakte afspraak.

Om echt flexibele data-sharingtechnologie te ontwikkelen, is het kunnen representeren van afspraken in de software echter niet voldoende. Daarvoor moet de software gemaakte afspraken ook kunnen interpreteren wanneer er niet aan voldaan wordt of kan worden. Wij mensen zijn daar goed in: als we bijvoorbeeld afspreken om zes uur thuis te zijn, dan wordt doorgaans niet meteen alarm geslagen wanneer iemand om vijf over zes nog niet thuis is. Maar hoe moet smarthometechnologie met dit soort situaties omgaan? Hoe kan de gebruiker in dit geval het best ondersteund worden?

Uiteindelijk moeten we toe naar een technologie die dit soort afwegingen kan maken. Daarmee is de technologie meer dan een tool voor het delen van data. Ze helpt ons om dit op een verantwoorde manier te doen: een electronic partner voor responsible data sharing.

Lees meer over
Lees meer over Innovatie & Strategie OP AG Intelligence
1
Reacties
Lezer#3820 Roeleveld 12 april 2018 22:23

Helaas wordt bij voortduur herhaalt dat onder de AVG data verzameld mag worden als er toestemming voor is. Dat is een hardnekkig misverstand. Toestemming is slechts een van de grondslagen. En bovendien de 'laatste' optie, als de andere (overeenkomst, wettelijke verplichting, gerechtvaardigd belang, etc.) niet van toepassing zijn.

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.