Innovatie & Strategie
AI met een zwart randje
De technologie heeft zowel inspirerende als beangstigende voorbeelden tegelijkertijd.
Met een hamer kun je een spijker in het hout slaan, maar je kunt er ook schade mee aanrichten. Aan de professional de taak de juiste keuze te maken. Dit is de kortst mogelijke ‘pitch’ van Smart Humanity – hét thema van de KNVI.
Laten we dat eens toepassen op artificial intelligence (AI). De inzet van AI kan immers zo veel impact hebben dat we dat eigenlijk niet eens kunnen bevatten. Zie het voorwoord van Stephen Ibaraki in het boek Smart Humanity, waar Anna via een link in haar brein verbinding heeft met haar digitale avatar. Verbinding – dus niet alleen contact of een datalink. Dit voorbeeld is inspirerend en beangstigend tegelijkertijd. De technologie maakt zo veel mogelijk, en biedt veel geweldige kansen. Zeg maar het volwassenheidniveau van de Federation in de Start Trek-serie.
De huidige wereld is daar echter nog niet helemaal aan toe. Tijdens het event 10 jaar iPoort (28 oktober jl.) werden bijvoorbeeld mooie initiatieven benoemd waarbij vanuit de overheid algoritmen worden geregistreerd, en er toezicht is op de impact en het effect daarvan. Iets waar de Europese Unie en Marietje Schaake al veel aandacht voor hadden. Een ontwikkeling waar de KNVI ook achter staat. De vraag is natuurlijk of bedrijven zich daaraan houden. De niet-democratische Corporate States (waaronder big pharma en bekende grote data- en techbedrijven) laten zich uiteraard niet sturen door dit soort nationale regeltjes. Alsof een land zonder deze bedrijven kan, op dit moment! Zelfs overheidsapps hebben deze infrastructuur vaak nodig.
De huidige wereld is daar echter nog niet helemaal aan toe
Dan is er het nadeel dat veel wetgeving – ook in democratieën – het eindresultaat is van een onderhandelingsproces in het parlement, soms met een vleugje invloed van lobbyisme, en daarmee lastig in programmeerbare regels is uit te schrijven. Het vergt professional judgement om dergelijke wetten uit te voeren.
De politieke omgeving is daarnaast wat wispelturig. Recente voorbeelden zijn legio. Rutten op 16 maart 2020 op tv "we kunnen gecontroleerd groepsimmuniteit opbouwen", en op 4 juni 2020 in de Kamer "ik heb nooit een toespraak gehouden over groepsimmuniteit". De Duitse proefballon in Bruchsal om kinderen weg te halen van hun ouders en in speciale ‘isolatiefaciliteiten’ te stoppen (DW.com, 06-08-2020). De politieke medialuwte rondom de vrijheidsprotesten van bijna een miljoen mensen in Berlijn op 29 augustus, en recentelijk duizenden in Leipzich op 7 november. Het test-experiment in Liverpool: ieder PCR-getest kind krijgt een eigen unieke barcode (The Guardian, 8 november 2020). Zet dat proces maar eens om in algoritmen!
Het mooie van AI is natuurlijk dat áls er eenmaal heldere en transparant geformuleerde algoritmen zijn, die ons wellicht kunnen helpen om een duurzame wereld op te bouwen. Het positieve toekomstbeeld van Stephen Ibaraki. Ik vraag me echter af of we daar als samenleving al aan toe zijn. We zitten nog op het volwassenheidsniveau van de slapende bewoners van The Matrix – waarbij het de vraag is wat de plek van de menselijkheid nog is. Ik ben positief ingesteld, dus ik heb hoop. Maar ik houd mijn hart vast voor 2021 …
Dit artikel is ook gepubliceerd in het magazine van AG Connect (decembernummer, 2020). Wil je alle artikelen uit dit nummer lezen, klik dan hier voor de inhoudsopgave.
Wouter Bronsgeest is duovoorzitter van de KNVI. Hij schrijft regelmatig blogs en artikelen en is redacteur van een aantal boeken over het vakgebied. Wouter is tevens verbonden aan het Center for eGovernment Studies (CFES) van de Universiteit Twente, en is gepromoveerd op het onderwerp ’Evalueren van ICT-projecten bij de overheid’.
Misschien moet Bronsgeest eens beter naar zijn eigen leden luisteren. Want ook AI specialisten als Verhoef en Kaasschieter hebben uitgebreid betoogd en overtuigend aangetoond dat een algoritme per definitie niet transparant is.
Als jurist verbind ik daar de conclusie aan dat AI bijgevolg niet toepasbaar en zelfs niet toelaatbaar is in het overheidsdomein. Immers , elke beslissing van de overheid moet verantwoord kunnen worden vanuit op die beslissing van toepassing zijnde wet- en regelgeving en in dat opzicht dus volledig transparant zijn voor zowel de overheid als de burger als de rechter die het besluit moet kunnen toetsen aan diezelfde wet- en regelgeving. Als Bronsgeest ook dit aspect niet scherp op het netvlies heeft staan, raad ik hem aan zich eens te verdiepen in de grondbeginselen van een rechtsstaat. Waar veronachtzaming daarvan toe leidt is te zien bij o.m. de Belastingdienst, die bij de toekenning van toeslagen op schokkende wijze die grondbeginselen te grabbel heeft gegooid.
De conclusie van de Parlementaire Commissie dat alle betrokkenen hieruit lessen moeten trekken hoe dit te voorkomen zou niet alleen voor de door de Commissie genoemde partijen moeten gelden, maar ook voor de adviseurs van die partijen.
De aanname van "heldere en transparant geformuleerde algoritmen" is wel héél ver van de realiteit. De essentie van AI is dat de computer zelf correlaties vindt. Door die werkwijze ontstaan geen heldere algoritmes, en zeker al niet iets dat transparant geformuleerd zal zijn.
Hooguit zullen we manieren vinden om deze "voor ons onbegrijpelijke" algoritmes, alsnog enigszins uitlegbaar te presenteren. Maar dat zal nooit feilloos worden, en in feite uitsluitend "benaderingen" betreffen van wat er in die computer omgaat.
En dan hopen we maar dat er niet iemand is die dat alsnog kan manipuleren (bijv. door allerlei "biased data" als input te gebruiken, maar zo ontstaan er vast nieuwe manipulatie mogelijkheden).
M.a.w. deze mening aan het eind lijkt me "wensdenken"...
Wel ben ik het eens dat het lastig is om politieke uitspraken en daaraan gekoppelde wetgeving "vast te leggen in logica".
Maar vóórdat AI daar een zinvolle en vooral transparante bijdrage aan gaat leveren, waar ik me aan over zou willen leveren, zijn we een heel eind verder. Sterker nog, ik vraag me af of we daar nog wel invloed op krijgen.