Innovatie & Strategie

Artificial Intelligence
oog code

Toezicht op vrije innovatie nodig

Een handvol kapitaalkrachtige organisaties krijgt ijzeren greep op IT-innovatie.

© Shutterstock Valery Brozhinsky
15 maart 2021

Innovatie is een interessant bouwwerk waarvoor in veel gevallen de fundamenten worden gelegd door wetenschappers werkzaam bij kennisinstellingen. Bevatten die fundamenten genoeg potentie om uit te groeien tot een waardevolle dienst of product, springt het bedrijfsleven erop en zo wordt de vinding rijp voor een marktintroductie.

Zo ging het tot ongeveer dertig jaar geleden. Rond die tijd begon - wat wij in Nederland noemen - de 'derde geldstroom' zijn opmars. Het bedrijfsleven zag een mogelijkheid om talentvolle onderzoekers fundamenteel onderzoek te laten verrichten in een richting die veelbelovend leek en betaalde daarvoor. Op zich niks mis mee. Onderzoeksgroepen kregen wat meer geld tot hun beschikking en door de interactie met het bedrijfsleven was de kans groter dat fundamenteel onderzoek beter aansloot op behoeften die in de samenleving leefden.

Het fundamenteel onderzoek was voor iedereen toegankelijk via wetenschappelijke congressen en publicaties. Dat mechanisme garandeerde dat gemeenschapsgeld niet exclusief werd aangewend voor het creëren van een dominante marktpositie van een partij. En er was ruimte voor de samenleving om te controleren of de vindingen misschien ook averechtse effecten kunnen hebben. Die werden dan ter discussie gesteld en er kon tijdig worden gedebatteerd over de noodzaak om regelgeving toe te passen. Denk aan discussie over genetisch gemanipuleerde gewassen.

Eigen agenda

Inmiddels is de wereld sterk veranderd, zeker wat betreft de innovatie van IT. Het bedrijfsleven - lees Google, Microsoft, Facebook, Amazon - hebben een ijzeren greep op de ontwikkeling. Zij zijn het die door hun omvang, infrastructuur en kapitaal het vaak kostbare onderzoek mogelijk maken, zowel intern als in de vorm van financierder van academisch onderzoek. De enige die daar nog aan kan tippen is de Amerikaanse defensie-industrie, maar die heeft ook een eigen agenda net als het bedrijfsleven.

Een handvol grote organisaties stuurt dus de ontwikkeling en bepaalt ook wat daarvan naar buiten komt, zo blijkt uit de manier waarop Google omgaat met zijn ethisch team. De resultaten van onderzoek die het bedrijf niet bevallen, mogen niet worden ingezonden naar een wetenschappelijke conferentie. Kritiek op keuzes die in het bedrijf daarbij maakt, leidt tot ontslag van de betrokken onderzoekers.

Kunstmatige intelligentie heeft een grote impact op onze maatschappij, waarbij belangrijke ethische vraagstukken opdoemen, die zo onder tafel worden geveegd omdat het niet strookt met bedrijfsdoelen. En wie zegt dat Microsoft niet intern druk heeft uitgeoefend op het melden van succes dat uiteindelijk leidde tot het majorana-debacle aan de TU Delft, een prestige-project voor het bedrijf. De klokkenluiders trokken in dat geval pas aan de bel toen ze lang en breed vertrokken waren naar onderzoeksgroepen in het buitenland.

Walk-out

De roep om openheid en publieke controle bij dit soort ontwikkelingen, zwelt aan. De Google Walkout groep roept op tot bescherming voor klokkenluiders en een beperking van de invloed van bedrijfsjuristen op de communicatie over onderzoeksresultaten. Maar hoe zit het in Nederland met de inmenging van het bedrijfsleven of de overheid bij het wetenschappelijk onderzoek? Navraag bij de vereniging van universiteiten (VSNU) en diverse ethisch onderzoekers levert geen reactie op of een verwijzing naar een staande gedragscode.

Uit onderzoek van het Rathenau Instituut van december vorig jaar blijkt dat echter dat 26 procent van de onderzoekers wel eens ongewenste invloed van een opdracht- of subsidiegever heeft ervaren.

In navolging van de oproep aan de Amerikaanse overheden op meer bescherming van de vrijheid van onderzoekers, zou het mooi zijn als ook in Nederland een onafhankelijk toezichthouder meer transparantie en en vrijheden van onderzoekers gaat waarborgen. Vooral in de disciplines waar ethische vraagstukken zich aandienen.

Reactie toevoegen