Artificial intelligence (AI) is in; volop in ontwikkeling, vaak nuttig maar soms omstreden. Terwijl er lang niet altijd sprake is van AI in de brede zin. Vaak gaat het om de subvelden machine learning (ML) of deep learning (DL). Ongeacht de invulling speelt bij uitvoering betrouwbaarheid een belangrijke, dubbele rol. Betrouwbaar qua werking, en betrouwbaar qua ethiek. “Wat zijn onze waarden?”

Het Frankensteincomplex speelt kunstmatige intelligentie parten. De vrees van de mens dat de eigen creatie zich tegen diens schepper keert, kan een lastige horde maar ook een gezonde rem zijn. De term voor deze fundamentele technologiekwestie is afkomstig van een klassieke sciencefictionauteur van de vorige eeuw: Isaac Asimov. Hij heeft goed gekeken naar Mary Shelley’s klassieke boek Frankenstein van begin eervorige eeuw.

Nu, twintig jaar op weg in de eenentwintigste eeuw speelt het schrijven van Asimov en Shelley nog altijd een belangrijke rol. Misschien wel belangrijker dan ooit, want AI-ontwikkelingen zijn in een stroomversnelling geraakt. En een stroomversnelling kan je meesleuren. Voorbeelden genoeg van AI-toepassingen die niet bepaald het bedoelde resultaat hadden. Zoals Amazons ‘seksistische’ recruitment-AI en Microsofts vuilbekkende chatbot Tay.

‘Te ver in de toekomst’

De AI-vrees is dat robots (in softwarevorm) werk overnemen, mensen overbodig maken én mensen dan op achterstand zetten. Het Frankensteincomplex is levend, levend!, zou dokter Victor Frankenstein kunnen uitroepen. Hierbij is er echter sprake van een kloof; tussen vrees en realiteit, tussen verwachting en mogelijkheden. “De publieke ongerustheid over AI is vaak misplaatst”, vertelt Abigail Cabunoc Mayes, program manager bij opensourcestichting Mozilla en daar verantwoordelijk voor trustworthy AI.

“Conversaties neigen ernaar om te focussen op risico’s die ver in de toekomst liggen, of die puur speculatief zijn.” Zij zegt dat er te weinig aandacht is voor AI-risico’s in het hier en nu, zoals bijvoorbeeld algoritmes die oneerlijk discrimineren jegens bepaalde mensen of gemeenschappen. De toeslagenaffaire van de Belastingdienst heeft aangetoond dat dit al gebeurt, maar dan met mensenwerk.

Zo’n misstand kan met ‘computerwerk’ sneller en ondoorzichtelijker optreden, aldus de bredere angst voor AI. Mayes stelt dat het voornaamste probleem nu niet is dat een algoritme je baan overneemt, maar dat een recruitmentalgoritme je overslaat voor een baan. Wat bij Amazon dus dreigde te gebeuren.

Valt te voorkomen

Achteraf bezien hadden sommige van de bekende AI-miskleunen best voorkomen kunnen worden. Als Amazon met gezond verstand had gekeken naar de data-input van zijn huidige personeelsbestand. Als Microsoft met normale ouderblik had gekeken naar wat ‘verkeerde vrienden’ van ‘dochter’ Tay voor invloed kunnen hebben. Kortom, door vooruit te kijken, te sturen, en vooraf meer ethiek ‘in te bouwen’. Maar hoe pak je dat aan?