7 aandachtspunten voor ethiek en transparantie bij toegepaste AI

Want of het nou komt door gebrekkige data of fouten in de programmatuur: blind vertrouwen op de uitkomst van wat een algoritme zegt kan ernstig nadeel toebrengen aan mensen. Met de Toeslagenaffaire als pijnlijk en extreem voorbeeld. Hoe kun je ervoor zorgen dat je AI op een verantwoorde manier inzet?

Privacy- en ethiekframework voor AI: de zeven aandachtsgebieden in het kort

Future Facts heeft een privacy- en ethiekframework ontwikkeld voor de inzet van AI. Dit framework benoemt zeven aandachtsgebieden waarbij je moet stilstaan als je problemen wilt voorkomen. Lees hier de uitgebreide versie van het framework.

1. Beleid en Governance bij het toepassen van AI

Stel richtlijnen en kaders op over hoe je als organisatie omgaat met AI. En zorg voor een duidelijke verdeling van rollen en verantwoordelijkheden.

2. Rechtvaardigheid bij het toepassen van AI

Een algoritme mag niet leiden tot het uitsluiten van bevolkingsgroepen op bepaalde kenmerken. Nauw verband hiermee houdt bias, oftewel vooringenomenheid, die in data verstopt kan zitten. Alles bij elkaar vraagt de inzet van AI om een zorgvuldige afweging van (maatschappelijke) risico’s, kosten en baten.

3. Rechtmatigheid bij het toepassen van AI

Bij de inzet van AI-toepassingen moet je (uiteraard) voldoen aan wet- en regelgeving. Verwerk je persoonsgegevens met een algoritme? Dan is de AVG van toepassing. Ook als je geen persoonsgegevens verwerkt kun je met bepaalde wetgeving te maken hebben. Daarnaast is er de Europese AI-verordening, waarover de onderhandelingen tussen de lidstaten en het Europees Parlement nog moeten beginnen.

4. Kwaliteit bij het toepassen van AI

Kwaliteitsborging verhoogt de toegevoegde waarde van het algoritme en vermindert risico’s voor mens en maatschappij. Kwaliteitsborging heeft zowel betrekking op de kwaliteit van de data, als die van de AI-toepassing zelf. Datakwaliteit is het terrein van datamanagement. Gedegen datamanagement is dus een randvoorwaarde voor de inzet van AI.

5. Transparantie bij het toepassen van AI

Voor de acceptatie van AI is het van belang dat degenen die onderwerp van de output zijn, of daar de gevolgen van ondervinden, op de hoogte zijn van het gebruik van algoritmes. Transparantie is ook een goede maatstaf voor moreel handelen: als je niet open durft te zijn over wat je doet, ben je dan wel met de juiste dingen bezig? Transparantie verhoogt het vertrouwen in je organisatie, dus het credo is: zeg wat je doet, en doe wat je zegt.

6. Bewustzijn bij het toepassen van AI

Hier kunnen we kort over zijn: zorg dat iedereen binnen je organisatie die op wat voor manier dan ook betrokken is bij AI bewust is van wat AI eigenlijk is, wat de mogelijkheden zijn, maar zeker ook wat de tekortkomingen en valkuilen zijn.

7. Verantwoording bij het toepassen van AI

Voor de inzet van AI is het van groot belang dat je je als organisatie achteraf kunt verantwoorden. Hiervoor is het uiteraard nodig dat je een goede governance hebt geïmplementeerd, maar het gaat verder dan dat. Leg van meet af aan vast welke keuzes je hebt gemaakt, en waarom. Zorg er ook voor dat de output van AI verklaarbaar is, en dat tijdig kan worden ingegrepen als zaken anders lopen dat gepland. Zorg bij impactvolle AI altijd voor een menselijke beoordeling.

De moeite waard!

Alles bij elkaar zijn er best veel zaken om rekening mee te houden. Maar de moeite die je daarvoor moet nemen, verdient zich dubbel en dwars terug. Je beperkt niet alleen risico’s, maar je dwingt jezelf tot nadenken over de keuzes die je gaandeweg moet maken. Daar wordt niet alleen de wereld, maar ook je AI-model, en daarmee je organisatie beter van.

Over Future Facts (onderdeel van het Conclusion ecosysteem)

Future Facts is de responsible AI-partner van Nederland en sinds 2021 onderdeel van het veelzijdige Conclusion ecosysteem. Met een team van bevlogen AI-specialisten en onze krachtige executiestrategie, bewerkstelligen wij in korte tijd duurzame verandering en positieve impact bij onze klanten door inzet van state-of-the-art technologie.

Future Facts is in het DX300-onderzoek van MT/Sprout verkozen tot beste Data- en AI-specialist van Nederland.