Management

Dit is een bijdrage van KPMG
Analytics
KPMG Cartoon Artificial Intelligence

AI: de stuwende kracht achter technologische vooruitgang

Artificial Intelligence (AI) biedt ontzettend veel mogelijkheden

6 december 2018
Door: KPMG, partner

Artificial Intelligence (AI) biedt ontzettend veel mogelijkheden

En over het algemeen vertrouwen we blindelings op de algoritmen die ons helpen in het dagelijkse leven. Maar is dat vertrouwen wel terecht?

Er zijn genoeg uitdagingen: er kan sprake zijn van discriminatie, oneerlijke concurrentie, beslissingen die niet uitlegbaar zijn of er wordt gebruik gemaakt van gevoelige informatie. En in hoeverre zitten we als mens eigenlijk nog daadwerkelijk aan de knoppen?

Laten we beginnen met de laatste vraag: hebben wij als mensen het nog voor het zeggen? Het geruststellende antwoord is: ja. Hedendaagse toepassingen van AI worden nog steeds ontwikkeld en getraind door mensen. Maar de toenemende complexiteit en alomtegenwoordigheid van algoritmen leidt tot uitdagingen. Doet het algoritme wat het zou moeten doen? Voldoet het algoritme aan bestaande wet- en regelgeving? Is het algoritme eerlijk en uitlegbaar? Leert het algoritme zichzelf de goede dingen? En worden de uitkomsten van het algoritme wel op de juiste waarde geschat?

Balans tussen innovatie en controle
Omgaan met deze uitdagingen vereist een bepaalde mate van controle. En die controle zou moeten beginnen bij de organisaties die dit soort algoritmen maken en gebruiken. Het vereist een maatwerk aanpak, waarbij innovatie en flexibiliteit te allen tijde voorop staan. De samenwerking tussen verschillende expertisegebieden in een organisatie is daarbij cruciaal. Hier kan het ‘three lines of defence’ model goed bij helpen.

De eerste lijn bestaat uit data scientists en ontwikkelaars: de mensen die algoritmen bedenken, bouwen, trainen en gebruiken. In principe ligt bij hen de verantwoordelijkheid om dit op een gecontroleerde en uitlegbare wijze te doen. Maar dat is niet eenvoudig, en daarom zullen risk managers, ethici en juristen uit de tweede lijn de helpende hand moeten bieden. Door het in kaart brengen van de risico’s kunnen de juiste keuzes worden gemaakt.

Maar voorzichtigheid is geboden, het mag niet zo zijn dat innovatie en flexibiliteit worden geremd. Daarom dienen slimme keuzes te worden gemaakt en bestaande werkwijzen zoveel mogelijk te worden gerespecteerd. Tenslotte kan de derde lijn, internal audit, haar toezichthoudende functie uitvoeren, en onafhankelijk de werking van algoritmen controleren.

Waar te beginnen
Ons advies? Begin klein. Start met het onderzoeken van een algoritme dat voor de organisatie belangrijk is. Stel vast wat het doel is van het algoritme, en of het algoritme inderdaad doet wat het zou moeten doen. Het is goed om verder te kijken dan alleen naar de logica. Want de data die wordt gebruikt, het platform waarop het is gebouwd en het proces waarbinnen het algoritme wordt ingezet zijn net zo belangrijk om mee te nemen. De eerste en de tweede lijn zullen moeten samenwerken om de juiste route te kiezen voor het inrichten van de controle. Wanneer dit staat, kunnen deze inzichten worden benut om de stap te maken naar de rest van de organisatie.

Uiteindelijke doel
Wat ons betreft, is het uiteindelijke doel dat betrouwbare uitkomsten van een algoritme en processen het inherente gevolg zijn van de wijze waarop je als organisatie kansen benut en de controlemiddelen die je daarvoor gebruikt. Zo blijf je als organisatie innovatief, heb je de gewenste controle, en weten gebruikers dat er veilig en vertrouwelijk met hun gegevens om wordt gegaan.

Meer informatie?
Heeft u hulp nodig bij het onderzoeken van een eerste algoritme? Bent u benieuwd welke algoritmen in uw organisatie wat extra controle kunnen gebruiken? Of zoekt u naar instrumenten voor het eerlijk, betrouwbaar en gecontroleerd toepassen van nieuwe technologie in uw organisatie? Neem dan gerust contact met Frank van PraatSander Klous of Muel Kaptein.

Reactie toevoegen