Overslaan en naar de inhoud gaan

Vertrouwen in AI vraagt om doordacht beleid

Artificial Intelligence (AI) wordt steeds meer toegepast bij organisaties, maar vaak weten ze niet wat er in deze systemen omgaat. Met name bij financiële instanties levert de verklaarbaarheid van de besluitvorming ethische uitdagingen op bij machine learning modellen, omdat ze vertrouwen op AI-modellen die niet in staat zijn om eerlijk en onbevooroordeeld te zijn. Dit probleem noemen we ook wel de ‘black box’ van AI. Toch zijn er manieren om het ‘black box’ probleem aan te pakken.
man met smartphone
© CC BY-SA 2.0 - Flickr.com
CC BY-SA 2.0 - Flickr.com

Om het ‘black box’ probleem te overwinnen moeten organisaties begrijpen dat ethische, betrouwbare AI begint met het definiëren van een beleid. Organisaties zullen daarom een beleid met controles moeten invoeren, zodat ze betrouwbare AI in hun bedrijfsactiviteiten kunnen integreren. Hierbij is het belangrijk om duidelijk te definiëren wat betrouwbare AI werkelijk betekent in hun sector en hoe die betrouwbaarheid zal worden gecontroleerd.

Op dezelfde manier moeten organisaties duidelijk zijn over waar ze vandaag de dag als bedrijfsentiteit voor staan en welk beleid daarop is afgestemd. Met deze leidraad in het achterhoofd kunnen financiële instellingen vervolgens gaan kijken naar specifieke use-cases waarbij AI-modellen worden ingezet. Ga bijvoorbeeld na hoe een AI-model in verschillende kredietrisicoscenario's zou kunnen reageren. Welke parameters bepalend zijn voor de besluitvorming en of er een oneerlijk verband is tussen risico en demografische gegevens. Al deze elementen zijn belangrijk om over na te denken en moeten in gedachten worden gehouden gedurende de hele levenscyclus van het werken met AI.

Lastig van aanpak veranderen

Of je nu een traditionele financiële instelling bent die al jaren bestaat of een startende fintech, je moet evenveel belang hechten aan betrouwbare AI. Met meer vertrouwen in hun eigen AI kunnen financiële instellingen minder tijd besteden aan moeizame taken om hun betrouwbaarheid te waarborgen. Op deze manier kunnen ze hun aandacht richten op waardevoller werk. Het verschil is dat financiële instellingen die al wat langer bestaan vaak beschikken over een bewezen risicobeheermodel. Echter beschikken ze ook over de nodige technieken en processen, waardoor het lastiger is om van aanpak te veranderen. Startende bedrijven hoeven daarentegen geen rekening te houden met bestaande investeringen in deze technologie, waardoor ze meer vrijheid hebben om best-of-breed development platforms te kiezen met ingebouwde mogelijkheden en deze in te bedden in een ethisch kader.

Nu de wereld dit jaar weer enigszins normaal wordt, zullen organisaties waakzamer dan ooit moeten zijn. Op deze manier zorgen ze ervoor dat hun technologie ethisch verantwoord werkt en niet bijdraagt aan systematische vooroordelen. Toekomstige regelgevingen van overheden over de hele wereld zullen zich blijven bezighouden met de vraag hoe organisaties, met name in de financiële sector, verantwoord om kunnen gaan met deze technologie. Uiteindelijk is er geen snelle en gemakkelijke weg naar een wijdverspreid vertrouwen in AI-besluitvorming, maar gaat het om het nemen van doordachte stappen, het elimineren van vooringenomen besluiten en het verbeteren van de uitlegbaarheid.

Reacties

Om een reactie achter te laten is een account vereist.

Inloggen Word abonnee

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in