Innovatie & Strategie

Dit is een bijdrage van Pegasystems BV
Artificial Intelligence
Ethical Bias Check van Pega voorkomt discriminatie door AI bij klantinteractie

Ethical Bias Check voorkomt discriminatie door AI bij klantinteractie

Verantwoord AI toepassen binnen de organisatie. 

28 mei 2020
Door: Pegasystems BV, partner

Verantwoord AI toepassen binnen de organisatie. 

Mits op de juiste wijze toegepast, helpt AI organisaties meer waarde aan iedere klantinteractie toe te voegen. Klanten blijven zo loyaal aan een merk en dat leidt uiteindelijk tot hogere winstgevendheid. Toch kunnen AI-modellen onbewust vooroordelen aanleren op basis van bijvoorbeeld leeftijd, etniciteit of geslacht. Wordt dit niet opgemerkt, dan kan het leiden tot pijnlijke, discriminerende praktijken zoals het verstrekken van minder leningen, verzekeringspolissen of productkortingen. In de huidige onvoorspelbare economie, kunnen bedrijven het niet riskeren om het vertrouwen van hun klanten te verliezen omdat ze door de pandemie al kwetsbaarder zijn.

Ethical Bias Check helpt organisaties AI verantwoord toe te passen bij het gebruik ervan in klantinteractie. Het wijst op alle kanalen op mogelijk discriminerende aanbiedingen en berichten gegenereerd door AI, voordat ze klant bereiken. Na het instellen van testdrempels, ontvangen klanten waarschuwingen wanneer de bias risico’s een onaanvaardbaar niveau bereiken, zoals wanneer de doelgroep voor een bepaald aanbod scheeftrekt naar of juist weg van specifieke demografische gegevens. Operationele teams kunnen dan het aanstootgevende algoritme opsporen en de strategie aanpassen voor een evenwichtiger en eerlijk resultaat voor iedereen.

Ethical Bias Check onderscheidt zich van andere bias preventiemethoden door unieke mogelijkheden dankzij de krachtige AI van Pega Customer Decision Hub die centraal staat in alle klantinteracties. De mogelijkheden zijn:

  • Eenvoud en gemak bij detectie van bias: De meeste andere AI-bias-tools moeten bij elke individuele aanbieding separate bias tests uitvoeren. Dit is tijdrovend en foutgevoelig. Pega stroomlijnt het testen op vooroordelen door in één keer een complete engagement-strategie te simuleren, op alle verbonden kanalen. Met Pega’s centrale ‘AI-brein’ worden alle AI-beslissingen automatisch gescreend op vooroordelen – bijvoorbeeld ook welke marketingaanbieding via het web wordt gedaan, welke speciale actie via e-mail wordt verstuurd of welke aanbeveling de klantenservice aan de klant doet. De gedetailleerde bias rapportages van Pega helpen de klant te begrijpen waar en waarom er een kwestie zou kunnen ontstaan. Deze kan dan worden gecorrigeerd, voordat het daadwerkelijk een probleem wordt.
     
  • Meer flexibiliteit bij het beheersen van bias: Organisaties kunnen acceptabele drempels instellen voor elk element dat bias kan veroorzaken, zoals leeftijd, geslacht of etniciteit. Deze drempels kunnen ook worden aangepast voor scenario's waarin vertekende uitkomsten gerechtvaardigd kunnen zijn - zoals wanneer een gezondheidsorganisatie zich voornamelijk richt op senioren met informatie over relevante gezondheidsdiensten. Gebruikers hebben de flexibiliteit om die drempelwaarden te verruimen of te beperken om rekening te houden met de gewenste resultaten van hun klantgerichte strategieën.
     
  • Continue bescherming tegen bias: Klanten kunnen bias-testen opnemen als standaardprocedure voor alle strategieën. Zelfs wanneer deze strategieën worden aangepast en nieuwe aanbiedingen of acties worden toegevoegd, kunnen klanten er gerust op zijn dat hun customer engagement programma's automatisch worden gescreend op bias door de software.

Dr. Rob Walker, vice president decisioning & analytics, Pegasystems stelt: “AI wordt inmiddels in bijna elk aspect van klantbetrokkenheid ingezet. Verschillende spraakmakende incidenten hebben organisaties bewuster gemaakt van het risico op onbedoelde discriminatie en het pijnlijke effect ervan op klanten. Met de Ethical Bias Check geven we organisaties meer mogelijkheden om de kans op bias in AI-strategieën te verminderen voor betere interactie tussen bedrijven en klanten en hogere customer lifetime value."

Meer over Ethical Bias Check op www.pega.com/products/customer-decision-hub/ethical-bias-check.

 

Reactie toevoegen