Innovatie & Strategie

Artificial Intelligence
ethiek

Ethiek en chatbots

Vertrouwen van klanten en medewerkers in chatbots is nodig voor een succesvolle implementatie

© CCO: 0 Pixabay,  Geralt
15 april 2020

Vertrouwen van klanten en medewerkers in chatbots is nodig voor een succesvolle implementatie

Chatbots zijn handige tools om klantencontacten efficiënt af te handelen. De inzet van chatbottechnologie roept wel ethische vragen op. Aan de hand van een krantenartikel over het callcenter van het onlinewarenhuis Wehkamp verkent filosoof en bedrijfskundige Henriëtta Joosten een aantal morele kwesties.

Journalist Jeroen van Bergeijk werkte een maand undercover bij het callcenter van Wehkamp.(1) Hij beschreef zijn ervaringen in De Volkskrant.(2) Medewerkers worden constant gemonitord. Lukt het je niet om na een klantgesprek in 50 seconden openstaande kwesties af te ronden? Dan krijgt iedereen dat via de mail te weten. Toiletbezoek en inlogtijd worden niet uitbetaald. Zo’n 8% van de omzet is afkomstig van klanten die tegen 14% rente op afbetaling spullen kopen of geld lenen. Toch draaide Wehkamp afgelopen jaar operationeel verlies en daalde de omzet. Het plan is nu om via kostenbesparingen weer winst te maken. Ik zie mogelijkheden voor chatbots!

Inzet van chatbottechnologie

Chatbots zijn geautomatiseerde gesprekspartners. Ze kunnen tekst- en/of spraakgebaseerd zijn. Ze variëren van bots die een standaardvraag beantwoorden tot digitale gesprekspartners die via machine learning steeds geavanceerder worden. Het vergt wel inspanningen om chatbots succesvol in te zetten. Naast technische en organisatorische kwesties (zoals veranderbereidheid, volwassen databeheer en integratie met de backendsystemen) zijn er morele vraagstukken. Welke morele kwesties en verantwoordelijkheden komt Wehkamp tegen wanneer dit bedrijf de inzet van chatbots overweegt?(3)

Economische verantwoordelijkheid

Een bedrijf moet winst maken. Wat je ook van de Britse investeringsmaatschappij Apax en eigenaar van Wehkamp vindt, Wehkamp heeft de plicht om zijn aandeelhouder te compenseren voor het risico dat deze met zijn investeringen loopt. Vanuit dit perspectief is de vervanging van callcentermedewerkers door chatbots het overwegen waard. Klanten kunnen 24/7 geholpen worden, het personeelsverloop is opgelost, de tweeweekse training van nieuwe medewerkers is overbodig en er is minder kantoorruimte nodig. Maar ook als assistent van medewerkers kunnen chatbots geld opleveren. De lerende chatbot Zoë hielp medewerkers bij Zilveren Kruis met het beantwoorden van klantvragen over vergoedingen. Het leidde al snel tot kortere gesprekken en betere antwoorden.

Moreel gedrag is ook bij winstmaximalisatie belangrijk. Het vertrouwen van klanten en medewerkers in chatbots en het bedrijf is nodig voor een succesvolle implementatie. Voor de langere termijn win je dat vertrouwen alleen door daadwerkelijk rekening te houden met de belangen van anderen. “Good ethics is good business.” Een paar overwegingen voor Wehkamp:

- Houd je klanten niet voor de gek. Er zijn bedrijven die gesprekken tussen klanten en chatbots zonder toestemming afluisteren. Of medewerkers die uit het niets – althans voor de klant – het gesprek met een chatbot overnemen. Dat doet het vertrouwen van klanten geen goed.

- Met chatbots en AI kan de communicatie met klanten persoonlijker worden. Maar Wehkamp verbetert zijn reputatie pas echt als deze rekening houdt met zijn klanten en alleen contracten aangaat met klanten die aan hun betalingsverplichtingen kunnen voldoen.

- Deel de tijdwinst met de callcentermedewerkers. Je hebt hun medewerking, kennis en ervaring hard nodig om chatbots te trainen.

Wettelijke verantwoordelijkheid

Bedrijven nemen hun morele verantwoordelijkheid door zich aan de wet te houden. Daarin zijn immers de normen en waarden van de samenleving vastgelegd. Dat kun je op verschillende manieren doen: 1) passief: dat wil zeggen toevalligerwijs en onbewust; 2) restrictief: alleen omdat de wet het zegt, houd je je eraan; en 3) opportunistisch: je handelt naar de letter van de wet en probeert tegelijkertijd van de gaten in de wetgeving te profiteren.

Je wint het vertrouwen van klanten, medewerkers, toeleveranciers en investeerders door je aan de letter én geest van de wet te houden. Op termijn is dat goed voor de economische belangen van het bedrijf. Maar ook de rechtstaat en democratie gedijen in een samenleving waarin ondernemingen zich aan het juridisch kader houden.

Enkele wettelijke kwesties voor Wehkamp:

- Wanneer en hoe maak je aan klanten kenbaar dat ze met een robot ‘praten’?

- Wat doe je met de bewaring en inzage van de gegevens die uit het gesprek tussen chatbot en klant voortvloeien?

 

Maatschappelijk verantwoord ondernemen

Dit gebied gaat over de morele plicht van ondernemingen om rekening te houden met de belangen van alle stakeholders. Hierbij zijn alle belanghebbenden – nu en in de toekomst – gelijkwaardig.

Ook al vraagt de wet hier niet om, Wehkamp kan ervoor kiezen om de belangen en rechten van alle stakeholders mee te wegen. Vanzelfsprekend horen hier de aandeelhouders en klanten bij. Maar chatbots kunnen ook het repetitieve en geestdodende werk van medewerkers overnemen zodat ze elders aan de slag kunnen, zoals in de zorg of installatiebranche. Twee vliegen in een klap: de samenleving is geholpen en mensen hebben zinvoller werk.

Niet alle medewerkers zullen makkelijk ander werk vinden. Oudere klanten zullen ook vaker bot vangen, omdat ze in tegenstelling tot de jongeren niet gewend zijn om met chatbots te communiceren. En dan is er het gemak waarmee klanten nu al leningen afsluiten. Volgens de journalist is het in een paar tellen gepiept. Met chatbots is het nog eenvoudiger. Maar als samenleving zitten we niet te wachten op nog meer schuldenaars.

 

Grens tussen mens en techniek vervaagt

Tot nu toe benaderde ik chatbots als hulpmiddel. Maar technologie is meer dan een neutrale tool. Techniekfilosoof Peter-Paul Verbeek laat zien dat mens en techniek steeds verder met elkaar verweven raken; ze beïnvloeden elkaar over en weer. Een aantal morele vragen dient zich aan. Ik noem er twee.

Wie vervangt wie?

Kun je op basis van communicatie onderscheid maken tussen een mens en robot? Daarover gaat de Turingtest. Dat onderscheid wordt met de dag lastiger. Steeds beter ‘begrijpen’ en ‘herkennen’ chatbots intenties en emoties van mensen en reageren ze ‘menselijker’. Het tegenovergestelde is ook gaande: mensen lijken steeds meer op chatbots. Kijk maar rond op een bemenst callcenter. Medewerkers draaien een minutieus uitgeschreven script af. Ze worden continu gemonitord of hun taal- en toiletgebruik wel past binnen de normen. De jeugd heeft de taal van devices allang geïnternaliseerd. En bijna iedereen heeft wel eens moeten bewijzen dat hij geen computer is – je moet dan zo’n rijtje vervormde letters en cijfers overtypen: een omgekeerde Turingtest! Wie vervangt wie nu eigenlijk?

Wat nemen chatbots ons uit handen?

Chatbots nemen bedrijven en klanten werk uit handen. Je hoeft niet meer door menu’s te scrollen of op het web te surfen. Je stelt je vraag en de chatbot gaat razendsnel op zoek naar antwoorden. Nog even en chatbots (en de achterliggende technologie) nemen het beslissingsproces zelf over. Dat scheelt tijd en keuzestress en het zal geregeld tot betere keuzes leiden. Veel financiële ellende zou voorkomen zijn wanneer er minder ruimte was geweest om ongeschikte verzekeringsproducten aan onwetende consumenten te verkopen. Maar wat gebeurt er wanneer devices op basis van data en gedrag uit het verleden voor ons beslissen? Wat betekent dit voor onze autonomie? Is er nog ruimte om af te wijken? Hoe gemakzuchtig worden we? En wat betekent dit voor onze democratie?

Publieke verantwoordelijkheid

Ondernemingen nemen besluiten die ons allemaal raken. Bij deze impact hoort ook een zekere publieke verantwoordelijkheid. Ik bedoel daarmee de verantwoordelijkheid om het publieke gesprek te stimuleren over hoe we onze samenleving – met chatbots en andere technologie – vormgeven. In een vrije samenleving kan iedereen zich met de inrichting van de samenleving bemoeien. Steeds weer. Maar een vrije samenleving ontstaat niet vanzelf en blijft niet vanzelf voortbestaan. Daar moeten we allemaal – ondernemingen, informatieprofessionals, journalisten – aan bijdragen. (4)

Verwijzingen

1. Wehkamp heeft het grootste deel van het callcenter uitbesteed aan de multinational Teleperformance.

2.  Het gaat om de De Volkskrant van zaterdag 15 februari 2020.

3. De eerste drie soorten morele verantwoordelijkheden zijn gebaseerd op een hoofdstuk uit het boek Ethiek voor financieel professionals (Boom, 2020) van Gerard Verstegen en Aloy Soppe.

4. In De publieke sfeer in de 21e eeuw. Hannah Arendt als gids voor professionals (ISVW, 2019) bied ik professionals praktische handreikingen voor de vergroting van de publieke sfeer.

Magazine AG Connect

Dit artikel is ook gepubliceerd in het magazine van AG Connect (aprilnummer 2020). Wil je alle artikelen uit dit nummer lezen, klik dan hier voor de inhoudsopgave.

Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.