Het is een terugkerend probleem: dat we niet begrijpen hoe algoritmen tot een bepaald resultaat komen. Pegasystems introduceert de T-switch, die een inkijkje in het proces biedt.

In 2016 lanceerde Microsoft chatrobot ‘Tay’ op Twitter. Miljoenen Twitteraars konden met ‘Tay’ over elk onderwerp in gesprek gaan. Door de gesprekken tussen de Twitteraars en ‘Tay’ kon Microsoft onderzoek doen naar de manier waarop een robot converseert. Dat liep alleen iets anders dan gedacht..

Doordat ‘Tay’ op een deeplearning algoritme draaide, werd ze slimmer naar mate er meer tegen haar werd gepraat. Dat bleek een recipe for disaster en zeker op Twitter, waar het wemelt van de trollen. Binnen no time spuwde ‘Tay’ racistische tweets uit.