Machine learning is een black box. We stoppen er gegevens in en er komt een voorspelling of beslissing uit. Maar we weten niet waarom het algoritme deze beslissing heeft genomen. Omdat de eerlijkheid en rechtvaardigheid van deze beslissingen gecontroleerd moeten worden, willen we wel het waarom weten. Interpretable machine learning probeert gebruikers dat inzicht te geven. Inmiddels zijn er zeer uiteenlopende methodes beschikbaar om even zo veel uiteenlopende machinelearningmodellen begrijpelijk te maken, constateren Reinoud Kaasschieter en Derk-Jan Riesthuis. 

Machine learning gaat uit van de data waarmee het wordt gevoed. Op allerlei manieren kan het in deze data patronen herkennen. Machine learning wordt overal om ons heen gebruikt, bijvoorbeeld om sneller verdachte personen te kunnen opsporen met gezichtsherkenning of om te beslissen wie in aanmerking komt voor een vacature, lening of een medische behandeling.