Zo zorg je dat AI niet faalt in onverwachte situaties

Dit doet AI door de toekomst te voorspellen op basis van data uit het verleden. Maar hoe ga je om met situaties die nog nooit eerder hebben plaatsgevonden, zoals de coronapandemie? Begin 2020 was hier nog geen data van, waardoor AI organisaties niet kon ondersteunen bij de bedrijfsvoering. Nu, bijna een jaar later, beschikken we wél over data. Betekent dit dat AI organisaties inmiddels kan helpen om te reageren op de veranderende omstandigheden in het ‘nieuwe normaal’? Ja, maar er zijn een paar uitdagingen. Welke dit zijn en hoe je ze het hoofd biedt, leg ik uit in deze blog.

Integreer AI met machine learning

De eerste uitdaging zit in het feit dat de meeste succesvolle AI-modellen zijn getraind voor het beantwoorden van een hele specifieke vraag. Vaak zijn ze hier erg accuraat in en zijn de foutmarges klein. Het addertje onder het gras is dat deze lage foutmarge slechts geldt voor één voorbeeldvraag en niet voor tientallen andere vragen die vergelijkbaar, maar toch nét iets anders zijn. Een oplossing hiervoor is machine learning. Nog beter is het ontwikkelen van een tool die een nieuw model kan produceren wanneer een nieuwe vraag wordt gesteld. Dit adaptieve gebruik van machine learning is ook iets dat Gartner al eerder benoemde als opkomende trend.

Het oude of het nieuwe normaal?

We kunnen een AI-model dus zo inrichten dat het leert van de gegevens waarop we het trainen, inclusief onvolkomenheden, vooroordelen en afwijkingen. Maar ook hierin gaat een uitdaging schuil. Je kiest namelijk zelf de data waarop je een AI-model traint. Train je het model bijvoorbeeld op gegevens die beïnvloed zijn door Covid-19, dan krijg je sinds maart 2020 een voorspelling voor de business in het nieuwe normaal. Die ziet er heel anders uit dan de prognose van het oude normaal, die we krijgen als we pandemiedata buiten beschouwing laten. Nemen we zowel oude als nieuwe gegevens mee, dan krijgen we een prognose waarin de oude en de nieuwe situatie zijn samengevoegd. Het is dus belangrijk om een algoritme niet blind te vertrouwen. Niet voor niets staat Algorithmic Trust, zoals dit genoemd wordt, ook tussen de vijf grootste technologietrends die Gartner recentelijk identificeerde.
Helaas hebben we geen eerdere gegevens over de snelheid van het herstel na een pandemie. Hierdoor maakt een AI-model slechts een zo goed mogelijke prognose voor de nieuwe situatie door oude en nieuwe trends en cycli met elkaar te combineren. Simpelweg betekent dit dat hoe meer oude gegevens opgenomen worden, hoe meer de AI-voorspelling op het oude normaal lijkt. En hoe minder nieuwe gegevens worden meegenomen, hoe meer de voorspelling op het nieuwe normaal lijkt. Er is dus nog steeds menselijke sturing nodig voor het bepalen van de juiste balans.

Vergeet de menselijke hand achter AI niet

AI-modellen kunnen leren en allerlei verschillende mogelijke scenario’s schetsen. Toch is en blijft het aan de bestuurder van een organisatie om op basis hiervan de juiste beslissingen te maken. Of het nu gaat over de richting waarin AI ons stuurt of over de biases die we inbouwen. Het erkennen van de menselijke hand achter AI én AI ‘slechts’ zien als een ondersteuning is essentieel. Uiteindelijk komt het namelijk neer op de vaardigheid en ervaring van de bestuurder om zijn deel van het bedrijf op het juiste moment de juiste richting op te sturen. In het geval van de coronapandemie is dat naar het oude of het nieuwe normaal. Of, nog waarschijnlijker: naar een situatie die hier ergens tussenin ligt.