Waarschuwing voor de inzet van AI in de zorg

Het enthousiasme rond de mogelijkheden die kunstmatige intelligentie biedt om beelden te herkennen en verbeteren, was aanvankelijk groot in de medische wereld. Daardoor is er veel aandacht voor het ontwikkelen van nieuwe algoritmen die artsen bij kunnen staan in vaststellen van hun diagnose. Een onderzoek van de Canadese Simon Fraser University werpt echter een heel ander beeld op deze ontwikkeling.

De algoritmen zijn instabiel waardoor kleine onregelmatigheden in de input grote veranderingen in de output tot gevolg kunnen hebben, stellen de onderzoekers in hun artikel in het gerenommeerde wetenschappelijk tijdschrift Proceedings of the National Academy of Science (PNAS). Zo kan het bijvoorbeeld voorkomen dat een kleine beweging van een patiënt tijdens de opname in een MRI-scanner tot heel misleidende beelden leidt.

Meer zekerheden nodig

Een groot nadeel van de deeplearning-technologie is dat wiskundig gezien, de algoritmen heel slecht begrepen zijn. Daardoor is ook niet te bewijzen wat de foutgevoeligheid is. De onderzoekers waarschuwen de ontwikkelaars van deze beeldverbeterende software maar ook de toelatingsinstanties veel beter na te gaan, dat de resultaten die deze systemen geven ook daadwerkelijk correct zijn.