‘AI is niet het grootste obstakel voor een AI-toepassing in de zorg’
- Privacy, regelgeving en bewijsvoering moeten vanaf het begin worden meegenomen in het productontwerp.
- Wees glashelder over wat AI wel en niet kan: een risico-inschatting is geen diagnose, en gebruikers moeten de beperkingen begrijpen.
- Vertrouwen bouw je anders op bij consumenten en zorgpartners: consumenten willen vooral duidelijkheid en privacy, terwijl zorgorganisaties daarnaast bewijs, documentatie en integratie in hun workflow verwachten.
© Shutterstock
Het grootste obstakel voor het bouwen van een goede AI-toepassing voor de zorg, is niet AI zelf. Dat is de voornaamste les die ondernemers kunnen leren van Kirill Sokol, een van de oprichters van Skinive, een AI-toepassing voor huidmonitoring.
Skinive werkt eigenlijk heel simpel: het is software die via foto’s van de huid een risico-inschatting geeft van huidlaesies, de medische term voor huidafwijkingen zoals moedervlekken, wratten, eczeemplekken en andere rare plekjes. Het bedrijf maakte een consumentenapp, maar ook API-oplossingen voor zorgpartners, verzekeraars en apothekers. De consumentenapp werd in 2020 gelanceerd, in 2022 volgde de API. Met meer dan een miljoen gebruikers, volgens oprichter Kirill Sokol, mag je het gerust een succesvolle AI-zorgtool noemen. De lessen die hij leerde bij het bouwen van die toepassing, deelt hij graag met andere ondernemers.
Les 1: privacy-by-design is geen vinkje achteraf
De voornaamste les gaat over privacy. Sokol: ‘We minimaliseren de hoeveelheid data die we verzamelen, we scheiden persoonsgegevens van de beeldverwerking, beperken toegang en versleutelen data tijdens transport.’ Dat zijn allemaal ontwerpbeslissingen die vooraf zijn genomen, niet achteraf aan het systeem toegevoegd. De Europese infrastructuur van Skinive staat in Duitsland: data wordt binnen de EU verwerkt, met bewaar- en verwijderprocessen die zijn ingericht rond AVG-principes als dataminimalisatie, doelbinding en gebruikerscontrole.
En ja, dat kan betekenen dat Skinive soms pas op de plaats moest maken bij de ontwikkeling. ‘We hebben functies wel eens uitgesteld of opnieuw ontworpen omdat het concept meer persoonsgegevens vroeg dan noodzakelijk’, zegt Sokol.
Les 2: maak glashelder wat AI kan (en wat niet)
Een goede score in de Skinive-app betekent niet dat er niks aan de hand is. Dat is een valkuil, weet Sokol. Gebruikers hebben een lage-risico-uitslag weleens opgevat als een geruststelling. ‘We hebben de bewoording aangescherpt, want geen enkele AI-inschatting vervangt medisch onderzoek of doorlopende monitoring’, zegt hij. Nu ziet elke gebruiker dat de app geen diagnose stelt, maar een risico-inschatting geeft en waar nodig aanraadt een arts te raadplegen. In plaats van te zeggen dat de AI een aandoening heeft ‘herkend’, gebruikt Skinive de formulering laag, gemiddeld of hoog risico en legt het uit dat beeldkwaliteit van de foto, lichtinval en huidtint de uitkomst kunnen beïnvloeden.
Les 3: trek de grens tussen wellness en medisch hulpmiddel vroeg
De consumentenapp geeft ook informatie over UV-bescherming, zonblootstelling en leefstijladvies. Waar ligt de grens tussen wellness en een medisch hulpmiddel? Volgens Sokoll hangt dat af van het beoogde gebruiksdoel. Functionaliteit die het risico van een huidlaesie inschat en meeweegt in de beslissing om een arts te raadplegen, valt onder het medische product. Algemene UV-informatie, advies over zonblootstelling of leefstijltracking kan als wellness-functionaliteit worden gepositioneerd.
Het gebruiksdoel wordt ook al vanaf het eerste moment meegenomen in het productontwerp. Logisch, want een wellness-app moet aan andere eisen voldoen dan een medisch hulpmiddel. ‘Die vroege keuze bepaalt welk bewijs, welke controles, documentatie en ontwikkelproces nodig zijn’, aldus Sokol.
Les 4: consumenten en zorgpartners stellen andere eisen
Consumenten en zakelijke zorgpartners stellen volgens Sokol andere eisen voordat ze vertrouwen op de technologie. Consumenten hechten vooral aan heldere taal, transparantie, privacy en een begrijpelijk resultaat. Zorginstellingen vragen daarnaast om technische documentatie, validatiedata, regulatoir bewijs, beveiligingscontroles en contractuele verantwoording.
De mate van vertrouwen bepaalt Skinive met data over retentie, herhaalde analyses, conversie naar abonnementen, gebruikersfeedback, supportverzoeken, beoordelingen en of gebruikers de monitoringadviezen ook daadwerkelijk opvolgen. Bij zakelijke partners zijn voortgezette pilots en de beweging richting daadwerkelijke integratie de belangrijkste signalen.
Nederlandse wortels, regulering vanuit Malta
Skinive is opgericht in Nederland, het hoofdkantoor zit in Amsterdam, maar de wettelijke fabrikant van het medische hulpmiddel is een Maltese dochteronderneming van Skinive, waardoor de regulatoire activiteiten vanuit Malta worden beheerd, binnen het toepasselijke Europese regelgevingskader. Het bedrijf werkt in heel Europa, waarbij Sokol een verschil ziet tussen Nederlandse zorgpartners en verzekeraars, en die in andere Europese landen. ‘Nederlandse zorgorganisaties staan zeer open voor digitale innovatie, maar vragen doorgaans om een steviger bewijsbasis voordat ze van een pilot naar grootschalige implementatie overstappen. De gesprekken gaan niet alleen over klinische prestaties, maar ook over integratie in de workflow, vergoeding, privacy, meetbare gezondheidsuitkomsten en de economische impact op de lange termijn’, zegt hij. ‘Zodra dat vertrouwen er eenmaal is, zijn de samenwerkingen doorgaans stabieler en langduriger.’
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee