Zorgprofessional vindt zichzelf verantwoordelijk als AI een fout maakt

Als AI een fout maakt in de zorg, dan is dat volgens 41% van de zorgprofessionals de verantwoordelijkheid van de behandelend professional. Dit blijkt uit onderzoek van IT-dienstverlener en specialist in gegevensuitwisseling SureSync, onder 212 professionals betrokken bij IT, data en compliance binnen de Nederlandse zorg.

Redactie AG Connect Meer van deze auteur

Een fysiotherapeut helpt iemand om de arm omhoog te doen — © Shutterstock

Zorgprofessionals zijn verdeeld over wie verantwoordelijk is wanneer AI een fout maakt. Een iets kleinere groep van 36% wijst namelijk naar de zorgorganisatie en 14% naar de leverancier van de AI-toepassing.

1 op de 5 is sceptisch

Hoewel AI steeds verder geïntegreerd wordt in de zorg, is de kans op fouten aanzienlijk. Slechts 3% van de zorgprofessionals vindt AI-toepassingen in de zorg momenteel zeer betrouwbaar. 35% vindt ze enigszins betrouwbaar, en één op de vijf (22%) is sceptisch. Die voorzichtigheid vertaalt zich in hoge eisen van zorgprofessionals aan de inzet van AI. Ruim vier op de vijf (81%) vindt dat AI binnen de eigen organisatie pas mag worden ingezet als zij honderd procent zeker zijn dat data veilig en verantwoord wordt gebruikt.

Toch zien zorgprofessionals AI ook als een kans. Meer dan de helft (56%) vindt dat AI de zorg veiliger maakt dan wanneer professionals alleen op het eigen oordeel vertrouwen.

Regelgeving als rem

Om die belofte waar te maken, moet de inzet van AI in de zorg zich nog verder ontwikkelen. Volgens 55% van de zorgprofessionals remt de huidige wet- en regelgeving die innovatie eerder af dan dat het helpt. De zorgsector werkt per definitie in een context van strikte privacy-eisen, medische aansprakelijkheid en patiëntveiligheid: kaders die er niet voor niets zijn. Dat zet zorgorganisaties in een lastige positie. Ze willen vooruit, zien de potentie en voelen tegelijk de remmende werking van regels die geschreven zijn voor een werkelijkheid waarin AI nog geen rol speelde.

Juridisch kader loopt achter

Sander Odijk, managing director bij SureSync, noemt het opvallend dat de verantwoordelijkheid bij de zorgprofessional ligt. 'Het laat zien hoe nieuw dit vraagstuk nog is: de zorgsector werkt al met AI, terwijl juridische en morele kaders nog achterlopen. Tegelijkertijd biedt AI juist de extra controlelaag waar de sector behoefte aan heeft in een werkomgeving met hoge tijdsdruk, waar menselijke fouten direct impact hebben op patiënten.'

Over het onderzoek

Dit onderzoek is uitgevoerd door onderzoeksbureau Markteffect. In totaal namen 212 respondenten deel, bestaande uit twee doelgroepen: C-level executives, hoger management en beslissers op het gebied van IT, Finance, Data, Compliance en Legal werkzaam bij organisaties met meer dan 250 medewerkers, en professionals werkzaam in de zorg die betrokken zijn bij IT, Finance, Data, Compliance en Legal.