CTIVD: beheersing AI bij diensten loopt achter bij ontwikkeling

De AIVD en MIVD gebruiken AI onder meer om snel data te kunnen sorteren en analyseren (geautomatiseerde data-analyse), maar ook onder meer voor het maken van samenvattingen. CTIVD schrijft dat de diensten de AI-toepassingen meestal zelf ontwikkelen, of een systeem aankopen, maar dat dan grotendeels zelf inrichten zodat het geschikt is voor het werk van de diensten.

Samenhang

Het gebruik van AI wordt volgens de CTIVD steeds verder ontwikkeld, "terwijl de daarvoor benodigde kaders en waarborgen niet tijdig en in samenhang zijn ingericht". Dat betekent onder meer dat de regels voor AI-gebruik niet bij elke afdeling hetzelfde zijn, dat niet elke medewerker weet welke systemen AI gebruiken en dat de regels soms onduidelijk zijn.

Kundige mensen

Doordat de regels niet duidelijk zijn, komt er volgens de toezichthouder veel verantwoordelijkheid te liggen bij medewerkers die de systemen beheren. CTIVD stelt dat dit kundige mensen zijn, maar dat de afhankelijkheid van hen een kwetsbaarheid is die moet worden opgelost door "centrale inbedding van kaders en werkwijzen".

De CTIVD schrijft dat de diensten waarschijnlijk nog meer AI willen gaan gebruiken. "Het is daarom van belang te voorkomen dat de reeds opgebouwde achterstand verder oploopt."

(ANP)