Druk op AI-implementatie ondermijnt veiligheidsdenken

Organisaties zijn zich vaak wel bewust van de risico’s van de inzet van AI, maar missen het juiste beleid om ze te beheersen. De druk om snelheid te maken met de implementatie leidt ertoe dat AI in kritieke systemen terechtkomt zonder voldoende controlemechanismen. Volgens het onderzoek vindt bijna de helft (47 procent) van Nederlandse organisaties dat AI sneller evolueert dan ze het kunnen beveiligen. Slechts iets meer dan een kwart vertrouwt op eigen kennis van AI-wetgeving. Ongeveer een kwart van de ondervraagden heeft een officieel AI-beleid. De redenen dat zo’n beleid er nog niet is, zijn onder meer onzekerheden over de regelgeving. Ook een gebrek aan duidelijke verantwoordelijkheden noemen de respondenten als een probleem voor de beleidsvorming.

Agentic AI vergroot risico verder

De opmars van agentic AI vergroot de zorgen over de digitale beveiliging bij organisaties. Zo verwacht 40 procent dat het aanvalsoppervlak toeneemt, denkt 35 procent dat de blootstelling van gevoelige data toeneemt en ziet 32 procent een gevaar in het misbruik van ‘vertrouwde status’ omdat agents automatisch toegangsrechten krijgen.

Aanvallers kunnen hier handig op inspelen omdat zij ook in toenemende mate AI inzetten. Ze passen geraffineerdere phishing toe, maar kunnen ook kwaadaardige instructies verstoppen in data die de AI leest en vervolgens acties uitvoert zonder menselijke controle.

Gedegen beleid is essentieel

Beveiligingsteams lopen vaak achter de top-down besluiten over AI aan, concluderen de onderzoekers. Dit leidt tot noodmaatregelen en een toename van niet-goedgekeurde tools, ofwel shadow-AI.
Snelle AI-adoptie zonder dat governance, eigenaarschap en controlemechanismen goed zijn belegd, vergroot dus de risico’s die organisaties niet goed kunnen beheersen.