AI vraagt om een nieuwe security mindset

Honeypots worden bijvoorbeeld al jaren gebruikt om cybercriminelen uit hun tent te lokken en hun activiteiten te observeren. Generative AI maakt het mogelijk om deze techniek veel eenvoudiger en op grotere schaal toe te passen. In plaats van een echt systeem volledig na te bouwen, kan AI een realistische digitale omgeving simuleren die reageert op de acties van degene die ermee interacteert.

Melk in de koelkast

Dat kan bijvoorbeeld een Linux-shell zijn die zich gedraagt als een echt systeem, of een smart fridge met bestanden over de temperatuur en de hoeveelheid melk in de koelkast. Voor het geautomatiseerd AI-systeem van een cybercrimineel kan zo'n omgeving voldoende context bieden om plausibel te lijken. Tegelijkertijd kan iedere interactie worden vastgelegd en geanalyseerd.

Dat werkt omdat AI-systemen geen echt bewustzijn hebben. Het is daarom mogelijk dat ze worden misleid en reageren op een omgeving die niet is wat het lijkt te zijn. Het doel hier is om geautomatiseerde aanvallen te observeren. Dat leidt tot een interessante paradox. Hoe sneller en grootschaliger AI-gestuurde aanvallen worden, hoe moeilijker het voor hen kan zijn om onopgemerkt te blijven.

Agentic reverse engineering

Diezelfde versnelling zien we ook aan de verdedigende kant van cybersecurity. AI-agents kunnen onderzoekers helpen om bestaande analysetools veel efficiënter te benutten, zonder dat AI daarvoor direct in de tool zelf hoeft te worden ingebouwd. Wanneer een applicatie de interne data via een scriptinginterface beschikbaar stelt, kan een AI-agent die informatie gebruiken om diepgaande analyses uit te voeren.

'AI verandert de verhouding tussen snelheid, schaal en menselijke capaciteit fundamenteel'

Een disassembler (een tool die softwarecode terugvertaalt naar leesbare processorinstructies) verandert zo van een programma dat een onderzoeker handmatig bedient, in een omgeving waaraan een agent vragen kan stellen. De agent kan bijvoorbeeld functies decompileren, call graphs opbouwen of grote hoeveelheden functies systematisch analyseren en de resultaten structureren in een database.

Dat maakt vooral repetitief en omvangrijk onderzoek sneller. De onderzoeker blijft nodig om de resultaten te interpreteren, hypotheses te formuleren en de juiste vragen te stellen. AI neemt vooral het tijdrovende werk over en maakt het mogelijk om bestaande securitytools op een heel nieuwe manier in te zetten.

Naar een nieuw verdedigingsmodel

Deze voorbeelden laten zien dat AI niet alleen een extra securitytool is. Het verandert de verhouding tussen snelheid, schaal en menselijke capaciteit binnen cybersecurity fundamenteel.

Het traditionele model van detecteren en reageren schiet tekort. AI maakt het mogelijk om systemen op grote schaal te observeren, aanvallers te misleiden en securityonderzoek verder te automatiseren. Zo ontstaat een bredere vorm van AI security. Dit vraagt om slimme verdediging én om het proactief beveiligen van de eigen AI-modellen en -applicaties. AI security is geen losse functionaliteit, maar een herziening van de hele verdedigingsketen. Als AI aanvallen verandert, moet het ook een integraal onderdeel worden van onze verdediging.