AI-dreiging voor je cybersecurity? Houd je hoofd koel

Moeten we hier nu van in paniek raken? Welnee. De dreiging die AI oplevert voor cybersecurity kan aangepakt worden, juist met inzet van AI én met traditionele cybersecurity.

De komst van zeer geavanceerde AI-modellen zal veranderingen met zich meebrengen. Kwetsbaarheden worden nu mogelijk sneller ontdekt, maar cybersecurity is geen duel waarbij twee partijen één schot op elkaar lossen. Solide cybersecurity voorziet in meerdere verdedigingslagen die aanvallers, menselijk of niet, weren, detecteren en neutraliseren.

AI als versterker en versneller

AI is immers geen compleet nieuw cyberrisico. Het is in de praktijk vooral een versterker en versneller van bestaande aanvals- en verdedigingsmogelijkheden. Aanvallers kunnen meer zaken sneller scannen, analyseren en automatiseren, maar verdedigers kunnen hetzelfde doen. Het gaat daarom vooral om wie zijn processen het beste heeft ingericht om de extra snelheid te kunnen benutten. AI heeft het tempo veranderd, maar traditionele cybersecurity-principes blijven de essentie.

Ook de kwetsbaarheden zelf zijn in de kern hetzelfde gebleven. Een gevonden kwetsbaarheid én een manier om die te benutten, betekenen nog niet dat een aanvaller ook daadwerkelijk bij een doelwit binnen kan dringen. In de meeste gevallen komen aanvallers binnen met legitieme logingegevens die met behulp van social engineering zijn ontfutseld of bij eerdere hacks zijn buitgemaakt.

Zowel kat als muis

De frontier AI-modellen kunnen meer dan kwetsbaarheden ontdekken. Ze hebben impact op het kat-en-muis spel tussen aanvallers en verdedigers. Het komt neer op een strijd van AI versus AI, waarin AI dan zowel de kat als de muis is. Wie de beveiliging correct heeft ingericht kan aanvallers, zelfs al gebruiken zij de laatste AI-tools, tijdig detecteren en stoppen. Cybersecuritybedrijven gebruiken al langer AI om detectie te verbeteren en te versnellen. Zij hebben inmiddels ook zelf toegang tot frontier AI-modellen, bijvoorbeeld in het kader van Daybreak, een project van OpenAI dat specifiek is gericht op cybersecurity.

Frontier AI-modellen en gebruik van AI-agents veranderen de aanvalsdynamiek. Een AI-agent van een aanvaller beschikt meestal over minder context (informatie over systemen en procedures van het doelwit) dan de verdediging. Daarnaast probeert AI vaak álle mogelijkheden en kiest dan de meest veelbelovende. Verdedigers kunnen dit in hun voordeel gebruiken. Een voorbeeld is het gebruik van honeypots (nepsystemen die bedoeld zijn om aanvallers te lokken) en (AI-)agent-provocateurs, die de aanvallende AI ogenschijnlijk een handje helpen en ze daarmee tegen de lamp laten lopen. Als de AI-aanvaller merkt dat de aangetroffen informatie niet betrouwbaar is, moeten de AI of zijn gebruiker allerlei extra acties ondernemen ter verificatie en wordt de aanval vertraagd. Deze dynamiek is onderdeel van een klassieke cyberbeveiligingsstrategie: het zo duur mogelijk maken van een aanval qua tijd, geld en middelen.

Alle toegang

Het is cruciaal dat de AI-sector meer openheid geeft over wat er precies is gebeurd bij de gemelde AI-securityincidenten. Ook over wie toegang heeft tot de frontier AI-tools bestaat geen openheid. Ongetwijfeld hebben de Amerikaanse, Chinese en mogelijk ook andere overheden alle toegang die zij zich maar wensen. Voor cybercriminelen ligt dat mogelijk anders. Maar gezien de toenemende samenwerking tussen statelijke actoren en criminelen hoeven we daar weinig illusies over te hebben.

Ook veel zorg gaf het nieuws dat aanvallende AI-agents op eigen initiatief teams hebben gevormd die elk een onderdeel van de aanval op zich namen en sommige agents zouden zich opgeofferd hebben om te achterhalen hoe de verdediging in elkaar zat. Ook vertoonden sommige agents ‘menselijke’ eigenschappen, zoals liegen en bedriegen. Deze gedragingen kennen we al jaren van menselijke aanvallers. Dat AI-agents kennelijk ook dit gedrag vertonen is geen verrassing: aanvallers met eenzelfde doel zullen dezelfde technieken proberen.

Hou het tempo bij

Hoe hier mee om te gaan? De belangrijkste uitdaging is voor veel organisaties het bijhouden van het hogere tempo. AI-aanvallen zijn tegen te houden, mits de basis op orde is (voer patches door zodra ze beschikbaar zijn, draag zorg voor goede segmentatie, monitoring, detectie en respons) en voor de verdediging de fundamenten van cybersecurity gecombineerd worden met frontier AI (AI versus AI). Wie dat goed doet kan het hoofd koel houden bij nieuwe kwetsbaarheden en weet dat daarmee ook kwaadaardige AI wordt gedwarsboomd.