Gartner: 3 tips voor CISO's om AI-gedreven deepfakes tegen te gaan

Het onderzoek is uitgevoerd onder 297 senior leidinggevenden binnen de cybersecurity. Het toont aan dat AI het volume en de geloofwaardigheid van social engineering in de vorm van deepfakes vergroot, terwijl de betrouwbaarheid van bekende detectiesignalen afneemt.

Om zich effectiever te wapenen tegen de evoluerende AI-aanvallen op het gebied van social engineering, geeft Gartner CISO’s drie tips:

1. Stop met statische trainingen en start met interactieve simulaties

Het advies is om trainingen voor veilig gedrag en een veilige bedrijfscultuur verder te ontwikkelen. Van medewerkers die leren deepfakes en nepmails te herkennen naar het trainen van medewerkers in het beter verifiëren van verzoeken en risicovolle verzoeken te melden, ongeacht of dit binnenkomt via e-mail, telefoon, video, samenwerkingstools of een AI-toepassing. Ook zouden in de trainingen simulaties onder het personeel moeten worden gedaan om het verificatie- en meldgedrag bij AI-gerelateerde verdachte gebeurtenissen te testen.

2. Bescherm de identiteit van medewerkers beter tegen imitatie

Bescherm bedrijfskritische workflows zoals accountherstel, geprivilegieerde toegang en betalingsautorisatie met phishingbestendige authenticatie, risicogebaseerde identiteitscontroles en vertrouwde verificatiekanalen. Implementeer daarnaast controles om identiteitsmisbruik te detecteren, ook na een succesvolle login of wachtwoordreset.

3. Bereid detectie en respons voor op AI-gedreven dreigingen

Systemen en processen moeten ingericht worden om juist specifiek aanvallen die aangedreven worden door AI te herkennen en neutraliseren. Correleer verdachte communicatie en meldingen van imitatie met gebeurtenissen rond accountherstel, nieuwe apparaten, wijzigingen in bevoegdheden en financiële transacties om de dreigingsdetectie te verbeteren. Werk incident response-draaiboeken bij voor multimodale imitatie, gemanipuleerde AI-aanbevelingen, gecompromitteerde of misbruikte agents, en waar van toepassing, agents die buiten hun beoogde grenzen opereren.