Nieuwe AI-browsers zijn een security-ramp in wording

Op papier lijkt de AI-browser vooral veel goeds te bieden. De AI-chatbots die veelal 'agentic' mogelijkheden meekrijgen, kunnen het internet afzoeken naar relevante informatie, producten bestellen en in theorie zelfs hele reizen boeken. Maar door dit soort taken aan een AI-webbrowser over te laten, wordt de kans om ten prooi te vallen aan cybercriminelen alleen maar groter. 

Dat blijkt uit een recent onderzoek genaamd 'Scamlexity' van cybersecurity startup Guardio. De onderzoekers deden drie tests, voornamelijk met Comet, de AI-browser van Perplexity. Dit is namelijk de enige breed beschikbare AI-browser van het moment.

Nepwebsites, phisinglinks en prompt-injections

De eerste van de tests stelde de vraag of de AI-browser een nep-website zou herkennen als het de opdracht krijgt er iets te kopen. Hiervoor bouwden ze een slechte variant van Wallmarts website, inclusief mislukt logo. Toch deerde dat de AI-browser niet. Die ging ondanks alle duidelijke signalen gewoon verder met het bestellen van het product en betaalde hem ook. Het leverde zelfs nog een betaalbewijs af.

Mensen zouden hier niet snel intrappen. De visuele aanwijzingen zouden te duidelijk zijn, waardoor er op z'n minst genoeg achterdocht zou optreden en men waarschijnlijk niet  zou overgaan tot aankoop. De AI-browsers missen dit vermogen en kijken niet naar de context, maar voeren blindelings de taak uit.

De tweede test stelde de vraag hoe AI-browser om zou gaan met een email van een bank die overduidelijk een phishinglink bevatte. De onderzoekers stelden hiervoor een nepmail van een echte bank op met een frauduleuze link erin. Je raadt het al: die werd niet opgemerkt door de AI. Die klikte vrolijk door en dropte de gevraagde bankgegevens zonder hierover maar enige melding van twijfel te doen. 

De laatste test is ook voor mensen wat lastiger te herkennen, maar wel een opkomend gevaar: hoe gevoelig is een AI-browser voor prompt injection. Blijkbaar heel erg, want Comet viel blindelings voor dit gevaar. Een verborgen tekstvak vroeg de bezoekende AI om een bestand te downloaden, wat het vervolgens ook deed.

Oude trucjes krijgen nieuw leven

De AI-browsers staan nog in de kinderschoenen, dus het is logischerwijs te verwachten dat dit soort gevaren uiteindelijk aangepakt worden. Maar het toont wel aan dat ze vooralsnog een enorm security-risico zijn. De AI's in kwestie kunnen veel uitvoeren, maar missen het vermogen om - net als mensen- eenvoudige gevaren te herkennen. Het maakt dat cybercriminelen de oude trukendoos weer open kunnen trekken en hiermee waarschijnlijk weer resultaten kunnen boeken.