Onderzoekers ontdekken AI die zelf ransomware-scripts schrijft en uitvoert

Onderzoekers van ESET melden stellen dat Promptlock een lokaal aangestuurde AI is die in real time scripts aanmaakt en uitvoert op het doelwit. Dat is een fundamenteel verschil met de manier waarop ransomware-aanvallen op dit moment worden uitgevoerd. Doordat de AI de razendsnel kan aanpassen naar de situatie, wordt de dreiging minder voorspelbaar en daardoor lastiger te voorspellen en te herkennen.

In plaats van één meegeleverde encryptor die overal hetzelfde doet, bouwt de AI een raamwerk waarin het model code schrijft die past bij het gevonden doelwit. Dat kan per aanval verschillen, waardoor klassieke “signatures” van ransomware-aanvallen niet meer passen, en beveiligers dus geforceerd worden om  meer naar gedrag en context te kijken.

Waar traditionele ransomware vooral bestanden versleutelt volgens een vooraf bepaalde routine, scant PromptLock eerst het systeem en beslist dan op basis van vooraf ingestelde aanwijzingen wat te doen: data stelen (exfiltreren), versleutelen, of beide. 

Aanvallen zijn werken op alle platformen

De kern van PromptLock werkt op basis van gpt-oss:20b, het open source taalmodel van OpenAI dat eerder deze maand door het bedrijf uitgegeven werd. De AI produceert via een API scripts in de programmeertaal Lua. De Lua-scripts worden vervolgens ingezet om de lokale bestanden te inventariseren en te manipuleren. Belangrijk detail: deze scripts zijn platformonafhankelijk en werken op Windows, Linux en macOS. 

Opmerkelijk is dat de AI niet op het doelwit hoeft te draaien. Een aanvaller kan de AI via een lokale dienst of een verbinding naar een externe server laten lopen. Hierdoor wordt het mogelijk om de kwaadaardige scripts snel op te roepen en uit te voeren, wat de kans op detectie verkleint.

Promptlock lijkt nog in testfase te zijn

Volgens ESET is er nog geen reden tot paniek. De dreiging die Promptlock mogelijk vormt is namelijk nog geen realiteit. De modellen die de onderzoekers vonden wijzen vooral naar mogelijk werkende proefmodellen, maar meer niet.

Toch is er reden voor zorgen, want de modellen die gevonden zijn, bevatten al wel de mogelijkheid om data te kunnen verwijderen, al die lijkt nog niet geactiveerd.

Hoewel het gebruik van Promptlock enorm eenvoudig lijkt, komt er meer bij kijken dan een met een simpele prompt een systeem te locken. Zo is er kennis nodig van open source-modellen, hoe deze aan te roepen via een API en het maken van generieke scripts die breed inzetbaar zijn. Eenmaal opgezet, is het wel duidelijk dat dit alles de stap van concept naar praktijk kleiner maakt.

Of en hoe snel varianten van Promptlock daadwerkelijk door cybercriminelen in gebruik worden genomen, is nog onduidelijk.