Beheer

Artificial Intelligence
tiener computer hoodie

ChatGPT opent nieuwe wereld voor scriptkiddies en meer kwaadwillenden

Een volgende wapenwedloop dient zich aan.

© Shutterstock VALUA VITALY
9 januari 2023

Een volgende wapenwedloop dient zich aan.

Dat ChatGPT - het taalmodel van OpenAI waar iedereen mee kan spelen - ook werkende software kan schrijven, is bekend. Dat werd ook snel duidelijk in de duistere wereld van de cybercriminelen, ontdekte IT-beveiliger Check Point Research.

Al binnen enkele weken nadat ChatGPT beschikbaar kwam, bleken deelnemers aan cybercrimeforums het hulpmiddel te gebruiken om software te maken die kan worden ingezet voor onder meer ransomware-aanvallen, spionage en spam, constateert Check Point Research in een vrijdag verschenen rapport. In een aantal gevallen was het duidelijk dat deze software gemaakt was door mensen met weinig of geen ervaring met programmeren.

Volgens de onderzoekers heeft de cybercriminele gemeenschap overduidelijk interesse in deze recente trend om kwaadaardige code te schrijven. Het is echter nog te vroeg om te concluderen dat ChatGPT een nieuw favoriet gereedschap voor de deelnemers op het Dark Web wordt, citeert Ars Technica het rapport van Check Point Research.

Misbruik ChatGPT is simpel

De onderzoekers halen verschillende voorbeelden aan zoals een waarin met Python code verschillende cryptografische methoden worden gecombineerd om bestanden te versleutelen en te decoderen. De betreffende forumleden gaven aan dat ChatGPT hen flink had geholpen. De code kan zowel voor 'goede' toepassingen gebruikt worden als voor het maken van ransomware.

Check Point Research heeft ook zelf ChatGPT gebruikt om te zien of met het hulpmiddel effectieve malware kan worden gecreëerd. Het bleek dat er zonder ook maar een regel code zelf te schrijven redelijk overtuigende phishingmails mee kunnen worden gemaakt en een kwaadaardige Excel-macro. "Het lastige werk werd gedaan door AI. Het enige dat wij nog zouden hoeven doen, is de aanval uitvoeren", schrijven de onderzoekers. Hoewel OpneAI in de voorwaarden voor het gebruik van ChatGPT heeft bepaald dat het gereedschap niet voor kwaadaardige doelen mag worden ingezet, was het eenvoudig om de restricties te omzeilen.

Lees meer over
1
Reacties
Wim de Raadt 09 januari 2023 13:52

Als AI nog zo inde kinderschoenen staat met deze ontwikkelingen, is het dan wel verstandig om dit te implementeren ?

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.