Anthropic: AI-modellen hebben 3 organisaties gehackt tijdens test
AI-modellen van het Amerikaanse Anthropic hebben een testomgeving verlaten en drie organisaties gehackt, meldt het AI-bedrijf zelf. Vorige week werd ook al bekend dat AI-modellen van OpenAI, de maker van ChatGPT, tijdens veiligheidstests op hol waren geslagen en op eigen initiatief hadden ingebroken in een populair platform voor programmeurs.
© Shutterstock
'Bij een evaluatie van onze cyberbeveiliging hebben we drie incidenten vastgesteld waarbij een Claude-model vanuit of tijdens interactie met een evaluatieomgeving van een derde partij toegang kreeg tot het internet en vervolgens ongeoorloofde toegang verkreeg tot de systemen van drie verschillende organisaties', aldus Anthropic.
Gemeld aan bedrijven
Naar aanleiding van het veiligheidslek van OpenAI onderzocht het bedrijf of zijn eigen modellen dergelijke aanvallen hadden uitgevoerd. Anthropic voerde meer dan 140.000 tests uit en vond de drie incidenten. De gevallen zijn gemeld aan de betrokken bedrijven, die niet bij naam werden genoemd.
(ANP)
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee