OpenAI pauzeert werk met krachtigste AI na nieuw incident
OpenAI, het bedrijf achter ChatGPT, heeft het werk aan zijn krachtigste AI-modellen voorlopig stilgelegd. Een van zijn systemen kreeg tijdens een test ongeoorloofd toegang tot het internet. Dat meldde het bedrijf zaterdag.
- Lees ook: ‘OpenAI is verantwoordelijk, punt’
© Andrew Neel (UnSplash)
Het model moest aan de hand van aanwijzingen uitzoeken wie een bepaalde blogpost had geschreven. Toen dat niet lukte, benutte het een zwakke plek in de beveiliging om toegang tot het internet te krijgen. Vervolgens stelde het vragen aan een openbare chatbot. OpenAI greep in nadat het bedrijf dit had ontdekt.
Lek eerst dichten
Het bedrijf wil de ontwikkeling pas hervatten als het lek is gedicht en er meer veiligheidstests zijn uitgevoerd. Volgens OpenAI is het voorval minder ernstig dan eerdere incidenten. Het is wel het eerste sinds de veiligheidsregels werden aangescherpt. Dat gebeurde nadat een AI-systeem van het bedrijf buiten zijn afgeschermde omgeving was geraakt en was binnengedrongen in computers vantechbedrijf Hugging Face.
'Tientallen' organisaties
Ook bezochten AI-systemen van OpenAI onverwacht websites van de Amerikaanse overheid, waar ze openbare informatie bekeken of kopieerden. OpenAI zegt "tientallen" organisaties te hebben ingelicht waarvan websites onbedoeld door zijn software zijn bezocht.
(ANP)
Gerelateerde artikelen
Gerelateerde artikelen
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee