OpenAI remt Astra af vanwege veiligheidsrisico’s

OpenAI toetst haar eigen AI-modellen aan het zogenaamde Preparedness Framework. Critical is het hoogste niveau. Op dat niveau kan het model zelfstandig zero-days opsporen in goed beveiligde, kritieke systemen, en daar misbruik van maken. Ook een model dat op basis van een globaal omschreven doel een nieuwe aanvalsstrategie kan bedenken en uitvoeren, voldoet aan de definitie ‘critical’.

Kritiek niveau al bereikt

OpenAI zegt over Astra: ‘We cannot rule out critical cyber capabilities’, de organisatie vermoedt dat Astra dat kritieke niveau zou bereiken, of misschien al had bereikt. Ter vergelijking: GPT-5.6-Sol, dat onlangs samen met een nog ongepubliceerd model uit de testomgeving ontsnapte, bleef steken op niveau ‘high’, een stap lager dan ‘critical’.

Op de rem

OpenAI heeft dus op de rem getrapt. De interne werkzaamheden rond Astra liggen stil. Er zijn maatregelen aangekondigd, die eerst moeten zijn doorgevoerd, voordat de ontwikkeling van Astra weer kan worden opgepakt. Zo moeten modellen zoals dit voortaan worden getoetst in geïsoleerde omgevingen, waar ze maar beperkt toegang tot externe tools hebben. Ook krijgen ze extra bescherming en encryptie, schrijft OpenAI in een blog.

Denkstappen volgen

Om problemen volgende keer te voorkomen, zet OpenAI monitoring op, waarbij de denkstappen worden gevolgd van alle agentic toepassingen van Astra, inclusief training. Op die manier vallen riskante acties sneller op, en kunnen ze worden afgebroken. Ook zegt OpenAI dat ze samenwerken met overheidsinstanties en AI-veiligheidsorganisaties om de capaciteiten van het model verder te testen. De maatregelen worden ook gedeeld met externe testpartners.