Wanneer frontier-AI ook een beveiligingskwestie wordt

De beveiliging rond het model wordt steeds belangrijker 
Fable 5 gebruikt classificatiemodellen om verzoeken met een hoger risico te detecteren, als ze bijvoorbeeld betrekking hebben op cybersecurity, biologie en chemie. Wanneer een verzoek risicovol is, stuurt Anthropic het antwoord naar eigen zeggen door naar een minder krachtig model, in plaats van het volledige Mythos-model de taak te laten uitvoeren. Meer dan 95% van de Fable 5-sessies zou deze optie niet triggeren, maar Anthropic erkent ook dat de beveiligingsmaatregelen bewust conservatief zijn ingesteld en daardoor false positives kunnen opleveren.

Voor securityteams heeft dit bredere gevolgen: beveiligingsmaatregelen voor AI worden onderdeel van de securityarchitectuur. Ze moeten worden getest, gemonitord en begrepen op dezelfde manier waarop organisaties toegangscontroles, logging en processen rondom privileged access valideren.

De bottleneck verschuift van ontdekking naar herstel 
Uit eerdere tests van Anthropics Mythos Preview bleek dat het model kwetsbaarheden in besturingssystemen en browsers kon identificeren en exploiteren. In de preview werden meer dan 10.000 belangrijke kwetsbaarheden gevonden. Dat brengt een nieuwe uitdaging aan het licht: sneller bugs vinden is nuttig, maar het oplossen ervan blijft een traag proces.  

Het belangrijkste gevolg is niet zozeer dat iedere kwetsbaarheid plotseling zal worden misbruikt, maar dat relevante kwetsbaarheden sneller worden ontdekt dan teams ze kunnen valideren, prioriteren en verhelpen. Anthropic benadrukt zelf dat softwareteams overweldigd kunnen raken door AI-ondersteunde detectie, vooral wanneer het aantal meldingen sneller groeit dan hun vermogen om patches te ontwikkelen. 

Voor organisaties die software gebruiken betekent dit dat vulnerability management meer context nodig heeft. Alleen severity scores zijn niet voldoende, teams moeten inzicht hebben in de daadwerkelijke kans op misbruik, blootstelling, impact, interesse van aanvallers, beschikbaarheid van proof-of-conceptcode en alternatieve beveiligingsmaatregelen. Hier wordt Cyber Threat Intelligence steeds belangrijker door te helpen bepalen welke kwetsbaarheden als eerste relevant worden, welke sectoren worden aangevallen en welke nieuwe exploittechnieken om onmiddellijke actie vragen.

Dataretentie en governance mogen niet worden genegeerd
Anthropic introduceert daarnaast een bewaartermijn van 30 dagen voor gegevens van Fable 5 en Mythos 5. Voor organisaties met strenge eisen voor gegevensverwerking is het daarom belangrijk te beoordelen welke gegevens via frontier-modellen worden verwerkt en hoe de bewaartermijn zich verhoudt tot het interne beleid. AI-adoptie kan daarmee niet los worden gezien van governance.

Wat securityteams hiervan moeten meenemen 
De releases van Fable 5 en Mythos 5 laten zien dat frontier-AI een meer operationele fase ingaat. Voor securityteams betekent dat drie dingen: 

• Ten eerste zullen de responstijden bij kwetsbaarheden waarschijnlijk verder onder druk komen te staan. Kwetsbaarheden met een grote potentiële impact moeten mogelijk binnen enkele uren als potentieel exploiteerbaar worden beschouwd, in plaats van binnen enkele weken.  
• Ten tweede moet AI-governance verder gaan dan alleen acceptable-use policies. Er moet ook worden gekeken naar dataretentie, toegang tot modellen, promptlogging, de omgang met gevoelige code en de manier waarop interne teams AI inzetten voor securityonderzoek.  
• Ten derde moeten threat intelligence en detectie gelijke tred houden met de manier waarop AI daadwerkelijk door aanvallers en verdedigers wordt gebruikt. Algemene beweringen dat "AI wordt gebruikt bij cyberaanvallen" zijn niet bruikbaar. Het gaat erom of AI de ontwikkeling van exploits versnelt, social engineering verbetert, automatische verkenning mogelijk maakt of ervoor zorgt dat meer relevante kwetsbaarheden sneller worden ontdekt. 

Frontier-AI vervangt vulnerability management, threat intelligence of security operations niet. Het verhoogt het tempo waarin deze disciplines moeten opereren. Naarmate de mogelijkheden van AI toenemen, zijn securityteams die snellere ontdekking kunnen omzetten in snellere prioritering, snellere validatie en duidelijkere defensieve actie het meest in het voordeel. 

Meer weten over hoe je sneller kunt inspelen op nieuwe kwetsbaarheden en cyberdreigingen? Neem contact op met Conscia.