Cyberexperts keren zich tegen AI-verbod VS
Een groep van vele tientallen cybersecurity-experts heeft protest aangetekend tegen het verbod op het algemeen gebruik van de nieuwste Anthropic-modellen. Het verbod schaadt verdedigers, creëert onzekerheid in de markt en ondermijnt het de Amerikaanse AI-positie zonder dat daar een voldoende groot veiligheidsrisico tegenover staat.
De Amerikaanse regering gaf Anthropic onlangs de opdracht om toegang tot de meest geavanceerde modellen onmiddellijk stop te zetten, behalve voor een selecte groep Amerikaanse bedrijven. Met de nieuwe AI-modellen van Anthropic (Fable 5 en Mythos 5) kunnen zeer efficiënt kwetsbaarheden in software worden opgespoord.
Het verbod kwam er nadat Amazon-onderzoekers een manier hadden gevonden om de beveiligingsrestricties van Fable 5 te omzeilen. Amazon-CEO Andy Jassy zou beleidsmakers hebben gewaarschuwd dat de ingebouwde guardrails onvoldoende waren.
Anthropic stelt dat het om een beperkte en specifieke jailbreak-techniek gaat waarbij het model wordt gevraagd softwarecode te analyseren en kwetsbaarheden te vinden. Het bedrijf zegt dat de aangetoonde kwetsbaarheden beperkt en al bekend waren, en ook door andere publiek beschikbare modellen gevonden kunnen worden.
Mythos 5 is niet uniek
In een open brief aan Howard Lutnick, de Amerikaanse minister van Handel, en Sean Cairncross, de Amerikaanse nationaal directeur voor cyberveiligheid, erkennen de ondertekenaars dat Mythos 5 sterk is in het vinden van softwarefouten en het ontwikkelen van exploits.
Tegelijkertijd benadrukken zij dat veel andere commerciële en open-source modellen vergelijkbare capaciteiten hebben. Anthropic waarschuwt bovendien dat, als dezelfde norm op de hele sector wordt toegepast, vrijwel alle geavanceerde AI-modellen zouden worden tegengehouden.
China loopt achterstand in
De discussie speelt zich af tegen de achtergrond van de AI-race tussen de Verenigde Staten en China. De experts stellen dat Chinese AI-modellen slechts enkele maanden achterlopen op de beste Amerikaanse systemen. Het Amerikaanse verbod vertraagt de respons op aanvallers die straks gebruik kunnen maken van Chinese modellen. Bovendien leidt het beperken van toegang tot geavanceerde Amerikaanse modellen tot een verzwakking van de concurrentiepositie van de VS, terwijl rivalen snel vooruitgaan.
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee