Anthropic heeft Mythos 5 en Fable 5 uitgeschakeld

Het exportverbod betreft niet alleen Fable 5, dat op 9 juni beschikbaar kwam, maar ook Mythos 5, het AI-model dat vanwege de veiligheid maar door een selecte groep Amerikaanse bedrijven mag worden gebruikt. Allebei de programma’s gebruiken dezelfde onderliggende architectuur, Fable 5 was een beveiligde versie van Mythos 5, bedoeld voor het grote publiek. Eerder werd aangekondigd dat Mythos 5 binnenkort in vijftien landen beschikbaar zou komen, ook in Nederland.

Jailbreak

In de brief die Anthropic kreeg vanuit Washington, staan geen details over die zorgen voor de nationale veiligheid, laat Anthropic weten. ‘Wij hebben begrepen dat de regering meent kennis te hebben genomen van een methode om Fable 5 te omzeilen, ofwel te jailbreaken’. Die jailbreak is volgens Anthropic zelf niet zo interessant: ‘Wij hebben een demo gezien van deze specifieke techniek, die wordt gebruikt om een klein aantal reeds bekende, kleine kwetsbaarheden te identificeren. Deze kwetsbaarheden lijken allemaal relatief eenvoudig, en wij hebben vastgesteld dat andere, openbaar beschikbare modellen deze eveneens kunnen ontdekken zonder dat een omzeiling nodig is.’

Waarschuwing

Het exportverbod volgt op een waarschuwing van Amazon-topman Andy Jassy. Volgens een artikel in de Wall Street Journal heeft Jassy persoonlijk contact opgenomen met Scott Bessent, minister van Financiën. Security-onderzoekers van Amazon hadden namelijk ontdekt dat Claude Fable 5 met een speciale prompt informatie gaf, die kon worden gebruikt om cyberaanvallen uit te voeren. Een paar uur later kondigde Howard Lutnick, minister van Handel, de export-stop van zowel Fable 5 als Mythos 5 af. Alleen Amerikaanse staatsburgers zouden nog met de programma’s mogen werken, maar omdat Anthropic de nationaliteit van gebruikers niet op API-niveau kan vaststellen, zijn de modellen overal uitgezet. Fable was toen net 72 uur live. Pikant detail: Amazon is de grootste investeerder in Anthropic en AWS (Amazon Web Services) is de voornaamste trainingspartner van Anthropic.

Klaar voor de beurs

De blokkade treft Anthropic op een gevoelig moment. Het bedrijf diende begin deze maand vertrouwelijk een beursintroductie in bij de Amerikaanse beurswaakhond SEC, met een omzetprognose van $47 miljard en een waardering van $965 miljard na een recente investeringsronde. De gedwongen uitschakeling van de twee meest geavanceerde modellen gooit roet in het eten: potentiële beleggers zien nu dat de Amerikaanse overheid zonder voorafgaand overleg of technische onderbouwing een van de kernproducten van het bedrijf van de markt kan halen.

Discriminatie mag niet

De Europese Commissie onderzoekt de gevolgen van de exportbeperking die Anthropic is opgelegd. Brussel stelt dat maatregelen geen discriminatie van partners mogen inhouden en benadrukt het belang van technologische soevereiniteit. Den Haag heeft zich nog niet uitgesproken.

AI-deskundige Jarno Duursma schrijft in zijn nieuwsbrief dat de blokkade aantoont dat AI niet alleen technologie, maar ook geopolitieke, militaire en economische kracht vertegenwoordigt. ‘De blokkade is misschien tijdelijk, maar het signaal is helder’, schrijft hij. ‘Buitenlandse klanten hebben geen gegarandeerd recht op de krachtigste AI-softwaremodellen.’

Oplossing

Anthropic werkt aan een oplossing. De andere Claude-modellen van het bedrijf, zoals Opus 4.8, zijn nog wel beschikbaar. Wanneer Fable 5 en Mythos 5 weer beschikbaar zijn, is nog niet bekend.