AI‑kwetsbaarheid legt gat in biosecurity bloot: screening mist dodelijke eiwitten

Het lijkt erop dat we in de nabije toekomst vaker te maken zullen krijgen met bioterrorismedreigingen. Dat zou vooral komen door de snelle opmars van AI en het gebruik ervan in synthetische biologie.

De Financial Times meldt op basis van een op donderdag in vakblad Science gepubliceerd onderzoek dat een internationaal onderzoeksteam een lek vond in software die bestellingen van synthetisch DNA moet screenen en zo de toegang tot gevaarlijk genetisch materiaal blokkeert. De onderzoekers spreken van de eerste “zero day” in AI‑biosecurity.

Nieuwe, AI-gegenereerde eiwitten hebben vrijspel

In een grootschalige test genereerden wetenschappers met open‑source AI‑software meer dan 75.000 varianten van bekende gevaarlijke eiwitten, voorzien van kleine structurele tweaks die als biochemische vermomming dienen. De screening deed het goed bij natuurlijke, bekende toxines, maar liet een deel van de aangepaste varianten door.

Zelfs nadat de screeningssoftware gepatched was. bleef ongeveer 3 procent van de meest risicovolle varianten nog altijd onder de radar.

De waarschuwing komt terwijl AI‑gestuurd eiwitontwerp enorme kansen biedt voor zorg en wetenschap. Precies daarom benadrukken experts de andere kant van de medaille: dezelfde tools die de ontwikkeling van medicijnen versnellen, kunnen ook misbruikt worden voor kwaadaardige en zelfs dodelijke toepassingen.

Strengere screening en beperkingen

Biosecuritypartijen en autoriteiten, waaronder het International Gene Synthesis Consortium, hebben meegewerkt aan de patches en pleiten voor structurele verbeteringen: strengere, gestandaardiseerde screening, beperkingen in wat AI‑systemen kunnen genereren, en beter wereldwijd toezicht. Gezien de snelheid van technologische vooruitgang is het raamwerk vandaag nodig, niet morgen, aldus de experts.

Toch wordt de druk nog enigszins van de ketel gehaald. De onderzoekers geven namelijk als kanttekening toe dat het nog onwaarschijnlijk is dat de het gevaar van bioterrorisme accuut zal toenemen. Volgens het rapport is het ontwikkelen van dit soort gevaarlijke eiwitten zelfs met behulp van AI nog iets wat enorm veel kennis van zaken, alsook aanzienlijke middelen vereist, iets wat de aspirant bioterrorist waarschijnlijk niet bezit.