Hawking, Musk en Wozniak willen verbod op robot-soldaten

De ondertekenaars van de open brief maken zich zorgen over het ontstaan van een wapenwedloop op het gebied van kunstmatig intelligente aanvalssystemen. De ontwikkeling van 'artificial intelligence' is zo ver gevorderd, dat dergelijke systemen binnen enkele jaren inzetbaar zouden kunnen zijn.

De inzet is hoog. Autonome wapens worden gezien als de derde revolutie in oorlogsvoering - na buskruit en kernwapens. Sommigen zien daar alleen voordelen in, schrijven de opstellers van de open brief. Door menselijke soldaten te vervangen door machines, zullen er op het slagveld minder slachtoffers vallen, is de redenering.

Daar staat tegenover dat diezelfde conclusie de drempel om een oorlog te ontketenen verlaagt, aldus de open brief. En de bij-effecten zullen enorm zijn. AI-wapens vergen geen dure materialen of lastig te verkrijgen grondstoffen, en zullen makkelijk 'en masse' geproduceerd kunnen worden. Dat betekent niet alleen dat ze snel verspreid zullen raken over de wereld, maar ook makkelijk in handen zullen vallen van terroristen.

Als één van de militaire grootmachten daar echt werk van gaat maken, wordt er een wapenwedloop ontketend met een onduidelijk einde. Die ontwikkeling zou in de kiem gesmoord moeten worden door een moratorium.

De open brief, die vandaag officieel gepresenteerd wordt bij de International Joint Conferences on Artificial Intelligence-conferentie, is inmiddels ondertekend door een waslijst aan AI-wetenschappers en andere prominenten. Tot de bekendste horen Stephen Hawking, Elon Musk en Steve Wozniak, die ook eerder al kanttekeningen plaatsten bij de toepassing van kunstmatige intelligentie. Op de lijst prijken ook de namen van een aantal Nederlanders. De bekendste zijn Louis Vuurpijl en Paul André Kamsteeg, beide assistent-professor op het gebied van AI aan de Radboud Universiteit, en Siegfried Nijssen, assistent-professor computerwetenschappen in Leiden.