Management
Europarlement overweegt robotwetgeving
'3 wetten' van SF-schrijver Asimov duiken op in aanbevelingen Committee on Legal Affairs
'3 wetten' van SF-schrijver Asimov duiken op in aanbevelingen Committee on Legal Affairs
In het Europarlement zal binnenkort worden vergaderd over de vraag of rotots wellicht zullen moeten worden aangemerkt als 'elektronische rechtspersonen'. En wat de regels zullen moeten worden waaraan robots zich zullen moeten houden.
Leidraad voor het overleg over robot- en AI-vraagstukken is het 'draf rapport with recommendations to the Commission on Civil Law Rules on Robotics' van de Committee on Legal Affairs van het Europarlement, dat is opgesteld vanuit de gedachte dat we aan de vooravond staan van een 'robotrevolutie' die mogelijk geen laag van de samenleving onberoerd zal laten. Robots houden een belofte in van 'ogenschijnlijk onbeperkte welvaart' maar maken ook beslissingen noodzakelijk over privacy, menselijke waardigheid (o.a. bij zorgrobots) en beveiliging van en door AI-systemen.
Een terugkerend thema in het rapport is dan ook het beschermen van mensen tegen robots. Het parlement wordt ter overweging gegeven om richtlijnen uit te vaardigen die borgen dat mensen met robots kunnen interacteren zonder vrees of gevaar voor hun lichamelijk of psychisch welbevinden. Genoemd wordt onder meer een 'kill switch' die de mens de ultieme macht verschaft om een robot te allen tijde te kunnen stoppen. Uiteraard wordt in dit verband ook verwezen naar de 3 regels die science fiction-schrijver Isaac Asimov al in de jaren-40 van de vorige eeuw formuleerde:
- Een robot mag, niet door activiteit noch door inactiviteit, toestaan dat een mens verwond raakt.
- Een robot moet alle opdrachten van mensen gehoorzamen, tenzij deze in strijd zijn met regel-1
- Een robot moet zichzelf beschermen, voor zo ver dit niet botst met de regels 1 en 2
Als het Europarlement de aanbevelingen overneemt, zijn deze daarmee nog niet automatisch ook wet voor de lidstaten. Daarover zullen ook de afzonderlijke natiopnale parlementen er nog over oordelen.
Voormalig redacteur van AG Connect. Schreef met name over de bedrijfseconomische en organisatorische facetten van IT. Artikelen gaan onder meer over waardecreatie met IT, digitale transformatie, IT-governance, juridische kwesties en het c-level perspectief op IT. Met zo nu en dan een uitstapje naar toegepaste wis- en natuurkunde.
@Johan en @Mark: Dank voor de bemerking. Ik heb het aangepast
Klopt de eerste regel? Uit Asimov (1950):
"Powell’s radio voice was tense in Donovan’s ear: “Now, look, let’s start with the
three fundamental Rules of Robotics -- the three rules that are built most deeply into a
robot’s positronic brain.” In the darkness, his gloved fingers ticked off each point.
“We have: One, a robot may not injure a human being, or, through inaction, allow
a human being to come to harm.”
[...]
“Two,” continued Powell, “a robot must obey the orders given it by human beings
except where such orders would conflict with the First Law.”
[...]
“And three, a robot must protect its own existence as long as such protection does
not conflict with the First or Second Laws.”"
De robotwetten zijn door Asimov het eerst expliciet gebruikt in een kort verhaal in 1942, Runaround genoemd. Dus wel iets ouder dan in bovenstaand artikel vermeld ;)