Computer groeit in rol zedenmeester
“Om te zorgen dat onze regels en normen worden nageleefd, is het zaak dat de machines, waaraan wij een deel van ons werk uit handen geven, zelfstandig morele oordelen kunnen vellen”, zegt de vorige week gepromoveerde filosoof Vincent Wiegel. “Ze handelen immers vaak al zelfstandig.” De Zuid-Koreaanse regering werkt volgens hem inmiddels al aan een ethische code voor robots Wiegel ontwikkelde een virtueel laboratorium voor filosofisch onderzoek. Hij onderzocht voor een groot aantal situaties of het mogelijk is om computers/robots morele afwegingen te laten maken, bijvoorbeeld in verband met de privacy van gegevens bij een verzekeringsmaatschappij. Geïdentificeerde morele regels werden met behulp van een logisch raamwerk, DEAL, geformaliseerd en in software omgezet. Zijn bevinding tot nu toe is dat het in zekere mate mogelijk is om morele noties te implementeren. Maar de concrete vertaling van die morele noties in software zal vaak nog een harde dobber zijn. Voorlopig hoeven de verwachtingen op dat gebied dus niet al te hoog gespannen te zijn, hoewel het volgens Wiegel wel aannemelijk is dat er langzaam vooruitgang zal worden geboekt.
Uitsluitsel
Interessanter is wellicht een ander aspect van Wiegels onderzoek. Modellering van onze eigen kennis van moraliteit leidt volgens Wiegels promotor Jeroen van den Hoven, niet alleen tot beter inzicht in de aard, werking en inconsistenties van onze morele toerusting. Het biedt bovendien mogelijkheden om uitsluitsel te verkrijgen inzake taaie en soms als eeuwen slepende filosofische debatten.
Robert Axelrod liet in de jaren ‘80 aan de hand van toen nog vrij eenvoudige software-agents zien dat de vuistregel ‘eerlijk duurt het langst’ klopt: agents die eerlijk spelen overleven tegenstrevers die elkaar over en weer met liegen en bedriegen het functioneren bemoeilijken. Wiegel voerde in zijn ‘Sopholab’ vergelijkbare experimenten uit om veel complexere morele stelsels op hun merites te beoordelen. Met soms opzienbarende resultaten. Zo toonde hij de functionele equivalentie aan van twee rivaliserende varianten van de ethisch filosofische traditie van het utilitarisme. Aan de hand van simulaties met daad-utilitarisch en regel-utilitarisch geprogrammeerde software-agents liet Wiegel zien dat aanhangers van beide stromingen al meer dan een eeuw verwikkeld zijn in een betekenisloos debat: het doet er eenvoudig niet toe of men regels danwel handelingen als voorwerp van een utilitaristische ethiek kiest.