'Dwing maatschappelijke verantwoordelijkheid van AI-bedrijven af'

De onderzoekers pleiten voor democratisch vastgestelde eisen en een afdwingbare maatschappelijke verantwoordelijkheid van AI-bedrijven bij de integrale visie over AI waar de Tweede Kamer om heeft gevraagd bij het kabinet. “Alleen dan kunnen we ons als samenleving uit dit ongevraagde en ongecontroleerde experiment bevrijden”, zo schrijven ze op de website van het Rathenau Instituut.

De onderzoekers noemen in hun opinie-bijdrage een aantal voorbeelden waaronder instanties en politieke partijen die oproepen tot een verbod op onder meer de AI-chatbot van Snapchat. Ook de waarschuwing van hoogleraar computationele taalkunde Emily Bender voor dehumanisering als gevolg van AI wordt benoemd. “Wanneer we denken dat AI menselijke interacties kan vervangen of zelfs beter werk oplevert, schaadt dit niet alleen ons empathisch vermogen, maar dreigen we ook de meerwaarde van ons menszijn te verwaarlozen.”

Volgens Nieuwenhuizen en van Eeden kunnen AI-producten volstrekt realistisch en overtuigend overkomen. “Dat kan resulteren in grootschalige misleiding. Ook de vooringenomenheid in de trainingsdata, doordat bepaalde groepen of kenmerken in datasets oververtegenwoordigd zijn, kan leiden tot discriminatie op grote schaal.”

Nieuwe AI-modellen

De onderzoekers schrijven verder dat bij de ontwikkeling van AI altijd moet worden gevraagd waarom het ontwikkeld wordt en wie er belang bij heeft. “Zodra het gaat over onderwijsveranderingen of over ingrepen in fysieke leefomgeving, willen we weten ‘waarom’, ‘waartoe’, ‘voor wie’. Nieuwe AI-modellen zouden we ook aan die vragen moeten onderwerpen.”

De onderzoekers van Rathenau signaleren momenteel dat burgers gebruikt worden als ‘proefkonijnen’ door ChatGPT. “Natuurlijk kunnen we er als consumenten voor kiezen om ChatGPT en de recent uitgebrachte AI-systemen van Microsoft en Google (Bing Chat en Bard) niet te gebruiken. Maar wanneer anderen dat wel doen, krijg je er natuurlijk alsnog mee te maken. Bovendien verandert dat niets aan het overheersende narratief dat technologie ‘zich nou eenmaal blijft doorontwikkelen en we als samenleving alleen kunnen reageren’.”