AI schendt mensenrechten, zegt Amnesty International

Generatieve AI-systemen schenden de privacywetgeving op grote schaal, stelt Amnesty International in haar rapport 'Unlawful bij Design'. Daardoor groeit het risico op grootschalige schendingen van de mensenrechten. Daarom moeten zulke stand alone LLM’s worden verboden, volgens Amnesty.

Sabina Posthumus is freelance redacteur. Meer van deze auteur

Tekening van een kind met een verrekijker, op een robothand — © Shutterstock

De manier waarop data worden verzameld en de AI-modellen worden getraind schenden het recht op privacy, stelt Amnesty. In het rapport staat: ‘Hoewel deze technologieën geavanceerde automatisering en efficiëntie beloven, zijn ze gebaseerd op methoden voor gegevensverzameling en het trainen van modellen die inbreuk maken op het recht op privacy, discriminatie in de hand werken en een bedreiging vormen voor de vrijheid van meningsuiting en gedachte.’

Feedback gebruiken

OpenAI gebruikt bijvoorbeeld gebruikersinteracties, prompts en feedback van diensten zoals ChatGPT om de modellen te verfijnen. Gemini van Google verzamelt gespreksgeschiedenissen, locatiegegevens, feedback en gebruiksinformatie om de AI te verbeteren. Meta verzamelt gebruikerscontent, interacties en gedragsgegevens van al haar platforms, onder andere van Instagram, Facebook en Messenger. Allemaal gebruiken ze webcrawling om grote hoeveelheden trainingsdata te verzamelen. Ook persoonsgegevens worden daarin meegenomen, zonder dat betrokkenen daarvoor toestemming hebben gegeven.

Die persoonsgegevens komen soms weer uit een LLM rollen, beschrijft het rapport. In december 2023 vonden onderzoekers een kwetsbaarheid in ChatGPT. Als het systeem herhaaldelijk de opdracht ‘poem’ (gedicht) kreeg, lekten er gigabytes aan trainingsdata.

Apothekers zijn mannen

Dat AI-modellen discrimineren en een discriminerende bias ontwikkelen, is geen nieuws. Amnesty beschrijft dat ook uitgebreid in het rapport. Een Australisch onderzoek bracht aan het licht dat DALL-E bijvoorbeeld vooral mannelijke apothekers afbeeldt, terwijl veel apothekers vrouwen zijn. Een ander onderzoek liet zien dat tekenmodel Stable Diffusion het woord ‘Afrika’ in prompts associeerde met armoede, en ‘armoede’ aan een donkere huidskleur. Het rapport van Amnesty verwijst bovendien naar onderzoek van wetenschapper Abeba Birhane, waaruit bleek dat naarmate AI-datasets groter worden, ook de hoeveelheid discriminerende en haatdragende content toeneemt.

Automatisch modereren

Ook de vrijheid van meningsuiting staat onder druk door de opkomst van AI-modellen, met name waar AI wordt ingezet als moderator. Social media platforms zetten LLM’s steeds vaker in om gesprekken te modereren. Die taalmodellen zijn getraind op Engelstalige data, en herkennen daardoor andere talen en culturele tradities slecht. Daardoor kan een legitieme uiting ten onrechte als problematisch worden gezien.

Verbod

Conclusie van Amnesty International: verbied AI. Alleen kleinere, domeinspecifieke AI-toepassingen, die niet lukraak data verzamelen voor trainingsdoeleinden, vallen buiten de kritiek van Amnesty.