AI kiest liever voor AI, vooral bij sollicitaties

Heb je je cv zelf met GPT-4o gemaakt en wordt die beoordeeld door hetzelfde model? Dan heb je ineens tot wel 60 procent meer kans om voor een gesprek uitgenodigd te worden dan iemand die alles zelf heeft getypt, blijkt uit recent onderzoek van onder andere University of Maryland.

De Onderzoekers ontdekten dat Large Language Models (LLM’s) zoals GPT-4o, LLaMA en DeepSeek behoorlijk bevooroordeeld zijn. Ze selecteren cv’s die lijken op hun eigen schrijfstijl en structuur, zelfs als de inhoud gelijkwaardig is aan die van een mens. Ze noemden dit fenomeen 'AI self-preferencing' en blijkt vooral te verschijnen in zakelijke sectoren als sales en accounting.

Waarom kiest AI zijn eigen werk?

Het onderzoek vergeleek ruim 2200 cv’s, zowel handgeschreven als gegenereerd door verschillende AI-modellen. De uitkomst: de meeste grote AI’s kozen in 68 tot 88 procent van de gevallen voor hun eigen creaties boven menselijke inzendingen. Zelfs tussen verschillende AI-modellen was er een duidelijke voorkeur voor het ‘eigen merk’, al was dat effect iets minder uitgesproken.

DeepSeek V3 bleek de grootste voorkeur voor eigen geschreven materiaal te hebben met 84 procent. OpenAI's GPT-4o scoorde het laagst en koos in 'slechts' 64 procent van de gevallen voor door zichzelf geschreven sollicitatiebrieven. 

In dit onderzoek wordt duidelijk dat het gebruiken van AI kan lonen, al is het alleen al omdat steeds meer recruiters en bedrijven AI inzetten om een eerste schifting te maken in de sollicitaties die ze ontvangen.

Vragen over eerlijkheid

Maar als je iets verder kijkt dan deze eenvoudige implementatie, ontstaan er vragen over eerlijkheid bij gebruik van AI. Als voorbeeld in deze context: twee kandidaten met dezelfde kwalificaties kunnen verschillende kansen krijgen, puur omdat de een AI heeft gebruikt en de ander niet. Volgens de onderzoekers is dit geen bewuste discriminatie, maar het zet wel vraagtekens bij de objectiviteit van het digitale selectieproces en AI-gebruik.

De onderzoekers stellen twee oplossingen voor: geef de AI expliciet de opdracht om niet naar de herkomst van een cv te kijken, of laat meerdere modellen de sollicitaties beoordelen. Vooral dit laatste bleek effectief, want de voorkeur voor AI-materiaal verdween hierbij. 

Het onderzoek geeft vooral aan dat het belangrijk blijft om kritisch te zijn op hoe deze systemen werken in wat voor ongeziene impact ze op alledaagse processen kunnen hebben. Transparantie over het gebruik van AI en het waarborgen van gelijke kansen zijn essentieel.