Opinie: Menselijke creativiteit als tegengif tegen “model collapse”

Model collapse is een verraderlijk verschijnsel waarbij AI-modellen hun eigen output blijven hergebruiken als trainingsdata. Dat leidt tot kwaliteitsverlies of vervlakking van data. En dit versnelt in een tijd waarin mensen steeds meer leunen op AI en steeds minder menselijke creativiteit toevoegen. Maar zonder menselijke creatie stikt AI in zijn eigen output. 

Wat is model collapse?

Onderzoekers waarschuwen al voor ‘synthetische’ content. Een studie van Rice en Stanford laat zien dat AI-modellen die plaatjes genereren vervormingen of wazigheid laten zien als je ze traint op hun eigen output. Ook onderzoek van Oxford en Cambridge stelt dat het steeds moeilijker wordt om schone menselijke data te verzamelen, naarmate het aandeel AI-gegenereerde content toeneemt. Dit brengt hoge risico’s met zich mee voor toekomstige generaties modellen.

Bij model collapse draait het om de feedback-lus: AI leert van AI. Kleine fouten worden groter, diversiteit gaat verloren en de output wordt generiek. Dit kan leiden tot een verlies van creativiteit, maar ook ernstige situaties zoals het versterken van een bias.

Waarom dit urgent is

De gevolgen zie je nu al. Stockfoto’s lijken steeds meer op elkaar door het hergebruik van generieke AI-beelden. SEO-teksten en productreviews verliezen leesbaarheid en nuance, waardoor consumenten minder vertrouwen krijgen in online informatie. Bedrijven die uitsluitend vertrouwen op AI-content lopen het risico beslissingen te nemen op basis van vervuilde data. Dat betekent slechtere marketingkeuzes, verlies van innovatiekracht en zelfs juridische of ethische problemen als bias of verkeerde aannames worden versterkt.

Zonder menselijke input holt de betrouwbaarheid van onze digitale informatievoorziening in rap tempo achteruit. Het risico van model collapse dient zich dus vandaag de dag al aan. Als er geen maatregelen worden genomen is het niet de vraag óf de gevolgen ervan gevoeld gaan worden, maar hoe snel, en in welke sector het meest.

Ode aan de menselijke input

Om model collapse te voorkomen is menselijke input onmisbaar. Dat betekent dat mensen actief bijdragen aan de creatie en kwaliteitscontrole van data. Ze kunnen nieuwe ervaringen, emoties en culturele perspectieven toevoegen. Zo brengen we nieuwe creativiteit en diversiteit in de data, die AI niet zelf kan genereren. Praktisch kan dit bijvoorbeeld door content handmatig te cureren, datasets te annoteren, feedbackloops te implementeren, of AI-uitkomsten kritisch te beoordelen en te corrigeren. Door dit proces blijven fouten en biases zichtbaar en kan de diversiteit en nuance van AI-output behouden blijven.

Dus ook als je helemaal geïntegreerd bent met tools als ChatGPT, Claude of Perplexity is het goed om af en toe eens een stap terug te nemen. Dit geldt voor ontwikkelaars, en beleidsmakers, die het belang van het cureren van datasets onder ogen moeten komen, maar ook voor gebruikers. Neem regelmatig de tijd om je AI-ondersteunde content goed onder de loep te nemen. Dan kun je voorkomen dat je content op de grote stapel van "typische ChatGPT verhalen" terechtkomt.

Wat dit betekent voor de tech-sector

Voor de techgemeenschap is er een duidelijke taak weggelegd. Ontwikkelaars moeten tools en checks inbouwen om de herkomst van data te borgen, zodat duidelijk blijft welke content door mensen is gemaakt en welke door AI. Bedrijven zouden beleid moeten opstellen voor datasetcuratie en een gezonde balans vinden tussen AI-productie en menselijke creativiteit.

Beleidsmakers kunnen bijdragen door kaders en standaarden te ontwikkelen die de kwaliteit van onze digitale infosfeer beschermen. Alleen door menselijke creativiteit consequent te blijven voeden, kunnen we AI bruikbaar, betrouwbaar en innovatief houden.