Gerenommeerd dagblad trapt in val van generatieve AI

Het doel was het debat over identiteit eens flink op te schudden.

Het incident maakt duidelijk hoe makkelijk generatieve AI aanleiding kan geven tot misleiding en misinformatie. Het dagblad gaat diep door het stof voor de misser die eind vorige week werd geplaatst. "We nemen dit niet licht op. Het is een vertrouwensbreuk tussen de Irish Times en zijn lezers en wij verontschuldigen ons oprecht", zegt Ruadhán Mac Cormaic hoofdredacteur van het dagblad. "Het was een hoax. De persoon waarmee we correspondeerden was niet degene voor wie die zich uitgaf. We zijn slachtoffer van een moedwillige en gecoördineerde misleiding [...] Het onderstreept ook een van de uitdagingen die generatieve AI voor nieuwsorganisaties veroorzaakt. Wij - net als anderen - leren ervan en passen ons aan."

De misser kwam gedurende het weekend aan het licht toen het lezers opviel dat de foto van de vermeende schrijfster van het opiniestuk, Adriana Acosta-Cortez, foutjes bevatte, beschrijft The Register. Zo was de belichting onnatuurlijk en de rechter pupil van de vrouw was groter dan de linker. Ook waren delen van de foto onverklaarbaar wazig. Acosta-Cortez werd geïntroduceerd als een 29-jarige medewerkster in een gezondheidscentrum.

Een 'echte' Adriana Acosta-Cortez plaatste een dag later een vlammende uithaal naar het dagblad. "Een ooit respectabele nieuwsbron heeft zich verlaagd met verdeeldheid zaaiende bagger om clicks en verkeer naar hun website te trekken. Je hebt een beter screeningsproces nodig dan een geloofwaardig Gmail-adres."

Het was niet onmiddellijk duidelijk maar ook deze Twitteraar is de persoon die het opiniestuk aanbood aan The Irish Times. 'Acosta-Cortez' zegt bij The Daily Beast een semi-legitiem e-mailadres te hebben opgezet en een Twitter-account te hebben 'hergebruikt' dat eerder was opgezet tijdens de Covid-pandemie. "Ik heb het gewist en heb wat accounts gevolgd, nieuws en Equadoriaanse winkels, wat Spaanse taal om het legitiem te laten lijken."

Door AI-gefabriceerde misleiding is in opmars

De indiener van het gewraakte stuk bereikte wel het beoogde doel (I wanted to stirr the shit). Het onderwerp - bruiningsmiddelen als cultuurkaping - zorgde voor de nodige beroering en het feit dat het door AI is geschreven en de redactie van het dagblad dat niet in de gaten had, nog meer.

The Register haalt nog een waarschuwing aan van factchecker NewsGuard dat er een nieuwe generatie 'content farms' ontstaat, nadat er 49 websites waren gevonden die waarschijnlijk AI-gebaseerde clickbait-artikelen produceren.