Innovatie & Strategie

Artificial Intelligence
verkiezingen

Zo krijgt AI rol in manipulatie meningen

Tekstgenererende algoritmen kunnen inmiddels taalkundig correcte en inhoudelijke paragrafen produceren.

25 september 2019

Tekstgenererende algoritmen kunnen inmiddels taalkundig correcte en inhoudelijke paragrafen produceren.

Algoritmen die zelfstandig teksten genereren zijn steeds beter in staat complete paragrafen op te stellen die niet alleen taalkundig deugen, maar ook inhoudelijk best goed in elkaar zitten.

De kwaliteit van tekstgenererende algoritmen neemt toe door de grote aandacht die er voor de toepassingen zijn. "Een aantal jaar geleden was 'word salad' nog de beste omschrijving van wat dergelijke algoritmen opleverden", zegt Sander Wubben, universitair docent Conversational AI and Natural Language Generation aan de Universiteit Tilburg. "Op basis van statistieken konden wel woorden achter elkaar gezet worden in zinnen die grammaticaal klopten, maar inhoudelijk eigenlijk niets voorstelden. Dat verandert wel snel en we komen nu op het punt dat dergelijke systemen ook wel hele paragrafen zinnige tekst kunnen produceren."

Dat is interessant omdat daarmee online manipulatie veel gemakkelijker wordt. Reviews van restaurants bijvoorbeeld kun je in grote hoeveelheden automatisch laten maken, Maar ook tweets bijvoorbeeld in een poging verkiezingen te manipuleren.

Kat-en-muisspel in volle gang

De tegenmaatregelen worden ook steeds geavanceerder. Zo noemt Wubben dat dergelijke algoritmen in tegenstelling tot mensen nooit spelfouten maken, want die komen slechts weinig voor in de data waarmee zo'n systeem wordt gevoed. Ook nemen ze vaak de stijl aan van de berichten waar ze op zijn getraind, waardoor de automatische gegenereerde teksten daar aan zijn te herkennen. Wubben: "Vervolgens zie je natuurlijk dat ook  de tekstgenererende algoritmen daar weer op worden aangepast. Het is echt een kat-en-muisspel zoals je dat ook ziet bij deep fakes [videos waarin met behulp van videomanipulatie bekende personen dingen zeggen die ze nooit zelf hebben gezegd, red]. "

OpenAI - de nonprofit-organisatie waarmee Elon Musk de industrie wil aanzetten tot maatschappelijk verantwoord gebruik van AI - maakte begin dit jaar nog melding van een tekstgenererend algoritme GPT dat zo goed zou zijn dat het té gevaarlijk was om vrij te geven. Later in het jaar kwam GPT alsnog als open source code beschikbaar en bleek het wel mee te vallen met de kwaliteit van de teksten. "Musk is heel goed in het creëren van publiciteit door zaken spannender neer te zetten dan ze zijn. Het is goed dat hij met OpenAI aandacht geeft aan de ethische en maatschappelijke kanten van de inzet van AI, maar het is in zekere zin ook een bliksemafleider voor bijvoorbeeld de ontwikkelingen met AI bij Tesla."

Niet alleen aandacht voor negatieve aspecten

Inmiddels is de ontwikkeling van tekstgenererende algoritmen al weer verder door meer trainingsdata te gebruiken en meer parameters te betrekken bij de training. Wubben vindt het geen goed idee om het accent te leggen op de negatieve aspecten van deze ontwikkeling. "Elke ontwikkeling kan ten goede en ten kwade worden ingezet, afhankelijk van in wiens handen deze wordt gebruikt." Hij wijst bijvoorbeeld op de verrijking van games met tekstgenerende algoritmen. "Je kunt al heel goed karakters tegen je laten praten zonder dat die conversatie invloed heeft op het spel. Dat geeft wel extra sfeer en dimensie aan de game."

GPT Adventure is een tekstgebaseerd spel gebaseerd op het tekstgenererend algoritme GPT.  "Op het eerste oog is het heel leuk wat de game doet. Maar al snel kom je er achter dat het systeem niks onthoudt en alle acties die je onderneemt, geen consequenties hebben. Ik vind het wel heel leuk maar zie het meer als een vorm van kunst dan als een game."

IT DeepDive

Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.