Innovatie & Strategie

Artificial Intelligence
hallucineren

ChatGPT hallucineert, maar Nederlandse startup kan helpen

Semantische neurale zoekmachine helpt GPT zijn redeneringen te onderbouwen

© Shutterstock ysuel
24 januari 2023

Semantische neurale zoekmachine helpt GPT zijn redeneringen te onderbouwen

ChatGPT maakt regelmatig ernstige fouten in heel leesbare teksten. Het grote gevaar is dat mensen die fouten makkelijk overnemen als ze niet inhoudelijk op de hoogte zijn. De Nederlandse startup Zeta Alpha heeft nu het taalmodel GPT - dat ook achter ChatGPT zit - gekoppeld met een semantische neurale zoekmachine die de resultaten veel betrouwbaarder en bovendien uitlegbaar maakt.

"Jeff Beck, de Britse gitarist die bekend stond om zijn innovatieve technieken en emotionele expressie is op 15 januari 2020 op 75-jarige leeftijd overleden." Dit is de eerste zin uit een door ChatGPT geschreven in memoriam. Hoewel de rest van de tekst een aardig beeld schetst van de muzikant, klopt de genoemde datum van geen kant. Jeff Beck overleed vorige week.

Feitelijke missers zijn een groot probleem bij het gebruik van op AI-gebaseerde taalmodellen als ChatGPT. En mensen hebben de neiging de resultaten die de bot schrijft, voor waar aan te nemen. Een taalmodel kan helpen teksten te schrijven, maar om inhoudelijke uitglijders te voorkomen moet je inhoudelijk wel op de hoogte zijn, benadrukte een AI-deskundige van de IT-organisatie voor onderwijs SURF vorige week nog in AG Connect.

Twee AI-technologieën werken samen

Het inmiddels tien man sterke Zeta Alpha ontwikkelt sinds 2019 een zoekmachine op basis van semantische neurale zoektechnologie. In plaats van te zoeken op losse zoektermen, houdt deze relatief nieuwe zoektechnologie rekening met de semantische relatie tussen woorden, dus de betekenis, en de plek waar ze in een zin staan (syntax). Zo'n zoekmachine is veel beter in staat relevante informatie naar boven te halen in grote hoeveelheden ongestructureerde documenten, bijvoorbeeld in een bedrijfsomgeving of uit wetenschappelijke literatuur.

"De combinatie van neuraal zoeken en GPT is een bijna magische doorbraak", zegt Jakub Zavrel, de oprichter van het in Amsterdam gevestigde Zeta Alpha. "Mensen verspillen nu zo veel tijd aan het doorlezen van documenten om kleine brokjes informatie te vinden of veel feitjes te verzamelen in bredere inzichten."

Hallucinatie wordt voorkomen

Door de semantische neurale zoekmachine te koppelen aan GPT, kan deze bot teksten schrijven op basis van de door de neurale zoekmachine gevonden documenten. Het kan bovendien zelf de onderbouwing van de redenering leveren in de vorm van referenties naar de bron. Daarmee wordt een groot probleem van generatieve taalmodellen ondervangen, namelijk dat ze de neiging hebben te gaan 'hallucineren', zoals dat in wetenschappelijke kringen wordt omschreven: bij het genereren van de teksten wijken ze af van de feiten en maken ze zelf combinaties die weliswaar aannemelijk lijken, maar in de werkelijkheid niet bestaan.

1
Reacties
Don van Riet (oud KPN strateeg) 25 januari 2023 17:34

Zelf ontdekte ik dat ChatGPT mij de leeftijd van een Franse chonsonnier niet kon opgeven, hoewel een vraag naar de geboortedatum juist weer wel beantwoord werd. Zelf uitrekenende dat daar 70 jaar uit moest komen, werd op een checkvraag op 70 jaar juist weer wel goed gereageerd. Ook wil dit programma niet graag een Franse songtekst in het Nederlands vertalen, na enige aandringen kwam er wel een aardige Engelstalige poging uit. Een correctie mijnerzijds werd met dank aanvaard, dus voor mij was deze Turingtest geslaagd: als er in dit tempo bijgeleerd wordt kan het nog snel gaan met dit soort ai :-D on
PS Ik zie veel mogelijkheden voor ChatGTP of een afgeleide versie bij klantcontacten zoals die vanuit mijn oude werkgever KPN: ai personalisering is pas echt CRM in hogere vorm

Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.