Microsofts New Bing met GPT maakte ook fouten bij presentatie, maar dat viel niemand op

Tijdens de presentatie van New Bing maakte de op ChatGPT-geënte tekstrobot daarin, minimaal drie uitglijers, merkt The Register op. Zo werd een vraag gesteld over het nachtleven in Mexico. New Bing gaf daarop een aantal uitgaansgelegenheden. Het bleek dat de opgegeven openingstijden van één niet correct waren, terwijl de verwijzing naar de website van een ander niet klopte. Ook miste New Bing de belangrijkste en oudste gay bars in Mexico, El Almacen.

Tijdens de demonstratie toonde Microsoft ook hoe New Bing makkelijk financiële documenten kon samenvatten, maar bij nadere bestudering van de video bleek dat daar cijfers in werden aangehaald die in de originele documenten helemaal niet voorkomen.

Een derde uitglijer was de beschrijving van een stofzuiger voor het verwijderen van hondenhaar. Volgens de Bing-beschrijving was het apparaat erg luidruchtig en was het snoer veel te kort. Uit recensies van het apparaat blijkt echter dat het draadloos is en juist geprezen werd vanwege het stille functioneren.

Hallucineren archilleshiel van taalmodellen

Het zogeheten 'hallucineren' van natuurlijke taalmodellen - waarbij combinaties van woorden worden gemaakt die tekstueel wel kloppen maar feitelijk onjuist zijn - is bekend. Ook het publiekelijk beschikbare ChatGPT presenteert regelmatig ernstige feitelijke onjuistheden die alleen eruit gehaald kunnen worden door iemand die inhoudelijk volledig op de hoogte is. Dat geeft te denken over het nut dat dergelijke tekstrobots kunnen hebben in praktijk.

Hoewel Google die problemen onderkende en daardoor terughoudend was de technologie openbaar ter beschikking te stellen, heeft het bedrijf zich daar toch toe laten verleiden vorige week. De gehaaste strategiewijziging lijkt ingegeven door angst dat Microsoft met de toevoeging van de GPT-gebaseerde technologie met een nieuwe vorm van zoeken op internet zou introduceren die Google's eigen positie aantast.