Google's AI-overviews geeft telefoonnummers van oplichters

De AI-overviews functie die Google in zijn eigen zoekmachine heeft geïntegreerd, vangt al de nodige kritiek. Het zou het verdienmodel van contentmakers en uitgevers vrijwel volledig uithollen terwijl het tegelijk ook nog eens informatie van lage kwaliteit weergeeft. Daarbij horen ook de nodige hallucinaties, waar de gebruiker rekening mee moet houden.

Daar komt nu nog een probleem bij, want de AI is betrapt op het delen van telefoonnummers van oplichters alsof het de nummers van gerenommeerde bedrijven zijn. Dat meldt Digital Trends.

Klantenservice blijkt oplichter

De techwebsite geeft twee voorbeelden. De eerste waarin een gebruiker een shuttle op een cruise wilde boeken. Hierbij liep hij tegen het probleem aan dat hij het nummer van de klantenservice niet kon vinden en er dus een zoekopdracht op Google op losliet. Die kwam netjes terug met een telefoonnummer, maar niet van de cruisemaatschappij, maar van een oplichter die zich specifiek op dit soort problemen had toegelegd. 

Het tweede voorbeeld is soortgelijk: een gebruiker zocht contact met een luchtvaartmaatschappij om een fout gespelde naam op een ticket te corrigeren. Ook zij kon het nummer van de klantenservice niet vinden, dus gooide ze er een zoekopdracht uit. Ook hierbij werd haar een nummer van een oplichter gepresenteerd die specifiek op dit probleem was gespecialiseerd.

Data- of modelpoisoning

De oorzaak van deze misinformatie is niet een hallucinatie of het delen van foutieve informatie met opzet. Het is afkomstig uit een vorm van gerichte beïnvloeding van AI-chatbots, ook wel data- of modelpoisoning genoemd.

Hierbij zet het digitale dievengilde speciale websites op die gerichte, misleidende informatie bevatten. Deze sites worden in de trainingsdata van AI-bots opgenomen en verwerkt. In dit geval gaat het om telefoonnummers die de bedrijven vaak zelf niet aanbieden, maar die Google's AI wel heeft geïndexeerd als zijnde, omdat deze in de context van de website waarop het staat, de informatie als 'echt' en dus betrouwbaar beschouwt.

In dit geval is het advies dan ook: als de gezochte gegevens niet op de officiële site van het bedrijf te vinden zijn, ga er dan vanuit dat ze niet bestaan.