Management

Artificial Intelligence
Amazon Echo

AIexa gaat akelig in de fout

Amazons digitale assistent doet een 10-jarige een gevaarlijk voorstel.

Amazon Echo © Amazon
29 december 2021

Amazons digitale assistent doet een 10-jarige een gevaarlijk voorstel.

Het gevaar van het zorgeloos gebruiken van een AI-assistent in het gezin, werd weer eens pijnlijk duidelijk deze week.

Nadat het 10-jarige meisje wat verveeld was na het doen van een reeks fysieke spelletjes in huis, vroeg ze de Echo-speaker met de digitale assistent Alexa om een andere uitdaging te noemen. Alexa suggereerde de TikTok een 'challenge' te doen die ze gevonden had op het web: "Steek een oplader van een telefoon half in het stopcontact en laat dan een muntje vallen op de nog zichtbare polen."

Het resultaat varieert van een knal en een vonk tot een ernstige brand. Gelukkig liep het goed af. De moeder meldde het incident op Twitter: "Ik stond erbij en schreeuwde uit 'No Alexa, no!' alsof het een hond was. De dochter zei gelijk dat ze sowieso te slim was om zoiets te doen.

Amazon reageerde op de Tweet door de bewuste 'challenge' uit de database te halen, blijkt uit een verklaring bij de BBC. Er zouden ook maatregelen zijn genomen om te voorkomen dat Alexa nog eens dergelijke activiteiten adviseert. Hoe Amazon dat heeft gedaan is niet duidelijk. "Vertrouwen van consumenten staat centraal bij alles wat we doen en Alexa is ontworpen om accurate, relevante en nuttige informatie aan klanten te bieden", zegt het bedrijf in een verklaring.

Ernstige gevolgen

De 'penny challenge' circuleert nu ongeveer een jaar op Tik Tok en enkele andere sociale media. Eerder al waarschuwden diverse deskundigen van brandweerkorpsen al om niet te experimenteren met dit soort 'uitdagingen'. "Ik weet dat je vingers, handen en armen kunt verliezen, zei Michael Clusker, station manager bij de Carlisle East brandweercentrale, in 2020 al in het dagblad The Press in Yorkshire.

tweet_kristin_livdahl_penny_challenge_echo
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.