Beheer

Privacy
Google Home

Natuurlijk luistert Google mee, net als ...

Spraakherkenning en AI kunnen nog niet zonder mensen. Maar dat wisten we eigenlijk al.

Google Home © Google
11 juli 2019

Ophef dat Google's assistenten toegang hebben tot spraakconversaties met Google's spraakassistent. De spraakherkennings-app Assistant en de slimme praatpaal Google Home, normaliter vermomd als luidspreker, luisteren naar gesproken commando's en kunnen dan handig handelingen uitvoeren. Daarbij staat Google dus te luisteren, maar kunnen werknemers - en externen - van het bedrijf ook toegang hebben tot wat er thuis en op kantoor wordt besproken in de nabijheid van de Google's spraakgestuurde devices. De ads- en search-reus is zeker niet de enige die dit zo doet.

Eerder is al spraakassistent Alexa van Amazon tegen de lamp gelopen. Ook dankzij een klokkenluider. Die heeft naar buiten gebracht dat niet alleen de spraakherkennende AI van Amazon luistert naar gebruikers. Soms wordt wat zij zeggen tegen Amazons smart speaker Echo doorgegeven aan andere mensen. Te weten een internationaal team van enkele duizenden Amazon-werknemers. Dit omvat naast mensen in dienst bij de e-commerce reus ook externe werknemers, die betaald krijgen door 'onderaannemers'.

Mens dient machine

Al deze mensen luisteren naar opnames in woonkamers, slaapkamers en kantoren om die audio te transcriberen en te voorzien van annotaties. Vervolgens wordt die weerslag met feedback weer gevoerd aan Alexa. Zodat die AI beter kan luisteren en zodat Amazon zijn dienstverlening op dit gebied kan verbeteren. Net als Google dus blijkt te doen. En wat we eigenlijk al wel wisten.

Enerzijds heeft Google het letterlijk al toegegeven, enkele maanden geleden toen Alexa tegen de lamp liep. Anderzijds is spraakherkenning, mede door accenten en zeker door dialecten, nog lang geen accurate zaak. Bovendien kan de mens in bepaalde gevallen veel goedkoper zijn om in te zetten voor werk op dit gebied. De mens helpt de machine. Enerzijds door als mens opgenomen gesprekken te beluisteren. Anderzijds door als mens tegen spraakassistenten te praten zodat ze beter leren luisteren.

Vertrouwen gaat te paard

Alleen is die laatste mens, de eindgebruiker, niet geholpen door het meeluisteren wat betreft privacy en vertrouwen. Beide zijn in gevaar, niet alleen door sentiment maar ook door 'slimme' combinatie van data. Zoals audio-opnames en locaties. Amazon heeft toen toegegeven dat het werknemers laat luisteren, maar relativeert dat het gaat om een klein deel" van de audiodata die zijn spraakassistent Alexa opvangt. Google uit nu ook dit soort geruststellingen: "slechts bij benadering 0,2% van alle audiofragmenten". Alleen komt 'een klein deel' bij grote aantallen neer op veel.

En heeft Google niet een soortgelijke verdediging gevoerd toen aan het licht kwam dat zijn StreetView-auto's niet alleen wegen in kaart brachten en straten fotografeerden? De rondrijdende auto's die handig de fysieke wereld weten te mappen naar landkaarten en stadsplattegronden namen in hun routes gelijk even Wi-Fi netwerken mee. Waarbij informatie van open netwerken is ge-sniffed en opgeslagen. Waarom? Omdat het kan. En omdat het handig is, bruikbaar.

Blinde tech(-focus)

Daar komt een eigenschap van veel IT-ingenieurs en Silicon Valley-ondernemers om de hoek kijken. De focus op wat technisch mogelijk of haalbaar is. Zonder daarbij te letten op wat mag; van (privacy)regels maar ook van algemene normen en waarden. Open Wi-Fi onderscheppen komt neer op afluisteren, en heeft Google in diverse landen miljoenenboeters opgeleverd.

Deze StreetView-sniffing bleek het werk van een enkele werknemer, die grenzen oprekte en schond. Net zoals recenter nog is gedaan - en door Google verzwegen - voor het grote goed van zelfrijdende auto's. Over die veelbelovende AI-toepassing dringt nu geleidelijk aan het besef door dat de machine toch niet echt zonder mens kan. Net als bij spraakherkenning dus.

Paranoia?

IBM had dus in 2012 best een goed punt dat het zijn werknemers verbood om Apple's spraakassistent Siri te gebruiken. IBM's CIO legde toen uit dat de spraakopnames van Siri buiten de grip van gebruikers en werkgevers valt, wat betreft hoe en waar het wordt opgeslagen. Bij de kwestie van opslag komt natuurlijk ook gebruik om de hoek kijken; nu en later. Terwijl IBM's CIO het eigen beleid toen omschreef als 'uitzonderlijk conservatief', klonk het voor sommigen wat paranoïde. Maar hoe luidt ook alweer dat spreekwoord? Paranoia is als je dénkt dat 'ze' je afluisteren. In dit geval wéten we het dus.

Reactie toevoegen
1
Reacties
Bop 05 augustus 2019 14:28

Steeds meer redenen om dit nóóit in mijn huis of auto toe te laten.

Nooit behoefte gehad, nooit vertrouwen in de werking gehad (al eens stuntelende pogingen meegemaakt van iemand die 'handig' probeert ermee te bellen?), nu het besef dat er gewoon permanent een afluisterstation aanstaat.