Gebruiker wantrouwt sociaal gedrag van computers

Een computer die lijkt te luisteren naar de wensen van de gebruiker heeft inderdaad invloed op die gebruiker, maar Cramer stelde vast dat dat lang niet altijd in positieve zin gebeurt. Het vertrouwen van gebruikers hangt niet alleen af van de competentie van een systeem. Zelfs bij relatief eenvoudige systemen zoals spamfilters krijgen gebruikers vaak weinig inzicht in de redenen voor het hoe en waarom achter systeembeslissingen.

Het gevolg kan zijn dat de gebruiker minder vertrouwen krijgt in de beslissingen van het systeem. Alle pogingen om de apparatuur/programmatuur beter af te stemmen op de gebruiker zijn dan voor niets geweest. Aan de andere kant leidt meer vertrouwen niet per se tot gepaster gebruik. Ontwikkelaars zullen dan ook rekening moeten houden met het risico op te veel (of te weinig) vertrouwen van de gebruiker.