Facebook onderzoekt of algoritmes racistisch zijn

Facebook zegt tegenover The Wall Street Journal dat het onderzoek noodzakelijk is om een zo eerlijk en inclusief mogelijk product te bieden. Bij Instagram bestaat al een team dat hier onderzoek naar doet, namelijk het 'equity team'. "Alle vooroordelen in onze systemen en ons beleid zijn tegenstrijdig met het bieden van een platform waar iedereen zichzelf kan uiten", vertelt Vishal Shah, vice president of product bij Instagram.

Eenzelfde soort team moet bij Facebook opgezet worden, dat gaat onderzoeken in hoeverre de app en website van het platform bevooroordeeld zijn. Dat team gaat nauw samenwerken met het Responsible AI-team, "om ervoor te zorgen dat we bij al onze platformen naar mogelijke vooroordelen kijken", aldus Facebook tegenover The Verge. 

Flinke draai voor Facebook

Facebook heeft de afgelopen weken regelmatig onder vuur gelegen, omdat het te weinig zou doen om haatzaaien, racisme en nepnieuws op zijn platformen te bestrijden. Een grote groep bedrijven en merken kondigden daarop aan voorlopig niet meer te adverteren op Facebook en Instagram. Het ging onder meer om Unilever, Coca-Cola en Starbucks. 

Begin deze maand zei operationeel directeur Sheryl Sandberg dat Facebook eraan werkt om haatdragende berichten van het platform te weren. Volgens Sandberg is er ook al langer een duidelijk beleid tegen haat. Ook is er volgens haar veel geld geïnvesteerd in kunstmatige intelligentie om daarmee de berichten te verwijderen. "We hebben in de loop van de jaren echte vooruitgang geboekt, maar dit werk is nooit af en we weten wat een grote verantwoordelijkheid Facebook heeft om beter te worden in het vinden en verwijderen van haatdragende inhoud."