Twitter onderzoekt schadelijkheid eigen algoritmen

Wat er praktisch gaat gebeuren met de zelfreflectie van het bedrijf is erg onduidelijk, signaleert The Verge. Twitter geef zelf nu al aan dat de resultaten "zich misschien niet laten vertalen in zichtbare productveranderingen". Het doel van het initiatief lijkt vooral te zijn om de "bewustwording te verhogen en belangrijke discussies te initiëren" rond de wijze waarop het bedrijf machine learning inzet.

Twitter is van plan nauw samen te werken met externe partijen waaronder academisch onderzoek. Het doel is de resultaten van de analyses te publiceren en daarmee reacties los te krijgen uit het grote publiek.

Het team start met de gender- en raciale discriminatie in het algoritme dat gebruikers helpt bij het maken van uitsneden uit afbeeldingen. Gebruikers hebben er vaker op gewezen dat dit algoritme een voorkeur heeft voor witte gezichten. Verder gaat het team kijken hoe aanbevelingen worden gedaan aan verschillende raciale subgroepen en onder aanhangers van verschillende politieke ideologieën in zeven verschillende landen.

Werking verandert in de tijd

Het team gaat ook nadrukkelijk aandacht besteden aan de verandering die plaatsvindt over een langere periode. "Soms kan een systeem dat was bedoeld om te helpen, zich anders gaan gedragen dan was bedoeld", zeggen Jutta Williams en Rumman Chowdhury, respectievelijk Staff Product Manager ML Ethics, Transparency & Accountability (META) en Director Software Engineering in een verklaring.

The Verge memoreert nog dat Twitter CEO Jack Dorsey in februari heeft aangekondigd dat Twittergebruikers in de toekomst mogelijk meer invloed krijgen in de keuze van een algoritme dat voor hen de beste aanbevelingen doet of hulp biedt bij het uitvoeren van taken op het platform. Er zou dan een app-store-achtige lijst komen met bijvoorbeeld "ranking algoritmen" om uit te kiezen.