Innovatie & Strategie

Artificial Intelligence
Timnit Gebru

Ex-Google ethica: wetenschap geknot door bedrijven en defensie

Geen vrij onderzoek in AI mogelijk, in ieder geval in de VS niet.

Timnit Gebru © CC BY-SA 2.0 - Flickr.com TechCrunch
11 december 2020

Geen vrij onderzoek in AI mogelijk, in ieder geval in de VS niet.

Ethica Timnit Gebru maakt zich grote zorgen over de invloed van de industrie en de defensie-industrie op wetenschappelijk onderzoek naar kunstmatige intelligentie. Ze werd recent na een knallende ruzie ontslagen door Google als hoofd van het team dat onderzoek doet naar ethische verantwoord gebruik van AI.

"Alle wetenschappelijke conferenties worden zwaar gesubsidieerd door de industrie, dus wat is computerscience -onderzoek nu eigenlijk?", vraagt zij zich af in een interview met Venturebeat." Je hebt defensie en je hebt de industrie. Wat voor andere opties zijn er?" Ze stelt dat er behoefte is aan financiering die op geen enkele manier is gekoppeld aan militaire of industriële belangen. "Er is een diepgeworteld belangenconflict. Ik zeg niet dat er geen industrieel onderzoek moet zijn. Maar zeker als je kijkt naar wat met mij is gebeurd, en helemaal met de onderzoekscensuur en de invloed die ze [industrie en defensie, red] hebben op deze conferenties, vind ik dat het echt iets is waar over nagedacht moet worden."

Gebru werd deze week ontslagen nadat de Google-leiding haar had verboden onderzoeksresultaten te bespreken op een wetenschappelijke conferentie en zij daar protest tegen aantekende. Zij plaatste in haar bijdrage zeer kritische kanttekeningen bij de richting die Google het onderzoek naar nieuwe algoritmen voor natuurlijke taalverwerking opduwt. Die is onder meer schadelijk voor het milieu en maakt het lastig racisme, discriminatie en ongewenst taalgebruik te bestrijden. Google zou met zijn onderzoeksstrategie vooral kortetermijn commerciële doelen najagen in plaats van werkelijk geïnteresseerd te zijn in de ontwikkeling van duurzame en ethisch verantwoorde algoritmen. Het onderzoek voerde Gebru uit als onderdeel van een team met wetenschappers aan Amerikaanse universiteiten. De petitie voor steun aan Gebru is inmiddels door meer dan 2000 Google-medewerkers en 3700 mensen uit de industrie en wetenschappelijke wereld ondertekend

Google overweegt 'de-escalerende strategieën'

Google ceo Sundar Pichai heeft zich inmiddels sussend uitgelaten over de kwestie. Hij zegt het vertrek - Google spreek niet van ontslag - van Gebru heel vervelend te vinden en zich verantwoordelijk te voelen voor het herstellen van het vertrouwen in het bedrijf. Hij overweegt 'de-escalerende strategieën' in te zetten. Gebru voelt zich erg in de hoek gezet door die opmerkingen van Pichai. "Ze schilderen me nu af als een boze zwarte vrouw omdat je als je je roert over de slechte werkomstandigheden, je een probleem wordt en ze beginnen over 'de-escalerende strategieën'."

Kritische e-mails en rapporten

Gebru zegt dat ze de afgelopen tijd veel kritische e-mails en rapporten heeft gestuurd naar de leiding van het bedrijf die zijn genegeerd. "Dan stel je aan de kaak hoe het gaat en vervolgens spreken ze over jou alsof je een boze zwarte vrouw bent die aan banden moet worden gelegd." Ze heeft wel nagedacht over hoe zij zou willen dat het beleid zou moeten veranderen, maar ze wil daar niet op ingaan omdat ze, als ze beleidswijzigingen wil bespreken, dat heel zorgvuldig en voorzichtig wil doen.

Lees het volledige interview met Timnit Gebru op Venturebeat

Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.