Management

Artificial Intelligence
Timnit Gebru

'Ethische bedrijfsteams glijden makkelijk af naar PR-facade'

Zonder échte directiesteun zijn het doodgeboren kindjes.

Timnit Gebru © CC BY-SA 2.0 - Flickr.com TechCrunch
1 oktober 2021

Zonder échte directiesteun zijn het doodgeboren kindjes.

Steeds meer bedrijven richten ethische teams op in navolging van onder meer techgiganten als Google, Microsoft, IBM, Facebook en Sony. De teamleden moeten bedrijfsactiviteiten, bijvoorbeeld op het gebied van kunstmatige intelligentie, tegen het licht houden om ongewenste maatschappelijke bijeffecten te voorkomen. Maar juist van de ethici bij die techgiganten komen nu zeer sceptische uitlatingen.

Het is toe te juichen als bedrijven hun verantwoordelijkheid nemen door binnen de eigen organisatie mensen aan te stellen die kritisch zijn op de eigen bedrijfsvoering. Met de snelle opmars van kunstmatige intelligentie en de kansen die de technologie biedt, ontstaat ook de vraag of er voldoende aandacht is voor de negatieve effecten van de toepassingen ervan. Zet dus naast de technologie-optimisten ook een team dat zich juist richt op het onderzoeken van de maatschappelijke effecten van de technologie.

Dat leidt geheid tot botsingen en die zijn ook nodig voor de effectiviteit van zo'n team. Vanuit bedrijfsoogpunt is het waarschijnlijk ook handiger om de discussie intern al te voeren en koersen te verleggen naar maatschappelijk acceptabele toepassingen, dan achteraf verwikkeld te raken in schandalen.

Leiding werkt tegen

Maar zo'n aanpak vergt dat het hoogste bestuursniveau pal staat achter het werk dat zo'n team doet. En daar schort het in nogal eens aan, zo blijkt uit gesprekken die Venturebeat heeft gevoerd met een aantal (ex)leden van dergelijke ethische teams. Een daarvan is Timnit Gebru die een jaar geleden als co-teamleider van het ethische team bij Google werd ontslagen. De reden was de door haar geuite onvrede met een verbod van hogerhand om op een conferentie een kritisch onderzoek te bespreken.

In de verontwaardiging die daarop ontstond, ontsloeg Google ook de andere co-teamleider Margaret Mitchell. Vanuit Facebook, Salesforce en Sony komen verontrustende geluiden. De teams zijn allemaal erg gebrand op de positie die ze binnen het bedrijf hebben. Kathy Baxter, -net als Gebru en Mitchell een pionier op het gebied van AI-ethiek- zette recent een 'ethics'-team op bij Salesforce. Tegen Venturebeat benadrukt ze het belang van de cultuur binnen het bedrijf. "Als je niet allemaal het idee hebt onderdeel te zijn van een gemeenschap waar we onze producten en diensten aan verkopen, dan kom je op een heel zwakke positie te staan."

Diversiteit nodig

Alice Xiang, die dezelfde rol als Baxter vervult bij Sony, benadrukt dat de steun van de bedrijfsleiding cruciaal is, zowel aan de technische als juridische kant, maar ook bij de bedrijfseenheden die uiteindelijk de AI-producten maken. Daarnaast wijst ze op het belang van diversiteit en inclusiviteit "helemaal tot in de top" het veel makkelijker maakt om echt iets te doen met AI-ethics.

Als die steun er niet is, verworden deze teams al snel tot een façade. Gebru: "Ik denk dat scepsis zeer gerechtvaardigd is bij elk 'ethics'-ding dat van een bedrijf komt. "Het dient al snel als PR zodat ze goed voor de dag komen."

Lees meer over Management OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.