Innovatie & Strategie

Cloud
Google blokkeert onethisch ingezette AI-producten

Google blokkeert onethisch ingezette AI-producten

Het is een maatregel die voorkomt uit de AI-principes die het bedrijf eerder dit jaar bekendmaakte.

Chief Scientist Fei-Fei Li op het podium van Google Next 2018 © Google Alive Coverage
26 juli 2018

Het is een maatregel die voorkomt uit de AI-principes die het bedrijf eerder dit jaar bekendmaakte.

Google blokkeert de toegang tot de dienstverlening voor organisaties die de machine learning modellen of AI-technologie van het bedrijf niet voor de juiste doeleinden inzetten. Ook heeft de organisaties een gids om bias te voorkomen bij het gebruik van die modellen.

Het zijn twee voorbeelden van hoe het bedrijf de eerder opgestelde principes voor een goed gebruik van AI toepast binnen de bedrijfsvoering, zegt senior director Rajen Sheth van de divisie cloud en artificial intelligence tijdens een persbijeenkomst op Google Next 2018 waar AG Connect bij aanwezig was.

Google maakte begin juni zeven principes bekend voor de ontwikkeling van kunstmatige intelligentie. “Die principes passen we ook toe op onze producten. We kunnen producten stopzetten als de technologie op een verkeerde manier wordt toegepast. Dat gaat over bewust verkeerd gebruik van de technologie. Ook onbewust kan de toepassing verkeerd gaan. Bijvoorbeeld in het geval van bias. Daar hebben we een gids voor ontwikkelt die dat ondervangt,” aldus Sheth.

Bepalend moment

Volgens Sheth zit de industrie op een bepalend moment als het gaat om de toepassing van machine learning. “De gemiddelde persoon komt ook in aanraking met de technologie. Maar wat nu geldt voor machine learning, gold jaren geleden voor het internet. Ook dat kon verkeerd worden gebruikt.”

Het goed en eerlijk toepassen van machine learning staat bij alle organisaties hoog op de agenda, merkt de senior director. “In alle gesprekken die we met executives van grote bedrijven hebben, komt dit onderwerp naar voren.” Chief scientist Fei-Fei Li voegt daaraan nog toe. “Het is goed om te zien dat onze klanten erkennen dat dit een belangrijk onderwerp is binnen dit onderzoeksveld. AI is een nieuw onderzoeksveld, slechts zestig jaar oud. Het is een reis die we maken, hoe passen we deze technologie het best toe. We kunnen niet zeggen dat we op deze reis geen fouten gaan maken.”

Zeven principes

De zeven principes die het bedrijf hanteert liggen voor de hand. Het bedrijf zegt de technologie in te zetten zodat het voordeel oplevert voor de maatschappij, het belooft oneerlijke bias te vermijden, de technologie wordt gebouwd en getest voor veiligheid, mensen moeten op de AI kunnen bouwen, privacy wordt gerespecteerd, hoge wetenschappelijke standaarden worden gehanteerd en de technologie wordt alleen beschikbaar gesteld voor gebruik dat aan deze principes voldoet.

Aanleiding voor het bekend maken van de principes was de ophef die intern bij Google was ontstaan over samenwerking met het Amerikaanse leger.

Lees meer over Innovatie & Strategie OP AG Intelligence
Reactie toevoegen
De inhoud van dit veld is privé en zal niet openbaar worden gemaakt.