Overslaan en naar de inhoud gaan

Musk wil nu echt overheidstoezicht op AI-ontwikkeling

Elon Musk heeft in een tweet gereageerd op een artikel dat OpenAI - de organisatie die hij oprichtte om de ontwikkeling van veilige kunstmatige intelligentie te bevorderen - is verworden tot een obscure onderneming die vooral bezig is met zijn eigen beeldvorming en fondsenwerving.
Musk, lachend
© Flickr
Flickr

De auteur van het artikel in MIT Technology Review, Karen Hao, kondigde de publicatie van dit artikel aan op Twitter. Daarop antwoordde Musk direct dat in zijn idee OpenAI ook meer open moet zijn en dat alle organisaties die geavanceerde AI ontwikkelen onder regulering zouden moeten vallen inclusief Tesla.

Volgens Hao - die gedurende een half jaar bijna veertig interviews deed met werknemers van OpenAI, voormalig werknemers en anderen rond het initiatief - is er een groot verschil tussen wat de organisatie naar buiten toe beweerd en wat zich werkelijk achter gesloten deuren afspeelt.

De heilige graal van OpenAI is de eerste te zijn die een AGI bouwt, een machine die kan leren en redeneren als een mens. Het nobele doel is om voorop te lopen in die ontwikkeling en de resultaten te delen met de hele wereld zodat niemand de technologie exclusief kan exploiteren of misbruiken. De organisatie is opgezet als een non-profit en draait vooral op donaties. Afgelopen juli stak Microsoft nog 1 miljard dollar in OpenAI. Overigens heeft OpenAI het nonprofit-karakter inmiddels afgeschud.

Obsessief geheimen bewaren

Uit het onderzoek van Hoa komt een beeld dat OpenAI juist obsessief is in het bewaren van geheimen en het regelen van nieuwe financiering. Daarvoor ligt een belangrijk accent op het bouwen aan de juiste uitstraling naar buiten toe. De idealen die werden neergelegd in 2015 zoals transparantie en samenwerking zijn ver te zoeken.

Een voorbeeld daarvan kwam een jaar gelden toen OpenAI naar buiten kwam met de mededeling een model te hebben ontwikkeld dat te gevaarlijk was om vrij te geven. De GPT-2 kon met de druk op de knop overtuigende nepnieuws-artikelen produceren. Later bleek het vooral een publiciteitsstunt. In mei koos OpenAI toch voor een gespreide publicatie van het model, waarvan uiteindelijk ook OpenAI concludeerde dat het nergens werd misbruikt.

Reacties

Om een reactie achter te laten is een account vereist.

Inloggen Word abonnee

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in