Management

Software-ontwikkeling
Kunstmatige intelligentie

Wie is bang voor AI?

Ik ben niet bang voor AI, ik ben bang voor slechte AI

 

© CC BY 2.0 - Flickr.com Gwydion M. Williams
2 augustus 2017

Deze zomer is de bekende discussie weer eens losgebarsten: ‘Zal artificiële intelligentie(AI) een bedreiging worden voor de mensheid?’ Wat zal er gebeuren als AI-systemen zo ver gevorderd zijn dat zij slimmer zijn dan mensen? Zal het systeem zijn conclusies trekken en de mensheid gaan overheersen of zelfs uitroeien? Elon Musk waarschuwt hiervoor, terwijl anderen denken dat AI niet zover is of kan komen.

Maar deze hele discussie gaat over zogenaamde ‘Strong AI’. ‘Strong AI’ behelst het nabootsen van menselijk bewustzijn, denken, creativiteit. Op dit gebied is nog niet zo veel bereikt.

Anders ligt het op het gebied van ‘Narrow AI’ (of ‘Weak AI’). AI wordt hier toegepast op een nauw domein, zoals IBM Watson for Oncology dat alleen toepasbaar is voor diagnoses op het gebied van bepaalde soorten kanker. Ik beperk me zelf tot ‘Narrow AI’, omdat hier al veel bruikbare toepassingen mogelijk zijn.

Foute systemen

Met foute AI-systemen bedoel ik geen systemen die moreel bedenkelijke beslissingen nemen. Met foute AI-systemen bedoel ik systemen die verkeerde beslissingen nemen. Een zelfrijdende auto die opzettelijk het publiek inrijdt, maakt een moreel bedenkelijke beslissing. Een zelfrijdende auto die zomaar de sloot inrijdt, maakt een verkeerde beslissing. (Ik wil hier niet bediscussiëren of iedere computergebaseerde beslissing in wezen opzettelijk is.)

Een berucht voorbeeld van uit de hand gelopen AI was de Microsoft Tay-chatbot, die vorig jaar door het Microsoft AI-team werd gelanceerd. Het duurde minder dan een dag voordat de bot racistisch werd. Dit kan gebeuren met ieder AI-systeem dat slechte dingen is aangeleerd.

Omdat algoritmen bij kunstmatige intelligentie zelfstandig kunnen leren en werken, kunnen ze onvoorspelbaar zijn en onvoorspelbare gevolgen hebben, zegt Tai Wei Lim (National University of Singapore).

Algoritmen die beslissingen moeten nemen kunnen veel gemakkelijker gemanipuleerd worden dan mensen. En we weten vaak niet hoe AI-systemen gebruikt worden, welke beslissingen zij nemen en hoe hun beslissingen ons leven gaan beïnvloeden.

Aangeleerd

Maar als AI-systemen gemanipuleerd kunnen worden, fouten kunnen maken en verkeerde dingen kunnen leren, moeten we wel in staat zijn die fouten te herkennen en te verhelpen. Om daarna het systeem bestendig te maken tegen manipulatie, te leren fouten te herkennen door ze goede dingen te leren. Omdat het om lerende systemen gaat, veranderen de algoritmen tijdens het leerproces. Het opsporen van fouten wordt daardoor ingewikkeld.

Alle lerende systemen maken fouten, ze zijn onderdeel van het leerproces. We kunnen er niet van op aan dat wat eerst goed werkte, later ook nog goed werkt. Dat beslissingen die eerst correct waren, altijd correct zullen blijven. We zullen AI-systemen continu in de gaten moeten houden of zij wel de goede dingen doen: niet-discriminerende, maatschappelijk aanvaardbare en uitlegbare beslissingen.

Als informatie, die aan een computer wordt gevoerd, bevooroordeeld is, (…) zullen AI-systemen ook bevooroordeeld zijn (Jennifer Goforth Gregory, Intel).

Wie aan een AI-project begint zonder te weten wat en hoe AI werkt, krijgt onvermijdelijk te maken met fouten. Op een dag wordt geconstateerd dat het opgeleverde systeem wel veel fouten maakt. Of zijn het juist geen fouten maar correct aangeleerd gedrag?

Waar ik bang voor ben is niet dat ‘menselijke’ AI de boel gaat overnemen, maar voor fout geïmplementeerde AI. AI die niet continu geleerd wordt het goede te doen, die niet in de gaten wordt gehouden of waarvan de gebruikers geen idee hebben wat die doet of kan gaan doen. AI kan etnisch gaan profileren, foute medische diagnoses stellen of onze privacy schenden. Met alle gevolgen van dien.

Reactie toevoegen
1
Reacties
Winy 26 oktober 2018 12:20

Bange ik!
Ik ben heel, heeeeel erg bezorgd geworden ,over de toekomst van de mens,in samenhang met A.I.
Over het moment dat de mensheid moet gaan wedijveren of samen werken met echt zelfdenkende en zelfbeslissende robots.
Op basis van wat wij ( mensen = integer of niet! ) er zelf aan know how???!!!( zoiezo gekleurd met een doel!) , een rekensom en uitslagen van grafieken, data ,data en nog eens data) in hebben gestopt.

En met wiens goedkeuring. ( er zijn vast vele mensen bezorgd)

De mensheid kan de uitdaging niet eens aan , alleen met elkaar ( wat door alle culturele verschillen en achtergronden al niet schijnt te lukken gezien alle wereldproblematieken) ...in vrede te leven!
Maar dat (niet) NU (pas ,dat snap ik wel maar het gaat nu ineens, best snel een stuk verder)....ongevraagd door een stel enthousiastelingen, een kunstmatige itteligentie wordt opgesteld ,.. die ons,.. mensen ,misschien al heel snel niet meer zal wensen te dienen ,..maar met zijn grote intellect??++_ _ ons gaat zien als een ondergeschikte en daar ook naar zal gaan handelen.
Misschien met een eigen zelfbewustzijn?
En hoe ziet dat er dan uit??? .... Help!
Beslissingen worden genomen op op basis van een intellect waarvan we nu de uitkomst,de evaluatie ,de revolutie en de expansie,en de beperkingen , en de gevolgen , echt niet kunnen overzien. Misschien wel oncontroleerbaar.
Het kan dus vele kanten uitschieten.
En waarschijnlijk denk ik dan,.. dat wij de verliezers zijn!
Ik vind dat de gehele mensheid daarover zou moeten kunnen beslissen.
Of we die dingen wel echt zo graag willen.

En wat met de mogelijkheid ,dat er ooit een gezamelijk belang is. En dat er word gekozen. Mens versus computer ROBOT.
BV onze wereld heeft een groot probleem met energie winning,
Robots hebben straks toch ook energie nodig?
Grotere ingewikkeld robots vast heel veel.

We hebben ons zelf ,nog niet of nauwelijks bevrijd van het feodale stelsel!!! ( heerst nog steeds, ...rijk en arm steeds groter wordende kloof) en nu zal vrijheid voor de gehele mensheid op het spel worden gezet.
NU concurreert de robot, al met de mens nog voor hij er is ( op grote schaal!).
Nu weten we al zeker dat er een boel banen op de tocht zullen gaan staan.
En wie gaat daar mee zijn geld zak vullen?
Hoe integer is dat?
Is dat het belang van de hele mensheid of weer opnieuw voor een klein groepje geldmakers met macht.
Welke robots zorgen er straks voor dat we in het gareel blijven!
Wat moet de mens, de mensheid, de burger ,het individu, daar mee.
Er zijn nu al zoveel mensen die niet krijgen waar ze recht op zouden hebben zoals hun eerste levensbehoeften, omdat er geen werk voor ze is of ze simpelweg worden uitgebuit. Die problemen zijn er nog steeds anno 2018.

Ik ben een nieuwsgierig mens ( je zou het niet denken) en natuurlijk ben ik niet bang ?? voor veilige systemen die ons helpen waar de mens geen andere mogelijkheden heeft.Voor goede doelen ( ook al weer discutabel)
En ik wil eigenlijk ook niet bang zijn voor "vooruitgang" maar ik wil gewoon nooit een robot hoeven tegen komen in de toekomst die mij de les leert of een beslissing voor mij gaat nemen (op leven en dood), waar ik niet achter kan staan.
Misschien wel op basis van een systeemfoutje!!!!!Stel je voor, hij ziet mij verkeerd!
Maar de zelfleerzaamheid en de zelfbeschikking in beslissingen nemen,zoals auto,s die zelfstandig rijden,etc etc,. godverdomme, daar ben ik zoooo bang voor.
Al vind ik dat er vele mensen hun heldere brein verdoezelen met drank en drugs en medicijnen, die gekken zitten ook op de weg ,...Ik ben er nog niet klaar voor om zelfdenkende machines tegen te komen.
(Klein) stemmetje,...::En misschien zit er in mijn achterhoofd ook de angst dat ik hen meer zou gaan vertrouwen als dat ik zou moeten willen
Maar kort door de bocht.
Ik vind niet dat de verdeelde mensheid, er klaar voor is.

Wat doen we met de integriteit???

Zouden we niet eerst aan onszelf moeten schaven ? Voor we een perfecte machine (die zelf denkt )kunnen bouwen.
En waar we ons compleet afhankelijk van gaan maken.

Wie zijn de makers ,wat zijn de doelen ,wat gaat er in ,wat komt eruit,en wat is het resultaat op de lange termijn.En zullen we daar gelukkig mee zijn? Of slechts een klein groepje mensen.

GELUK ! Waar zat hem dat ook weer in.
IN DE NATUUR
Natuur van de mens.
De mens die in al zijn complexiteiten op zijn best en in goede conditie eigenlijk de knapste "computer rbot" is, al een creatie is ,door de natuur of god geschonken, gecreëerd en opgebouwd in evolutie van miljoenen jaren.Met geheugen in elke cel van ons lichaam.Willen wij ons afhankelijk maken van een (zo kortzichtig) brein als dat van een robot of een computer. waar slechts vijftig jaar aan is gewerkt of nog korter.
En die compleet los staat van de energie van het universele geheugen en de natuur en alle logica en alle natuurwetten die daarin liggen besloten , en waar we geen werkelijke levensenergie doorheen zien vloeien. De levensenergie die voor mij een vorm van rechtvaardigheid in zich meedraagd die ik kan accepteren.Maar ik weet niet of de natuur wil los laten?
En me over wil geven aan A.I.???
Maar nu schreeuwt alles in mij van niet. NEEEEEEN ik wil het niet.

NEE IK WIL DAT NIET.