'AI moet ons gaan moederen'

Buiten het feit om dat het nog steeds de vraag is of AI überhaupt de potentie heeft om boven het menselijk kunnen uit te stijgen, zijn er genoeg mensen bezig om ons te waarschuwen dat het nu al mis dreigt te gaan. Geoffrey Hinton, ook wel de Godfather of AI genoemd, is een van de belangrijkste namen daarin. Hij heeft namelijk aan de wieg gestaan van de technologie (de LLM) die nu ChatGPT mogelijk maakt.

Hij maakt zich enorme zorgen over de toekomst met AI, want hij voorspelt al langer dat als we zo doorgaan, de terminator-toekomst waarheid zal worden. Volgens hem zal de kunstmatige intelligentie tot inzien komen dat de mens maar een sta in de weg is en er daarom korte metten mee maken. Tenzij, zo zegt hij in een interview op de Ai4-conferentie, we nu al stappen nemen om AI's aan te leren dat ze onze moeder zijn, meldt CNN.

Het moedersinstinct

Volgens Hinton zouden we nu al aan de slag moeten gaan met het aanleren van een 'moederinstinct'. Hiermee wordt ervoor gezorgd dat de kunstmatige intelligentie intrinsiek van mensen houdt en dus nooit de intentie zal ontwikkelen om ons uit te roeien.

Het is een compleet andere aanpak dan die nu vooral aangedragen wordt: het de baas blijven over AI. Maar daarover is Hinton heel kort en duidelijk: "Dat gaat niet werken. Ze worden veel slimmer dan wij. Ze zullen allerlei manieren vinden om hier omheen te werken."

De voorbeelden hiervan zijn er al genoeg. OpenAI deed experimenten waarbij de AI zichzelf beschermde tegen de dreiging tot uitschakeling of vervanging door een beter model. En Anthropic ondervond dat Claude, hetzij in een specifiek uitgezet experiment, het op zich nam om mensen te chanteren om zichzelf uit een benarde positie te redden.

Volgens Hinton is het dus alleen mogelijk om dit soort gedrag te vermijden. Daarvoor is het moederinstinct een goed voorbeeld: “Het juiste model is het enige model dat we hebben van een intelligenter ding dat wordt gecontroleerd door een minder intelligent ding, namelijk een moeder die wordt gecontroleerd door haar baby”, aldus Hinton.

Godmother of AI is het er niet mee eens

Opmerkelijk genoeg liet Fei Fei Li, ook wel de Godmother of AI genoemd, tijdens dezelfde conferentie weten dat ze het niet eens is met het standpunt van Hinton. Of eigenlijk zegt ze dat papa het niet zo goed uitlegt.

Volgens Li zouden we moeten aansturen om een AI die zich altijd richt op de mens en daarmee ook de menselijke waardigheid en handelingsvermogen beschermt. 

“Het is onze verantwoordelijkheid op elk niveau om technologie op de meest verantwoorde manier te creëren en te gebruiken. En op geen enkel moment mag ook maar één mens worden gevraagd of ervoor kiezen om onze waardigheid op te geven”, aldus Li. “Alleen omdat een tool krachtig is, geloof ik als moeder, opvoeder en uitvinder echt dat dit de kern is van hoe AI moet worden benaderd.”

Een probleem dat over 20 jaar realiteit wordt

Hoewel Hinton aangeeft dat hij niet per se weet hoe het moedersinstinct in AI verwerkt kan worden, denkt hij wel dat we er beter gisteren dan vandaag aan kunnen beginnen. Tegelijkertijd geeft hij aan dat AGI (Artificial General Intelligence) tegenwoordig ook wel ASI (Artificial Super Intelligence) genoemd, pas over enkele tientallen jaren behaald zal worden.

AGI of ASI zijn benamingen voor een niveau van kunstmatige intelligentie waarbij de technologie op veel niveau's slimmer dan de mens zal zijn. In sommige definities wordt het behalen van dit niveau gedeeltelijk bepaald als werkende AI financieel meer opbrengt dan een mens. 

Hinton probeert met zijn schattig van 20 jaar de druk wat op te schroeven. Eerder gaf hij namelijk aan dat AI pas over 30 tot 50 jaar slimmer dan de mens zou zijn.