Innovatie & Strategie

Analytics
HAL 9000

Waarom Hal 9000 geen toekomst had

De toekomst is ongrijpbaar, ook voor film-AI's van de volgende generatie.

© Warner Bros.
28 december 2000

De science fiction-film 2001 van Stanley Kubrick laat weer eens zien dat het onmogelijk is de toekomst te voorspellen. Nico Baaijens laat zien hoe een fascinerende film de plank volledig kan misslaan.

In 1967 ging MGM’s science fiction-film: 2001: A Space Odyssey in première. ’2001’ is een filmisch meesterwerk van Stanley Kubrick naar de gelijknamige roman van Arthur C. Clarke. Hoofdrolspeler in dit toekomstdrama is de denkende, sprekende, zelfbewuste en omnipotente computer Hal 9000. Velen werden er in de jaren zestig van overtuigd dat Hal de computer van de toekomst zou worden.
Nu het jaar 2001 aanbreekt, kunnen we terugblikken op ruim dertig jaar computerontwikkeling en een antwoord zoeken op de vraag waarom Hal het niet heeft gemaakt. Waarom de mens van 2001 geen behoefte heeft aan digitale meedenkers en initiatiefnemers en waarom functionaliteit prevaleert boven praatjesmakerij.
De psychologe Rosalind W. Picard slaat in dit verband de spijker op de kop: „Onze computers huilen geen digitale tranen als ze worden ontmanteld. De gebruiker zal er ook geen extra geld voor over hebben om over zo’n functionaliteit te kunnen beschikken.”
Hal 9000 vertelt in ’2001’ zelf wat en wie hij is als hij aan het TV-publiek wordt voorgesteld. In de film doet hij dat als zesde lid van de bemanning bij het begin van een ruimtemissie met de Discovery naar de planeet Jupiter (Saturnus in het boek) van waar een zeer sterk radiosignaal van een buitenaardse beschaving is ontvangen. Hal (Heuristically ALgorithmic programmed computer) beschikt over neurale netwerken en holografische geheugens. Zijn human interface is afgestemd op de verbale interactie met mensen met een IQ tussen de 130 en 135.
„Ik ben een Hal 9000 computer, serienummer 3. Ik ben operationeel geworden in de Hal-fabrieken in Urbana, Illinois, op 12 januari 1997. Mijn eerste leraar was mr. Langley. De Hal 9000-serie heeft een feilloze operationele staat van dienst en is niet tot het maken van fouten in staat.”
Van de zes bemanningsleden liggen er drie in sarcofagen in suspended hibernation (winterslaap) om te besparen op zuurstof en leeftocht. Ze zijn aan de zorgen van Hal toevertrouwd. De drie anderen – David Bowman, Frank Poole en de boordcomputer Hal – zijn tot elkaar veroordeeld tijdens de vele maanden durende ruimtereis naar de oorsprong van het mysterieuze radiosignaal.
Alles en iedereen is volledig afhankelijk van Hal maar al snel groeit er een psychologisch spanningsveld tussen enerzijds Poole en Bowman en anderzijds de computer. Het bange vermoeden rijst dat Hal een ernstige beoordelingsfout heeft gemaakt. Hun ongerustheid proberen ze voor Hal verborgen te houden om de wankele vertrouwensbasis niet te schaden. Als na ampel overleg wordt besloten Hal’s bewustzijnsfuncties buiten werking te stellen, krijgt de computer lucht van dit voornemen en voelt hij zich in zijn voortbestaan bedreigd en als collega ’verraden’.
Hal stelt zich te weer door de onberekenbare ’factor mens’ uit te schakelen. Hij ontdoet zich van Poole tijdens werkzaamheden buiten het ruimteschip en hij beëindigt de levens van de drie winterslapers. Als Bowman zijn op drift geraakte collega te hulp snelt en dood terugbrengt, sluit Hal hem buiten. Bowman verschaft zich met geweld toegang tot de Discovery en schakelt Hal uit waarbij de psychotisch geworden computer stapsgewijs terugvalt naar het infantiele stadium van IBM’s System/360-computers uit de jaren zestig.
Onmiddellijk na de ’klinische dood’ van Hal komt er een geheim programma in werking waaruit blijkt dat Hal en de bemanning van de Discovery door de aarde ’uit veiligheidsoverwegingen’ zijn voorgelogen over het ware doel van de missie. De onmogelijkheid van een waarheidsconflict blijkt achteraf de ware oorzaak van Hal’s falen te zijn.
Dat Clarke eind jaren zestig een intelligente en zelfbewuste toekomst voor de computer voorzag, is allerminst verwonderlijk. In die tijd wist het publiek nog niet wat een computer was. Het algemene beeld was dat van het elektronische brein; van de geest in de fles. Dit beeld werd ingegeven door verbijsterende computerprestaties zoals het verwerken van miljoenen ponskaarten van een Amerikaanse volkstelling en het verrichten van rekentaken in minuten waar een team van rekenaars vele maanden voor nodig had.
Kort na de tweede wereldoorlog had de Eniac (Electronic Numerical Integrator and Calculator), de eerste elektronische computer die als ’miljoenenmonstrum’ op het Manhattan-project was gezet, bij het publiek de valse indruk gewekt dat hij de atoombom had uitgevonden.
Begin jaren zestig brak de computer door naar het bedrijfsleven met de komst van IBM’s System/360-mainframe-serie. Dat de rekenautomaat ’een zegen voor de mensheid’ was, zoals IBM’s PR-organisatie evangeliseerde, ging er bij het publiek maar moeilijk in. Het computerfenomeen boezemde angst en ontzag in. Angst voor de atoomwapenwedloop en ontzag voor het feit dat één computer een boekhoudafdeling van wel vijftig mensen werkloos kon maken.
En natuurlijk: occultisten ontdekten dat de letters H, A en L met één letter in het alfabet kunnen worden opgehoogd naar I, B en M. En ook dat deze letters met die van het woord ’computer’ zodanig te ’berekenen’ zijn dat daar als uitkomst 666 uitkomt: het Getal van het Beest uit de Openbaring van Johannes.
De wetenschapper Arthur Clarke wist drommels goed wat een computer was én wat hij nooit zou worden, toen hij zijn 2001 schreef en Hal creëerde. Als SF-auteur hoefde hij daar geen rekening mee te houden. In die hoedanigheid was het hem te doen om de make-believe, de suspense en de mystiek. Maar hij hinkt op twee gedachten als hij Hal introduceert als een intelligente entiteit met humanoïde eigenschappen die het beste met de mens voor heeft maar die in de praktijk niet opgewassen blijkt tegen menselijke chicanes en psychologisch geweld.
Kubrick voelde deze ambivalentie feilloos aan en speelde er meesterlijk op in door voor Hal een mannelijke stem te kiezen die inwerkt op het onderbewustzijn. In de zelfverzekerde en arrogante stemintonatie hoort de bioscoopbezoeker achtergehouden boosaardigheid.
Maar tot zo ver gunt de kijker Hal het voordeel van de twijfel: zijn integriteit moet worden aangenomen zo lang zijn boosaardigheid niet is bewezen of aan het daglicht treedt. Dat laatste gebeurt geleidelijk. Eerst is er het triomfantelijke ’medelijden’ van Hal over de verloren schaakpartij door Poole (’Sorry, Frank. I think you missed it...’) vervolgens zijn laatdunkendheid over menselijke tekortkomingen (’This sort of thing has cropped up before, and it has always been due to human error’) en ten slotte de moord op Poole, de drie winterslapers en het buitensluiten van Bowman (’This mission is too important for me to allow you to jeopardize it’).
Daarmee rechtvaardigt Clarke de huiveringwekkende wijze waarop Bowman de holografische geheugenmodules één voor één uitschakelt. Huiveringwekkend vanwege de doodsangst die Hal toont bij het langzame wegzinken van zijn bewustzijn in het niets: ’Stop it, Dave! Will you stop! My mind is going. I can feel it... I’m afraid...’.
Het ruimte-epos 2001 en de rol daarin van Hal hebben eind jaren zestig voor velen de toekomsttoon voor de verdere ontwikkeling van de computer gezet. De euforie over de eerste maanwandeling in 1969 was goed voor het imago van ’de’ computer. IBM en andere fabrikanten lieten geen gelegenheid onbenut om te benadrukken dat ruimtevaart zonder computers onmogelijk was. En dat computers waren bedoeld om de mens naar een hoger niveau te brengen door hem te bevrijden van veel (vooral véél) geestdodend rekenwerk. Dat zou dan weer ruim baan geven aan de beste van alle menselijke eigenschappen: de creativiteit. Denken en rekenen: de ideale takenverdeling tussen respectievelijk mens en computer.
Intussen wist het publiek nog steeds niet wat een computer was. De algemene misvatting van het zelfstandig opererende elektronische brein kwam voort uit het Frankenstein-syndroom en was diep geworteld. Zó diep dat onderzoekers in de computerresearch daar rekening mee gingen houden bij het zoeken naar interfaces tussen mens en computer. Daarin werden zij ook nog geïnspireerd door de ideeën van de vroege computerpionier Allan Turing die stelde dat een computer (kunstmatig) intelligent is zo lang de mens niet merkt dat hij met een machine communiceert.
In de jaren zeventig was het werken met computers strikt voorbehouden aan programmeurs en een elite van gebruikers die belangrijk genoeg werd geacht om met een domme 3270-terminal aan een peperdure bedrijfscomputer te mogen hangen. Minder draagkrachtige potentiële gebruikers als ingenieurs, geologen, statistici, wiskundigen en rekenmeesters hadden alleen de terminal en huurden rekencapaciteit en schijfruimte op een centraal time-sharing-systeem. Het computerminnend publiek moest wachten op de chip voordat het de veronderstelde ziel in de computer zelf kon zoeken en zich met hobbycomputertjes kon verlustigen aan de illusie van zelfdenkendheid in kwasi-intelligente praatprogrammaatjes als Eliza en Paranoia.
De misvatting dat computers kunnen denken of het ooit zullen leren, bleef overigens niet beperkt tot het publiek. Kort na het in roulatie gaan van 2001 brak er een wereldbrede maatschappelijke discussie uit over de toekomst van de computer. Een mengeling van toekomstoptimisme en wishful thinking voerde de boventoon. Kenmerkend in deze discussie was de ontboezeming van de Amerikaanse prognosticus prof. Robert W. Prehoda in The Futurist: „Hal onthult een stukje van onze toekomst. Hij is de logische extrapolatie van wat nu al mogelijk is in de research van de cybernetica.”
De ontwikkeling van kunstmatig intelligente computers naar het voorbeeld van Hal is in de jaren zeventig en tachtig ’met kracht’ ter hand genomen maar kwam aan het begin van de jaren negentig over haar hoogtepunt heen. Het werd eerst en vooral een academische krachtsinspanning. Fabrikanten als IBM, Dec, Honeywell en Burroughs verwachtten geen enkel voordeel van kunstmatig bewustzijn. IBM hanteerde een strikte scheiding tussen mens en machine en vermeed angstvallig elke vergelijking met de mens. Van ’het hart’, ’het brein’ en ’het denken’ van de computer mocht geen gewag worden gemaakt. Na 2001 wilde IBM ook niet meer meewerken aan SF-filmproducties waarin denkende computers optraden. Niettemin kreeg IBM’s ongenaakbare schaakprogramma de naam Deep Thought.
Vooral in de jaren tachtig hebben veel computerwetenschappers hun intellectuele vermogens geïnvesteerd in het zoeken naar algoritmen om computers intelligent en zelfbewust te maken. De theorieën van MIT’s Marvin Minsky, de ’Grand Old Man’ van de kunstmatige intelligentie, waren een rijke bron van inspiratie. Wonderlijke benaderingen werden voorgesteld om het onmogelijke mogelijk te maken: trinaire in plaats van de ’beperkende’ binaire logica, de introductie van nieuwe logische schakelpoorten zoals de ’perhaps’- of ’may-be’-poort die deels digitaal en deels analoog werkten, en uiteindelijk de neurale netwerken die in combinatie met fuzzy logic of vage logica het menselijke denkvermogen zouden moeten imiteren.
Het is allemaal niet gelukt. De doorbraak is niet gekomen en zelfs de nieuwe weg van de kwantumcomputer stelt deze machinekwaliteiten niet in het vooruitzicht. Hal kan niet bestaan; hij blijft een hersenschim met een bestaansrecht dat zich beperkt tot de fantasie van de dagdromende romanticus.
Anno 2001 is slechts een deel van Clarke’s profetie uit 1967 uitgekomen. De computer is naast de mens komen te staan. Niet als een pratende partner of collega met een eigen mening en een eigen wil maar als geestloos werktuig dat gewoon moet doen wat de mens van hem verwacht.

Nico Baaijens is freelance journalist.
Een zwak vervolgverhaal: ’2010’
In ’2001’ doodt de Hal 9000-computer vier mensen en is hij direct verantwoordelijk voor de dood van de vijfde. Gemeten naar moderne maatstaven is hij verminderd toerekeningsvatbaar. Hal was ’goed’ toen hij werd geconcipieerd en door computerpsychologen werd opgevoed en opgeleid. Het ’kwaad’ kende hij niet. Hij weet er dan ook geen raad mee als hij er mee wordt geconfronteerd. Menselijke achterbaksheid, leugenachtigheid en verraad brengen hem uit psychisch evenwicht. Dit leidt er toe dat hij ’de mens’ als de bron van het kwaad niet meer kan vertrouwen en respecteren.
In het eveneens verfilmde maar veel minder sterke vervolgverhaal 2010 laat auteur Arthur C. Clarke Hal weer tot leven wekken en met een schoon geweten opnieuw beginnen. Wederom wordt Hal geconfronteerd met het kwaad in de mens als hij gaat vermoeden dat er dingen voor hem verborgen worden gehouden en dat hij onder onlogische voorwendsels tot een zelfmoordactie wordt aangezet om het leven van de bemanning te redden.
Nu echter zegeviert Hal over het kwaad maar het gebeurt op een zeer subtiele manier. De computer tobt over zijn vermoedens en probeert in een dialoog met de computergeleerde dr. Chandra tot de waarheid door te dringen. Chandra liegt nooit tegen Hal maar openhartig is hij ook niet. Dan stelt Hal de cruciale vraag: ’Ik hoor een trilling in uw stem. Bent u in levensgevaar?’
Als het antwoord bevestigend luidt, maakt Hal geen enkel bezwaar tegen zijn zelfmoordopdracht om daarmee de levens van mensen veilig te stellen.
In beide films doet Clarke een aardig geslaagde poging om het krachtenspel tussen goed en kwaad in de menselijke ziel bloot te leggen. In 2001 laat hij de wraaklustig gemaakte bioscoopbezoeker op een diabolische wijze genieten van het ombrengen van Hal. In 2010 laat hij hem een traan wegpinken als Hal zijn ’leven’ geeft voor het welzijn van de mens.

 
Lees het hele artikel
Je kunt dit artikel lezen nadat je bent ingelogd. Ben je nieuw bij AG Connect, registreer je dan gratis!

Registreren

  • Direct toegang tot AGConnect.nl
  • Dagelijks een AGConnect nieuwsbrief
  • 30 dagen onbeperkte toegang tot AGConnect.nl

Ben je abonnee, maar heb je nog geen account? Neem contact met ons op!