AI heeft geen geheugenprobleem, wíj hebben een geheugenprobleem

Eén term bleef bij mij hangen: conflicted custodian. Vrij vertaald: de archivaris als bewaker van het geheugen van een organisatie, terwijl hij tegelijkertijd onderdeel is van diezelfde organisatie. Daarom is de archivaris soms een conflicted custodian: bewaker van informatie die hij zorgvuldig moet bewaren, terwijl hij tegelijkertijd weet dat die informatie kan botsen met het belang of het zelfbeeld van de organisatie. Of met zijn eigen normen of geweten

Daarin schuilt een vorm van dual loyalty. De archivaris heeft de professionele verantwoordelijkheid om informatie zorgvuldig te bewaren, de context ervan te bewaken en toegankelijk te maken. Tegelijkertijd kan diezelfde informatie raken aan het belang, het imago of het zelfbeeld van de organisatie waarvoor hij werkt. Dat maakt de archivaris meer dan een beheerder van oude documenten. Hij is een bewaker van informatie die soms ongemakkelijk, gevoelig of zelfs confronterend kan zijn.

Informatie beheren

En eigenlijk geldt dat voor iedereen die vanuit een professionele rol informatie van derden beheert. Dat maakt het tot iets dat veel groter is: hoe organisaties omgaan met hun eigen geheugen. Een bedrijfsarchief bevat de kruimelsporen van beslissingen, successen, mislukkingen, innovaties en veranderingen. Het laat zien waarom een organisatie is geworden zoals zij is. Wie dat geheugen beheert, beheert dus meer dan documenten. Die beheert context.

En precies daar raakt het archief aan AI. We spreken tegenwoordig veel over de mogelijkheden van kunstmatige intelligentie. AI kan in seconden duizenden documenten doorzoeken, zelf (!) verbanden leggen en informatie samenvatten waar een mens dagen voor nodig zou hebben. Maar daarmee ontstaat een ongemakkelijke vraag. Wat gebeurt er als AI uitstekend informatie kan vinden, terwijl de organisatie zelf niet meer weet wat die informatie betekent?

'Een AI-systeem dat metadata gebruikt om auteurschap of relaties tussen documenten vast te stellen, kan een verband leggen dat feitelijk niet klopt'

Een algoritme kan een document herkennen. Het kan verbanden leggen tussen namen, gebeurtenissen en onderwerpen. Het kan zelfs een plausibele reconstructie van het verleden maken. Maar AI weet niet vanzelf waarom een document ooit is gemaakt. Wie verantwoordelijk was voor de inhoud. Welke versie de geldige was. Welke informatie bewust niet werd vastgelegd. Of een besluit later is ingetrokken. En al helemaal niet welke betekenis een document twintig of vijftig jaar later voor de organisatie kan hebben.

Onzichtbare informatie

Daar komt nog iets bij. Niet alle informatie die een AI-systeem gebruikt, staat zichtbaar in een document. Digitale documenten bevatten ook metadata: informatie over bijvoorbeeld auteur, datum, versie of herkomst. Die gegevens kunnen bij het kopiëren en hergebruiken van documenten ongemerkt worden meegenomen.

Dat kan tot merkwaardige en zelfs gevaarlijke conclusies leiden. Een presentatie kan bijvoorbeeld zijn opgebouwd vanuit een eerder document, waarbij de oorspronkelijke metadata behouden blijft. Een AI-systeem dat die metadata vervolgens gebruikt om auteurschap of relaties tussen documenten vast te stellen, kan een verband leggen dat feitelijk niet klopt. De persoon die het oorspronkelijke document maakte, hoeft immers niet de auteur te zijn van de nieuwe inhoud.

Voor een mens is dat binnen een zeker tijdsbestek misschien nog te corrigeren. Voor een AI-systeem is de metadata echter een ogenschijnlijk betrouwbare aanwijzing. Daarmee wordt een oude les uit het informatiebeheer ineens actueel: informatie is pas betrouwbaar als ook de context betrouwbaar is. Dat is geen technisch probleem. Dat is informatiebeheer.

Keuzes

Tijdens het congres werd opnieuw duidelijk hoe ingewikkeld dat kan zijn wanneer bedrijfsarchieven gevoelige onderwerpen bevatten. Een organisatie wil haar geschiedenis kennen, maar diezelfde geschiedenis kan ook vragen oproepen over keuzes die achteraf anders worden beoordeeld. Juist daarom is onafhankelijk en professioneel informatiebeheer zo belangrijk.

Een organisatie die alleen bewaart wat op dit moment nuttig of comfortabel is, creëert geen betrouwbaar geheugen. Zij creëert een geselecteerde herinnering. En dat verschil wordt belangrijker naarmate AI verder doordringt in organisaties. AI-systemen worden gevoed met informatie uit het verleden. Ze gebruiken die informatie om antwoorden te geven, patronen te herkennen en soms zelfs beslissingen te ondersteunen. Daarmee wordt de kwaliteit van het organisatorische geheugen onderdeel van de kwaliteit van AI.

In een archiefkast

Een verkeerd beheerd document blijft niet langer ergens onvindbaar in een archiefkast. Het kan (onbedoeld automatisch) onderdeel worden van een dataset, een zoekresultaat of een AI-antwoord. Daarmee verschuift de klassieke archiefvraag van ‘bewaren we dit?’ naar een bredere vraag: ‘Kunnen we over tien jaar nog uitleggen wat deze informatie betekent, waar zij vandaan komt en waarom we haar hebben bewaard?’ Dat is misschien wel een van de belangrijkste informatievraagstukken van het AI-tijdperk.

Brussel liet mij daarom niet alleen nadenken over bedrijfsarchieven. Het liet mij opnieuw zien hoe snel door AI archief en informatiemanagement en AI bij elkaar komen en met elkaar verweven raken. We kunnen organisaties steeds slimmer maken met technologie. Maar technologie kan geen betrouwbaar geheugen creëren als de organisatie zelf haar informatie niet op orde heeft.

AI heeft geen geheugenprobleem, wij hebben een problematisch georganiseerd geheugen.