Management

Digitale rechtspraak

Computer spreekt recht

De output van software mag niet gelden als enig en doorslaggevend bewijs.

© Shutterstock,  iJeab
18 mei 2022

In 2013 hing de Russische raket ingenieur en activistische asielzoeker Alexandr Dolmatov zichzelf op in een Nederlandse detentiecel. De reden: Dolmatov zou worden uitgezet, op basis van een verkeerd vinkje in het computersysteem van de IND. De output van computersoftware gaf de doorslag – en niet de blik en het oordeel van een ambtenaar, wat wel had gemoeten. Na zijn dood bleek het systeem nog driehonderd meer van dit soort foute vinkjes te bevatten.

Op dit moment speelt in het Verenigd Koninkrijk opnieuw een grote zaak rond een IT-systeem waar onterecht veel te veel vertrouwen in is gesteld.

Meer dan zevenhonderd medewerkers van het Engelse postkantoor zijn tussen 2000 en 2014 vervolgd wegens fraude, aan het licht gebracht door het Horizon systeem, dat een miljard Britse ponden heeft gekost. De employees hadden volgens het accountingsysteem soms tonnen gestolen. Ze raakten hun banen kwijt, gezinnen werden uiteengereten, sommigen werden zelfs veroordeeld tot gevangenisstraffen of kregen te maken met fikse boetes.

Buiten wat Horizon liet zien was bewijs of schakelbewijs veelal flinterdun of helemaal afwezig. Toch vertrouwde de jury keer op keer alleen op de uitkomsten van het stikdure accountingsysteem. 

De veroordeling van Seema Misra uit 2010 spreekt boekdelen. Misra was destijds zwanger van haar tweede kind. De rechter vroeg aan de jury of zij het aangedragen bewijs voldoende achtten. Horizon zou uiterst betrouwbaar zijn: in gebruik bij duizenden postkantoren, daardoor helemaal doorgetest en dus in en in robuust. De verdediging was hier niet tegen opgewassen. De jury ook niet: ze veroordeelde Misra tot 15 maanden onvoorwaardelijk.

Misra en vijfhonderd andere veroordeelden lieten het er niet bij zitten. Zij wisten zeker dat ze het niet gedaan hadden, maar niemand luisterde. Pas in 2019 oordeelde de Hoge Raad in het voordeel van de voormalige medewerkers over het zogenaamd gestolen geld van hun werkgever.

Uit de rechtszaak bleek dat het robuuste Horizon systeem toch niet zo betrouwbaar was als de eiser had voorgespiegeld. De uitspraak stond bol van de details over serieuze problemen. Maar discrepanties in de boekhouding werden afgewenteld op de medewerkers, die werden gedwongen te tekenen voor incorrecte boekingen.

Zo kon het gebeuren dat in 14 jaar tijd meer dan zevenhonderd mensen werden veroordeeld voor onregelmatigheden die het IT-systeem niet alleen aan het licht bracht, maar ook zelf bleek te veroorzaken. De compensatie die nu moet volgen, ligt naar schatting in de orde van een miljard pond. Omdat het postkantoor dit niet kan betalen, zal de belastingbetaler hiervoor opdraaien.

Computersoftware kan soms heel behulpzaam zijn bij het oplossen van zaken. Maar ik pleit ervoor dat de output van computersoftware in een rechtszaak nooit als enig en doorslaggevend bewijs mag gelden.

Magazine AG Connect

Dit artikel is ook gepubliceerd in het magazine van AG Connect (mei 2022). Wil je alle artikelen uit dit nummer lezen, zie dan de inhoudsopgave.

Reactie toevoegen