Robotrechtspraak: het einde van menselijke rechtspraak?

Voormalig minister van Rechtsbescherming Sander Dekker wees er in zijn brief van 11 januari 2019 aan de Eerste Kamer op dat de Rechtspraak al druk met AI-toepassingen experimenteerde. Daarmee doelde hij hoogstwaarschijnlijk op het medio 2018 bij de rechtbank Oost-Brabant gestarte onderzoek Kunstmatige Intelligentie Kennissysteem voor de Rechtspraak. Uitgangspunt daarbij was, aldus Dekker, “vooralsnog niet: een keus tussen mens of machine maar: keuze voor mens en machine die samenwerken als team. Want voorshands lijkt dat de sterkste combinatie.” Een latere keuze voor uitsluitend de machine sloot hij daarmee niet uit.

Sneller en beter?

Ook bij de Europese Commissie in Brussel staat AI hoog op de agenda. Wat betreft het gebruik daarvan door de Rechtspraak is de Commissie van mening dat werkprocessen dan beter kunnen worden gestroomlijnd en de werklast eerlijker kan worden verdeeld. Zo kunnen forse tijdsbesparingen worden behaald en kan de kwaliteit van de rechtsstelsels worden verbeterd, aldus de Commissie. Die eist daarbij trouwens ook een belangrijke rol voor zichzelf op om ervoor te zorgen dat de ontwikkeling van AI in lijn is met de Europese waarden en fundamentele rechten.

Na het “Witboek kunstmatige intelligentie” uit 2020 kwam de Commissie vorig jaar met een voorstel voor een AI-verordening inclusief een regelgevend kader. Dat gaat uit van een “risk-based approach” waarbij strengere eisen gelden naarmate de risico’s groter zijn. Bij gebruik van AI ten behoeve van rechtspraak is sprake van een “hoog risico” en gelden extra strenge eisen voor onder meer transparantie, datakwaliteit, beveiliging en menselijk toezicht. Wordt daaraan niet voldaan dan kunnen boetes van vele miljoenen euro’s worden opgelegd. Het zal, gelet op het grote belang van deze concept-verordening, nog wel even duren voordat die definitief wordt, maar de Rechtspraak zij op voorhand gewaarschuwd.

Interessant voor juridische beroepsbeoefenaren is ook het in december 2018 door de European Commission for the Efficiency of Justice (CEPEJ), opgestelde European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment.  

Een blik op het 'EU-scoreboard voor Justitie 2021', waarop vergelijkende informatie over digitalisering in de lidstaten ten behoeve van rechtspraak staat, leert dat diverse lidstaten bij hun rechtspraak reeds AI-toepassingen gebruiken. Bijvoorbeeld ten behoeve van een geautomatiseerde zaaktoewijzing maar soms ook al bij de uitvoering van rechterlijke kernactiviteiten. Gebruik van AI bij rechtspraak is dus geen toekomstmuziek meer maar de realiteit. 

Ondersteunende rol

Over mogelijk- en vooral wenselijkheden van het gebruik van AI bij rechtspraak, lopen de meningen uiteen. Vooralsnog gaan de gedachten vooral uit naar het gebruik daarvan ter ondersteuning van griffiers en rechters ('AI in court'). Rechtspreken is, mede door de grote hoeveelheid te verwerken informatie (procesdossiers, regelgeving, jurisprudentie enzovoort) een tijdrovend proces dat met gebruikmaking van AI-toepassingen aanzienlijk kan worden bekort. Ook kan de instroom van zaken daarmee beter worden beheerst bijvoorbeeld door al direct bij binnenkomst een onderscheid tussen bulk- en specifieke zaken te laten maken. Met behulp van AI kan het management bovendien sneller en gerichter inzicht worden verschaft in data die essentieel zijn voor het functioneren van de rechtspraak.

Voorts kunnen, zoals de advocatuur dat ook doet, AI-kennissystemen nuttig worden gebruikt voor het analyseren van jurisprudentie en het signaleren van juridische trends. En wie wel eens processen verbaal van zittingen moet lezen zal met mij ongetwijfeld reikhalzend uitkijken naar een intelligent auto-transcriptiesysteem dat onmiddellijk na de zitting kan zorgen voor een (deugdelijk) verslag van het besprokene.

Hulpje

En misschien kan AI de rechter zelfs wel helpen bij het identificeren en prioriteren van partijstandpunten en, bij wijze van advies, aanreiken van bouwstenen voor de uitspraak. Uitsluitend bij wijze van advies dan, want AI-toepassingen bedoeld voor gebruik ter ondersteuning van de rechter dienen geen -directe- invloed op de uitkomst van een procedure te hebben.
AI kan ongetwijfeld ook nuttig worden gebruikt bij het -arbeidsintensieve- anonimiseren van uitspraken zodat die dan in veel grotere getalen kunnen worden gepubliceerd dan de magere 5% van rechterlijke uitspraken waarin dat nu gebeurt. Potentiële gebruiksmogelijkheden voor AI in court al op het eerste gezicht ruim voldoende  dus.

AI als rechters

Daadwerkelijke rechtspraak door AI (hierna ook 'robotrechter' en 'robotrechtspraak' genoemd) wordt niet op voorhand uitgesloten. De ontwikkeling van AI gaat bovendien zo snel dat sommige wetenschappers ervan overtuigd zijn dat nog voor het eind van dit decennium volledig geautomatiseerde rechtspraak mogelijk zal zijn. Voor sommigen, vooral bèta-wetenschappers, is dat zelfs het gedroomde eindpunt. De vraag is echter of we dat ook moeten willen. Die droom lijkt immers vooral gebaseerd op de veronderstelling dat rechtspreken weinig anders inhoudt dan het vellen van een logisch en rationeel oordeel op basis van regelgeving en jurisprudentie. Dat wie, of “wat”, de regels en jurisprudentie kent, dus recht kan spreken.

De werkelijkheid is anders. Behalve ratio en logica spelen, ongeacht of het om straf-, civiele of bestuursrechtelijke zaken gaat, ook gevoelens als emotie en intuïtie bij rechtspraak een rol. Bij robotrechtspraak zou het daar dan ook al direct misgaan want AI kent geen gevoelens. De Amerikaanse onderzoeker Yudkowsky verwoordde die digitale handicap in een discussie over mensvriendelijke AI zo: “The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.”

Over het antwoord op de vraag of dat ooit anders zal zijn, verschillen de deskundigen van mening. Sommigen zijn ervan overtuigd dat ook gevoelens kunstmatig kunnen worden aangeleerd. Anderen dat dat nooit zal lukken omdat nu eenmaal niet alle menselijke eigenschappen in algoritmes kunnen worden vertaald. Die discussie wordt momenteel met name gevoerd in het kader van 'deep learning', een relatief nieuwe vorm van AI met als gehoopt eindresultaat 'Artificial General Intelligence' (AGI). Een algemene vorm van AI die met behulp van kunstmatige, met het menselijke brein vergelijkbare, neurale netwerken zelfstandig kan leren, interpreteren, redeneren en misschien zelfs wel 'menselijke' gevoelens zal kennen. Of die dan gelijk zullen zijn aan onze gevoelens is maar zeer de vraag. Wat mij betreft trouwens alleen al omdat het vooral bèta-wetenschappers zijn die samen met grote Techbedrijven aan de ontwikkeling van 'deep learning' werken. Ontegenzeggelijk een illustere combinatie aan wie een warme belangstelling voor menselijke gevoelens niet kan worden ontzegd, zij het dat die wel vooral wordt ingegeven vanuit een commerciële behoefte die gevoelens zoveel mogelijk te kunnen manipuleren.

Beoordelen en interpreteren

Opvallend stellig in hun oordeel over AI as court waren trouwens de opstellers van het eerder genoemde European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment. Zij achtten het zo goed als onmogelijk om rechterlijk redeneren in een computermodel te vatten, omdat het daarbij vooral gaat om het beoordelen en interpreteren van relevante feiten, de uitleg van toepasselijke rechtsregels en een onvermijdelijk subjectieve opvatting over 'gelijkheid'. En dat is precies wat 'machine learning' technieken - nog - niet doen en ook niet proberen te doen. Die kunstmatige werkwijze is daarom, aldus de opstellers, volstrekt onvergelijkbaar met de wijze waarop rechters redeneren. AI die behalve over intelligentie ook over een bewustzijn beschikt en in staat is om de wereld om ons heen in al haar complexiteit te begrijpen, concludeerden zij, “remains purely fictional”.

Ook andere karakteristieke kenmerken van onze rechtspraak verdienen in dit verband bijzondere aandacht. Bijvoorbeeld wat robotrechtspraak zou betekenen voor onze rechtspraak in twee feitelijke instanties. Verdwijnt die dan of gaat weer andere AI vervolgens als robotrechter in beroep functioneren? Het laatste lijkt op voorhand onwaarschijnlijk als een robotrechter, zoals voorstanders graag beweren, inderdaad foutloos zou rechtspreken. Aan beroep zou dan, anders dan in geval van nieuwe feiten of gewijzigde omstandigheden, überhaupt geen behoefte meer bestaan. Daar komt bij dat het moeilijk voorstelbaar is dat 'anders tegen een zaak aan kijken' ook een digitale vaardigheid kan zijn. Dat geldt evenzeer voor menselijke vaardigheden als kunnen 'meebewegen met' en 'anticiperen op' maatschappelijke ontwikkelingen, beide opmaat voor het rechtsprekend fenomeen 'omgaan'. Bovendien zal een robotrechter in beginsel tot een oordeel moeten komen op basis van eerder ingevoerde, dus historische, data terwijl de aanleiding voor een andere juridische koers nu juist in een nieuwe maatschappelijke werkelijkheid gelegen pleegt te zijn. 

Beroep instellen

Zou de menselijke beroepsrechter wel worden gehandhaafd dan dient zich een andere vraag aan namelijk of een in eerste aanleg door een robotrechter gedane uitspraak de justitiabele voldoende inzicht zou bieden om daartegen beroep te kunnen instellen en de rechter om daarover een oordeel te vellen. Die vraag is temeer van belang omdat “het denken” van systemen gebaseerd op 'deep learning' nu vaak al, zelfs voor ingewijden, een black box vormt. Willen beroep instellen en rechterlijke toetsing van een uitspraak van een robotrechter mogelijk zijn dan zou die laatste de regels van het recht echt moeten kunnen begrijpen, interpreteren en gemotiveerd, met oog voor uitzonderingssituaties, moeten kunnen toepassen. En last but not least zou de robotrechter dan in staat moeten zijn de uitspraak in goed Nederlands te formuleren. En ook dat zal geen eenvoudige opgave zijn want taalbeheersing is nog altijd een uitgesproken zwakke kwaliteit van computers. Zou zo’n robotuitspraak daarvoor eerst in begrijpelijk Nederlands moeten worden vertaald, dan is de vervolgvraag wie dat dan gaat doen. Een IT ’er, een jurist, of beiden gezamenlijk? Bovendien kleven aan zo’n vertaalslag onvermijdelijk juridische risico’s. Aan de ons met robotrechtspraak voorspelde efficiencywinst zou dat bovendien allemaal niet echt bijdragen. Om het over de noodzakelijke transparantie van rechtspraak verder maar niet te hebben.

Wat bij het aantreden van de robotrechter zeker zou verdwijnen, is het juridisch debat. Dat heeft echter een belangrijke functie omdat ons recht niet volledig is vastgelegd, regelmatig opnieuw inhoud moet krijgen en tal van juridische begrippen voor verschillende uitleg vatbaar zijn. Voorstanders van robotrechtspraak lijken desondanks al voor te sorteren op het verdwijnen van het juridisch debat met de bewering dat (ook) het beroep van advocaat zal verdwijnen. Immers, zo menen zij, alleen creatieve beroepen kunnen de komst van AI overleven en het beroep van advocaat is dat niet. Nu kun je van advocaten veel zeggen, maar niet dat ze niet creatief zouden zijn. Integendeel: zo creatief zelfs dat het het rechterlijk voorstellingsvermogen soms bijna te boven gaat. Hoe dan ook, het juridische debat heeft een belangrijke toegevoegde waarde en het verdwijnen ervan zou een forse kwalitatieve aderlating voor onze rechtspraak betekenen.

Conclusie

Een overstap op robotrechtspraak zal ongetwijfeld leiden tot een versnelling van procedures en navenant lagere proceskosten. En dat is een even interessante als verleidelijke incentive voor een politiek die doorgaans meer op kostenbesparingen dan op kwaliteit gefocust is. Want zo’n overstap zal onvermijdelijk ook leiden tot een kwalitatieve verschraling van de rechtspraak. Maatwerk met aandacht voor nuances en ruimte voor uitzonderingen, zal plaatsmaken voor bulkwerk gebaseerd op uitsluitend rationele argumenten, wat zal leiden tot een rigide uniformering van onze rechtspraak zonder mogelijkheid om ongelijke zaken ook ongelijk te behandelen. Ook dat zou dan ontegenzeggelijk leiden tot de grotere rechtszekerheid die voorstanders van robotrechtspraak ons graag als lonkend perspectief voorhouden maar of dat dan de rechtszekerheid is waar justitiabelen op zitten te wachten waag ik te betwijfelen.

Daar komt bij dat data zoals die ook bij robotrechtspraak zullen worden gebruikt, amoreel zijn. Vooroordelen en andere ruis die daarin verscholen kunnen zitten, worden niet gesignaleerd en soms zelfs versterkt. Aangezien deep learning systemen zichzelf zonder verdere menselijke tussenkomst doorontwikkelen, kleven (ook) daar forse risico’s aan.

Ik realiseer mij dat ik deze beschouwingen schrijf uitgaande van de stand van de techniek anno 2022 en dat voor sommige van de door mij hiervoor genoemde problemen, mogelijk zelfs snel, een - technische - oplossing zal worden gevonden. Robotrechtspraak zou echter onvermijdelijk betekenen dat de toch al (te) grote maatschappelijke impact van techbedrijven nog zal toenemen en dat vanouds bestaande machtsverhoudingen daardoor verder uit balans zullen raken. Een ontwikkeling die, voorzichtig uitgedrukt, niet zonder risico’s is en die ons dwingt na te denken over de vraag in wat voor samenleving we straks met elkaar willen leven en welke rol daarin nog voor mensen zal zijn weggelegd. En dat geldt a fortiori voor de bemensing van een zo belangrijke organisatie als de Rechtspraak.

Rechtspreken is ook niet zomaar een vak. Het is een vaak moeizame zoektocht naar gerechtigheid waarbij behalve ratio en logica, ook menselijke gevoelens een rol spelen. Voor het vinden van gerechtigheid is meer nodig dan het maken van een simpele optelsom van wet en jurisprudentie. Wat gerechtigheid is, is bovendien sterk zaaksgebonden. Ze zal daarom steeds opnieuw gezocht en gevonden moeten worden en het is, zoals de schrijver Sandor Marai dat fraai verwoordt in zijn boek 'De nacht voor de scheiding', de rechter die het grote apparaat van de Rechtspraak daarbij geest, ziel en kracht geeft.

Met de komst van de robotrechter zou met de menselijke rechter ook de menselijke maat uit de rechtspraak verdwijnen. Tegenover de met robotrechtspraak ongetwijfeld te behalen efficiencywinst staat dan ook onvermijdelijk de prijs die justitiabelen daarvoor zullen moeten betalen. En die zal niet gering zijn.