'Kunnen computers rechtspreken?' Die vraag zorgde in de jaren '90 van de vorige eeuw voor flink wat opschudding en ook nu nog houdt het de gemoederen aardig bezig.
Waan u terug in 1991. Tekstverwerken deden we met WP 5.1 onder DOS, Tim Berners-Lee liet de eerste contouren van het World Wide Web onopgemerkt uit het CERN ontsnappen en Jaap van den Herik hield, ter aanvaarding van zijn leerstoel in de juridische informatica aan de Universiteit Leiden, een inaugurele rede met de provocatieve titel: ‘Kunnen computers rechtspreken?’
De rede van Van den Herik was misschien wel de meest gehekelde uit de vaderlandse academische geschiedenis. Rechters vielen massaal over hem heen: een computer die ons werk overneemt? Ondenkbaar! De meeste critici hadden het boekje natuurlijk niet gelezen en dus ook niet de relativering waarmee de auteur zijn eigen vraag beantwoordde: “Ja zeker, [maar] over de tijd tot een verwezenlijking laat ik mij niet uit.”
In de laatste decennia van de vorige eeuw en de eerste jaren van deze eeuw hield het vakgebied ‘Artificial Intelligence & Law’ zich vooral bezig met modelbouw en formalisaties. Daarbij stopt men rechtsregels op zo’n manier in de computer dat deze juridisch kan redeneren, gegeven de ingevoerde variabelen voor een specifieke casuïstiek. De uit deze methodologie voortvloeiende expertsystemen draaien heden ten dage op volle toeren binnen de Nederlandse overheid. Ze produceren zonder menselijke tussenkomst juridisch valide beslissingen: belastingaanslagen, beschikkingen over studieleningen en boetes voor snelheidsovertredingen. Maar een uitkeringsbeschikking produceren is iets anders dan rechtspreken en tot dat laatste bleek het expertsysteem niet in staat.
Indrukwekkende resultaten
Het is 2018, en Artificial Intelligence (AI) is wederom een hype. Deze keer worden de ronkende beloften geschraagd door indrukwekkende resultaten. Deze groeispurt komt niet doordat we betere modellen bouwen, maar omdat we data – big data – tot onze beschikking hebben waarmee de computer (vaak met een beetje hulp) in staat is te leren van het feitelijk gedrag van miljoenen mensen. Daarbij is het niet afhankelijk van de beperkte inzichten van een enkele programmeur. Zo blijken computers nu, met behulp van big data en AI, in staat om de uitkomst van ingewikkelde zaken bij het US Supreme Court of het Europees Hof voor de Rechten van de Mens te voorspellen. Ze scoren even goed als geoefende juristen, al doen ze het natuurlijk vele malen sneller. Maar toch, met wat kansberekening de uitkomst van een zaak voorspellen is nog wel even iets anders dan rechtspreken.
Daartoe moeten we eerst even stilstaan bij wat dat eigenlijk is: ‘rechtspreken’, want zo eenduidig is dat niet. De categorie met juridisch en feitelijk complexe zaken, waarin de partijen als kemphanen tegenover elkaar staan en die soms het achtuurjournaal halen, beslaat minder dan tien procent van het totaal. In verreweg de meeste van de jaarlijks zo’n anderhalf miljoen zaken stapt men niet naar de rechter omdat er een knoop moet worden doorgehakt in een ingewikkeld probleem, maar omdat een rechterlijk stempel nodig is voor de vervolgstap. Zo moet je, voordat je als telecombedrijf een deurwaarder langs kunt sturen om een geldvordering te innen, bij de rechter een executoriale titel halen. Dit lijken bij uitstek zaken die zich lenen voor automatisering: overzichtelijke rechtsvragen, weinig variabelen en een beperkte set bedrijfsregels. Op de Dag van de Rechtspraak zei Frits Bakker, voorzitter van de Raad voor de rechtspraak, het vorig jaar dan ook zo: “In het overgrote deel van de zaken gebeuren er geen gekke dingen en […] die lenen zich in hoge mate voor geautomatiseerde afdoening. Laten we dit voor de grap maar de robotrechter noemen.”
Vorige week bleek die ‘robotrechter’ helemaal geen grap te zijn. Het schimmige bedrijfje e-Court heeft in een paar jaar tijd de macht gegrepen op de lucratieve schuldenmarkt, daarbij geholpen door een lid in het Comité van Aanbeveling die als staatssecretaris de griffierechten voor eenvoudige kantonzaken tot in het ridicule verhoogde en tegelijkertijd de wettelijke mogelijkheden voor buitengerechtelijke afdoening verruimde. Zorgverzekeraars en andere bedrijven hebben in hun algemene voorwaarden opgenomen dat conflicten aan e-Court moeten worden voorgelegd – bijvoorbeeld om een executoriale titel te verkrijgen bij wanbetaling. Beslissingen van e-Court worden genomen door wat computeralgoritmes en enkele ‘arbiters’ waarvan namen, connecties en kwaliteiten bij niemand bekend waren. Journalistencollectief Investico deed onderzoek, het Landelijk Overleg Sociaal Raadslieden schreef een alarmerend rapport, de Groene Amsterdammer publiceerde een artikel en er kwamen Kamervragen van D66 en SP.
‘Niet zo makkelijk’
Uit dit alles blijkt dat ook in ogenschijnlijk eenvoudige gevallen geautomatiseerde afdoening helemaal nog niet zo makkelijk is. Want ook in die ogenschijnlijk eenvoudige gevallen kunnen zich allerlei feitelijke en juridische omstandigheden voordoen die geen programmeur kan voorzien, maar waar een rechter feilloos de vinger op legt. Bovendien roept deze gang van zaken de vraag op of we de rechterlijke toetsing van door algoritmes genomen beslissingen aan een ander algoritme willen overlaten. Met andere woorden: is het de robotrechter die de robotbeslisser gaat controleren? Hoe verhoudt zich dat bijvoorbeeld tot de nieuwe Algemene Verordening Gegevensbescherming, die strenge eisen stelt aan de transparantie van geautomatiseerde besluitvormingsprocessen? En bedenk daarbij ook nog dat communicatie met e-Court alleen mogelijk is via internet, terwijl veel mensen die met deze robot te maken krijgen volgens de Nationale Ombudsman de meest elementaire digitale vaardigheden ontberen.
Als reactie op alle commotie publiceerde e-Court recent een lijst met 26 arbiters, die hun handtekening zetten onder de robotuitspraken of lastiger gevallen zouden beslissen. 24 Mannen en 2 vrouwen. 18 Advocaten, 5 juridisch consultants/adviseurs, één mediator, één directiesecretaresse en één leeg LinkedIn-profiel. Van die 23 advocaten en juridisch adviseurs werken er 22 uitsluitend voor het bedrijfsleven. Kortom, niet echt een gezelschap waarbij ik mij, ruziënd met mijn zorgverzekeraar, in onpartijdige handen zou voelen.
Overigens mogen we niet concluderen dat big data en AI geen enkele rol zouden kunnen spelen in rechterlijke bedrijfsprocessen. Integendeel, mits met verstand en beleid toegepast, zijn er tal van mogelijkheden voor juridisch-kwantitatieve analyses, doorlooptijdverkorting en kwaliteitscontrole. Alhoewel die ambitie er zeker is, lijkt veel aandacht voor dergelijke projecten de komende tijd niet te verwachten; de Rechtspraak heeft de handen vol aan het KEI-project waarin interne werkprocessen en communicatie met ketenpartijen moeten worden gedigitaliseerd. Vorige week kwam het nieuws naar buiten over enorme kostenoverschrijdingen en tegenvallende functionaliteit.
Het is 2018. Aan de ene kant staat de overheidsrechter die zich enigszins bewust begint te worden van de mogelijkheden en gevaren van de hedendaagse technologie, maar nog niet eens in staat is om de meer basale informatiseringsvraagstukken op te lossen. Aan de andere kant van het spectrum staat een bedrijf dat robotrechtertje speelt en daarbij tal van spelregels met voeten treedt. We stellen ons opnieuw de vraag: ‘Kunnen computers rechtspreken?’ Het antwoord moet luiden: ‘Nee’.
Marc van Opijnen is adviseur rechtsinformatica bij het Kennis- en exploitatiecentrum Officiële Overheidspublicaties (BZK/UBR/KOOP)
Robots mogen nooit de plaats van de rechter innemen, maar kunnen wel ondersteunend adviseren. Advies van een robot kan de rechtspraak versnellen en goedkoper maken. Een probleem is vaak de complexe logica achter algoritmes. Die is vaak nog een ‘black box’ die moeilijk kan worden verklaard. Dit moet veranderen als per 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) in werking treedt. De AVG geeft mensen het recht om geïnformeerd te worden over de logica van een advies of besluit van een robot.
Geschrokken van de opening van je stuk kon ik mij in de conclusie gelukkig volledig vinden: nee computers kunnen geen recht spreken en zelfs als ze dat ooit, verrijkt met nog meer data en ondersteund door “artificial intelligence” wel zouden kunnen, moeten we dat ook niet willen. Rechtspreken is én blijft wat mij betreft mensenwerk en houdt meestal meer in dan een simpele keuze uit bekende variabelen. Het is ook reageren op het onverwachte en soms zelfs het ongedachte. En dat is precies wat een deterministisch computerprogramma (vooralsnog) niet kan. En wat betreft e-Court: het is wat mij betreft maar zeer de vraag of je op basis van een dergelijk “tamelijk eenzijdige” regeling, n.b. opgenomen in algemene voorwaarden, als justitiabele kunt worden onttrokken aan de rechter die de wet je toekent (artikel 17 Grondwet). Trouwens heette die staatssecretaris niet gewoon Fred Teeven ?