Het algoritme heeft het gedaan

We laten ons al jarenlang de rap digitaliserende wereld lekker aanleunen, want het leven wordt er zoveel aangenamer door: Facebook organiseert ons sociale leven, LinkedIn ons professionele leven, TomTom ons autoleven en Google ordent de rest. Ondertussen stuurt de gemeente een attente digitale waarschuwing als ons paspoort bijna is verlopen, heeft de Belastingdienst de aangifte vooringevuld en ligt de uiteindelijke aanslag aanzienlijk vlotter dan vroeger op de mat.

Al jaren zijn er natuurlijk onheilsprofeten die ons waarschuwen voor de gevaren van al dat gedigitaliseer, maar het leek aan dovemansoren gericht. Opeens is de geest echter uit de fles. We kregen een discussie over het Sleepwet-referendum, Facebook-data blijken massaal misbruikt voor politieke doeleinden, er verschijnen verontrustende berichten over gemeenten die met slimme datacombinaties uitkeringsfraude voorspellen en de Raad van Europa kwam met een alarmerend rapport over hoe funest dit allemaal is voor onze grondrechten.

Opeens, en misschien nog net op tijd, is er nu dus aandacht voor de schaduwzijden van al die automatisering, informatisering en dataficering. Opmerkelijk daarbij is dat het spook een naam heeft gekregen die kennelijk lekkerder bekt dan ‘big data’ of ‘artificiële intelligentie’, een naam die tot voor kort alleen voorkwam in IT-handboeken: ‘algoritmen’.

Nu is een algoritme eigenlijk niet meer dan een voorgedefinieerde methodiek om op basis van een bepaald soort input te komen tot een bepaald soort output. Het algoritme is geen uitvinding van het digitale tijdperk – Pythagoras deed er ook al aan – maar computers kunnen het sneller en ingewikkelder. ‘Algoritme’ is nu echter een eufemisme geworden om uitdrukking te geven aan al het onbegrijpelijke en ongrijpbare dat digitaal over ons wordt uitgestort. Het algoritme is de zondebok en verder wast iedereen zijn handen in onschuld. Die reflex zien we al jaren bij geautomatiseerde overheidsbesluitvorming. Onbevredigende, feitelijk onjuiste of onrechtmatige beslissingen worden al jaren toegeschreven aan ‘andere organisaties in de keten’, ‘externe leveranciers’ of ‘systeem­complexiteit’, maar nu is het dus het ‘algoritme’ dat de schuld in de schoenen geschoven krijgt. Want dat algoritme is ondoorgrondelijk of misschien zelfs wel ‘zelflerend’.

De kern van het probleem zit er echter in dat informatici leidend zijn geworden op plaatsen waar ze louter dienend horen te zijn. Dat hebben niet-informatici, en juristen in het bijzonder, aan zichzelf te wijten. Overheidsbesluiten zijn gebaseerd op wetten, regelingen en beleidsregels. En al lang voordat de computer zijn intrede deed, moest ieder besluit gedragen kunnen worden door een redengevende motivering. Als de feiten niet kloppen of niet compleet zijn, of de berekening deugt niet, of de gevolgde logica is onduidelijk of inconsistent, dan kan het besluit door de rechter worden vernietigd op grond van een motiveringsgebrek.

Niemand is dol op juristenproza – “Vaststellende dat … Overwegende dat … Concluderende dat …” – maar het is een uitstekende methodiek om verantwoording af te leggen over het gevolgde denkproces: welke feiten zijn er vastgesteld, welke redenering is er gevolgd, tot welke conclusies heeft dat geleid. Softwareproza heeft precies dezelfde bouwstenen, maar het is geschreven in een taal die nog minder mensen machtig zijn. En informatici nemen er genoegen mee als het programma werkt, en niemand – op basis van een beperkte set testgevallen – de correcte werking betwist.

De Afdeling Bestuursrechtspraak van de Raad van State heeft vorig jaar in een nu al beroemde uitspraak beslist dat er aan een computergegenereerd overheidsbesluit dezelfde motiveringseisen worden gesteld als aan een besluit dat volledig door mensenhanden is uitgeschreven. In het betwiste besluit was de gebruikte software een black box, en hoe die op basis van de feiten tot een bepaalde conclusie was gekomen was niet inzichtelijk. Besluit vernietigd.

Maar juist omdat de bouwstenen van een computeralgoritme in beginsel exact hetzelfde zijn als de bouwstenen van een juridische redenering, zou het in beginsel niet zo ingewikkeld mogen zijn om bij iedere stap die het computeralgoritme zet, een voor mensen leesbaar regeltje tekst te produceren dat als verantwoording van het gevolgde proces in de uiteindelijk beslissing wordt afgedrukt.

Nieuwe overheidsalgoritmencontrolerende instituties hebben we daarbij helemaal niet nodig, we kunnen deze taak prima aan de rechter overlaten. En dat rechters over het algemeen weinig van IT begrijpen lijkt me daarbij alleen maar een voordeel. Ik voorzie voor de komende jaren een rijke jurisprudentie die nadere invulling gaat geven aan het beginsel ‘verantwoord algoritmegebruik door de overheid’.

Marc van Opijnen is adviseur rechtsinformatica bij het Kennis- en exploitatiecentrum Officiële Overheidspublicaties (BZK/UBR/KOOP).