Het algoritme heeft het gedaan

Marc van Opijnen

door: Marc van Opijnen, 2 mei 2018

We laten ons al jarenlang de rap digitaliserende wereld lekker aanleunen, want het leven wordt er zoveel aangenamer door: Facebook organiseert ons sociale leven, LinkedIn ons professionele leven, TomTom ons autoleven en Google ordent de rest. Ondertussen stuurt de gemeente een attente digitale waarschuwing als ons paspoort bijna is verlopen, heeft de Belastingdienst de aangifte vooringevuld en ligt de uiteindelijke aanslag aanzienlijk vlotter dan vroeger op de mat.

Al jaren zijn er natuurlijk onheilsprofeten die ons waarschuwen voor de gevaren van al dat gedigitaliseer, maar het leek aan dovemansoren gericht. Opeens is de geest echter uit de fles. We kregen een discussie over het Sleepwet-referendum, Facebook-data blijken massaal misbruikt voor politieke doeleinden, er verschijnen verontrustende berichten over gemeenten die met slimme datacombinaties uitkeringsfraude voorspellen en de Raad van Europa kwam met een alarmerend rapport over hoe funest dit allemaal is voor onze grondrechten.

Opeens, en misschien nog net op tijd, is er nu dus aandacht voor de schaduwzijden van al die automatisering, informatisering en dataficering. Opmerkelijk daarbij is dat het spook een naam heeft gekregen die kennelijk lekkerder bekt dan ‘big data’ of ‘artificiële intelligentie’, een naam die tot voor kort alleen voorkwam in IT-handboeken: ‘algoritmen’.

Nu is een algoritme eigenlijk niet meer dan een voorgedefinieerde methodiek om op basis van een bepaald soort input te komen tot een bepaald soort output. Het algoritme is geen uitvinding van het digitale tijdperk – Pythagoras deed er ook al aan – maar computers kunnen het sneller en ingewikkelder. ‘Algoritme’ is nu echter een eufemisme geworden om uitdrukking te geven aan al het onbegrijpelijke en ongrijpbare dat digitaal over ons wordt uitgestort. Het algoritme is de zondebok en verder wast iedereen zijn handen in onschuld. Die reflex zien we al jaren bij geautomatiseerde overheidsbesluitvorming. Onbevredigende, feitelijk onjuiste of onrechtmatige beslissingen worden al jaren toegeschreven aan ‘andere organisaties in de keten’, ‘externe leveranciers’ of ‘systeem­complexiteit’, maar nu is het dus het ‘algoritme’ dat de schuld in de schoenen geschoven krijgt. Want dat algoritme is ondoorgrondelijk of misschien zelfs wel ‘zelflerend’.

De kern van het probleem zit er echter in dat informatici leidend zijn geworden op plaatsen waar ze louter dienend horen te zijn. Dat hebben niet-informatici, en juristen in het bijzonder, aan zichzelf te wijten. Overheidsbesluiten zijn gebaseerd op wetten, regelingen en beleidsregels. En al lang voordat de computer zijn intrede deed, moest ieder besluit gedragen kunnen worden door een redengevende motivering. Als de feiten niet kloppen of niet compleet zijn, of de berekening deugt niet, of de gevolgde logica is onduidelijk of inconsistent, dan kan het besluit door de rechter worden vernietigd op grond van een motiveringsgebrek.

Niemand is dol op juristenproza – “Vaststellende dat … Overwegende dat … Concluderende dat …” – maar het is een uitstekende methodiek om verantwoording af te leggen over het gevolgde denkproces: welke feiten zijn er vastgesteld, welke redenering is er gevolgd, tot welke conclusies heeft dat geleid. Softwareproza heeft precies dezelfde bouwstenen, maar het is geschreven in een taal die nog minder mensen machtig zijn. En informatici nemen er genoegen mee als het programma werkt, en niemand – op basis van een beperkte set testgevallen – de correcte werking betwist.

De Afdeling Bestuursrechtspraak van de Raad van State heeft vorig jaar in een nu al beroemde uitspraak beslist dat er aan een computergegenereerd overheidsbesluit dezelfde motiveringseisen worden gesteld als aan een besluit dat volledig door mensenhanden is uitgeschreven. In het betwiste besluit was de gebruikte software een black box, en hoe die op basis van de feiten tot een bepaalde conclusie was gekomen was niet inzichtelijk. Besluit vernietigd.

Maar juist omdat de bouwstenen van een computeralgoritme in beginsel exact hetzelfde zijn als de bouwstenen van een juridische redenering, zou het in beginsel niet zo ingewikkeld mogen zijn om bij iedere stap die het computeralgoritme zet, een voor mensen leesbaar regeltje tekst te produceren dat als verantwoording van het gevolgde proces in de uiteindelijk beslissing wordt afgedrukt.

Nieuwe overheidsalgoritmencontrolerende instituties hebben we daarbij helemaal niet nodig, we kunnen deze taak prima aan de rechter overlaten. En dat rechters over het algemeen weinig van IT begrijpen lijkt me daarbij alleen maar een voordeel. Ik voorzie voor de komende jaren een rijke jurisprudentie die nadere invulling gaat geven aan het beginsel ‘verantwoord algoritmegebruik door de overheid’.

Marc van Opijnen is adviseur rechtsinformatica bij het Kennis- en exploitatiecentrum Officiële Overheidspublicaties (BZK/UBR/KOOP).

reacties: 4

tags: ,

- - - - -

  1. Jan van Til #

    2 mei 2018, 16:21

    Ja, … Met welk doel is het algoritme ontworpen? Voor welk toepassingsbereik is het (derhalve) geschikt? Wat is het wereldbeeld van de ontwerper? Wat is het wereldbeeld van de opdrachtgever (tot ontwerp van het algoritme)? Wat is de uiterste houdbaarheidsdatum van het algoritme? Wie mag het algoritme (namens wie) gebruiken? Met welk doel? In welke situaties? Gedurende welke periode? Over doelbinding gesproken. Welke (kwaliteits)eisen stelt (de ontwerper van) het algoritme aan de input? Wie waarborgt dat de input er van geval tot geval aan voldoet? Ga zo maar door …

    - - - - -

  2. saskia hoogwerf, DUO #

    3 mei 2018, 11:21

    Tja, shit in shit out…. Bewust gebruik van algoritmes en transparantie in het tot stand komen ervan lijken me essentieel hierin.

    - - - - -

  3. P.J. Westerhof LL.M. MIM #

    3 mei 2018, 18:41

    Elk kennistechnologisch systeem dient een uitlegmechanisme te omvatten waarme op elk moment in het geautomatiseerde proces uitleg kan worden verkregen over hoe het systeem tot de eindconclusie en elke tussenliggende deelconclusie is gekomen.

    Niets bijzonders. Dit en verwante zaken als aansprakelijkheid en discriminatoire effecten werden begin 90-er jaren reeds nadrukkelijk ten grondslag gelegd in vele overheidspublicaties (o.a. BiZa, NOTA).
    Destijds werd dan ook gesproken van kennisondersteunende systemen. Dat ‘ondersteunende’ is met de jaren een beetje weggezakt.
    De normstelling door de Afdeling bestuursrechtspraak is dan ook zowel vanzelfsprekend als dat het vragen oproept.

    - - - - -

  4. Mariette Lokin #

    13 mei 2018, 09:55

    “Nieuwe overheidsalgoritmencontrolerende instituties hebben we daarbij helemaal niet nodig, we kunnen deze taak prima aan de rechter overlaten.”
    Nog beter: laten we de wetgever al uitrusten om zijn product beter geschikt te maken voor omzetting naar algoritmen,en laten we de technologie (bijvoorbeeld de fraaie infrastructuur achter wetten.nl)gebruiken om beslisregels direct herleidbaar te maken naar hun wettelijke bron. Dan wordt het de rechter ook nog makkelijker gemaakt.

    - - - - -

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie.