'Burger onvoldoende juridisch beschermd'

Geautomatiseerde ketenbesluiten & rechtsbescherming

door: Marlies van Eck, 20 februari 2018

Wat gebeurt er bij geautomatiseerde besluiten vanuit de overheid en wat betekent deze praktijk voor de burger die te maken krijgt met zo’n besluit? Marlies van Eck deed er onderzoek naar en promoveerde op 9 februari aan de Tilburg University op dit onderwerp. Een van haar conclusies is dat het nog te vaak misgaat en burgers onvoldoende juridisch worden beschermd.

Computer says no

Illustraties: Jiska de Waard

Elke zeventien seconden wordt er een automobilist in Nederland ‘geflitst’. De Belastingdienst neemt jaarlijks beslissingen op 11,3 miljoen ingediende aangiften en het UWV verzendt zo’n 16, 8 miljoen ‘continueringsbeslissingen’ (cijfers uit 2014). Dit soort gigantische aantallen besluiten kunnen uiteraard niet met de hand genomen worden. De Nederlandse overheid maakt dan ook gebruik van automatische afhandelingssystemen, ook wel expertsystemen genoemd, om deze besluiten geautomatiseerd te nemen en uit te voeren. U kunt daarbij denken aan het verlenen van kinderbijslag, AOW, toeslagen, het opleggen van motorrijtuigenbelasting of de aanslag inkomstenbelasting. Vaak gaat het om besluiten die te maken hebben met geld. Een ander kenmerk is dat de overheidsinstanties hiervoor elkaars gegevens gebruiken.

De afgelopen jaren heb ik onderzoek gedaan naar deze uitvoeringspraktijk in relatie tot rechtsbescherming. Rechtsbescherming houdt in dat burgers het besluit dat zij hebben ontvangen, kunnen laten toetsen door de bestuursrechter. Deze bestuursrechter is bevoegd het besluit van tafel te vegen. Dit is dus iets anders dan dat burgers naar de Nationale Ombudsman of de Autoriteit Persoonsgegevens kunnen met een klacht. Want deze instanties kunnen het besluit niet ‘vernietigen’.

De rechtsbescherming uit de Algemene wet bestuursrecht stamt uit 1994. Een tijd waarin bestuurskundigen als Arre Zuurmond al schreven over informatisering bij de overheid. Maar ook een tijd waarin de bestuursrechtjuristen nog dachten aan de situatie dat een burger het stadhuis binnenloopt, een formulier gaat invullen om vervolgens de beslissing van de bevoegde ambtenaar af te wachten.

Huidige uitvoeringspraktijk

Mijn onderzoeksvraag was gericht op de huidige uitvoeringspraktijk. Ik wilde onderzoeken wat er precies gebeurt bij geautomatiseerde besluiten en wat deze praktijk betekent voor de burger die te maken krijgt met zo’n besluit. Ik wilde weten of het nog voldoende is dat de burger bezwaar kan maken en in beroep kan gaan bij de bestuursrechter. De probleemstelling van het onderzoek luidt: ‘Welke invloed hebben geautomatiseerde ketenbesluiten over een financieel belang op de rechtsbescherming voor burgers?’

Mijn onderzoek startte bij de vraag wat we eigenlijk binnen Europa verstaan onder rechtsbescherming, met name onder het Europese recht op ‘good administration’. Dit recht op ‘good administration’ wordt gezien als een nieuw grondrecht in de rechtsverhouding burgers en instellingen van de EU. De invloed van dit recht zal steeds groter worden omdat onze Nederlandse overheidsinstellingen nu al delen van Europees recht uitvoeren. Bijvoorbeeld de douane en de SVB. Bijzonder aan dit recht op ‘good administration’ is dat het een aanspraak oplevert voor burgers en daarmee een andere insteek kent dan de beginselen van behoorlijk bestuur.

Aan de hand van de literatuur-en jurisprudentieonderzoek heb ik juridische normen gevonden waaraan ik de praktijk kon onderzoeken. Voorbeelden van deze onderzoeksvragen zijn:
- ‘Wordt er bij het ontwerp van het gebruik van gegevens rekening gehouden met feiten en omstandigheden die niet digitaal zijn vastgelegd maar wel van rechtswege betekenis hebben?’ en
- ‘Zijn de beslisregels reproduceerbaar en is daaruit af te leiden dat er sprake is van een consistent, doordacht en verdedigbaar beleid?’

Daarna kon ik empirisch onderzoek naar de praktijk verrichten. Ik heb gekozen voor de SVB en Belastingdienst en gelukkig gaven zij mij de kans een kijkje in de keuken te nemen. Ik heb mij gericht op de dagelijkse uitvoering en vond de inzet van de mensen op de werkvloer, hun deskundigheid en de ingewikkelde informatienetwerken die zijn opgezet, indrukwekkend. Ik sprak niet met managers, om de ‘managers-bias’ te voorkomen: het krijgen van antwoorden over de werkelijkheid zoals die wordt beleefd of gewenst door managers.

‘Andere taal’

Ik moet eerlijk bekennen dat het heel lastig was om een taal te vinden waarin IT’ers, en vooral IT-architecten, en ik elkaar konden begrijpen. Vaak leken we Nederlands te spreken, maar andere dingen te bedoelen. Hoewel ik zelf al jaren bij de Belastingdienst werk als jurist tussen IT’ers, was dit zeer opvallend. Het maken van bezwaar door een burger bijvoorbeeld werd door anderen een ‘interventie’ genoemd, het overlijden van een burger een ‘event’. Basisregistratie Inkomen (BRI) stond bekend als de applicatie AIG, terwijl het AIG (authentiek inkomensgegeven) het ‘geregistreerd inkomen’ werd genoemd. Dit was om moedeloos van te worden.

De praktijk blijkt niet gericht te zijn op het nemen van besluiten, maar op het verwerken van informatie. Maar de rechtsbescherming is juist alleen gericht op de besluiten. Deze werkelijkheden kunnen botsen, in het nadeel van de burger.

Verder is het opvallend hoeveel moeite de medewerkers in het bezwaarproces doen om fouten in het primaire proces op te lossen terwijl er weinig samenhang is tussen hun werk en dat van de ontwerpers. Kenmerkend voor het gebrek aan aandacht (en wellicht ook gebrek aan waardering) voor deze taak is dat het bezwaar- en beroepproces consequent ‘de achterkant’ wordt genoemd. Maar zij zijn het aanspreekpunt voor burgers die geconfronteerd worden met keuzes aan de ‘voorkant’ en de last van deze keuzes komen op hun schouders.

Conclusies

Uiteindelijk heb ik de balans kunnen opmaken. Hier volgen de belangrijkste conclusies.

De inzet van technologie bij het nemen van besluiten heeft voordelen voor burgers. Het verzamelen van de benodigde gegevens vindt zorgvuldig plaats. Ook krijgen mensen vaak van tevoren te zien welke gegevens de overheid al heeft, waardoor dit aspect geen geheimen heeft voor de burger. Een ander voordeel is dat de computer alle gelijke gevallen ook écht gelijk behandelt.

Het allerbelangrijkste is dat bij alle lagen binnen de overheid de notie moet ontstaan dat de computer het ook fout kan hebben

Maar er zijn ook nadelen. Een van die nadelen is dat de instructies aan de computer (de beslisregels en de algoritmen) niet bekend zijn voor de personen die het besluit krijgen. Ook zijn er geen onafhankelijke instanties die deze instructies controleren op juistheid. In een rechtszaak over het besluit kan de bestuursrechter dus niet controleren of het bestuursorgaan de wet goed interpreteert. Ook blijven aannames die de programmeur heeft gehad, onzichtbaar. Daardoor kan niet ook niet vastgesteld worden of het besluit wel juist is.

Een ander nadeel is dat de overheidsorganen zwaar op elkaar leunen bij het nemen van computerbesluiten. Door deze ketensamenwerking werkt een besluit van het ene overheidsorgaan, door in het besluit van een ander overheidsorgaan. Maar als er iets fout gaat is het voor de burger erg lastig om de fouten die inmiddels verspreid zijn, te herstellen. Zeker als het met terugwerkende kracht verbeterd moet worden, is dit voor de systemen moeilijk. Dit betekent dat de burger niet altijd de rechtsbescherming krijgt waar hij recht op heeft. De conclusies uit dit onderzoek komen overeen met het onderzoek dat de Kafkabrigade deed naar onbedoelde gevolgen voor burgers door informatieuitwisseling bij de overheid.

‘Computer kan ook fout zitten’

Uiteraard volgde toen de onvermijdelijke vraag: hoe zou het dan wel moeten? Het allerbelangrijkste is, en dit kan ik niet genoeg benadrukken, dat bij alle lagen binnen de overheid de notie moet ontstaan dat de computer het ook fout kan hebben. Dit klinkt simplistisch, maar dat is het niet. Medewerkers die geconfronteerd worden met het resultaat van de computer, moeten vaak veel moeite doen hiervan af te wijken. Dit werkt belemmerend. Zeker als het kennisniveau van de medewerkers zodanig is dat zij niet ‘boven de materie’ staan, is dit haast een onmogelijke opdracht.

De overheid zou veel kunnen leren van de luchtvaart. De automatische piloot is er voor de routinematige en snelle berekeningen, maar wordt het moeilijker en wordt er menselijke cognitie gevraagd, dan moet de piloot van vlees en bloed aan de slag. Dit voorbeeld is van Bas Haring die dan ook als aanbeveling schreef dat mensen die procedures uitvoeren ‘moeten kunnen uitzoomen uit hun dagelijkse activiteiten en kunnen begrijpen waarom ze doen wat ze doen. Als het ene mens voor een ander mens.’

Wat mij betreft gaan de overheidsmedewerkers die in contact staan met burgers zich een beetje meer gedragen als Stanislov Petrov, de man die besloot de computeruitslagen niet op te volgen en naar verluidt daardoor een derde wereldoorlog heeft voorkomen.

Ook stel ik voor dat iedereen met problemen met computerbesluiten een loods krijgt toegewezen; een ambtenaar die gaat helpen het probleem op te lossen. Op deze manier ligt de last van de gespecialiseerde en ingewikkelde uitvoering weer bij de overheid, in plaats van bij de burger.

Tekst loopt door onder de illustratie

Ik heb een probleem

Openbaar en toegankelijk

Heel belangrijk is ook dat de instructies aan de computer openbaar en toegankelijk moeten worden. Ze moeten dan wel te begrijpen zijn door mensen die geen verstand hebben van programmeren en zeker door rechters. Dit gaat ook verder dan de bedoeling is van de Algemene Verordening Gegevensbescherming (AVG), het bekendmaken van de logica achter het besluit. Al vaker is geadviseerd dat we een onafhankelijk en deskundig toezichthoudend orgaan moeten oprichten voor de controle op de beslisregels. Bovens & Zouridis noemen dit een vierde macht; de controle van omzetting van wetgeving in beslisregels. Ik sluit mij daarbij aan.

Ook heb ik geconstateerd dat de wetgeving die ten grondslag ligt aan de geautomatiseerde uitvoering soms zo ‘digitaal’ en ‘zwart-wit’ is, dat de overheid en de rechter geen mogelijkheden hebben in te grijpen als de uitkomsten in een bijzonder geval onredelijk uitpakken. Vandaar dat ik adviseer dat de individuele rechtvaardigheid wettelijk geregeld wordt.

Een van mijn andere adviezen is dat ketenpartners verplicht moeten worden om samen te werken bij problemen ‘aan de achterkant’. Het kan nu gebeuren dat een burger procedeert tegen een besluit, vindt dat er onjuiste gegevens zijn gebruikt en in de rechtszaal te horen krijgt dat hij bij een andere overheidsorganisatie moet zijn. Dat is geen rechtsbescherming.

Al met al is de constatering dat er nu onvoldoende rechtsbescherming is. Ik hoop dat dit onderzoek een aanzet tot verbetering is.

Stellingen

Tot slot wil ik nog twee van mijn stellingen aan u meegeven:

- Een ketensamenwerking brengt de plicht met zich mee om ook samen te werken aan een oplossing voor burgers die last ondervinden van de samenwerking.

- Omdat niet kan worden overzien welke gevolgen het doorwerken van een geautomatiseerd ketenbesluit bij een ander bestuursorgaan heeft voor de individuele burger, zou er door alle betrokken bestuursorganen standaard een alternatief moeten worden geboden.

Marlies van Eck is juridisch adviseur CIO-Office Belastingdienst en gepromoveerd aan de Tilburg University op het onderwerp ‘Geautomatiseerde ketenbesluiten & rechtsbescherming. Een onderzoek naar de praktijk van geautomatiseerde ketenbesluiten over een financieel belang in relatie tot rechtsbescherming’. Promotoren: prof. mr. dr. S. Zouridis en prof. mr. B.W.N. de Waard, Tilburg University.

Het proefschrift is open access digitaal beschikbaar gemaakt op website van Tilburg University.

reacties: 2

tags: ,

- - - - -

  1. Bas Janssen, RuleManagement Group #

    22 februari 2018, 12:04

    Als specialist in regelbeheer / regelbeheersing kunnen wij de conclusies en aanbevelingen van Marlies t.a.v. de beslisregels alleen maar onderschrijven. Wij menen echter ook dat ons vakgebied een bijdrage kan leveren aan de gewenste transparantie richting de wettelijke grondslag van de beslisregels en de uitleg van die regels bij een geautomatiseerd genomen besluit met voor een individuele burger.

    Door de analyse-, interpretatie-, modelleer- en ontwerpbeslissingen die leiden tot de te executeren beslisregels gestructureerd vast te leggen ontstaat in ieder geval transparantie t.a.v. het ontstaan van de beslisregels. Of alle gemaakte keuzes juist zijn in het licht van het individueel belang is daarmee echter niet gegarandeerd. in het gehele proces van beleid naar processen en systemen zou dit aspect – naar analogie van de AVG – eigenlijk ‘by design’ meegenomen moeten worden. Ergens moet een burger bij onrechtvaardigheid immers aan een juiste beslissing geholpen kunnen worden.

    Tevens bestaan er systemen die standaard ‘uit kunnen leggen’ hoe een beslissing tot stand is gekomen. Ofwel: welke gegevens hebben via welke regels geleid tot welke conclusie. Door deze regels en gegevens (leg de burger de verschillende loonbegrippen maar eens eenvoudig uit!) in begrijpelijke taal uit te leggen, kan een burger in ieder geval nagaan hoe deze beslissing tot stand gekomen is. Voor communicatie experts ligt hier een schone taak.

    Tot slot: het vraagstuk van rechtsbescherming bij ketenbesluiten is uiteraard veel breder dan mijn opmerkingen over de beslisregels (anders zou het promotieonderzoek van Marlies zeker korter hebben geduurd), maar we zijn er van overtuigd dat ons vakgebied daaraan minstens een bijdrage kan leveren.

    Marlies, gefeliciteerd met je promotie. En je lekenpraatje was voor iedereen erg begrijpelijk. Nu overheidsbeslissingen nog!

    - - - - -

  2. Ruud Leether #

    1 maart 2018, 20:29

    Dag Marlies,
    Hoewel ik je betoog in meer dan grote lijnen onderschrijf plaats ik daar wel enkele kanttekeningen bij. Allereerst dat rechtsbescherming niet alleen inhoudt dat burgers een jegens hen genomen besluit door de rechter kunnen laten toetsen maar dat rechtsbescherming er -uiteraard -mee begint dat belanghebbenden van de motivering van een jegens hen genomen besluit kennis kunnen nemen en die ook kunnen begrijpen.
    Voorts dat het wezen van geautomatiseerde besluitvorming er per definitie toe leidt dat geen rekening wordt gehouden met feiten en omstandigheden die niet in de programmacode zijn verwerkt, ook niet als die op enig moment wel relevant voor de besluitvorming kunnen zijn. Dat is, behalve de voor de buitenwacht volstrekte oncontroleerbaarheid van de omzetting van (beleids) regels in algoritmen, wat mij betreft ook een van de grote pijnpunten van geautomatiseerde besluitvorming. Overigens niet alleen bij de door jou onderzochte geautomatiseerde besluitvormingstrajecten van de overheid maar evenzeer bij nieuwe privaatrechtelijke fenomenen als “smart contracts”. Het bestuurlijk besluitvormingstraject moet voor de geautomatiseerde uitvoering daarvan in hoge mate worden geüniformeerd en gesimplificeerd en is bijgevolg hooguit nog geschikt voor het nemen van strikt gebonden overheidsbeslissingen. Beslissingen derhalve die geen individuele beoordeling van feiten en omstandigheden behoeven. Maar maakt de overheid ook inderdaad alleen dan van geautomatiseerde besluitvorming gebruik ?
    Als een van de voordelen van geautomatiseerde besluitvorming noem je dat “de computer gelijke gevallen ook echt gelijk behandelt.” Maar wie beantwoordt de prealabele vraag of inderdaad sprake is van gelijke gevallen. Een lastige vraag die niet zelden een minutieuze beoordeling vergt van wat uiteindelijk vaak slechts ogenschijnlijk gelijke gevallen blijken te zijn. Blijft dat wel mensenwerk of gaan we ook dat aan een computer toe vertrouwen ?
    Tenslotte: voor geautomatiseerde besluitvorming wordt uiteraard eerst en vooral gekozen uit bedrijfsmatige overwegingen nl. tijd en (dus) geld besparen. Medewerkers die geconfronteerd worden met het resultaat van een computer moeten, schrijf je, vaak veel moeite doen hiervan af te wijken. Ik zou denken, natuurlijk. Ze mogen er, sterker nog moeten er, vanuit gaan dat het resultaat deugt en dat dat niet eerst nog behoeft te worden geverifieeerd. Ware dat anders dan kan de overheid net zo goed direct weer met deze vorm van automatisering stoppen. Aan een vergelijking met de luchtvaart zal men zich dan ook voorspelbaar weinig gelegen laten liggen. Er vallen geen doden en een bezwaarprocedure staat voor wie dat wenst als vanouds open. Helaas want als jurist word ik daar, net als jij, niet echt vrolijk van…
    Groet,
    Ruud Leether

    - - - - -

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie.