Het recente advies van de Afdeling advisering van de Raad van State past in een tendens waarin kritisch naar de juridische implicaties van digitalisering wordt gekeken.
De overheid speelt een centrale rol in de digitale transformatie. Niet alleen stimuleert en reguleert de overheid deze transformatie, maar ook maakt zij zelf volop gebruik van de mogelijkheden van digitalisering.
Tegen de achtergrond van de toenemende invloed van nieuwe technologieën in het publieke domein, verscheen onlangs het ‘ongevraagd advies over de effecten van digitalisering voor de rechtsstatelijke verhoudingen’ (Advies W04.18.0230/I) van de Afdeling advisering van de Raad van State. In dit advies gaat de Afdeling advisering in op de gevolgen van digitalisering voor (1) besluitvorming, (2) digitale publieke dienstverlening aan de burger en (3) wetgeving. In het advies doet de Afdeling advisering enkele aanbevelingen die raken aan de taakuitoefening van zowel wetgever, bestuur als rechter.
In deze blog vatten wij het advies van de Afdeling advisering samen en voorzien het van een kort commentaar.
Een burgerperspectief op digitalisering
De ontwikkeling van een veelheid aan technologieën als big data, deep learning en blockchain grijpt diep in op de overheid. In de woorden van de Afdeling advisering is digitalisering ‘tot in de haarvaten van de overheid doorgedrongen.’ De gevolgen daarvan zijn niet onverdeeld positief. De Afdeling Advisering stelt dat digitalisering bij de overheid vooral wordt gedreven door het streven naar doelmatigheid en kostenbeheersing, terwijl de nadelige gevolgen van een ‘iOverheid’ bij burgers en bedrijven dreigen te worden gelegd. Dit heeft gevolgen voor de rechtsbescherming van burgers. Vanuit een ‘burgerperspectief’ benadert de Afdeling advisering vervolgens enkele belangrijke knelpunten die ontstaan door digitalisering.
1. Digitale besluitvorming
Onder de noemer ‘digitale besluitvorming’ bespreekt de Afdeling advisering een drietal situaties: geautomatiseerde besluitvorming, zelflerende besluitvorming met behulp van big data en ketenbesluitvorming. Deze vormen van (automatische) digitale besluitvorming worden gekenmerkt door de centrale rol van algoritmen, de koppeling van grote hoeveelheden data en verminderde menselijke betrokkenheid. Al deze kenmerken brengen bepaalde risico’s met zich mee. Zo kan de ondoorzichtigheid van algoritmen er bijvoorbeeld toe leiden dat niet meer duidelijk is op welke gronden een besluit is genomen.
Een voorbeeld is de toepassing van het big data-systeem AERIUS dat gebruikt wordt bij vergunningsaanvragen voor projecten die stikstofdepositie veroorzaken. De Afdeling Bestuursrechtspraak oordeelde in 2016 dat het onduidelijk was hoe AERIUS tot haar berekeningen kwam. Daarmee was het voor belanghebbenden niet mogelijk te toetsen hoe een op AERIUS gebaseerd besluit tot stand is gekomen. Ook andere problemen doemen op, zoals discriminatie bij het analyseren van grote dataverzamelingen en het baseren van besluiten op correlaties (statistische verbanden) die afwijken van de realiteit.
Om deze problemen tegen te gaan wijst de Afdeling advisering op de compenserende werking van de algemene beginselen van behoorlijk bestuur. In het bijzonder het motiveringsbeginsel en het zorgvuldigheidsbeginsel moeten in de context van digitalisering ‘verscherpt’ worden geïnterpreteerd. Dit betekent dat concreet moet worden toegelicht op welke algoritmen een besluit is gebaseerd en welke gegevens daarbij een rol spelen. In het kader van het zorgvuldigheidsbeginsel moet het bestuursorgaan ruimhartig rekening houden met de feiten en omstandigheden en op grond daarvan af kunnen wijken van de uitkomst van geautomatiseerde besluitvorming.
2. Digitale dienstverlening
Van burgers wordt steeds meer verwacht dat zij langs digitale weg contact met de overheid kunnen onderhouden. Dat vereist dat zij hun weg kunnen vinden binnen de honderden overheidsinstellingen die gebruikmaken van digitale dienstverlening. Zelfredzaamheid is daarbij van groot belang. Burgers die verminderd zelfredzaam zijn, kunnen minder goed meekomen in de overgang naar digitale dienstverlening.
Ook ten aanzien van deze ontwikkeling, vestigt de Afdeling advisering haar vertrouwen in een – ditmaal nieuw te ontwikkelen – beginsel van behoorlijk bestuur: het recht op toegang tot en zinvol contact met de overheid. Onder dit beginsel moeten burgers inhoudelijk te woord worden gestaan, waarbij het contact kan leiden tot het bijstellen van voornemens of handelingen. In aanvulling daarop moet werk worden gemaakt van de effectieve uitvoering van de AVG (Algemene Verordening Gegevensbescherming), onder meer door bestuursorganen te ondersteunen bij het operationaliseren van de daarin neergelegde rechten. In het bijzonder wordt daarbij gedoeld op het recht op inzage en correctie van gegevens.
3. Digitalisering en wetgeving
Ook de wetgever wordt geconfronteerd met diverse vraagstukken als gevolg van digitalisering. In de omgang met die vraagstukken moet de wetgever streven naar eenheid van wetgeving. Niet langer kan ad hoc worden gereageerd op de technologische vragen die zich voordoen in tijden van digitalisering. ICT-aspecten van een wet moet vanaf het begin onderdeel zijn van het multidisciplinair voorbereiden van wet- en regelgeving. Het wetgevingsproces moet hierop worden ingericht.
Daarnaast doen zich problemen voor bij het ‘techniekonafhankelijk’ formuleren van wetgeving. Dit leidt tot een toenemend abstractieniveau van wettelijke bepalingen en een verdere terugtred van de wetgever, doordat materiële normstelling wordt gedelegeerd naar de lagere regelgever. Deze tendens resulteert in gebrekkige rechtszekerheid en de aantasting van de democratische legitimiteit van wetgeving.
Slotsom: aanbevelingen voor wetgever, bestuur en rechter
De Afdeling advisering neemt aldus een kritische positie in ten aanzien van de invloed van digitalisering op rechtsstatelijke verhoudingen. Daarin staat de Afdeling advisering uiteraard niet alleen. Al eerder is gewezen op de rechtsstatelijk problematische aspecten van de digitale transformatie (zie bijvoorbeeld het onderzoek ‘Algoritmes en grondrechten‘ van de Universiteit Utrecht, het rapport ‘Opwaarderen‘ van het Rathenau Instituut en het rapport ‘Big Data in een vrije en veilige samenleving’ van de WRR).
Het advies van de Afdeling advisering past daarmee in een tendens waarin kritisch naar de juridische implicaties van digitalisering wordt gekeken. In dat kader geeft de Afdeling aan het einde van haar advies de volgende boodschap mee:
“Digitalisering van de samenleving zal verder gaan; dat is niet alleen onvermijdelijk maar schept onder de goede voorwaarden ook kansen.”
De Afdeling advisering probeert in haar advies bij te dragen aan het formuleren van deze ‘goede voorwaarden’ door middel van een reeks aanbevelingen, die hiervoor al aan bod kwamen. Deze aanbevelingen hebben gevolgen voor de wetgever, het bestuur en de rechter.
• De wetgever moet streven naar een eenvormigheid, eenheid en coherentie bij wetgeving die ziet op digitalisering. ICT moet vanaf het begin onderdeel zijn van het wetgevingsproces. Daarnaast moet de wetgever terughoudend omspringen met het techniekonafhankelijk formuleren van wetgeving.
• Het bestuur dient bij digitale besluitvorming rekening te houden met een ‘verscherpte’ interpretatie van de algemene beginselen van behoorlijk bestuur, in het bijzonder het motiveringsbeginsel en het zorgvuldigheidsbeginsel. Inzicht in de gebruikte data en algoritmen, alsmede menselijke heroverweging van automatische besluiten spelen daarbij een belangrijke rol. Bij digitale dienstverlening moet een recht op toegang tot en zinvol contact met de overheid worden ontwikkeld als een nieuw beginsel van behoorlijk bestuur. Daarnaast moeten bestuursorganen actief worden ondersteund bij het operationaliseren van de AVG, in het bijzonder bij het verwezenlijken van het recht op inzage en correctie van gegevens.
• Alhoewel de rechter in het advies minder expliciet aan bod komt, ligt de verwezenlijking van de aanbevelingen die zich richten tot wetgever en bestuur ook deels in zijn handen. Zo is de rechter verantwoordelijk voor de interpretatie van techniek-onafhankelijk geformuleerde wet- en regelgeving en dient hij toe te zien op verwezenlijking van de in de AVG neergelegde rechten. Bovendien speelt de rechter een centrale rol bij de vormgeving van de algemene beginselen van behoorlijk bestuur. Dat de rechter bereid is deze handschoen op te pakken blijkt wel uit recente rechtspraak van de Afdeling Bestuursrechtspraak. In de hierboven aangehaalde AERIUS-uitspraak stelt de Afdeling Bestuursrechtspraak eisen aan de motivering van een ‘algoritmisch’ besluit in het licht van het recht op equality of arms. En in een recente uitspraak over de Blankenburgtunnel verfijnde de Afdeling Bestuursrechtspraak deze norm. Zie over deze twee uitspraken onder meer ons eerdere blog ‘Verfijnde uitspraak’.
Het samenspel tussen wetgever, bestuur en rechter is daarmee bepalend voor de mate waarin rechtsstatelijke knelpunten worden tegengegaan en – wanneer zij zich toch voordoen – verholpen. Daarbij is het van belang, dat een tijdige analyse van de juridische aspecten van digitalisering bij besluitvorming, dienstverlening en wetgeving kan voorkomen dat de problemen die de Afdeling advisering aanstipt, zich manifesteren. Zo worden de kansen van digitalisering volop benut en vindt digitalisering onder de ‘goede voorwaarden’ plaats.
Sandra van Heukelom-Verhage is partner bij Pels Rijcken & Droogleever Fortuijn en geeft daar leiding aan het team Digitale Transformatie.
Deze bijdrage is geschreven in samenwerking met Max Vetzo.
Max Vetzo is student-medewerker bij Pels Rijcken & Droogleever Fortuijn en student aan de Legal Research Master van de Universiteit Utrecht.
