Met zijn open normen biedt het bestuursrecht een goede kapstok om een start te maken met het reguleren van algoritmen.
De laatste tijd is het gebruik van algoritmen door de overheid volop in het nieuws, alsmede onderwerp van debat in de Tweede Kamer. Zo is recent een motie ingediend met als doel om te komen tot regulering van algoritmen en het versterken van het toezicht op het gebruik van algoritmen.
De roep om meer regulering en toezicht is begrijpelijk. Tegelijkertijd wordt het gebruik van algoritmen door de overheid nu al gereguleerd. Dat is in ieder geval aan de orde, als het gebruik van algoritmen leidt tot het nemen van (belastende) besluiten jegens burgers door de overheid. In dat geval zijn de (geschreven en ongeschreven) algemene beginselen van behoorlijk bestuur van toepassing. De beginselen gelden ook in geval van ‘andere handelingen’ van de overheid, voor zover de aard van de handelingen zich daartegen niet verzet (art. 3:1 Awb). De beginselen van behoorlijk bestuur zijn deels gecodificeerd in de Algemene wet bestuursrecht (Awb) en deels neergelegd in het stelsel van rechtsbescherming dat de bestuursrechter hanteert.
Zo brengt het zorgvuldigheidsbeginsel (Art. 3:2 Awb) met zich dat burgers over de informatie moeten kunnen beschikken die zij nodig hebben om te kunnen beoordelen of het algoritme hen eerlijk heeft behandeld en om de juiste keuzes te kunnen maken. Het algoritme zal dus op enigerlei toegankelijke wijze ‘uitgelegd’ moeten worden aan de betrokken partijen.
Belangen
Op grond van datzelfde zorgvuldigheidsbeginsel, alsmede het evenredigheidsbeginsel (art. 3:4 Awb) moet de overheid bij de voorbereiding van een besluit de nodige kennis omtrent de relevante feiten en de af te wegen belangen. Welke belangen dat zijn, zal steeds afhankelijk zijn van de belangen die op grond van wet- en regelgeving bij de besluitvorming dienen te worden betrokken. De bouwer van het algoritme moet daar oog voor hebben. Het zal in die fase, bij het ontwerpen van het algoritme, vooral gaan om de kenbare en individu ontstijgende belangen. Daarnaast zal het algoritme in staat moeten zijn bijzondere belangen te identificeren, voor zover die voor de besluitvorming relevant zijn. Voor wat betreft de relevante feiten, geldt dat niet ondenkbaar is dat een algoritme op den duur zelf onderscheid zal maken tussen relevante en niet-relevante feiten. Voor burgers moet transparant en controleerbaar zijn welke feiten op grond van die afweging uiteindelijk in de besluitvorming zijn betrokken.
Het motiveringsbeginsel brengt met zich dat de overheid de naleving van de voornoemde beginselen in de individuele besluiten kenbaar motiveert.
Voor wat betreft de inhoud van individuele besluiten geldt dat de overheid het materiele zorgvuldigheidsbeginsel, het vertrouwensbeginsel en gelijkheidsbeginsel in acht moet nemen. Zo moeten burgers erop kunnen vertrouwen dat de overheid zorgvuldig handelt. Dat betekent dat zij erop mogen vertrouwen dat de overheid grip houdt op algoritmen en evidente fouten als gevolg van de toepassing van het gebruik van algoritmen signaleert en herstelt. In de praktijk blijkt dat burgers vaak veel weerstand en onmacht ervaren in een situatie waarin een algoritme een onjuist besluit heeft gegenereerd, of onjuiste data heeft gebruikt. Het blijkt soms lastig te zijn om uit een situatie te geraken als de computer ‘no’ zegt [1]. De oplossing is om in dergelijke gevallen onder omstandigheden menselijke tussenkomst te garanderen. Vertrouwen dat door overheid is gewekt en dat heeft geleid tot gerechtvaardigde verwachtingen, mag bovendien niet worden beschaamd.
Het gelijkheidsbeginsel brengt met zich dat gelijke gevallen gelijk moeten worden behandeld en ongelijke gevallen ongelijk naar de mate waarin zij verschillen. De bouwer van het algoritme zal dit beginsel in het algoritme moeten toepassen en tevens moeten regelen dat de overheid jegens zijn burgers verantwoording kan afleggen over de gevallen die hij vergelijkbaar vindt met het aan de orde zijn, individuele geval. Niet ondenkbaar is dat het algoritme, net als bij bijvoorbeeld de waardebepaling bij de WOZ, proactief aangeeft met welke gevallen het individuele geval vergelijkbaar is.
Tweetal uitspraken
De hoogste bestuursrechter – de Afdeling bestuursrechtspraak van de Raad van State – heeft in een tweetal uitspraken uiteengezet op welke wijze de overheid de voornoemde beginselen kan en moet naleven. In haar uitspraak van 17 mei 2017 heeft de Afdeling bestuursrechtspraak van de Raad van State geoordeeld dat bij het gebruik van algoritmen (en andere technologieën) een gebrek aan inzicht in de gemaakte keuzes en gebruikte gegevens en aannames ertoe kan leiden dat er een ongelijkwaardige procespositie van partijen kan ontstaan [2]. Dat zal aan de orde zijn, als de burger niet kan controleren op basis waarvan tot een besluit is gekomen. Het algoritme wordt dan een black box. Om dit te voorkomen rust in die gevallen op de overheid de verplichting om de gemaakte keuzes en de gebruikte gegevens en aannames volledig, tijdig en uit eigener beweging openbaar te maken, zodat deze voor de burger toegankelijk zijn. Dit moet bovendien op een passende wijze gebeuren, aldus de Afdeling bestuursrechtspraak van de Raad van State. Voldoet de overheid hier aan, dan is het voor alle partijen, inclusief de burgers, mogelijk de gemaakte keuze en gebruikte gegevens en aannames te beoordelen of te laten beoordelen en zo nodig gemotiveerd te betwisten. Alleen op deze wijze is in de optiek van de bestuursrechter reële rechtsbescherming mogelijk.
In de uitspraak van 18 juli 2018 heeft de Afdeling bestuursrechtspraak van de Raad van State de voornoemde uitspraak verfijnd [3] en overwogen dat de overheid de burger die opkomt tegen een besluit inzage moet geven in de gemaakte keuzen bij de input in het algoritme (of een andere technologie) en inzichtelijk moet maken op welke keuze, dat wil zeggen welke maatwerkgegevens, zijn besluit is gebaseerd. De Afdeling maakt derhalve onderscheid tussen maatwerk inputdata en standaard inputdata. De overheid moet maatwerk inputdata uit eigen beweging op papier of anderszins waarneembaar beschikbaar stellen als op de zaak betrekking hebbende gegevens. Dit is noodzakelijk zodat burgers de juistheid van de gebruikte gegevens, de gemaakte berekeningen en de daarop gebaseerde aannames, keuzes en beslissingen kunnen controleren en zo nodig inhoudelijk kunnen betwisten en kunnen bepalen of zij daartegen rechtsbescherming willen inroepen, aldus de Afdeling. De plicht om gegevens uit eigen beweging over te leggen geldt niet, althans niet zonder meer, voor de in een concreet geval gebruikte standaard inputdata. Die hoeven alleen te worden verstrekt als de burger daarom vraagt. Die verstrekking moet evenzeer op papier of in andere leesbare of waarneembare vorm geschieden, of de burger moet de mogelijkheid worden geboden om de standaard inputdata in te zien. Van de burger mag worden verwacht dat hij een verzoek om inzage tijdig doet en aangeeft welke specifieke gegevens hij wil hebben, zodat het bestuursorgaan zo gericht en duidelijk mogelijk inzage kan geven, aldus de Afdeling. Aan dat uitgangspunt zal de gedachte ten grondslag liggen dat dergelijke gegevens niet zo 1-2-3 uit het algoritme (of een andere technologie) zijn te destilleren, dan wel aan het papier zijn toevertrouwd.
De burger zal als gevolg van deze uitgangspunten van de bestuursrechter zowel inzicht hebben in hetgeen aan de voorkant van de besluitvorming is gebeurd (de inputkant) als in hetgeen het zelflerende algoritme heeft gegenereerd (de outputkant). Dat laatste zal namelijk het geïndividualiseerde besluit zijn, waarvan de burger door de overheid op de hoogte moet worden gesteld. De bestuursrechter gaat dus niet zo ver dat de overheid de broncode van het algoritme openbaar moeten maken, hoewel een dergelijke eis op zichzelf best denkbaar zou zijn. De wijze waarop in het algoritme de inputdata zijn verwerkt en welke keuzen er in dat kader zijn gemaakt, leiden immers vooral tot de eerdergenoemde black box.
Kortom, het bestuursrecht biedt – met zijn open normen – momenteel een goede kapstok om een start te maken met het reguleren van algoritmen door een context- en technologiespecfieke invulling van de algemene beginselen van behoorlijk bestuur.
Sandra van Heukelom-Verhage is partner bij Pels Rijcken & Droogleever Fortuijn en geeft daar leiding aan het team Digitale Transformatie.
[1] B.M.A. Van Eck, Geautomatiseerde ketenbesluiten & rechtsbescherming (diss. Tilburg 2018).
[2] ABRvS 17 mei 2017, ECLI:NL:RVS:2017:1259.
[3] ABRvS 18 juli 2018, ECLI:NL:RVS:2018:2454, rov. 23.
