Ook wanneer overheden gebruik maken van geautomatiseerde besluitvorming zijn zij gebonden aan fundamentele rechtsnormen, zoals de grondrechten en de algemene beginselen van behoorlijk bestuur. Met Small Tech kan de overheid die afspraken wellicht maken, maar kan de overheid ook haar rug recht houden als zij met Big Tech om tafel gaat?
Kan de overheid ook haar rug recht houden als zij met Big Tech afspraken maakt over de algemene beginselen van behoorlijk bestuur. | Beeld: Shutterstock
Overheden leunen bij de ontwikkeling en inzet van geautomatiseerde systemen ten behoeve van hun eigen besluitvorming sterk op de expertise van private partijen. Zo maken veel gemeentes gebruik van de diensten van softwareleveranciers om de WOZ-waarde van woningen te bepalen. En die WOZ-waarde wordt weer gehanteerd bij het opleggen van verschillende belastingaanslagen.
Fundamentele rechtsnormen
Ook wanneer overheden gebruik maken van geautomatiseerde besluitvorming, zijn zij gebonden aan fundamentele rechtsnormen, zoals de grondrechten en de algemene beginselen van behoorlijk bestuur (motiveringsbeginsel, zorgvuldigheidsbeginsel, etcetera). Dat is de afgelopen jaren meerdere keren bevestigd, onder meer in de Syri-uitspraak en de AERIUS-jurisprudentie. Volgens de Raad van State moeten de algemene beginselen van behoorlijk bestuur in een geautomatiseerde context zelfs ‘verscherpt’ worden geïnterpreteerd (whatever that may be), juist om een ‘black box’ bij geautomatiseerde besluitvorming te voorkomen.
Zal Big Tech de interpretatie van die ‘vage’ beginselen eenvoudig naar haar hand kunnen zetten?
Grote afwezige in die bestuursrechtelijke rechtsontwikkeling is echter Big Tech. Hoe is dat mogelijk? Hoewel Big Tech zeker niet afwezig is binnen de overheid (integendeel; zij lijkt alom aanwezig), bestaat binnen het bestuursrecht vanouds een bijna tunnelvisie-achtige belangstelling voor (individuele) besluiten die door de overheid worden genomen. Maar juist bij die individuele besluiten verdwijnt Big Tech naar de achtergrond. Allereerst is een aantal concrete besluitvormingssystemen in-house ontwikkeld door de overheid zelf, zoals het systeem AERIUS voor het berekenen van de stikstofdepositie. Private partijen komen daarbij sowieso niet in beeld. En zelfs wanneer private partijen wel worden ingeschakeld, bijvoorbeeld om de WOZ-waarde van woningen te bepalen, hebben die partijen eerder het karakter van Small Tech dan van Big Tech.
‘Onbehoorlijk’ geautomatiseerd bestuur
Overheden zijn zich in toenemende mate bewust, al dan niet hiertoe aangespoord door de rechter, van de noodzaak om ook wanneer zij leunen op de expertise (en software) van private partijen, te waarborgen dat de algemene beginselen van behoorlijk bestuur worden nageleefd. Zo heeft de gemeente Amsterdam contractvoorwaarden voor algoritmen ontwikkeld, waarmee met private partijen afspraken kunnen worden gemaakt over de transparantie en uitlegbaarheid van algoritmen. Met Small Tech zal de overheid die afspraken wellicht nog wel kunnen maken, maar kan de overheid ook haar rug recht houden als zij met Big Tech om tafel gaat? Worden de algemene beginselen van behoorlijk bestuur ook dan verscherpt geïnterpreteerd of kan Big Tech de interpretatie van die ‘vage’ beginselen eenvoudig naar haar hand zetten?
In de confrontatie met Big Tech zal moeten blijken of de algemene beginselen van behoorlijk bestuur inderdaad in staat zijn om grenzen te stellen aan ‘onbehoorlijk’ geautomatiseerd bestuur.
Johan Wolswinkel is hoogleraar Bestuursrecht, markt en data verbonden aan Tilburg University
Serie artikelen over Big Tech en recht
Big Tech is één van de grootste vraagstukken van onze tijd. In 2022 is een Big Tech-onderzoekscommunity opgericht bestaande uit prominente Big Tech-onderzoekers. Zij publiceren op iBestuur een serie artikelen.
Lees ook:
– Big Tech en recht: de start van een onderzoekscommunity, Niels Jak (Vrije Universiteit Amsterdam), Mariette Lokin (Vrije Universiteit Amsterdam) en Reijer Passchier (Universiteit Leiden & Open Universiteit)
Een artikel met zo’n vraag, vraagt om een vervolg …
Sinds afdeling 2.3 in de Awb is opgenomen is er alle reden om meer algemeen naar het proces te kijken, in plaats van naar de individuele beslissing.
De overheid heeft diverse digitale voorzieningen geïntroduceerd waarbij wel aandacht bestond voor de juridische context (grondslag / rechtsverhouding) bij het gegevensgebruik, maar niet voor die bij het kanaalgebruik. De zorgplicht van de overheid heeft daarmee onvoldoende inhoud gekregen, al wordt die deels opgevangen met de verplichting tot passende ondersteuning.
De cruciale vraag is of ik als belanghebbende überhaupt regie op mijn gegevens wil hebben en of ik dat ook via een account af kan.
Benieuwd naar de jaarvergadering van de VAR.