AI kan de efficiëntie van overheidswerk inderdaad verhogen, maar alleen binnen de grenzen van rechtmatigheid, zorgvuldigheid en uitlegbaarheid. Door deze juridische uitgangspunten als leidraad te nemen, kan de overheid innoveren én het vertrouwen van burgers behouden.
In de steeds verder digitaliserende overheid staan kunstmatige intelligentie (AI) en specifiek AI-agents hoog op de agenda als oplossing voor toenemende uitdagingen. Maar leidt de inzet van AI-agents daadwerkelijk tot efficiënter overheidswerk, en hoe verhouden deze zich tot juridische kaders?
AI biedt inderdaad veelbelovende mogelijkheden voor de publieke sector. Door repetitieve taken te automatiseren kunnen overheidsinstanties kostbare middelen en tijd vrijmaken voor waardevollere taken. Generatieve AI kan bijvoorbeeld bijdragen aan het toegankelijker maken van overheidsinformatie door aanpassingen in taalniveau, wat leidt tot heldere en inclusieve communicatie met burgers. Tevens kan het de efficiëntie van juridische en administratieve processen verhogen door (deels) automatisering van werkprocessen.
Juridische complicaties
Ondanks deze voordelen, kent de implementatie van AI-agents diverse juridische uitdagingen. De AI Act hanteert een risicogebaseerde aanpak, waarbij strengere regels gelden naarmate het risico voor fundamentele rechten toeneemt. Indien AI-applicaties bepalen of iemand in aanmerking komt voor essentiële overheidsdiensten of -uitkeringen zullen veel van deze applicaties als ‘hoog risico’ worden aangemerkt, wat betekent dat ze aan strenge voorschriften moeten voldoen.
Een cruciale vraag is of de besluitvorming door AI-agents voldoende transparant en uitlegbaar is. Bestuurlijke besluiten moeten volgens een zorgvuldig proces tot stand komen en uitlegbaar zijn. Als alleen de AI het patroon kent waarop beslissingen zijn gebaseerd, kan een bestuur zich hier dan adequaat over verantwoorden?
Betrouwbaarheid
De inzet van AI-agents raakt direct aan de Algemene beginselen van behoorlijk bestuur. Deze beginselen vormen het fundament voor rechtmatig en behoorlijk overheidsoptreden.
Vanuit de formele beginselen bezien, is vooral het zorgvuldigheidsbeginsel relevant: de voorbereiding van besluitvorming moet zorgvuldig gebeuren. Dit betekent dat AI-agents moeten werken met correcte data en betrouwbare algoritmes. Het motiveringsbeginsel vereist dat besluiten duidelijk gemotiveerd worden – kan een AI-agent voldoende inzicht geven in de redenen achter een besluit?
De materiële beginselen stellen eveneens eisen. Het gelijkheidsbeginsel vraagt om gelijke behandeling van gelijke gevallen. Hierbij bestaat het risico dat AI-agents onbedoeld discriminerende patronen reproduceren uit hun trainingsdata. Het evenredigheidsbeginsel vereist dat de gevolgen van een besluit in redelijke verhouding staan tot de doelen ervan – iets wat moeilijk te programmeren is in een AI-systeem.
Voor een juridisch houdbare implementatie van AI-agents in de overheid is het cruciaal dat informatiesystemen en -processen op orde zijn, met kwalitatieve gegevensbestanden en transparante algoritmes. Overheidsorganisaties moeten daarom extra zorgvuldig zijn bij de inzet van AI-agents. Dit vraagt om een doordachte implementatie waarbij juridische kaders vanaf het begin worden meegenomen in het ontwerp: “legal by design”.
Deze blog werd ook gepubliceerd in iBestuur Magazine #55 van juni 2025
Nog geen (gratis) abonnement? Klik HIER
Lees ook:
