Gemeenten niet voldoende toegerust op AI-verordening
Op dit moment zijn gemeenten niet voldoende toegerust op de eisen die die Europese AI-verordening (de AI Act) aan ze stelt. Dat schrijft de VNG in een uitvoeringsanalyse. De eerste concrete verplichtingen voor gemeenten gaan over minder dan twee weken in.
AI-geletterdheid
De uitvoeringsanalyse Digital Decade AI-verordening onderzoekt de impact van de nieuwe wet op gemeenten. Op 2 februari gaan de algemene bepalingen, verbodsbepalingen en verplichtingen met betrekking tot de AI-geletterdheid in. Vanaf die dag moeten organisaties die met AI werken, zorgen dat hun medewerkers AI-geletterd zijn. Maar ‘de bewustwording van de mogelijkheden en van de risico’s van AI staat nog aan het begin, laat staan de kennis van de verplichtingen uit de AI-verordening’ schrijven de experts in het rapport. Ze verwachten dat dit bij andere overheden niet anders is. Hoog tijd om (collectief) trainingen voor medewerkers bij de overheid te ontwikkelen, stellen ze.
Inventarisatie AI-systemen
Gemeenten moeten een goed overzicht te hebben van de AI-systemen die in de organisatie worden ingezet. Een aantal AI-systemen is vanaf 2 februari verboden. Het gaat onder meer om manipulatieve of misleidende AI-systemen; AI-systemen voor ‘social scoring’, sociale kredietscore; emotieherkenning op het werk en biometrische categorisering.
Op 2 augustus 2026 zijn de verplichtingen voor hoog risico AI-systemen van kracht. Gemeenten hebben dus nog wat tijd om hieraan te voldoen. Overheden moeten bij systemen met een hoog risico altijd een zogenoemde grondrechteneffectbeoordeling doen. Er zijn verplichtingen met betrekking tot het risicobeheer en het informeren van burgers en werknemers. Daarnaast moeten ze hun gebruik ervan registreren in de Europese database voor AI-systemen. Ook voor AI-systemen met een beperkt risico gelden verplichtingen.
Om als gemeente te weten welke verplichtingen uit de AI-verordening van toepassing zijn, is het van belang om vier vragen te beantwoorden, schrijft de VNG:
1. Is ons systeem een ‘AI-systeem’ volgens de AI-verordening?
2. Indien ja, in welke van de risicocategorieën valt het AI-systeem?
3. Zijn wij aanbieder of gebruiksverantwoordelijke van het AI-systeem?
4. Aan welke verplichtingen moeten wij ons dan houden?
Gebruiksverantwoordelijke of aanbieder?
In de meeste gevallen zullen ze de rol van gebruiksverantwoordelijke op zich nemen, maar het komt ook voor dat ze aanbieder zijn. Dat is niet alleen het geval als een gemeente zelf een AI-systeem ontwikkelt, maar ook wanneer een gemeente een AI-systeem voor algemene doeleinden (denk aan ChatGPT of Copilot) inzet bij gebruik in één van de hoog risico toepassingsgebieden.
Leveranciersmanagement
Voor de inventarisatie zullen gemeenten de hulp nodig hebben van hun leveranciers. Volgens de analyse heeft de VNG een rol te vervullen in het leveranciersmanagement, zodat de inventarisatie van al die gemeenten efficiënt verloopt. Er zijn handleidingen of checklists nodig voor gesprekken tussen gemeenten en aanbieders om verantwoordelijkheden helder te maken.
AI-compliance
Behalve het organiseren van AI-geletterdheid en het inventariseren van AI-systemen binnen de gemeente ligt er nog een taak in het verschiet: het inregelen van de AI-compliance. Het is handig om hiervoor een AI compliance officer (AICO) aan te stellen die zich bezighoudt met de naleving van de AI-verordening. Dit kan een nieuwe rol zijn of een aanvullende taak. AI-compliance is ook een nieuwe taak voor alle professionals die te maken hebben met het gebruik van AI-systemen, aldus het rapport.
Impact op bestaande instrumenten
Er is ook sprake van impact op bestaande instrumenten, zoals DPIA/GEB in het kader van de AVG, risicobeheer en bedrijfscontinuïteitsmanagement in het kader van de BIO, en databeheer en motivering van besluiten in het kader van de Awb. Het gebruik van AI zorgt voor andere type risico’s die moeten worden meegenomen wanneer deze bestaande instrumenten worden ingezet.
Middelen
Om gemeenten de nieuwe taken te laten uitvoeren zijn een aantal maatregelen nodig. De belangrijkste is volgens de experts dat gemeenten over voldoende middelen beschikken. ‘Gemeenten hebben meer capaciteit, expertise en financiële middelen nodig als gemeenten serieus invulling willen geven aan de verplichtingen uit de AI-verordening. Het financiële ravijnjaar 2026 maakt dit een urgente uitdaging.’
Lees ook:
