Sterke stijging gebruik generatieve AI-toepassingen overheid

Dit blijkt uit de Overheidsbrede Monitor Generatieve AI, uitgevoerd door TNO, in opdracht van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK). De onderzoekers tellen 81 genAI-toepassingen die in gebruik zijn bij de overheid. Ze komen tot dit aantal op basis van openbare informatie en een online enquête. Het is een flinke stijging ten opzichte van juni 2024, toen TNO de derde Quickscan AI in de Publieke Dienstverlening uitbracht. Toen waren er slechts 8 toepassingen op basis van genAI en LLM’s bij de overheid bekend. ‘Er gebeurt meer en partijen voelen zich door het vernieuwde overheidsbrede standpunt over genAI ook vrijer om hun successen en uitdagingen te delen,’ zegt Jasper Kars van het ministerie van BZK.

In april 2025 verscheen het vernieuwde overheidsbrede standpunt, dat meer ruimte gaf om te experimenteren. In 2024 maande de toenmalig staatssecretaris voor digitalisering ambtenaren tot terughoudendheid met genAI. Het vermoeden bestond dat overheden nog niet veel ruchtbaarheid gaven aan experimenten met genAI en dat genAI-toepassingen vooral werden ingezet door individuen, zonder dat de toepassingen waren ingekocht of lokaal draaiden, zogeheten schaduw-AI.

Schaduw-AI tegengaan

Een veelvoorkomende aanleiding om met generatieve AI in de slag te gaan, is het voorkomen van schaduwgebruik van genAI. Marianne Schoenmakers van TNO vertelt: ‘Organisaties willen medewerkers een verantwoord alternatief bieden voor openbare chatbots.’ Dat lijkt goed te werken, al is het niet met zekerheid te zeggen, want in de overheidsbrede monitor is het individuele gebruik niet onderzocht.

Met name gemeenten gebruiken veel eigen genAI-toepassingen (34 stuks). De onderzoekers geven hiervoor twee verklaringen: allereerst zijn er veel gemeenten en daarnaast registeren gemeenten vrij trouw toepassingen in het algoritmeregister. Gemeenten gebruiken vooral chatbots die de ambtenaren assisteren bij hun werk.

Data en tekstverwerking

De genAI-toepassingen worden vooral ingezet in overheidsprocessen waarbij een hoge mate van gegevens en tekstverwerking plaatsvindt. Denk aan een interne chatbot die medewerkers ondersteunt (40 procent) en externe toepassingen gericht op maatwerk en dienstverlening (31 procent), zoals een chatbot op de gemeentelijke website. Veel toepassingen kunnen worden ingezet voor meerdere taken, wat typisch is voor genAI.

15 van de beschreven genAI-toepassingen zijn ontwikkeld door samenwerkingsverbanden. Een voorbeeld is chatbot GEM, een samenwerkingsverband van 25 gemeenten. De onderzoekers vonden 5 toepassingen bij de centrale overheid, voornamelijk chatbots of kennisverwerkingshulpmiddelen voor ambtenaren. Defensie heeft een intern alternatief voor commerciële AI-diensten, DefGPT. Provincies beschikken over 4 genAI-toepassingen, regionaal samenwerkingsorganen hebben er 5.

37 geïmplementeerde toepassingen

Van de gevonden toepassingen bevinden 29 zich in de experimenteerfase, meestal pilots. 6 experimenten gingen ten tijde van het onderzoek van pilot naar implementatie. 37 toepassingen zijn al geïmplementeerd, oftewel in gebruik in de dagelijkse praktijk.

Er werden geen toepassingen gevonden die zijn stopgezet of buiten gebruik zijn. Blijkt er dan uit élke pilot genoeg meerwaarde? ‘Een succesvolle pilot kan in dit stadium ook betekenen dat er is geleerd en dat de pilot wordt afgerond, maar geen vervolg krijgt,’ nuanceert Kars. ‘Overheden die vooraf goed bedenken welk doel ze willen bereiken, innoveren over het algemeen best verantwoord en bewust. Dat wordt ook aangemoedigd in het overheidsbrede standpunt en de begeleidende handreiking. Mogelijk zijn de randvoorwaarden voor succesvolle innovatie dus goed in beeld.’

Risico-inschatting

Als overheden een algoritme registreren in het algoritmeregister, moeten ze aangeven of het een hoog risico-systeem betreft, een impactvol algoritme, of een overig algoritme. Registratie is niet verplicht. Van meer dan de helft van de gebruikte genAI-toepassingen (52 procent) is onbekend hoe hoog het risico is. 3 vallen in de categorie hoog risico AI-systemen. 8 zijn impactvolle algoritmes, wat wil zeggen dat ze directe rechtsgevolgen hebben voor een betrokkene of een groep betrokkenen. De rest (28 toepassingen) valt in overige algoritmes. Van veel toepassingen is onbekend of er een impacttoets is geweest.

Het komt nogal eens voor dat dezelfde soort toepassing door verschillende overheden in een andere risicocategorie wordt ingedeeld. Zo heeft de gemeente Zeist het gebruik van Copilot ingedeeld als hoog risico, terwijl Copilot bij de provincie Groningen onder overige algoritmes valt. ‘Dat kan kloppen, omdat het eraan ligt hoe je het inzet,’ reageert Kars. ‘Je kunt Copilot gebruiken bij het redigeren van een mail, maar ook voor een specifieke toepassing die hoog risico is.’

Digitale afhankelijkheid

De meeste overheidsorganisaties kopen een genAI-toepassing in. Een enkele keer wordt er iets in samenwerking ontwikkeld of gebouwd met behulp van bestaande open source-modellen. Overheidsorganisaties zijn zich veelal bewust dat ze op een kruispunt staan als het gaat om de afhankelijkheid van Amerikaanse techbedrijven. ‘We zien dat organisaties daarmee worstelen,’ zegt Schoenmakers. ‘Echt een manier om ermee om te gaan is er nog niet.’

Ook wanneer de leveranciers van de toepassingen Nederlands zijn, zijn de onderliggende modellen dat niet. Voor zover bekend (44 toepassingen) komen de LLM’s en foundation models uit de Verenigde Staten en zijn ze ontwikkeld door OpenAI, Meta, Microsoft of Google. Van 2 toepassingen is bekend dat de foundation models uit de EU komen, namelijk Mistral en DeepL.

Succesfactoren en knelpunten

De onderzoekers concluderen dat er nog weinig aandacht binnen organisaties is op hoe de inzet van genAI de aard van werk kan veranderen. Ze zien dat er een zekere druk wordt ervaren om de technologie snel toe te passen, omdat er hoge verwachtingen bestaan over de efficiëntie en kostenbesparingen die de inzet van genAI kan opleveren. ‘Het risico is dat door deze hoge verwachtingen en druk een technologiepush ontstaat,’ schrijven ze. De aanbeveling is om niet de technologie, maar de maatschappelijke opgave centraal te zetten.

Met name samenwerking en het vrijmaken van voldoende tijd worden als succesfactoren genoemd. Een beperkte beschikbaarheid van middelen, tijd, capaciteit en rekenkracht gelden als de voornaamste uitdaging om van dit soort innovatietrajecten een succes te maken. Een voorwaarde voor succesvolle inzet van genAI is dat de informatiehuishouding op orde moet zijn – maar vaak is dat niet het geval. Andere knelpunten zijn onder meer een beperkte AI-geletterdheid binnen organisaties en onvoldoende inzicht op de impact van de genAI-toepassingen op duurzaamheid.