In het publieke domein is contact met inwoners een belangrijk onderdeel van het dagelijks werk. Ze nemen contact op met klachten of opmerkingen, of dienen een aanvraag in. Soms duurt het even om antwoord te geven: de informatie is niet volledig, de casus is complex of een collega is met vakantie en je moet het werk alleen doen.
Computer says no… maar waarom eigenlijk?
De belofte van kunstmatige intelligentie in het publieke domein is verleidelijk: sneller werken, minder werkdruk, tevreden burgers en een kostenplaatje dat binnen de perken blijft. Maar achter het efficiënte "computer says no" gaat een wereld van normatieve keuzes schuil, waarin publieke waarden als gelijkwaardigheid, transparantie en zorgvuldigheid onder druk komen te staan. Hoe zorg je er als overheid voor dat algoritmen niet ongemerkt de rol van de ambtenaar én de waarden van de organisatie overnemen, zonder dat iemand nog precies weet waarom het systeem eigenlijk ‘nee’ zegt?
Dan komt er een nieuwe applicatie, die met behulp van AI je werk kan versnellen door een deel van de aanvragen geautomatiseerd af te handelen. Iedereen lijkt tevreden. Burgers krijgen sneller antwoord, jouw inbox is leger en het budget voor de ambtelijke organisatie hoeft niet verhoogd te worden. Toch knaagt er iets aan je: inwoners stellen soms complexe of onduidelijke vragen, waarvoor je vaak met collega's moest overleggen over een casus. Hoe weet de applicatie dan gelijk het juiste antwoord? En kun je zien hoe de applicatie tot een oordeel is gekomen?
Kan een publieke organisatie nog transparant zijn als besluitvorming door AI-applicaties niet altijd meer inzichtelijk is?
Publieke organisaties gebruiken steeds meer AI-systemen. Dat biedt veel kansen, bijvoorbeeld bij de verwerking van gegevens, het ondersteunen van besluitvorming en het efficiënter inrichten van processen. Dat roept bij mij een paar vragen op. Kan een publieke organisatie nog transparant zijn als besluitvorming door dit soort applicaties niet altijd meer inzichtelijk is? Wat doet efficiëntie met het principe van gelijke behandeling? En welke rol speelt de ambtenaar nog bij de totstandkoming van het oordeel van AI-systemen? Stuk voor stuk belangrijke vragen die een menselijk antwoord nodig hebben.
Technologie is nooit neutraal
Het is goed om je bewust te zijn van het feit dat technologie nooit neutraal is. Systemen worden ontwikkeld op basis van historische data en ontwerpkeuzes die door mensen gemaakt worden. De uitkomsten die het systeem genereert, zijn mede het resultaat van keuzes die in het systeem zijn ingebouwd. Denk aan welke data gebruikt worden en hoe die data 'gelezen' worden. Wanneer systemen worden getraind op bestaande gegevens, kunnen patronen uit het verleden worden overgenomen. Dat kan leiden tot ongewenste uitkomsten, zoals het versterken van bestaande ongelijkheden en vooroordelen. Dat is een van de redenen dat we de toeslagenaffaire, de DUO-affaire, en de casus rondom de Rotterdamse bijstandsfraude kennen. Het zijn voorbeelden van vooroordelen die vertaald werden in algoritmes, keuzehulpen, of selectiesystemen.
AI beïnvloedt de besluitvorming
Beslissingen worden steeds vaker voorbereid of (mede) bepaald door AI-systemen. Maar hoe het systeem tot zo’n uitkomst komt, is lang niet altijd duidelijk. Complexe systemen of beperkte transparantie kunnen ervoor zorgen dat die onderliggende afwegingen niet of nauwelijks te achterhalen zijn. Dat maakt het niet alleen lastig om beslissingen uit te leggen, maar ook praktisch onmogelijk om daarvan af te wijken als de situatie daarom vraagt. Als je niet weet waarom het systeem iets zegt, kan je daar ook geen professionele mening over vormen. Dat vraagt om het stellen van nieuwe vragen. Wat doet dit systeem precies? En hoe verhoudt dat zich tot het professionele oordeel van de ambtenaar en de publieke waarden waar zij hun oordeel op baseren?
Het systeem zegt het, dus het zal wel kloppen, want het systeem lijkt neutraal. De kritische vragen worden niet gesteld.
Door de verschuiving van professionele oordelen naar AI-gedreven oordelen worden normatieve keuzes onzichtbaar. Een voorbeeld: als een collega je vertelt dat fraudebestrijding wordt gefocust op eenoudergezinnen, dan wordt dat niet voor juist aangenomen. Dan wordt het besproken en gecorrigeerd. Als een systeem hetzelfde doet, dan wordt dit vaker geaccepteerd. Het systeem zegt het, dus het zal wel kloppen, want het systeem lijkt neutraal. De kritische vragen worden niet gesteld. De normen en waarden van de organisatie kunnen daardoor een minder heldere rol spelen in besluitvorming.
Publieke waarden staan onder druk
Publieke waarden zoals gelijkwaardigheid, eerlijkheid, transparantie en zorgvuldigheid staan dan ook onder druk door de groeiende inzet van AI. Want sneller werken kan ertoe leiden dat uitzonderingen te weinig aandacht krijgen. En consistente datagedreven besluitvorming leidt tot minder menselijke reflectie op de juistheid van oordelen. De uitdaging is dus om ervoor te zorgen dat je die publieke waarden in de technologie verankert.
Hoewel er veel richtlijnen en principes bestaan voor het verantwoord gebruiken van AI, blijkt de praktijk weerbarstig. Organisaties geven aan dat ze onvoldoende kennis en expertise hebben, beperkt inzicht in systemen en moeite om de risico’s goed in kaart te brengen. En ook voor medewerkers blijkt het in de praktijk vaak lastig te begrijpen hoe systemen werken en wat de impact is op hun werk. Kortom: er is in de praktijk weinig grip op AI-systemen. AI is vaak een black box voor de ambtenaar.
Het belang van grip houden en reflecteren
Hoe je die grip krijgt, is iets wat we momenteel onderzoeken in het onderzoeksproject AI4All. In samenwerking met publieke organisaties en AI-ontwikkelaars onderzoeken we hoe publieke waarden beter ingebed kunnen worden in AI-toepassingen. Daarbij staat centraal hoe publieke waarden kunnen worden geïdentificeerd, geoperationaliseerd en meegenomen in de ontwikkeling en toepassing van AI-systemen.
Uit het project blijkt dat dit in de praktijk complex is. Publieke organisaties zijn in verschillende mate afhankelijk van externe aanbieders of ontwikkelaars van technologie. Dat betekent dat ze nooit een volledig beeld hebben van de normatieve ontwerpkeuzes die in de technologie ingebouwd zijn. Daarnaast is het lastig om abstracte waarden te vertalen naar concrete keuzes in technologie en werkprocessen. Want waarden hebben geen eenduidige en stabiele definitie, maar veranderen als de context verandert.
Daarom richt AI4ALL zich op het ontwikkelen van methoden en tools die organisaties helpen om deze waarden expliciet te maken en mee te nemen in hun werkwijze. We richten ons op zowel beleidsmakers als IT-medewerkers, AI-ontwikkelaars en medewerkers die de AI-tools in hun dagelijkse werk zullen inzetten. Daarbij wordt nadrukkelijk samengewerkt tussen verschillende betrokkenen, zoals beleidsmakers, uitvoerders en ontwikkelaars, die ieder vanuit hun eigen perspectief bijdragen aan het beter begrijpen en toepassen van AI in de praktijk.
Publieke waarden verdwijnen niet door technologie. Maar ze worden wel onzichtbaar als we ze niet actief blijven benoemen, bespreken en meenemen in het werk.
De rol van de ambtenaar verandert
Hoewel er zeker meer onderzoek gedaan moet worden naar AI en de impact in de praktijk, is één ding duidelijk: de inzet van AI verandert het werk van ambtenaren. Niet alleen omdat technologie een deel van het werk overneemt, maar ook omdat het een andere rol vraagt. Van professionals wordt steeds vaker verwacht dat zij werken mét AI-systemen, in plaats van zonder. Dat betekent dat zij uitkomsten niet alleen gebruiken, maar ook moeten kunnen beoordelen. Dat ze vragen moeten blijven stellen. En dat ze ruimte hebben om af te wijken als de situatie daarom vraagt. Dat is niet vanzelfsprekend. Het vraagt om kennis, maar ook om tijd en ruimte om te reflecteren. En om organisaties die dat ook actief stimuleren. Bijvoorbeeld door hun AI-ontwikkelingen zo in te richten dat er ruimte ontstaat voor het nadenken over het nut, de noodzaak, en de onverwachte impact van AI op de kern van hun publieke organisatie.
Publieke waarden verdwijnen niet door technologie. Maar ze worden wel onzichtbaar als we ze niet actief blijven benoemen, bespreken en meenemen in het werk. Juist daar ligt de opgave. Niet alleen in het ontwikkelen van betere systemen, maar in het versterken van de rol en het actief ondersteunen van de mensen die ermee werken.
Reflecteren en corrigeren voor verantwoorde AI-inzet
Terug naar je werkomgeving. Je hebt met collega’s uitgezocht welke vragen er de afgelopen periode zijn behandeld door de applicatie en gekeken naar de uitkomsten. Het blijkt dat de tool vaak goed werkt. Veel inwoners krijgen snel en duidelijk antwoord. Maar je signaleert ook iets anders: de applicatie sluit een kwetsbare groep inwoners te snel buiten. Bijvoorbeeld omdat zij de nodige informatie niet aanleveren zoals de applicatie verwacht. Dat zorgt ervoor dat ze niet (volledig) krijgen waar ze recht op hebben, wat voor problemen in hun persoonlijke situatie zorgt.
Je besluit om dit te corrigeren. Inwoners moeten krijgen waar ze recht op hebben. Ook besluit je de applicatie te updaten: vanaf nu worden casussen met te weinig of onduidelijke informatie automatisch doorgestuurd naar menselijke behandelaren. De applicatie werkt nu meer in lijn met de normen en waarden van de organisatie. Is het nu perfect? Vast niet. Maar dit toont precies het reflecterend vermogen en de kritische houding die nodig is om verder toe te blijven werken naar verantwoorde inzet van AI in het publieke domein.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.