De proef van de gemeente Utrecht met generatieve AI klinkt op het eerste gezicht verstandig. Een prototype helpt bij het structureren, analyseren en samenvatten van grote hoeveelheden vrije tekst. De uitkomst wordt vervolgens door een medewerker beoordeeld. De gemeente benadrukt daarbij dat ambtenaren verantwoordelijk blijven voor de uiteindelijke besluiten, dat de suggesties toetsbaar en herleidbaar moeten zijn en dat vooraf een U-thiek-assessment is uitgevoerd. Ook noemt Utrecht periodieke audits, automatische kwaliteitscontroles en aandacht voor privacy, ethiek en medezeggenschap. Dat is zorgvuldiger dan veel andere verhalen over AI in de publieke sector.
Is dit uitbesteden van kennis?
De Utrechtse proef met generatieve AI oogt zorgvuldig en beheerst. Maar de interessantste bestuursvraag ligt niet bij efficiëntie of techniek. Zij ligt bij de vraag wat er gebeurt als een systeem al vóór de ambtenaar informatie ordent, samenvat en voorsorteert. Dan verschuift niet alleen werk, maar ook kennisvorming.
Toch ligt de kern van deze ontwikkeling niet bij de techniek, maar bij het bestuur. Niet omdat de machine hier al beslist, maar omdat zij eerder in het proces komt te staan. Zodra een systeem niet alleen helpt zoeken, maar ook helpt bepalen wat hoofdzaak lijkt, wat kan worden samengevat en welke patronen als eerste zichtbaar worden, verschuift er iets in de informatieketen. Dan gaat het niet meer alleen over ondersteuning, maar ook over kennisvorming. Die verschuiving sluit aan bij de bestuurlijke lijn die in recente iBestuur-stukken van mij is zichtbaar: digitale systemen schuiven op van hulpmiddel naar actor in het werkproces.
Van ondersteuning naar voorsortering
Daarmee komt een ongemakkelijke vraag op tafel: is dit uitbesteden van kennis?
Het eerlijke antwoord is dat dit nog niet het uitbesteden van het uiteindelijke oordeel is, maar wel van een deel van het voorwerk waarop dat oordeel rust. Kennis in organisaties zit immers niet alleen in het eindbesluit. Zij zit ook in het lezen van dossiers, het herkennen van nuance, het zien van afwijkingen, het gevoel voor context en het vermogen om te merken wat ontbreekt. Wie dat eerste ordeningswerk overdraagt aan een systeem, besteedt nog niet het besluit uit, maar wel een deel van de cognitieve infrastructuur eronder.
De overheid besteedt hier niet direct haar besluit uit, maar loopt wel het risico een deel van haar eerste lezing van de werkelijkheid uit handen te geven.
Een generatief systeem helpt mede bepalen wat als relevante input in beeld komt. Daarmee schuift het op van hulpmiddel naar voorsorteerder
Dat hoeft niet verkeerd te zijn. Routinewerk mag slimmer worden ingericht. Maar het is bestuurlijk iets anders dan klassieke automatisering. Een rekenmodel verwerkt wat al is ingevoerd. Een generatief systeem helpt mede bepalen wat als relevante input in beeld komt. Daarmee schuift het op van hulpmiddel naar voorsorteerder. En wie voorsorteert, oefent invloed uit op wat later als plausibel, belangrijk of urgent wordt gezien.
Tekst is nog geen kennis
Juist daarom is het interessant dat Utrecht in zijn eigen handleiding voor generatieve AI al een wezenlijke waarschuwing opneemt. De gemeente benadrukt daarin dat generatieve AI verstandig moet worden gebruikt, waarschuwt voor het invoeren van persoonsgegevens, vertrouwelijke en bedrijfsgevoelige gegevens, en maakt duidelijk dat AI een representatie van de werkelijkheid oplevert, terwijl het vak van ambtenaar méér vraagt dan tekstproductie alleen. De handleiding stelt bovendien dat generatieve AI vooral nuttig kan zijn bij het analyseren en samenvatten van grote hoeveelheden data, maar dat uitkomsten momentopnames zijn en lastig kunnen zijn voor verantwoording en reproduceerbaarheid.
Daar zit precies de bestuurlijke spanning. De output van zulke systemen leest vaak overtuigend, oogt samenhangend en geeft gemakkelijk het gevoel dat er al begrip is ontstaan. Maar een model produceert tekst, geen institutioneel oordeel. Wie dat onderscheid uit het oog verliest, loopt het risico dat een organisatie niet alleen sneller gaat werken, maar ook stiller gaat leunen op een systeem dat de eerste ordening van informatie al heeft verricht.
Efficiëntie kan ook afhankelijkheid worden
Daarmee verschuift het debat. De vraag is dan niet meer alleen of AI tijd bespaart, maar ook wat er op termijn gebeurt met het ambtelijk vakmanschap. Minder zelf lezen, minder zelf rubriceren en minder zelf formuleren kan namelijk ook minder institutioneel geheugen betekenen. Dan wordt efficiëntie langzaam afhankelijkheid.
Dat is geen argument tegen de Utrechtse proef. Integendeel, juist omdat deze casus zichtbaar zorgvuldig is opgezet, maakt zij het onderliggende vraagstuk scherper. Utrecht laat zien dat generatieve AI in de publieke sector niet alleen een innovatievraag is, maar ook een ontwerpvraag. Welke vormen van ondersteuning versterken het ambtelijk handelen, en vanaf welk punt verschuift er ongemerkt iets in de manier waarop de overheid tot kennis komt?
De echte bestuursvraag
Misschien is dat de kern van deze ontwikkeling. De overheid besteedt hier niet direct haar besluiten uit, maar loopt wel het risico een deel van haar eerste lezing van dossiers, signalen en patronen uit handen te geven. En precies daar begint kennis. Niet pas bij het laatste besluit, maar al bij de eerste ordening van wat relevant lijkt.
De bestuurlijke opgave is dus groter dan verantwoord AI-gebruik alleen. Zij vraagt ook om een expliciete grens: welk deel van het ambtelijk vakmanschap wil je ondersteunen, en welk deel wil je nooit ongemerkt uitbesteden? Want zodra de overheid niet alleen haar werk, maar ook haar eerste interpretatie van informatie aan systemen overdraagt, staat er meer op het spel dan efficiëntie alleen. Dan gaat het over de vraag hoe de overheid nog weet wat zij weet.
Misschien is dat de vraag die bij publieke AI-toepassingen voortaan altijd eerst gesteld moet worden: helpt dit systeem ons werken, of helpt het systeem inmiddels ook al mee bepalen wat wij weten?
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.
Mooie analyse en beschouwing van een vraag die ook speelde in de begindagen van zoekmachines. Weten we ook waar niet naar gekeken wordt en wat geen aandacht krijgt ? En wat zijn de gevolgen daarvan. Met als extra risico dat AI vertrouwt op de reactie van de gebruiker om de kwaliteit van het antwoord te bepalen. Juist bij juridische vraagstukken zouden alleen experts het systeem moeten trainen, bij voorkeur via modellen.
Er is een ontwikkeling van rechtsorde en de toepassing van het Bestuursrecht gaande.
Het zorgvuldigheidsbeginsel dat ook invloed heeft op vereiste kennis als voorwaarde voor het toekennen van bevoegdheid. En uitlegbaarheid in relatie tot rechtszekerheid en motiveringsvereiste.
Waar, maar dit betoog gaat nog wel uit van een traditionele document centrische cultuur. Traditionele modellen verzamelen informatie via bureaucratische processen (Input). Hedendaagse technieken, zoals blockchain en data spaces DEcentraliseren dit proces, waarbij deelnemers direct en transparant bijdragen. Dit gebeurt natuurlijk ook, naast de opkomst van AI. Kenmerkend voor dit soort technieken is dat je je afspraken VOORAF maakt (policy) en niet zozeer ACHTERAF controleert. De Throughput wordt vooralsnog ingevuld door stovepipe-systemen maar die zijn inmiddels inefficiënt door de hiërarchische barrières. Blockchain en data spaces automatiseren die processen (deels door modelleren, deels door publish/subscribe modellen) en verbeteren zo de (domein overschrijdende) interoperabiliteit. De Output is uiteindelijk bescheiden. Losse dingen die schuren over de as van de overlap. Je kunt niet meer zonder samenwerken en als de ene organisatie stopt waar de andere nog niet begint ... wat valt er dan tussen de cracks? Traditionele systemen leveren nu eenmaal gescheiden outputs. Blockchain en data spaces daarentegen leveren geïntegreerde en toegankelijke resultaten die tussen verschillende stakeholders gedeeld kunnen worden. Ook niet-statelijke data ecosysteem leden. Kun je nog veel meer technologie bij bedenken, want techniek is het probleem helemaal niet, maar de bottom line is dat de legacy organisatie de toegevoegde waarde van die technologie volkomen in de weg zit. Als je AI dus traditioneel interpreteert als ‘zoek- en tiepmasjien’ dan blijf je in die achterhaalde document-centrische, proces centrische input-throughput-output modus hangen. Je zet een straalmotor op een zeepkist. Door echter AI te gebruiken als synthetische intelligentie die als virtuele assistent strak gefocust (narrow AI) specifieke taken voor specifieke mensen ondersteunt … kun je veel eenvoudiger aanhaken bij de maatschappelijke realiteit: Outcome gedreven netwerken.
Multi-alignment strategieën zijn allang geen toekomstmuziek. We leven allang in een tijd dat Oekraine drone adviseurs naar het Midden-Oosten stuurt om Iraanse raketten te helpen onderscheppen die door Russische inlichtingen worden aangestuurd. Blockchain en cryptomunten stellen landen allang in staat om traditionele machtsstructuren te omzeilen, wat regionale zelfredzaamheid bevordert. Token-economieën en data spaces versnellen handel binnen regionale blokken, zoals de BRICS-landen. DeFi (Decentralized Finance) en tokens democratiseren toegang tot kapitaal en dagen traditionele financiële instellingen uit, want ze houden zich niet aan de oude hiërarchieën . Blockchain en data spaces verbeteren transparantie en traceerbaarheid, wat verstoringen in wereldwijde supply chains vermindert.
Kortom, de maatschappelijke realiteit evolueert naar Decentralisatie, federatie en data contextualisatie.
Het is dus verminderd slim om AI in te zetten om de oude werkwijzen te verharden.
Het gaat er steeds minder om dat je een mens iets uit kunt leggen, maar of machines snappen wat die mens wil en of die mens de informatie machine-readable weet.