Overslaan en naar de inhoud gaan

Wat is er nodig om AI bij de overheid te laten werken?

AI
Beeld: Shutterstock

Overheidsorganisaties die met AI experimenteren, staan voor een centrale vraag: hoe leidt de huidige technologie tot betere dienstverlening aan burgers? Wie die vraag wil beantwoorden, moet weten waar het werk vastloopt en wat medewerkers nodig hebben om goed onderbouwde besluiten te nemen.

Arvind Pandey, hoofd Innovatie en Strategische Initiatieven voor de Europese publieke sector bij TCS, stuitte op die vraag bij een Nederlandse overheidsorganisatie. Zijn team had een traag IT-systeem verbeterd en verwachtte dat zaken daardoor sneller afgehandeld zouden worden. Maar uit gesprekken met de gebruikers bleek dat het echte knelpunt ergens anders lag: medewerkers moesten nog altijd dossiers van 30 tot 40 pagina’s doorworstelen voordat ze tot een oordeel konden komen.

Het systeem was sneller geworden, maar het lezen en interpreteren van al die informatie niet. Die les bepaalde de koers van het team bij het latere werk met AI: hoe kan de technologie medewerkers ondersteunen, en wat moet er daaromheen veranderen?

Een extra paar ogen

Het team onderzocht eerst of generatieve AI zaakbehandelaars konden helpen de relevante feiten uit een dossier te halen en tegenstrijdigheden op te sporen. Kwaliteitscontrole bleek een voor de hand liggende toepassing. Een tweede handmatige controle kostte zoveel capaciteit dat documenten minder grondig werden nagelopen dan wenselijk was.

Eén voorval liet zien wat dat kan opleveren. Een AI-assistent wees op informatie die een zaakbehandelaar eerst afdeed als hallucinatie. Bij nader inzien stond die informatie wel degelijk in het brondocument, alleen in bewoordingen die de beoordelaar niet had herkend.

Door de oorspronkelijke passage erbij te pakken, kon de medewerker zelf beoordelen of de informatie ertoe deed. Hij had baat bij de blik van de assistent, maar het besluit bleef bij hem. Het voorbeeld laat zien dat AI extra controle mogelijk maakt, daar waar eerder simpelweg geen capaciteit voor was. Dat is meer dan tijdwinst: de organisatie kan nu controles uitvoeren die voorheen niet haalbaar waren.

Van proef naar betrouwbare voorziening

Naarmate het team dichterbij dagelijks gebruik kwam, werden de vragen kritischer. Zaakbehandelaars wilden weten of ze op de bevindingen konden vertrouwen. Privacy- en securityspecialisten wilden helderheid over wie bij welke gegevens kan en wat er vervolgens mee gebeurt. Juristen keken naar de vraag wie waarvoor verantwoordelijk is, en budgethouders wilden weten hoe de kosten zich zouden ontwikkelen als het gebruik toenam.

Die gesprekken maakten duidelijk dat het team zich aanvankelijk te veel had gericht op het kiezen van een goed taalmodel. Een overtuigende demo had aangetoond dat het technisch kon. Maar voor gebruik in de praktijk was een architectuur nodig waarin toegangsrechten, controle van uitkomsten en het opvangen van fouten uitdrukkelijk geregeld zijn.

Pandey ziet die eisen als de basis van een AI-fundament dat stap voor stap groeit en waarop meerdere toepassingen kunnen draaien. Toch moet voor elke toepassing apart worden afgewogen waarvoor die dient en wat de gevolgen zijn. Een medewerker helpen informatie terug te vinden is iets anders dan meewerken aan een beoordeling die bepaalt of iemand toegang krijgt tot een publieke voorziening.

Governance moet daarom vanaf het begin in het ontwerp zitten. Privacy-eisen vragen om beperkingen op gegevenstoegang en -verwerking die ook echt af te dwingen zijn. Menselijk toezicht vraagt om een controlestap die in de praktijk werkt, en om iemand die bevoegd is om in te grijpen. Elke beheersmaatregel heeft een duidelijke eigenaar nodig en een manier om na te gaan of hij doet wat hij moet doen.

Kennis op peil houden om AI tegen te spreken

Dat de mens het laatste woord heeft, betekent alleen iets als medewerkers de kennis en de tijd hebben om te beoordelen wat het systeem hun voorlegt. Het voorval met de betwiste bevinding laat zien waar het risico zit. Pas na controle door een mens bleek de bevinding te kloppen. Maar als het systeem keer op keer gelijk krijgt, ligt het voor de hand dat medewerkers volgende uitkomsten minder kritisch gaan bekijken.

Kennis op peil houden gaat dus niet vanzelf. Medewerkers moeten de belangrijkste beoordelingen zelf blijven doen en bevindingen blijven toetsen aan de brondocumenten. Waar mens en AI tot een ander oordeel komen, valt juist iets te leren. Wat daarbij aan kennis boven tafel komt, moet worden vastgelegd op een plek waar medewerkers het kunnen nalezen en ter discussie kunnen stellen.

Klein beginnen, gecontroleerd leren

Een goed startpunt is een duidelijk afgebakende toepassing waarin fouten aan het licht komen en het toezicht behapbaar blijft. Wie daarna stap voor stap uitbreidt, kan de beheersmaatregelen gaandeweg aanscherpen en voortborduren op wat er geleerd is.

Uiteindelijk telt wat burgers merken: een kortere wachttijd en een helder antwoord, voortkomend uit een proces waarin elke zaak met de nodige zorgvuldigheid wordt behandeld.

Plaats een reactie

U moet ingelogd zijn om een reactie te kunnen plaatsen.

Melden als ongepast

Door u gemelde berichten worden door ons verwijderd indien ze niet voldoen aan onze gebruiksvoorwaarden.

Schrijvers van gemelde berichten zien niet wie de melding heeft gedaan.

(advertentie)

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in