UWV kondigde vrijdag aan slimme software te gaan gebruiken om eigen fouten op te lossen. Techexpert Aaron Mirck ziet hierin grote risico’s. Dat meldt EenVandaag dat toegang kreeg tot de besloten personeelsbijeenkomst.
Uitkeringsinstantie UWV heeft afgelopen vrijdag tijdens een personeelsbijeenkomst aangekondigd gebruik te gaan maken van slimme software om WIA-dossiers te selecteren waarin eerder fouten zijn ontdekt. Een medewerker kijkt vervolgens of de hoogte van arbeidsongeschiktheidsuitkeringen goed is vastgesteld. Medewerkers en techfilosoof Aaron Mirck zijn kritisch op deze methode.
Het besluit om een AI-programma in te zetten is genomen, omdat er geen tijd en capaciteit is om alle dossiers te controleren. De voorzitter van het Interventieteam Kwaliteit van UWV legde tijdens de bijeenkomst uit dat het niet mogelijk is om naar alle toekenningen ‘of misschien ook wel de afwijzingen’ vanaf 2020 te kijken.
Weinig vertrouwen
De keuze is daarom gemaakt om met de andere divisies en de inzet van slimme software te kijken waar ‘zo snel mogelijk’ gevallen waar mogelijk iets is fout gegaan te detecteren. Maar er is weinig vertrouwen dat UWV zijn eigen fouten met WIA-uitkeringen kan oplossen. Volgens EenVandaag zouden niet alleen arbeidsongeschikten, maar ook eigen medewerkers van het UWV niet geloven in de hersteloperatie.
Ook bij deskundigen valt de methode in goede aarde, mede omdat het gebruik van AI eerder al uitmondde in een ‘schandaal’ bij de Belastingdienst en bij DUO. Techfilosoof Aaron Mirck zegt tegen EenVandaag dat dit bij UWV ook kan gebeuren, aangezien er veel ‘willekeur’ in de methode zit. En burgers kunnen niet controleren of hun dossier is bekeken. Bij gebruik van slimme software kan het nog steeds gebeuren dat niet wordt ontdekt dat iemand ten onrechte geen uitkering heeft ontvangen. ‘Dat is een heel groot risico.’
Nooit helemaal sluitend
Mirck adviseert meer mensen te betrekken bij dit proces, maar volgens UWV is dat nu geen optie. Volgens EenVandaag hebben medewerkers daar sowieso geen vertrouwen in, omdat zij al jaren meer productie moeten leven wat ten koste gaat van de kwaliteit. UWV-bestuurder Johanna Hirscher gaf eerder al tegenover het tv-programma aan dat de druk op het personeel ‘erg hoog’ is. UWV sloot op de bijeenkomst ook niet uit dat gedupeerden gemist zullen worden. ‘Helemaal sluitend krijgen we het nooit.’
Met dank aan onze collega’s van .Binnenlands Bestuur.
In dit artikel lees ik twijfel of AI ingezet moet worden bij deze specifieke hersteloperatie. In deze situatie zou je ervoor kunnen kiezen een Impact Assessment voor Mensenrechten uit te voeren. In een dergelijk assessment weeg je alle relevante belangen af, dus ook die van geen tijd, geen capaciteit en de mogelijke impact op individuele burgers. Wellicht dat dat al gebeurd is in deze situatie.
Als dat zo is, dan zou wellicht deze assessment (deels) gedeeld kunnen worden met interne medewerkers van het UWV, die wellicht dan inzicht krijgen in de totale afweging. En daar op die manier vrede mee zouden kunnen hebben.
Helemaal stoer zou het zijn om de assessment (deels) te delen met het publiek. Zodat verantwoord omgaan met AI niet een loze kreet wordt. Bijkomend effect kan zijn dat burgers zomaar weer vertrouwen in dit deel van de overheid zou kunnen krijgen.