‘Nog maar 5 procent van alle systemen is in het algoritmeregister terug te vinden’
Over het gebruik van AI door de overheid doen veel verhalen de ronde. Het zou discriminatie in de hand werken of de overheid zou de snelle ontwikkelingen niet kunnen bijhouden. Om uit te vinden hoe het nu werkelijk met het gebruik van AI gesteld is, stelde de Algemene Rekenkamer er een onderzoek naar in.
Esther Meijer-van Leijsen, projectleider algoritmes en AI bij de Rekenkamer, presenteerde de resultaten in het theater van het LEF Future Center. ‘AI is geen toekomstmuziek meer bij de overheid,’ gaf ze aan. De Rekenkamer nam 70 overheidsinstellingen onder de loep, waarvan 40 AI inzetten, 15 ermee experimenteren en nog eens 15 er nog niets mee doen. De 433 opgegeven systemen zijn niet netjes verdeeld over de genoemde 70 instellingen. Grootgebruikers zijn UWV, de Politie en de ministeries van Justitie en Veiligheid, Asiel en Migratie, en Infrastructuur en Waterstaat. Dit betekent ook dat de meeste overheidsinstellingen slechts enkele systemen in gebruik hebben, zelden meer dan drie.
‘Nog maar 5 procent van alle systemen is in het algoritmeregister terug te vinden, waarmee de inzichtelijkheid voor de Kamer voorlopig beperkt is,’ vervolgde Meijer aan. Eind volgend jaar dienen de zogenaamde impactvolle systemen te zijn opgegeven en daarna de systemen met een hoog risico.
De instellingen zelf classificeren hun systemen in 54 procent van de gevallen als systemen met een laag risico. De meeste toepassingen vallen dan ook in de categorie ‘interne bedrijfsvoering’. Meijer tekende hierbij aan: ‘Het gaat hier wel om zelfclassificatie. Zo kwamen we systemen om vingerafdrukken te herkennen in drie verschillende risicoklassen tegen. Verboden systemen lijken niet in gebruik te zijn, alhoewel we dat niet zeker weten.’
Kansen en risico’s
De onderzochte overheidsinstellingen zien meerdere kansen die ze met AI willen benutten: programmeren van ICT, prioriteren van werkzaamheden, opzoeken van informatie, automatiseren van taken en risicodetectie. Worden die kansen ook benut? ‘Van 35 procent van de systemen is dit niet bekend,’ zei Esther Meijer, ‘In 65 procent van de gevallen dus wel.’ Dit percentage zegt helaas niet hoe vaak de kansen benut worden, alleen of men daar onderzoek naar doet.
Wie het goed wil doen, stelt de Rekenkamer, moet de beoogde kansen ook afwegen tegen de risico’s van de inzet van AI. Dit blijkt slechts in minder dan de helft van de gevallen aantoonbaar te gebeuren. Dit kwam ook naar voren tijdens een interview dat iBestuur had met Ewout Irrgang van de Rekenkamer. Kanttekening bij deze op het eerste gezicht zorgelijke uitkomsten is dat er van 26 procent van de systemen niet bekend is of er een afweging plaatsvindt.
Onderzoek naar inzet Co-Pilot
Een volgend onderzoek van de Algemene Rekenkamer is in aantocht. Dit zal draaien om de inzet van Co-Pilot, alom aanwezig in de Office365 suite, waarbij niet duidelijk is waarvoor dit AI-systeem zoal wordt ingezet.
Lees ook:
Op 13 november organiseerde iBestuur AI & Overheid 2024. Esther Meijer-van Leijsen presenteerde de resultaten van het focusonderzoek naar de inzet van AI bij de rijksoverheid.
M.b.t onderzoek naar Copilot klopt het niet dat het “alom aanwezig is in de Office 365 suite”. Binnen veel overheden wordt er geëxperimenteerd met Microsoft Copilot voorheen Bing Chat. Daarnaast heb je Microsoft 365 Copilot, de betaalde versie die volledig is geïntegreerd met Microsoft Office 365. Via de AI-Hub in de Purview admin portal van Microsoft 365 kan je rapporten bekijken wat het gebruik is van Microsoft Copilot. Via de Cloud app security mogelijkheden krijg je zicht op de andere AI tools die binnen je organisatie gebruikt worden. (Microsoft 365 E5 licentie nodig).