Hoogleraar Frans Feldberg: ‘Menselijke factor is bepalend bij AI’

Publieke sector, grijp de kansen die data en AI bieden, is het devies van hoogleraar Frans Feldberg in zijn keynote op ‘AI en Overheid’. En zorg er in de disruptieve wereld van AI voor dat je als overheid relevant blijft. Een wake-up call.

Zo’n 80 procent van de data-projecten wereldwijd mislukt, aldus onderzoeksbureau Gartner. Volgens een rapport van MIT levert 95 procent van de AI-projecten niets op. De les hieruit volgens Feldberg: focus minder op de korte termijn en doe niet mee aan de ‘pilotitis’ door zoveel mogelijk pilots te willen draaien vanuit het onderbuikgevoel van ‘Wij moeten iets met AI. ‘Beter is het te beginnen met de waarom-vraag: waarom moet je iets met AI? Maak dan de vertaalslag naar hoe je AI in je organisatie kunt integreren en hoe je dat moet organiseren. Voorkom dat technologie een doel op zichzelf wordt maar onderdeel van de oplossing voor een probleem’, zegt de hoogleraar Data & AI Driven Business Innovation aan de Vrije Universiteit Amsterdam.

Randvoorwaarden

Om de kansen van data en AI te pakken is het cruciaal de randvoorwaarden voor succes te borgen, benadrukt Feldberg, juist omdat zoveel projecten mislukken. Een zo’n randvoorwaarde is menselijke implementatie. Om de oproep van SER-voorzitter Kim Putters bij het recente rapport ‘AI & Werk’ van het adviesorgaan aan te halen: ‘Nederland is niet klaar voor AI-verandering op de werkvloer. Organisaties moeten in adequate scholing van medewerkers investeren en hen zo vroeg mogelijk bij AI-toepassingen te betrekken.’ Net zoals de Europese AI-act ‘AI-geletterdheid’ bij medewerkers verlangt. ‘AI draait niet alleen om technologie, maar vergt een ingrijpende organisatieverandering. Het op verantwoorde wijze inzetten van AI gaat niet alleen over privacy en ethiek, maar betekent ook dat je als ambtenaar weet hoe AI-modellen werken. De menselijke factor is bepalend bij AI. De vraag is ook niet: gaat AI mijn werk overnemen? Maar, welke collega gaat slim met AI aan de slag en zet voor mij de norm hoe ikzelf moet gaan werken?’

‘In de VS benadert het nu lokale overheden om de inkoop van hen over te nemen, niet alleen van pennetjes en potloden, maar van infrastructuur, verlichting en waterafvoer. Juist omdat ze de data in huis heeft om heel goed te kunnen voorspellen wat er nodig is. Hetzelfde geldt voor de slimme stoplichten van Siemens. Het bedrijf haalt allerlei data over mobiliteit binnen en weet waarschijnlijk beter hoe de verkeersstromen lopen dan de gemeente. Hoe blijf je als overheid dan nog relevant voor de publieke zaak?’

De opkomst van genAI stelt ook burgers in staat om steeds meer data te verzamelen en zich met de besluitvorming te bemoeien, geeft Feldberg aan. Zo wordt de omgevingsdienst voortdurend geconfronteerd met actieve burgers die met camera’s en sensoren de emissies van Tata Steel volgen.

De volgende ontwikkeling waar de omgevingsdienst de borst voor nat kan maken is het fenomeen Agentic AI. ‘s’ Ochtends treffen medewerkers dan een volle mailbox vol automatisch gegenereerde handhavingsverzoeken aan, waarvan de bewijsvoering helemaal rond is. Hoe blijf je dan als overheid nog relevant? Hoe ga je dan handhaven?’ Er zijn ook positieve ontwikkelingen. De Europese Data Act stelt de overheid in staat deze data op te vragen bij bedrijven, weet Feldberg. ‘Ze kan daar dus ook haar voordeel mee doen.’

Speciaal voor de publieke sector heeft Feldberg samen met Tom Pots, programmamanager datagestuurd werken in de gemeente Zaanstad, het Datagedreven Innovatie Canvas (DatCan) ontwikkeld, bedoeld als vertrekpunt en hulpmiddel om van dataprojecten een succes te maken.