Het eerste Gemeentelijke i-Café, georganiseerd door het Kenniscentrum Markt en Overheid van VNG Realisatie, trapte af met een inleiding door Sandra Palmen, Tweede Kamerlid NSC over uitvoering en digitalisering. Na haar inleiding over algoritmen in de uitvoering, mede naar aanleiding van haar eigen ervaringen binnen het toeslagenschandaal, stelde Tweede Kamerlid Sandra Palmen (NSC) drie vragen over het gebruiken van machine learning en AI. Deze werden daarna besproken met twee ICT-leveranciers en twee gemeenten.
“Grote uitvoeringsorganisatie kampen per definitie met een spanning tussen twee belangen,” begon Palmen, die als jurist bij de Belastingdienst al vroeg waarschuwde over wat nu het toeslagenschandaal heet. “Aan ene kant moeten grote hoeveelheden juridische besluiten worden genomen, aan de andere kant wil men recht doen aan mensen en de samenleving.” Risicoselectie en correctiepercentages kunnen dan botsen met Artikel 1 van de Grondwet, die bepaalt dat iedereen in dezelfde relevante situatie een gelijke kans op selectie moet hebben. “De overheid moet bij digitalisering ook rekening houden met de democratische en maatschappelijke perspectieven. Niet alleen met dat van bedrijfsvoering.”
Een van de recente aanbevelingen naar aanleiding van het rapport van de Staatscommissie Rechtsstaat is de inzet van gebruiksvriendelijke digitale communicatie en niet-digitale alternatieven waarmee inwoners de overheid te kunnen bereiken. Vaste formats in aanvraag- en aangifteformulieren laten geen ruimte voor uitzonderingssituaties, waar veel mensen toch mee te maken hebben.
Wetmatig is niet per se rechtvaardig
Een tweede aanbeveling van de Staatscommissie betrof de vertaalslag van wetboek naar computersysteem. Palmen: “Een afweging in wet- en regelgeving is een belangenafweging en heeft een open uitkomst. Computercode is binair. Die vertaalslag wordt nu niet gemaakt door gekozen volksvertegenwoordigers of door beleidsadviseurs, maar door systeembeheerders, computerprogrammeurs en data analisten.” Van techneuten wordt gevraagd dat zij juridische taal interpreteren en vervolgens coderen. “Het is echt essentieel dat dit wordt gedaan door multidisciplinaire ontwikkelteams, die bestaan uit vakspecialisten, ICT’ers en vooral ook de toepassers van het recht. Dat geldt voor de ontwikkelteams van de standaardsoftware, van de koppelingen, van ICT die onderdeel is van een keten, van maatwerk software. Het hele spectrum.” Want software kan rechtmatig zijn volgens de wet, dat maakt de software nog niet perse rechtvaardig. De dienst Toeslagen kreeg jarenlang hoge scores van de auditdiensten en de Rekenkamer, terwijl diezelfde algoritmen mensenlevens vermorzelde.
Feedbackloop
Ook nodig is een continue feedbackloop. Palmen pleitte voor uitgebreid testen met oefensets tot de daadwerkelijke uitkomsten van het algoritme gelijk zijn aan de verwachte uitkomsten. Na implementatie is het belangrijk te blijven evalueren, leren en verbeteren. Klachten en bezwaren moeten worden gehoord en gewogen. “Alleen op die manier leren we echt van ontwerpfouten en voorkomen we een volgend toeslagenschandaal.” Oplettende journalisten of procederende burgerbewegingen brachten misstanden aan het licht rondom een aantal fraudeopsporingsalgoritmen (zoals SYRI en dat van de gemeente Rotterdam), toch zijn er nog steeds in gebruik. “Deze algoritmes herkennen patronen, doen voorspellingen en nemen zelfstandig beslissingen en dat heeft hele concrete, voelbare effecten voor burgers.”
ML voor bulk
Palmens eerste vraag aan het panel was of machine learning-algoritmen überhaupt geschikt zijn om te gebruiken bij grote hoeveelheden beschikkingen. Dirk-Jan van Dijk, CIO van de gemeente Delft vond machine learning (ML) daar bij uitstek geschikt voor, maar gaf toe dat van bulkbeschikkingen weinig sprake was bij gemeenten. Ook Anna van den Breemer-Kleine, public sector director bij Microsoft, vond ML daarvoor geschikt maar alleen wanneer wettelijke kaders en rekenregels duidelijk zijn. Stefan Kuijpers, directeur PinkRoccade, voegde toe dat risico en impact ook belangrijk zijn. Hij stelde voor te beginnen met de beschikkingen die een hoog volume hebben en een lage impact. Gevraagd naar een voorbeeld noemde hij bezwaren op de Woz. “Dat gaat om hoogstens honderden euro’s per persoon. Daar zit geen proces aan vast waardoor iemand als fraudeur bestempeld zou kunnen worden.” Ook klantcontactcentra waren “laaghangend fruit”, zei Van den Breemer. “Het is een no-brainer om de warme kant van dienstverlening te ondersteunen met eenduidigheid en rekencapaciteit in het beantwoorden van vragen.” Denk bijvoorbeeld aan slimme chatbots.
Fiona Atighi is directeur dienstverlening bij de gemeente Amsterdam. Zij zei: “We doen of mensen feilloos bulkbeslissingen kunnen verwerken. Medewerkers maken fouten en dat corrigeren we, maar als ML dat doet zijn we niet zo coulant.” Van den Breemer vroeg zich uiterst voorzichtig af wat de toepassing van ML zou kunnen betekenen voor de afhandeling van het toeslagenschandaal en de compensatie voor gedupeerden. “Dat zou heel veel kunnen versnellen en recht doen aan de slachtoffers. Dat is ook iets om naar te kijken.”
Veiligheidsventielen
De tweede vraag van Palmen was welke veiligheidsventielen moeten worden ontwikkeld en ingezet om ongelijkheid en discriminatoire effecten bij de inzet van risicoselecties op te sporen en tegen te gaan. Van Dijk noemde onmiddellijk transparantie, menselijke controle en de mogelijkheid bezwaar te maken. “Opgaven die niet we niet alleen kunnen als overheid maar wel samen met de markt.” Het was dan aan de overheid om de processen beter te organiseren en aan de markt om voor transparantie te zorgen. Kuijpers kende uit de praktijk de toegevoegde waarde van deskundige mensen die de uitkomsten van algoritmen doorlopen. “Wanneer die mensen buikpijn krijgen van de uitslag moet je hen een podium geven om de fouten eruit te halen.” Atighi vulde aan dat ook naar de inwoners moet worden geluisterd en dat het “feedbackmanagement” op orde moet zijn. “Dan hoor je veel eerder als het niet goed gaat.” Van den Breemer zei dat er voor AI al veel vangrails zijn, zoals governance en het auditen van uitkomsten. John van Dijk van VNG Realisatie vroeg of de Belastingdienst indertijd vond dat ze genoeg ventielen had. Palmen: “Het was een bewuste keuze om de wet hard uit te leggen, dat maakte een vaste uitkomst makkelijker. De directeur toen heeft gezegd dat men wist dat onschuldige mensen geraakt zouden worden, maar dat werd op de koop toegenomen.” Van Dijk: “Dus als we die manier van denken nu toepassen op AI, ontstaan dezelfde resultaten.”
Taalkwestie
De laatste vraag was hoe te zorgen dat de verschillende vakgebieden elkaars taal gaan leren spreken zodat risicoselecties en traditionele algoritmen aansluiten bij de grondslagen in wet- en regelgeving. Van den Breemer: “Investeer in opleiding en training van bestuurders en besluitnemers. Zij zijn verantwoordelijk en zij moeten begrijpen wat technologie is en wat ethische kaders zijn.” Iedereen aan tafel was het eens dat multidisciplinaire teams de oplossing zijn. Over de samenstelling zeiden Van Dijk en Atighi: “Beleid, juridisch, inwoners en uitvoering.” De feedback van inwoners kan georganiseerd worden via stadslabs. Atighi legde uit: “Aan tafel zitten met inwoners, op basis van hun verhalen iets bedenken en de resultaten terugkoppelen en samen met hen testen en uitproberen. Wij hebben daar een methodiek voor ontwikkeld.” Kuijpers zei dat PinkRoccade best voorzichtig is met de inzet van AI bij gemeenten voor maatschappelijke opgaven. “We gebruiken de technologieën maar we zijn geen AI-specialist. Ik vind het steeds gevaarlijker om te zeggen dat we alles weten. Wij werken daarvoor samen met andere marktpartijen.” Atighi vond het ook niet aan marktpartijen om met inwoners aan tafel te gaan zitten. “Het is de verantwoordelijkheid van de overheid om die bloedgroepen bij elkaar te brengen.”
Kan het zonder AI?
Een deelnemer in de zaal vroeg zich af wat er op dit moment mogelijk is om de uitvoering te verbeteren, zonder te wachten op verdere technologische ontwikkelingen. Hoe zat het dan met servicemanagement en beheer. “Wat zouden we nu al kunnen doen zonder dat we AI nodig hebben?” Van Dijk reageerde dat we nu al naar de processen kunnen kijken ter verbetering. Atighi moest er niet aan denken om zonder AI te moeten. “Ik wil niet stoppen op de weg die nu opdaagt. We kunnen het werkvolume nu al niet aan in Amsterdam.”
Inkoopvoorwaarden
Het tweede deel van het Gemeentelijk i-Café behandelde kort de recente wijzigingen in de standaard inkoopvoorwaarden voor de inkoop van ICT-diensten en -producten, GIBIT. Dit staat voor Gemeentelijke Inkoop bij IT Toolbox en is een product van de VNG. Het gebruik van GIBIT is niet verplicht voor gemeenten, maar helpt hen wel juridisch sterker te staan. Omdat het een standaard is, brengt GIBIT leveranciers herkenbare voorwaarden in hun onderhandelingen met gemeenten. “Voorwaarden waar niemand voor de gek mee wordt gehouden, iedereen zegt: hier kunnen we mee leven,” aldus advocaat Thijmen van Hoorn van Dirkzwager legal & tax, De laatste GIBIT-versie is van december 2023 en kent meer begrippen en regelingen, ook voor AI. Ook zijn ethiek en grondrechten beter geborgd, vooruitlopend op de digital decade, het Europese programma dat veel nieuwe nationale en lokale wet- en regelgeving tot gevolg heeft. Verder ook aandacht voor dienstverlening op afstand, zowel on premise en in de cloud. Geheel nieuw is een escalatieladder, die in geval van conflict stappen geeft om te zetten naar een oplossing. Van Hoorn: “Dus niet gelijk met het mes op de keel of het idee hebben alles te moeten slikken.”
Zelf nadenken
De GIBIT zijn ontwikkeld om gemeenten te helpen met het professionaliseren van hun ICT-inkoop. Tom Maassen, productgroep GIBIT, legde het als volgt uit: “Standaardisatie kan een uitkomst zijn voor gemeenten die bijvoorbeeld 1 of 2 mensen op de inkoop hebben, die ook de straatverlichting en de vuilnisbakken moeten inkopen. De toolbox ondersteunt hen zodat gemeenten niet ‘de glimmende knikker’ kopen, maar ICT die goed werkt.” “Blijf wel zelf nadenken over proportionaliteit,” zei Vincent de Vaal, head legal van Eurofiber. “GIBIT biedt handvatten, maar blijf zelf nadenken over uw uitvraag in de markt of die passend is voor uw situatie.” Maassen riep leveranciers op goede voorbeelden van gemeentelijke aanbestedingen te delen met de VNG, zodat die gedeeld kunnen worden onder de leden.
Standaard 2023
De GIBIT zijn tot stand gekomen in samenwerking met gemeenten en de markt. Van de 150 voorgestelde wijzigingen is een derde uiteindelijk opgenomen in de versie van 2023. Een overzicht van alle wijzigingen staat op de site van de VNG. De Vaal prees “het engelengeduld” van de VNG, bij het verzamelen en doorvoeren van alle suggesties van markt en overheid. “Ze heeft geluisterd om te willen begrijpen en dat is geen vanzelfsprekendheid.” Een laatste oproep was voor de gemeenten die de GIBIT gebruiken, om allemaal de laatste versie uit 2023 te hanteren. “Maak die leidend voor ons leveranciers.”
