‘Een binaire uitkomst brengt een stukje gemak voor ambtenaren met zich mee.’
Ze was verantwoordelijk voor de ‘memo Palmen’, waarin ze al in 2017 alarm sloeg over wat het Toeslagenschandaal is gaan heten. Nu zet Sandra Palmen zich namens Nieuw Sociaal Contract (NSC) in de Twee Kamer in voor een rechtvaardig samenleving. Tijdens een Gemeentelijk i-Café, georganiseerd door de VNG, ging ze op donderdag 27 juni in gesprek met gemeenten en ICT-leveranciers over verantwoord gebruik van ICT door de overheid. Tot haar verrassing erkennen ook de marktpartijen de knelpunten die ze opwierp.
Zelflerende algoritmes
“Mijn pleidooi is dat zelflerende algoritmes op dit moment niet goed passen bij de overheidsbesluitvorming,” zegt Palmen. “Maar ik weet niet of het verschil met meer traditionele algoritmes al overal is doorgedrongen.”
Zijn zelflerende algoritmes helemaal niet bruikbaar voor de overheid? Ook niet in een voortraject waar vervolgens een mens aan te pas komt?
“Dan zou je het zo moeten inrichten dat volstrekt helder is van wat het algoritme doet, wat het selecteert en hoe het zichzelf leert. Maar bij zelflerende algoritmes is dat juist het probleem: je weet niet wat het leert. De wet en onze rechtsbeginselen vereisen wel dat een beschikking goed gemotiveerd is en dat die kenbaar en duidelijk navolgbaar is. Daarmee kom je dus al snel in de knel. Zolang wij dat volledige inzicht niet hebben, kunnen we dergelijke algoritmes niet inzetten.”
Jong sofinummer
Welke algoritmes zijn niet problematisch?
“De traditionele algoritmes lijken wat meer op een intelligente aselecte steekproef. Je kunt bijvoorbeeld zeggen: bij eigen woningen kan het niet zo zijn dat beide partners een volledige renteaftrek hebben. Daar kun je een algoritme op zetten, dat partners moet selecteren die twee keer een hoog bedrag aan rente opvoeren. Dat is uitlegbaar.”
Hoe makkelijk het onbedoeld mis kan gaan, legt ze uit aan de hand van een voorbeeld.
“Vroeger voerde de Belastingdienst 1 procent-steekproeven uit. Aan de hand daarvan wisten ze bijvoorbeeld dat startende ondernemers vaker fouten maken. Als je die bevinding wil neerslaan in een algoritme, dan zou je kunnen zeggen: let op de aangiften van startende ondernemers. Maar het kenmerk van een startende ondernemer is ook dat hij een jong sofinummer heeft. Als je dat vertaalt in de regel ‘een jong sofinummer is een risico’, dan heb je voordat je het weet alle immigranten als risicofactor in een database zitten. Vandaar dat je de vertaalslag van beleid naar systemen moet koppelen aan de grondslagen in je wet. Daar zouden we veel nauwgezetter in moeten willen acteren.”
Vertaalslag
De mensen die regelingen en beleid omzetten in computercode hebben onevenredig veel macht, stelt Palmen in haar speech. Bij overheden ligt een zware taak om te zorgen dat die vertalingen op rechtsstatelijke wijze worden gemaakt. “In de praktijk heb je één afdeling die zich bezighoudt met data-analyses of het bouwen van algoritmes en één afdeling die zich bezighoudt met juridische kwalificatie en ze spreken elkaars taal niet.”
Fraude
Ook de Autoriteit Persoonsgegevens is in het jaarverslag uiterst kritisch op de datahonger van de overheid. Is het überhaupt mogelijk om frauderisicoanalyses te doen met algoritmes zonder te discrimineren?
“Je bent pas een fraudeur als er een strafrechtelijke veroordeling is geweest. Je mag niet, vooruitlopend op een veroordeling, mensen al op die manier benaderen. Dat is heel kwalijk, vooral als het dan ook gekoppeld wordt aan dingen die niet specifiek de in de grondslag te vinden zijn, zoals jonge sofinummers, of moeilijke achternamen. Dan zit je al snel in de discriminatiehoek.”
Gemakzucht
Een deel van de oplossing ligt volgens haar in het vormen van multidisciplinaire teams bij gemeenten. “Het gaat er onder andere om dat je je goed realiseert met welke taak je bezig bent. Ik heb bijvoorbeeld meegemaakt dat taxateurs voor vastgoed een Excel-bestand hadden aangelegd van adressen, inclusief namen en sofinummers. Ga je mij nou wijsmaken dat de waarde van een woning afhankelijk is van de naam van de degene die er woont, vroeg ik. Nee, nee, dat was niet zo.”
Wat is dan de overweging om dat erin te zetten?
“Het is makkelijker. De menselijke neiging tot gemak is toch vaak sterk.”
Uitzonderingen
Ook makkelijk – voor programmeurs dan – is dat je geen uitzonderingen kunt aangeven op formulieren. Is daar een oplossing voor te bedenken?
“De Wet versterking waarborgfunctie Awb is nu ter consultatie. Daarin kwam hetzelfde vraagstuk naar voren. Hoe gaan we ervoor zorgen dat mensen hun uitzondering toch kenbaar kunnen maken? De wetgever heeft ervoor gekozen om daarvoor een laagdrempelige bezwaarfase in te bouwen. Dat vind ik zelf niet de meest ideale oplossing, omdat je op die manier een rechtsgang ontneemt aan mensen. Ik zou ervoor willen pleiten dat er toch al in de aanslagfase of aanvraagfase een mogelijkheid zou zijn dat je nog een formulier of brief kunt insturen met bijzondere omstandigheden. Al loop je daarmee het risico dat iedereen zich bijzonder vindt.”
Dan wordt het onuitvoerbaar.
“En daar zou je eventueel een algoritme kunnen inzetten, bijvoorbeeld als het gaat om vroegsignalering van schulden en armoedeproblematiek. Als je signalen krijgt dat verzekeringen of de hypotheek niet betaald worden, dan zijn dat wel indicatoren dat er mogelijk iets aan de hand is. En dan kun je mensen proactief benaderen.”
Regeling van Gegevensdeling
Zorg voor een wettelijke Regeling van Gegevensdeling, betoogde ze in de speech, zodat ‘dat mag niet van de AVG’ minder vaak onterecht te horen is. “Zeker als het gaat om iets doen in het voordeel van rechthebbenden, zoals het toekennen van inkomensafhankelijke regelingen, mag er veel meer dan mensen denken. Dat kun je wat mij betreft al koppelen aan artikel 20 van de Grondwet. Het recht op bestaanszekerheid is een onderwerp van zorg door de overheid.”
Boeteclausule
Waarom blijft dit maar spelen? Er is toch niemand tegen zo’n wettelijke regeling?
“Vóór de AVG hadden we de Wet bescherming persoonsgegevens, die inhoudelijk nauwelijks verschilde van de AVG. De enige echte verandering was een boeteclausule. Dat leidt ertoe dat de overheid alles afhoudt. Je hebt AVG-juristen die zich sec met het primaire vraagstuk bezighouden: past dit wel of niet binnen de AVG-kaders? Terwijl ik eigenlijk verwacht van een ambtenaar dat ‘ie een stap verder kijkt: wat is het effect? Wat is de afweging om deze gegevens wél te delen in het kader van het maatschappelijk belang?”
Werelden bij elkaar
Tot haar aangename verrassing bleek tijdens het rondetafelgesprek dat niet alleen de gemeenten, maar ook de ict-leveranciers de dilemma’s die ze schetste erkennen. “Met name Microsoft begreep heel goed wat ik ter berde bracht. Interessant dat dit ook vanuit de technische hoek zo wordt ervaren. Hoe mooi is het als je die werelden bij elkaar kunt brengen?”
Ethische teams
Microsoft werkt al met ethische teams, die zich buigen over vraagstukken vanuit de vraag of het mag en of het wenselijk is. “Maar vergeet niet dat de rechtsbeginselen een gestolde en daarmee een afdwingbare vorm van ethiek zijn,” zegt Palmen. “Dat zorgt er voor dat je niet meer zo afhankelijk bent van de persoonlijke moraal van een mens, maar dat je een gedeeld moreel kompas hebt.”
Dat is geen taal die een ICT-afdeling dagelijks bezigt.
“Daarom heb je elkaar ook nodig om open het gesprek aan te gaan over de taken die je samen uitvoert, ten dienste van het maatschappelijk belang.”
Onderbezetting
Is het realistisch om van onderbezette gemeenten te verwachten dat ze multidisciplinaire teams opzetten om vraagstukken van alle kanten bekijken?
“Ik denk dat het al heel moeilijk is voor de Rijksoverheid. Ik zie de gemeenten worstelen. Het is makkelijker om je vooral te richten op de uitvoering van de wet, in plaats van het toepassen van het recht, wat veel breder is. De binaire uitkomst (het mag of het mag niet – red.) brengt ook een stukje gemak en eenduidigheid met zich mee. Daardoor kun je er, met alle respect, wat lager opgeleiden op zetten.”
Of computers.
“Ja, of een chatbot. Daarom denk ik dat we de oplossing meer zullen moeten zoeken in het vooringevuld aanbieden van inkomstenafhankelijke regelingen. Daar kan de nieuwe bewindspersonenploeg vol goede moed mee aan de slag.”
Is een staatssecretaris afkomstig van een grote ICT-leverancier dan de juiste man voor de job?
“Qua technische kant absoluut. De juridische kant en de ambtenarij beheerst hij denk ik wat minder, maar hij heeft een minister (van NSC – red.) die dat weer heel goed kan.”
Lees ook:
De vertaling van wet- en regelgeving via digitalisering is al meer dan 30 jaar bezig en heeft nog zelden tot formeel beleid geleid. Aan de basis van die witte vlek ligt de ongebruikelijkheid om (naast taakopdrachten) ook wettelijke verplichtingen te zien als grondslag voor gegevensverwerking en bijbehorende rechtszekerheid.
Bestuurlijke aandacht voor de noodzaak van wetsanalyse en vertaling naar beleid, procesinrichting en verantwoording krijgt binnen de overheid langzaam voet aan de grond maar staat in de kinderschoenen.
Dat is een trieste constatering in relatie tot de EU ontwikkelingen rond interoperabiliteit. Juist de analyse van generieke wetgeving zoals het bestuursrecht zou centraal kunnen worden opgepakt.
Dat Microsoft over georganiseerde kennis beschikt overtuigt mij slechts dan wanneer er een zichtbaar effect is in de benadering van de overheid en aantoonbaar is stilgestaan bij andere belangen dan van MS zelf.