Regeringscommissaris Zuurmond opperde het plan om de beschikkingen van de Nederlandse overheid te voorzien van een bijlage met de gegevens en algoritmen die op die beschikking betrekking hebben. Vanuit oogpunt van transparantie prima, je geeft een kijkje in de eigen keuken. Een nog veel beter idee is te onderzoeken hoe een beschikking zo begrijpelijk mogelijk kan worden gemaakt voor de ontvanger.
Beeld: Shutterstoock
Op dinsdag 1 maart j.l. woonde ik de KNVI Super Tuesday bij met onder andere Arre Zuurmond als spreker. Zuurmond is sinds 1 januari van dit jaar aangesteld als Regeringscommissaris Informatiehuishouding van de Nederlandse overheid. Tijdens het KNVI-event deed hij een uitspraak die me fors aan het denken zette. Zuurmond opperde namelijk het plan om de beschikkingen van de Nederlandse overheid te voorzien van een bijlage met de gegevens en algoritmen die op die beschikking betrekking hebben.
Ik vraag me af of dat wel zo’n goed idee is. Voor de goede orde: een beschikking is een specifieke, individuele of concrete vorm van een besluit. Dat besluit kan worden genomen op aanvraag van een burger, maar ook op initiatief van een bestuursorgaan. Vanuit oogpunt van transparantie is het meesturen van gegevens en algoritmen zeker een goed idee: je geeft een kijkje in de eigen keuken. In dit geval welke gegevens en rekenregels zijn toegepast om te komen tot het besluit dat in de beschikking wordt medegedeeld. Maar wat kan een ontvanger van een beschikking daar mee en wat voor handelingsperspectief levert dat op?
Wat voor een ontvanger telt is niet de transparantie, maar of de beschikking begrijpelijk is en aansluit op zijn/haar context.
Wat voor een ontvanger telt is niet de transparantie, maar of de beschikking begrijpelijk is en aansluit op zijn/haar context. Als onderzoeker naar uitlegbaarheid van artificial intelligence (AI) zie ik dat er vanuit de techniek allerlei oplossingen beschikbaar komen om complexe AI-toepassingen uitlegbaar te maken. Maar dat is maar één kant van de medaille. Die andere kant is zeker zo belangrijk, en dat is de behoefte van de mens die met de output van die AI-toepassing geconfronteerd wordt.
Onderzoek laat zien dat die mens lang niet altijd geïnteresseerd is in een uitleg en zeker niet in een volledige uitleg. Als een mens alle variabelen ziet die ten grondslag liggen aan een besluit is de kans groot dat die afhaakt. Als er al een behoefte aan uitleg is, zoals bij negatief uitpakkende besluiten, dan is het welke specifieke reden heeft geleid tot dat besluit en wat je zou moeten doen om een positief besluit te krijgen (zogenaamde “counterfactuals”). Het verstrekken van meer gegevens en algoritmen leidt mijns inziens alleen maar tot verwarring en onduidelijkheid bij de ontvanger.
Het lijkt mij een veel beter idee om te onderzoeken hoe een beschikking zo begrijpelijk mogelijk kan worden gemaakt voor de ontvanger. Daarnaast zou er een loket moeten zijn waar je terecht kunt met vragen als je de beschikking niet begrijpt en waar je snel en helder te woord wordt gestaan door een mens die zich kan verplaatsen in jouw context.
Dr. Martin van den Berg is werkzaam bij de Hogeschool Utrecht als onderzoeker bij het lectoraat Artificial Intelligence. Een van zijn huidige onderzoeksthema’s is explainable of uitlegbare AI.
Inderdaad zal het grootste deel van de belanghebbenden bij een besluit geen interesse hebben in volledige transparantie van de werking van het achterliggende algoritme en de gebruikte gegevens. Een gepersonaliseerde uitleg is makkelijker en met minder inspanning te begrijpen.
Transparantie is echter wél van belang op het moment dat burgers in een conflict met de overheid verzeild (dreigen te) raken. Dan doen details over de werking van een algoritme en het gebruik van gegevens er toe. In de AERIUS uitspraak van de Raad van State is duidelijk naar voren gekomen dat de informatiepositie zeer bepalend is voor de rechtspositie van burgers.
Een ander, meer indirect, belang van burgers is dat zij nu vrijwel geen inzicht krijgen in de manier waarop algoritmen worden ingezet voor uitvoering. Omdat het implementeren van een algoritme altijd ook het interpreteren van wet en regelgeving betekent, is dit inzicht van belang voor burgers die de rechtsstaat een warm hart toedragen.
Tenslotte zullen ambtenaren die uitleg moeten geven aan burgers die uitleg moeten baseren op grondige kennis van de werking van algoritmen, want in de meeste gevallen worden besluiten automatisch genomen.
Er zijn dus goede redenen om wel degelijk aandacht te besteden aan transparantie, hoewel de begrijpelijkheid van besluiten voor burgers voorop moet blijven staan.