Met klaagrobot Paaltje worden de rollen omgedraaid en krijgt de digitaliserende overheid een koekje van eigen deeg. Met Paaltje kun je in een handomdraai bezwaar maken tegen ontwikkelingen in jouw buurt. Het apparaat is gekoppeld aan je locatie en signaleert wanneer een bezwaar bij de gemeente wordt ingediend.
Paaltje is ontwikkeld in samenwerking met filosoof Dirk van Weelden en softwareontwikkelaar Joost Helberg. Beeld: Dongwei Su
Het is zo slecht met onze digitaliserende overheid gesteld, dat de Raad van State onlangs genoodzaakt was om ongevraagd in te grijpen met een adviesrapport van dertig pagina’s dik.
De Raad maakt zich vooral zorgen over computeralgoritmen die beslissingen nemen zonder menselijke tussenkomst: ‘iedere te beoordelen situatie wordt tot een zwart-wit tegenstelling gereduceerd, maar de werkelijkheid bestaat uit vele tinten grijs’, aldus het adviesrapport. Daarom is het volgens de Raad noodzakelijk dat een mens beoordeelt wanneer van de regels moet worden afgeweken. Ook moet voor burgers inzichtelijk worden gemaakt welke beslisregels zijn toegepast en waar de gebruikte gegevens vandaan komen.
Of we erop kunnen vertrouwen dat de overheid de adviezen ter harte neemt moet nog blijken. Begin november werd bekend dat de Kamer de motie van Kees Verhoeven (D66) voor meer algoritme-transparantie aanneemt. Dat betekent niet dat we rustig kunnen gaan slapen. Voordat de motie werd aangenomen verscheen een brief waarin de Kamer nuanceert dat transparantie ten koste kan gaan van innovatie en ertoe kan leiden dat onwenselijke partijen algoritmen naar de hand zetten. Ook zou transparantie voor extra overheidslasten zorgen.
Dat burgers nu worden opgezadeld met extra lasten is blijkbaar minder belangrijk. Zo blijkt dat wanneer gegevens verkeerd aan instanties zijn doorgegeven, het bijna onmogelijk is om fouten te laten herstellen. De Raad schrijft hierover: ‘De systemen zijn niet gebouwd op het corrigeren van individuele gevallen. Bestuursorganen wijzen bij herstelproblemen vaak naar elkaar.’
SyRI
In plaats van het adviesrapport op te volgen, algoritmiseren lokale overheden vrolijk verder. Steeds meer gemeenten maken gebruik van het Systeem Risico Indicatie (SyRI). In Lekstroom, Middelburg en Nissewaard worden risico-voorspellende algoritmen gebruikt om verdachte burgers te onderscheiden en in Dordrecht bepaalt een algoritme welke spijbelaars een leerplichtambtenaar op bezoek krijgen. Recentelijk werden Kamervragen gesteld omdat SyRI in Capelle aan den IJssel valse positieven genereerde waardoor inwoners ten onrechte werden verdacht van overtredingen. Burgers weten niet op welke manier deze algoritmen tot een beslissing komen en of de gebruikte gegevens juist zijn.
De samenleving wordt niet beter van een overheid die haar burgers onderwerpt aan algoritmen die alle situaties reduceren tot zwart-wit tegenstellingen
Tot nu toe heeft de overheid elk verzoek tot transparantie over SyRI afgewezen of uitgesteld. De intensievere algoritmisering bij gemeenten stemt weinig hoopvol. Kennelijk zijn meer ingrijpende middelen nodig om aandacht te vragen voor het algoritmische doolhof waarin steeds meer burgers vastlopen. Daarom ontwikkelde medialab SETUP in samenwerking met filosoof Dirk van Weelden en softwareontwikkelaar Joost Helberg de automatische klaagrobot ‘Paaltje’.
Paaltje
Met Paaltje kunnen burgers in een handomdraai bezwaar maken tegen ontwikkelingen in hun buurt. Het apparaat is gekoppeld aan je locatie en signaleert wanneer een bezwaar bij de gemeente wordt ingediend. Als je tegen hetzelfde feit bezwaar wilt maken, druk je op een rode knop. Vervolgens stuurt Paaltje een bijbehorend klachtenformulier naar je e-mailadres en plaatst hij zelfs een klaagtweet op Twitter. Ook houdt hij je op de hoogte van overschrijdingen van afgesproken limieten, zoals de luchtkwaliteit. Lokale actiegroepen zien de klaagrobot helemaal zitten. In Utrecht is een pilot gestart met actiegroep Binnenstad 030, waarbij meerdere Paaltjes betrokken zijn.
Door klagen te automatiseren worden de rollen omgedraaid en krijgt de digitaliserende overheid een koekje van eigen deeg. Paaltje daagt overheden en burgers uit om in gesprek te gaan over de vraag welke beslissingen we wel en vooral ook niet aan algoritmen willen uitbesteden.
We moeten ervoor waken dat onze democratie wordt verruild voor een algocratie, waar alleen nog computeralgoritmen de dienst uitmaken. Misschien wordt de samenleving niet beter van een algoritme waarmee burgers automatisch kunnen klagen. Net zoals de samenleving ook niet beter wordt van een overheid die haar burgers onderwerpt aan algoritmen die alle situaties reduceren tot zwart-wit tegenstellingen.
Dit artikel is eerder geplaatst op de website van SETUP.
Siri Beerends is werkzaam bij SETUP, het medialab voor iedereen die geïnteresseerd is in de fusie van technologie en cultuur.
