Dashboards en data voeden wederzijds wantrouwen
Digitalisering kan de welvaartsstaat ook verzwakken in plaats van versterken, concludeert promovendus Margot Kersing in een Rotterdams promotieonderzoek. Diens proefschrift laat zien hoe digitalisering van de welvaartsstaat kan leiden tot systematische discriminatie, surveillance, stigmatisering en het uitsluiten van publieke diensten.
‘Geen woorden maar data’. Het is een gevleugelde uitdrukking aan de Rotterdamse Coolsingel. Net als elders in het land experimenteert ook de gemeente Rotterdam sinds 2013 met datagedreven werken. ‘Digitalisering van de werkprocessen gebeurt in alle grote steden’, vertelt promovendus Margot Kersing. ‘Maar in Rotterdam sluit de ontwikkeling naadloos aan bij de pragmatische bestuurscultuur van de arbeidersstad.’ De afgelopen vijf jaar richtte diens onderzoek zich op het datagedreven werken van de gemeente.
De bestuurskundige promoveerde op 27 maart op een onderzoek naar de uitwerking van digitalisering op burgers, ambtenaren en de lokale politiek. Het onderzoek richtte zich onder meer op een Rotterdams dashboard van de afdeling Werk, dat automatisch mensen categoriseerde en op basis waarvan ambtenaren beslissingen namen. Mensen in kwetsbare posities werden hierdoor disproportioneel hard geraakt.
Optimistische toekomstvisie
In de stad speelden de afgelopen jaren verschillende kwesties, met name over het gebruik van algoritmes. Toch is het optimisme in Rotterdam onverminderd groot, blijkt uit een recente toekomstvisie over de digitale transformatie van de gemeente. ‘We hebben te maken met een digitale werkelijkheid die onlosmakelijk verbonden is met ons leven’, stelt de gemeente daarin. ‘Het is geen aparte, parallelle wereld.’ Het punt is, schrijft de promovendus in diens proefschrift, dat datagedreven werken wel degelijk is losgezongen van het dagelijks leven van inwoners.
Het proefschrift laat zien hoe digitalisering van de welvaartsstaat kan leiden tot systematische discriminatie, surveillance, stigmatisering en het uitsluiten van publieke diensten. Dat is mogelijk doordat datagedreven werken nog steeds plaatsvindt in ‘een vrije ruimte’, schrijft de promovendus. Een leemte zonder democratisch mandaat, en daardoor niet gebonden aan regels, protocollen en richtlijnen. Gemeenteraden worden niet betrokken en burgers worden structureel buitenspel gezet.
Kersing: ‘Je ziet dat nu met AI. Terwijl politici, uitvoeringsambtenaren en bedrijven onderhandelen over de regels die nodig zijn, wordt er heel veel geëxperimenteerd. Zo gaat het ook met datagedreven werken. Er ontstaat een soort wilde westen dat zorgt voor heel veel ellende voor burgers.’
‘Er ontstaat een soort wilde westen dat zorgt voor heel veel ellende voor burgers.’
Margot Kersing
Van preventie naar discriminatie
Het Toeslagenschandaal is daar een goed voorbeeld van. Ook Rotterdam kende verschillende kwesties rond datagedreven werken. Onder meer over het algoritme SyRI, dat in 2019 verschillende databases van overheidsorganen koppelde en werd losgelaten op de kwetsbare Rotterdamse wijken Hillesluis en Bloemhof. Na een kritisch rapport van de plaatselijke Rekenkamer pauzeerde de wethouder twee jaar later een Rotterdams algoritme dat mensen selecteerde voor bijstandscontroles. Jonge alleenstaande moeders bleken hierbij oververtegenwoordigd.
Algoritmes en datatools die eerst werden gebouwd om mensen te helpen, kunnen zich in een later stadium alsnog tegen burgers keren, zag de promovendus in diens onderzoek naar de digitale welvaartsstaat. Zo was de Top 400/Top 600-aanpak in Amsterdam oorspronkelijk bedoeld als preventie tegen jeugdcriminaliteit. ‘Data van gemeente, politie en welzijnswerk werden ondergebracht in één systeem om te voorspellen wie een grotere kans had om in de criminaliteit te belanden’, zegt Kersing. ‘Het resultaat was dat willekeurige jongeren werden onderworpen aan politiecontroles, zonder dat daar wettelijke grond voor was.’
Andere uitwerking dan bedoeld
Ook het dashboard van de Rotterdamse afdeling Werk had een andere uitwerking dan bedoeld. De intentie was het versnellen en vergemakkelijken van de begeleiding naar werk. Het effect was een onstilbare honger naar data over bijstandsgerechtigden in een kwetsbare positie. ‘Je moet zo’n datatool blijven voeden met gegevens om hem goed werkend te houden’, legt Kersing uit. De hulpvraag van burgers raakte vaak uit zicht, met dank aan de Participatiewet. Uitkeringsgerechtigden hebben een informatieplicht en Rotterdam vroeg veel. Alles wat redelijkerwijs invloed kon hebben op het recht op een uitkering of het terugleiden naar werk.
Uitkeringsgerechtigden vonden de datagedreven beslissingen ‘afstandelijk en onpersoonlijk’. Het gebruik van dashboards en algoritmes creëert een dynamiek van wederzijds wantrouwen, is dan ook de conclusie van het proefschrift. ‘Burgers voelen zich gecontroleerd. Ambtenaren voelen zich op hun beurt onder druk staan om data te verzamelen en controleren.’
‘Burgers voelen zich gecontroleerd. Ambtenaren voelen zich op hun beurt onder druk staan om data te verzamelen en controleren.’
Margot Kersing
Negatieve invloed op het werk
De bestuurskundige ontdekte dat met name de ‘mensgerichte’ werkcoaches niet op zo’n systeem zaten te wachten. Medewerkers voelden zich door het dashboard bekeken, iedereen had zicht op elkaars werk. ‘Dat had een negatieve invloed op het werkplezier, maar ook op hoe goed het werk werd gedaan.’
Achteraf verbaast het Kersing dat de ambtelijke organisatie geen tegendruk gaf aan de politiek. ‘Uitvoeringsorganisaties hebben nooit aan de politiek teruggegeven dat deze datagedreven werkwijze niet werkt.’ Lokale politici in Rotterdam hadden geen idee van de praktijk van werkcoaches, blijkt uit een analyse van de promovendus. Debatten over digitalisering van het sociaal domein waren er zelden. ‘Als er al discussies waren, waren ze een reactie op een schandaal of kritiek van buiten, zoals het Rekenkamerrapport.’
‘Uitvoeringsorganisaties hebben nooit aan de politiek teruggegeven dat deze datagedreven werkwijze niet werkt.’
Margot Kersing
Raadsleden ‘trokken het probleem van digitalisering uit elkaar’ door technische en ethische aspecten los van elkaar te laten onderzoeken. ‘Terwijl het gesprek zou moeten gaan over de samenhang van deze onderdelen.’ Pas door uit te zoomen kreeg Kersing zelf zicht op de uitwerking van datagedreven werken op verschillende groepen. ‘Hierdoor zag ik hoe vrij negatieve beelden van politici over fraude en bijstand doorwerken in de ambtelijke organisatie en uitmonden in zeer slechte ervaringen bij uitkeringsgerechtigden.’
Juist de uitkeringsgerechtigden hadden last van het dashboard. Zij voelden zich behandeld als een crimineel of kleuter en waren zich voortdurend bewust van de ongelijke machtsverhoudingen. ‘Zij zijn verplicht om informatie te verschaffen, soms herhaalde malen aan verschillende werkcoaches.’ Kersing zag vier manieren waarop cliënten zich tegen de datahonger verweren, van pleasen tot vechten of hulptroepen meenemen naar de gesprekken met de werkcoach. ‘Vaak moeten cliënten talloze malen hetzelfde verhaal vertellen en trekken ze zich uiteindelijk terug.’
Reactie gemeente Rotterdam
De gemeente Rotterdam geeft aan dat de data-producten en -toepassingen uit het artikel grotendeels van vóór 2022 zijn. Zij ziet de analyse ‘als een terugblik die helpt om te leren en verbeteren’ en geeft aan dat de afgelopen collegeperiode juist is ingezet op ‘een mensgerichte benadering’ binnen het sociaal domein. De gemeente herkent niet het beeld van controle en wantrouwen noch dat kwetsbare groepen disproportioneel hard zijn geraakt. Ook geeft de woordvoerder aan dat er afgelopen jaren in de gemeenteraad ‘uitgebreide en constructieve’ debatten zijn gevoerd over data en digitalisering.
Dit is een ingekorte versie. Lees het volledige artikel in Binnenlands Bestuur #7 (inlog).
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.