Gemeenten willen mee in de digitaliseringsslag en op dit punt niet onderdoen voor andere gemeenten. Pas op, waarschuwen onderzoekers van de Utrecht Data School. Een dataproject vereist goede verantwoording en inbedding van publieke waarden. De ethische discussie over deze waarden wordt nu te vaak in de weg gezeten door een onontkoombare drang naar innovatie.
beeld: I-Stock
Technologie en data zijn niet neutraal. Ze bevatten waarden en kunnen waarden aantasten. Daarom hoort een debat over het waarde-vraagstuk van deze projecten er net zo bij als de benodigde checks & balances. “De gemeente wil scoren met dit soort dataprojecten,” zei een deelnemer aan een van workshops half zuchtend. Met een groep van acht gemeenteambtenaren praatten we al bijna drie uur over de ethische aspecten van een dataproject waar ze aan werken. Het was een inzichtelijke discussie die de concrete gevolgen van het dataproject wist te verbinden aan de ethische waarden waar hun gemeente en zij als individuen voor wilden staan. De laatste stap van de workshop vereiste van de deelnemers dat ze de besproken overwegingen omzetten in praktische taken. Hier liep het gesprek opeens spaak. De ambtenaren die drie uur lang geëngageerd mee konden praten reageerden wat moedeloos. Zij geloofden niet dat ze deze ethische kwesties echt aan de kaak zouden kunnen stellen. Het project zou toch wel doorgaan.
Onderzoek naar data-praktijken
De Utrecht Data School (UDS), onderdeel van Universiteit Utrecht, doet onderzoek naar de impact van dataficatie op burgerschap en democratie. De hierboven geschreven situatie is iets dat wij vaker zijn tegengekomen tijdens ons onderzoek naar data-praktijken van lokale overheden in Nederland. Met De Ethische Data Assistent (DEDA, https://dataschool.nl/deda/) geven wij workshops bij lokale overheden over data ethiek. Dit is altijd praktisch toegepast op een data- of AI project waar de ambtenaren op dat moment mee bezig zijn. Hiermee doen wij onderzoek naar data-praktijken in de Nederlandse lokale overheid. Tijdens ons onderzoek is ons opgevallen dat één terugkerend probleem voor ethische deliberatie bij ambtenaren iets is wat wij het Zeitgeist Narratief noemen. Dit is het idee dat technologische ontwikkeling en innovatie op zichzelf waarde hebben. We moeten innoveren want we moeten mee met de tijd. Bij dataprojecten, die altijd innovatief klinken, zorgt dit idee dat ze als onontkoombaar worden gezien, ongeacht de ethische bezwaren.
De uitkomst is minder belangrijk dan de wil om het project uit te voeren omdat het nieuw en hip is.
Machteloosheid
Eerst moet gezegd worden dat gemeenteambtenaren juist erg goed zijn in nadenken over publieke waarden. De burger staat als vanzelfsprekend centraal in de gesprekken tijdens onze workshop. Gemeenteambtenaren pakken ethische begrippen vrij snel op en weten deze toe te passen op hun eigen werk. Maar wij zien dat ondanks dit vermogen om ethisch te kunnen reflecteren, zij niet het gevoel hebben hier iets mee te kunnen veranderen in de praktijk. Een gevoel van machteloosheid overheerst. Tijdens onze workshops komt dit naar voren wanneer, na een vaak erg goede ethische discussie, de ethische deliberatie teniet wordt gedaan omdat er een gevoel in de groep heerst dat het dataproject toch wel door zal gaan. De ambtenaren hebben het gevoel dat zij niet echt invloed hebben op de ethische vormgeving van een project.
‘Het project is onontkoombaar’
De gemeenteambtenaren die door de jaren heen hebben deelgenomen aan onze workshops voelen de machteloosheid van “vooruitgang” op meerdere manieren. Vaak lijkt het gebruik van een dataproject onontkoombaar. Hierbij doen deelnemers uitspraken als: ‘het komt er toch wel’, ‘dit is toch de toekomst en daar moeten we wél mee’ of: ‘we moeten er doorheen’. Dit gebeurt ook tijdens discussies waarbij veel ethische problemen aan de orde worden gesteld. Het kan duidelijk worden dat privacyschendingen disproportioneel zijn, dat een dataproject zou kunnen leiden tot een verkeerde verhouding tussen overheid en burger. Het lijkt dan vanzelfsprekend dat deelnemers zich afvragen of dit project wel door moet gaan. Toch kan, na dit soort ernstige ethische overwegingen, het argument gebruikt worden dat data de toekomst is, en het niet te voorkomen is dat het gebruikt zal worden. Wat dan gebeurt is dat ineens het dataproject zelf als ontontkoombaar wordt beschreven, in plaats van een stevige discussie over de doelstellingen, de randvoorwaarden en de benodigde toezicht. Het gebruik van data is inderdaad veelbelovend en zal in toekomst alleen maar toenemen, maar dit moet dan wél legitiem en verantwoord gebeuren. Het Zeitgeist-argument werkt deze kritische benadering tegen.
‘Iedereen doet het’
Een tweede manier waarop deelnemers hun machteloosheid uiten is wanneer ze vinden dat hun organisatie mee moet gaan met de tijd. De ontwikkeling van een dataproject wordt hier ook gezien als onontkoombaar, maar nu niet omdat het een soort wetmatigheid is, maar omdat er een competitiemechanisme speelt. ‘Iedereen doet het’, wordt dan gezegd. Het enige gevolg van een dataproject niet door laten gaan is dan dat je als gemeente achterloopt op alle andere gemeenten. Hier heerst dan een angst om achter te blijven, terwijl anderen verder komen.
Het gebruik van buzz- woorden in vlotte politieke praatjes en flitsende presentaties verbergt de onkunde van technocratische bestuurders.
‘Politiek scoren’
Het waren overigens niet altijd de ambtenaren in de workshops die geloofden in de onontkoombaarheid van datagebruik, maar zij voelden zich machteloos omdat anderen daarvan overtuigd waren. De deelnemers stopten met nadenken over de ethische gevolgen omdat ze wisten dat hun organisatie, of politieke spelers, het project door zouden willen laten gaan ondanks alle mogelijke ethische overwegingen. Het zou dan weinig uitmaken dat zij als ambtenaren met ethische bezwaren aan zouden komen zetten. Zij zeggen dat ‘politiek scoren’ de prioriteit is bij dit project. De uitkomst van het project is dan minder belangrijk dan de wil om het project uit te voeren omdat het nieuw en hip is. Vaak wordt hierbij benadrukt dat de politieke spelers graag mee willen doen in een competitie om innovatief te besturen, en dit belangrijker wordt gevonden dan de publieke waarden die spelen bij het onderwerp.
Tijdgeest
Dit idee van een Zeitgeist Narratief, dat innovatie onontkoombaar is, is niet nieuw. Bij veel technologische vernieuwingen wordt de innovatie zelf vereerd, in plaats van wat voor goeds het zou moeten bewerkstelligen. Hierbij worden buzz-woorden gebruikt (denk aan blockchain, AI, dashboards, smart cities, internet of things, etc.). Het gebruik van deze woorden in vlotte politieke praatjes en flitsende presentaties verbergt effectief de onkunde van technocratische bestuurders over de technologie en haar maatschappelijke impact. De betekenis van deze woorden en wat het echt gaat doen, is minder belangrijk dan dat het er moet komen. Dit soort denken is verontrustend, omdat de verantwoordelijkheid voor beleid wordt afgeschoven op de tijdsgeest, en daardoor niet bij de bestuurders zelf lijkt te liggen. Als iedereen gelooft dat het niet te vermijden is dat een dataproject wordt uitgevoerd, wordt er niet goed nagedacht óf het moet worden uitgevoerd of op welke manier het verantwoord kan worden uitgevoerd. Een ethisch vacuüm wordt gecreëerd, en dat is altijd erg gevaarlijk.
Bewustwording
Wij zien dat dit Zeitgeist Narratief wordt gebruikt tijdens onze workshops, bij de ethische discussies over concrete projecten van gemeenten. Soms als argument, soms geven onze deelnemers aan dat zij het gevoel hebben vast te zitten en niets kunnen met hun ethische overwegingen. Het zit ethische verantwoording van dataprojecten in de weg en daarmee zit het verantwoord bestuur in de weg.
Wij hopen dat grotere bewustwording zal helpen om niet in de val van het Zeitgeist narratief te trappen; dat innovatie een einddoel is in zichzelf. Verandering brengen in deze manier van denken is natuurlijk niet makkelijk, zeker niet omdat ambtenaren weinig kunnen doen aan de politieke wens om ‘de nieuwe tijd bij te benen’. Maar er kan een grote stap gezet worden als we inzien dat innovatie an sich geen ethisch argument is. De ethische verantwoording voor dataprojecten moet niet afgeschoven worden op een tijdsgeest. We moeten inzien dat argumenten als ‘Gemeente X doet dit project ook dus wij gaan het ook doen’, ‘De wethouder wil dat dit project ons op de kaart zet als datagedreven stad’ of ‘het komt er toch wel’, geen valide argumenten zijn.
Lotje Siffels is PhD student aan de Radboud Universiteit, Mirko Tobias Schäfer is universitair hoofddocent en projectleider van de Utrecht Data School, Iris Muis is coördinator Ethische Data Assistent bij de Utrecht Data School en David van den Berg is onderzoeker toegepaste ethiek en digitalisering van bestuur bij Utrecht Data School. De Utrecht Data School is onderdeel van de Universiteit Utrecht.
