Experimenteer in de slimme stad niet met de rechten en vrijheden van inwoners

Beeld: Shutterstock

Gemeentebesturen passen steeds vaker (nieuwe) technologieën toe in de openbare ruimte. Via meters, sensoren, en camera’s worden bewegingen, gedrag en (stem)geluid opgevangen en geanalyseerd. In ‘slimme stad’-projecten worden ‘slimme’ prullenbakken en lantaarnpalen, huurfietsen met sensoren, en verkeersmeters geplaatst. Data van en informatie over inwoners wordt zo steeds sneller en efficiënter vanuit de publieke ruimte doorgegeven aan de gemeente. In zogeheten ‘levende laboratoria’ (living labs) worden grote hoeveelheden technologie geïnstalleerd in een bepaalde buurt of wijk, en ook de zogeheten ‘tweelingsteden’ (twin cities) duiken steeds vaker op. In ‘Twin City Eindhoven’ zullen ambtenaren bijvoorbeeld via dashboards de data afkomstig van sensoren en meters uit de publieke ruimte kunnen bekijken en analyseren. Technologie raakt op deze manier steeds verder verweven met de leefomgeving van inwoners, en beïnvloedt steeds meer de manier waarop mensen zich gedragen en bewegen in de openbare ruimte.

Hoe efficiënt technologische toepassingen ook kunnen zijn; er kleven grote risico’s aan.

Het is begrijpelijk dat gemeentebesturen de vruchten willen plukken van digitale mogelijkheden. Sinds de decentralisatie hebben zij meer taken gekregen en niet altijd voldoende budget om deze goed uit te voeren. Bedrijven beloven van alles aan gemeentebesturen met ‘slimme stad’-producten, bijvoorbeeld een app om ondermijning ‘integraal’ aan te pakken, sensoren om afvalproblemen te verhelpen of meters om verkeersproblemen op te lossen. Vaak zijn deze producten ‘as a service’, een ander woord voor op abonnementsbasis. Gemeenten zouden zo volledig worden ‘ontzorgd’. Het is verleidelijk voor gemeentebesturen om hierin mee te gaan in hun drang naar efficiëntie.

Maar hoe efficiënt technologische toepassingen ook kunnen zijn; er kleven grote risico’s aan. Dit zijn niet alleen risico’s die te maken hebben met databeveiliging of het gebrek daaraan. Slimme stad-toepassingen kunnen ook de gelijk(waardig)heid van mensen onder druk zetten en hun persoonlijke autonomie inperken. Ze zijn bovendien niet altijd democratisch geborgd, en gemeentebesturen dreigen door slimme stad-toepassingen grip verliezen op wat met de data van inwoners gebeurt. Drie principes staan in het bijzonder onder druk in de slimme stad.

Gelijkheidsbeginsel

Ten eerste kunnen digitale toepassingen in de openbare ruimte het gelijkheidsbeginsel schenden. ‘Slimme’ steden maken geregeld gebruik van biometrie – het meten van fysieke kernmerken van mensen, zoals stemgeluid, gezicht of bewegingen. Dergelijke technologie wordt vaak ‘getraind’ op basis van (beeld)materiaal van witte mensen. Dit leidt ertoe dat de gezichten en bewegingen van zwarte mensen niet altijd worden herkend door camera’s die op straat hangen of sensoren in draaideuren van overheidsgebouwen. Als deze software door de politie wordt gebruikt, kan dit ertoe leiden dat zwarte mensen vaker onterecht staande worden gehouden dan witte mensen. Op deze manier wordt racisme dat al bestaat in de samenleving versterkt en geautomatiseerd door technologiegebruik van de overheid.

Persoonlijke autonomie

Wanneer gezichtsherkenningssoftware de basis vormt van het handelen van de overheid richting burger, kan dit er bovendien toe leiden dat de persoonlijke autonomie van mensen wordt ingeperkt. Mensen moeten zelf richting kunnen geven aan hun leven en een persoonlijke identiteit kunnen vormen. De overheid zou geen keuzes moeten maken voor mensen op basis van factoren waar zij geen invloed op hebben. Het ‘sturen’ van gedrag door technologie in de openbare ruimte kan overgaan in manipulatie wanneer mensen niet op de hoogte zijn van deze beïnvloeding. De scheidslijn tussen het nudgen van mensen door middel van technologie – denk aan ‘slimme’ lantaarnpalen die door geur te verspreiden en van kleur te veranderen geweld moeten voorkomen – en manipulatie kan soms dun zijn.

Niet altijd staan de risico’s voor het schenden van rechten, maar ook de wenselijkheid voldoende op de kaart bij gemeenteraden en -besturen. Technologie wordt namelijk nog altijd gezien als neutraal en objectief. Een computer doet slechts wat deze ingevoerd krijgt en is daarom waardenvrij, is vaak de gedachte. Techno-solutionisme ligt hierbij dan ook op de loer: het idee dat met technologie sociaal-maatschappelijke problemen opgelost kunnen worden. Maar het tegendeel is waar. Slimme stad-toepassingen roepen wel degelijk politieke vragen op over de wenselijkheid van technologische toepassingen, waarbij een afweging gemaakt moet worden tussen verschillende belangen, zoals efficiëntie, veiligheid, transparantie, non-discriminatie en emancipatie.

Techno-solutionisme ligt op de loer: het idee dat met technologie sociaal-maatschappelijke problemen opgelost kunnen worden.

Digitalisering wordt te vaak gezien als een kwestie voor de uitvoering en niet voor de politiek. Hierdoor staat een tweede principe onder druk: democratische controle. Dit wordt versterkt doordat slimme stad-projecten vaak publiek-private samenwerkingen zijn. Dit maakt het democratisch toezicht hierop nog lastiger. Bovendien worden projecten met technologie steeds vaker in samenwerkingsverband uitgevoerd tussen meerdere gemeenten en/of regio’s. Deze vallen niet onder het toeziend oog van de gemeenteraad, en vallen hierdoor buiten het democratische zicht. Samenwerkingsverbanden zouden daarom meer inzicht moeten geven aan raadsleden en inwoners wat zij precies doen met technologie. Om de democratische controle te versterken zouden gemeenteraden in ieder geval een aparte commissie Digitale Zaken en een portefeuillehouder van dit onderwerp moeten hebben. Bovendien zou in iedere gemeente een wethouder moeten zijn die zich ontfermt over digitalisering. Ook workshops en expertmeetings kunnen bijdragen aan het vergroten van kennis over digitalisering van raadsleden en bestuurders. Ethische commissies kunnen de raad en het college ondersteunen bij het stellen van ethische vragen over digitalisering.

Digitale autonomie

Ten derde komt digitale autonomie onder druk te staan door slimme stad-toepassingen. Digitale autonomie is de mate waarin overheden controle hebben over de digitale aspecten van de samenleving. Tot nu toe wordt dit onderwerp vooral aangesneden op nationaal niveau en in EU-verband, maar het zou ook hoger op de agenda moeten staan van lokale overheden. De aard van slimme stad-toepassingen als publiek-private samenwerkingen zorgt ervoor dat gemeentebesturen grip dreigen te verliezen op wat met data van inwoners gebeurt. Denk aan de meer dan 134 camera’s van de Chinese bedrijven Hikvision en Dahua die hangen bij verschillende overheidsgebouwen in Den Haag. Dit zou vragen moeten oproepen over de wenselijkheid hiervan en de mate waarin overheden nog controle hebben op wat er met data van inwoners afkomstig uit de publieke ruimte gebeurt.

Gemeentebesturen doen er goed aan hun afhankelijkheid van (software)leveranciers in kaart te brengen, en in het bijzonder voor slimme stad-toepassingen.

Bedrijven die software of digitale infrastructuur leveren voor slimme stad-toepassingen, hebben bovendien niet dezelfde democratische legitimiteit als overheden. Hierdoor dreigen bij slimme stad-toepassingen de belangen van inwoners uit oog verloren te raken. Gemeentebesturen doen er daarom goed aan hun afhankelijkheid van (software)leveranciers in kaart te brengen, en in het bijzonder voor slimme stad-toepassingen. Dit kan door de contractvoorwaarden goed onder de loep te nemen, en duidelijke afspraken te maken met wat bedrijven mogen doen met de data die verzameld wordt in slimme stad-projecten. Hoe minder democratische grip er is op de slimme stad, hoe groter de kans dat technologie op ondoordachte wijze wordt toegepast – en dat efficiëntie de boventoon gaat voeren ten koste van waarden zoals non-discriminatie en zelfbeschikking.

Dat gemeentebesturen willen experimenteren met nieuwe technologie is geheel begrijpelijk. Ze hebben ook de (morele) verplichting naar burgers om zo effectief mogelijk grote uitdagingen van deze tijd zoals klimaatverandering, sociale en economische ongelijkheid en onveiligheid, aan te pakken. Maar experimenteren met technologie mag niet betekenen dat geëxperimenteerd wordt met de rechten en vrijheden van inwoners. Om dit te garanderen zullen gemeentebesturen van koers moeten wijzigen in de richting van de democratische digitale stad. De nieuwe collegeperiode biedt hier een uitstekend aanknopingspunt voor.

Kanttekeningen bij de digitale stad

Dit is een verkorte versie van de publicatie ‘Kanttekeningen bij de digitale stad: gelijkheid, democratische controle en digitale autonomie in Nederlandse gemeenten’. Aan het stuk is een ‘APK voor digitale autonomie in de slimme stad’ toegevoegd, waarmee gemeentebesturen jaarlijks hun afhankelijkheid van (software)leveranciers in kaart kunnen brengen.

De publicatie is HIER gratis te downloaden

Laura de Vries is wetenschappelijk medewerker bij de Mr. Hans van Mierlo Stichting, het wetenschappelijk bureau van het sociaal-liberalisme.