De politie experimenteert met nieuwe technologie. Op zich is daar niets mis mee, maar dan moet het ook openstaan voor kritiek en geen moeilijke vragen onbeantwoord laten.
De politie kreeg een golf van kritiek over zich heen toen zij onlangs een experiment aankondigde om op basis van grote bergen gegevens over burgers te voorspellen wie een zakkenroller is. Voormalig politiemedewerker Rutger Rienks stelt in een opinie in het NRC ten onrechte dat critici het de politie onmogelijk maken om te leren.
In essentie kondigde de politie aan bij te gaan houden wat alle bezoekers en bewoners van Roermond doen, om zo te voorspellen wie een zakkenroller is. Ze wil dat doen op basis van gegevens die ze registreert met antennes en camera’s langs de openbare weg, in combinatie met eigen databestanden. De politie ziet de mogelijkheid om “gebeurtenissen in de nabije toekomst te voorspellen” om “proactief te acteren”. Mensen aanhouden voordat ze – misschien – iets strafbaars doen.
Experimenteren zonder visie
Bits of Freedom is één van de organisaties die kritiek uitte. Niet omdat we vinden dat de politie niet mag experimenteren met nieuwe technologie of niet mag leren van fouten. Integendeel zelfs! Het zou ontzettend stom zijn om dat niet te doen. Maar als de politie experimenteert met technologie die onze democratie en rechtsstaat kan ondermijnen, dan alleen als daar een visie over de grenzen van die technologie aan ten grondslag ligt. En daar ontbreekt het aan.
Afwijken van de norm
Het experiment in Roermond wijkt op heel veel manieren af van het traditionele politiewerk. Om te proberen te voorspellen wie er mogelijk een zakkenroller is, moet de politie het doen en laten van iedereen in de gaten houden. De politie kijkt daarbij naar burgers wiens gedrag afwijkt van de norm of van de massa. Dat is het automatiseren van vooroordelen over wat normaal gedrag is. De politie ziet vanaf nu dus elke burger als een risico, want elke burger kan gedrag vertonen dat afwijkt en is daarmee een potentiële verdachte.
Wat kan nog wel en wat niet meer?
Het zou kunnen dat de politie goed heeft nagedacht over dit enkele project, maar een doordachte en overkoepelende visie ontbreekt. Wat kan nog wel en wat niet meer? Hoe ver vooruit mag de politie gebeurtenissen proberen te voorspellen en op basis daarvan mensen langs de kant van de weg zetten? Wat betekent het voor onze maatschappij als de politie overal in Nederland een systeem als dat in Roermond optuigt? Als we willen voorkomen dat de politie straks ieders beweging realtime kan volgen, wanneer moeten we dan een grens trekken? En omdat de voorspelling nooit nauwkeurig genoeg kan zijn, zal de politie steeds meer sensoren willen ophangen en steeds meer bergen gegevens aan elkaar willen knopen. Waar eindigt dat? Hoe denkt de politie daarover?
Onze toekomst staat op het spel
Blind vertrouwen is dom en risicovol. Infrastructuur die de politie optuigt wordt nooit meer afgebroken. Op zijn best raakt het buiten gebruik, maar dat alleen na de introductie van een systeem met nog meer mogelijkheden.
Als de politie écht wil leren, dan moet zij open staan voor kritiek. Bits of Freedom kan geen vertrouwen hebben in een politie die experimenteert met nieuwe technologie, maar moeilijke vragen daarover onbeantwoord laat. Daarvoor staat teveel op het spel: onze democratische rechtsstaat en daarmee onze toekomst.
Rejo Zenger werkt als beleidsadviseur bij digitale burgerrechtenbeweging Bits of Freedom.
Deze blog is eerder verschenen op de website van Bits of Freedom en is vrijgegeven onder een CC BY-SA-licentie,
