CAS werd landelijk geïntroduceerd in de jaren in 2017 en werd ondertussen door alle basisteams in Nederland gebruikt. Het oer-Hollandse, in Nederland ontwikkelde systeem beloofde criminaliteit te voorspellen, zodat de politie preventief kon ingrijpen. Zo zou de criminaliteit op specifieke plaatsen drastisch verminderd kunnen worden. Na evaluaties is echter besloten CAS per 1 december 2025 uit te faseren. Het CAS voldoet volgens een woordvoerder niet meer de noodzakelijke vereisten.
Criminaliteits Anticipatie Systeem bleek black box vol vooroordelen en zonder resultaat
In het algoritmeregister heeft het Criminaliteits Anticipatie Systeem (CAS) sinds kort de status "buiten gebruik". De politie is gestopt met de inzet van een computersysteem dat met behulp van statistiek en algoritmes kon voorspellen waar en wanneer bepaalde vormen van criminaliteit zouden plaatsvinden.
Ernstige zorgen
Er waren al veel langer zorgen over het voorspelsysteem van de politie. Al in 2018 deed de Politieacademie onderzoek naar de effecten van CAS. Ze vonden geen bewijs dat de criminaliteit daalde. De werking van CAS zou nooit wetenschappelijk bewezen zijn en de effectiviteit van het systeem liet zich moeilijk meten. En de Algemene Rekenkamer waarschuwde in 2022 dat bij het lerende algoritme van CAS een hoge kans bestaat op “onwenselijke systematische afwijkingen”, onder meer rond vooringenomenheid en discriminatie. Bij het CAS ontbrak onder meer controle op mogelijke vooringenomenheid. Deze bevindingen leidden ook tot Kamervragen en politieke aandacht voor de risico’s van CAS en andere politie‑algoritmen.
Evaluatie
Het besluit om te stoppen met CAS volgt na een evaluatie van de Wetenschappelijke Adviesraad Politie (WARP), getiteld ‘Navigeren in niemandsland', die overigens breder reikt dan alleen CAS. De WARP gebruikt de ervaringen met onder meer CAS om te onderbouwen dat het politiewerk met algoritmen strenger, transparanter en met meer aandacht voor grondrechten moet worden ingericht. Technologisch is er veel mogelijk, schrijft de WARP, ook als het gaat om criminaliteitsvoorspelling, maar de evaluaties laten zeer wisselende resultaten zien. 'Datatoepassingen om geografisch te voorspellen hebben nu nog de overhand, maar net als in andere domeinen – het weer, virusuitbraken – blijkt accuraatheid op het lokale niveau een uitdaging. Een belangrijke reden daarvoor is de sterke contextafhankelijkheid, en in het criminaliteitsdomein in het bijzonder de afhankelijkheid van menselijk gedrag.'
De politie wel ruimte houden om bepaalde vormen van datagedreven en voorspellend werken in te zetten.
Naar aanleiding van het WARP-advies benadrukte korpschef Janny Knol dat AI binnen de politie nu vooral wordt gebruikt voor zoek‑ en filterprocessen (zoals trefwoordherkenning en automatische samenvattingen) en dat er geen volledig autonome, zelflerende algoritmen meer operationeel zijn die zelfstandig beslissingen nemen. Tegelijk wil de politie wel ruimte houden om bepaalde vormen van datagedreven en voorspellend werken (zoals in het verleden CAS) in te zetten. De wordt dan geclassificeerd als hoog‑risicovol.
AI-toepassingen bij de politie
De politie heeft in 2021 een eigen AI‑visie en strategie opgesteld en gebruikt een Kwaliteits‑ en Risicomanagementsysteem voor Algoritmen en AI (KRAAI) om nieuwe AI‑toepassingen te toetsen op risico’s, kwaliteit en effecten op grondrechten.
Er zijn meerdere concrete voorbeelden van AI‑toepassingen bij de Nederlandse politie, waaronder:
- Monocam: slimme camera’s die met beeldherkenning (AI) controleren of automobilisten tijdens het rijden een telefoon of ander elektronisch apparaat in hun hand hebben; bij een mogelijke overtreding wordt de foto nog door agenten beoordeeld.
- Kentekenplaatherkenning (ANPR): systemen die kentekens automatisch lezen en herkennen, bijvoorbeeld om verdachte voertuigen of openstaande boetes te signaleren.
- Spraak-naar-tekst: AI‑systemen die verhoren, meldkamer‑gesprekken en andere audio automatisch omzetten in tekst, zodat die sneller kan worden teruggezocht en geanalyseerd
Ook wordt AI ingezet bij data-analyse en opsporingsonderzoek. Er wordt gebruik gemaakt van tekst‑ en datamining om grote hoeveelheden chatberichten, e‑mails of dossiers te doorzoeken op relevante trefwoorden, patronen en verbanden, bijvoorbeeld bij onderschepte communicatie tussen criminelen. Ook wordt beeld- en patroonherkenning op camerabeelden ingezet om personen, voertuigen of specifieke kenmerken sneller terug te vinden in grote hoeveelheden video, bijvoorbeeld in onderzoeken naar zware geweldsmisdrijven. Hiernaast lopen er zgn. sensing‑projecten met camera’s en sensoren rond grote winkelcentra om ‘mobiel banditisme’ (rondtrekkende dadergroepen) op basis van kentekens, routes en andere kenmerken te signaleren.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.