Een eigen AI-strategie voor ‘De rechtspraak’

Met de aankondiging van minister van Rechtsbescherming Franc Weerwind dat ‘De Rechtspraak’ – de organisatie bestaande uit de nationale rechterlijke instanties – medio 2024 met een eigen AI-strategie komt, en de positieve stemming in het Europees Parlement over de baanbrekende Europese AI-verordening, staan we aan de vooravond van belangrijke veranderingen.

De verordening, waarmee de Europese Unie een wereldwijde norm wil stellen voor hoe overheden en bedrijven AI gaan inzetten, stelt ook regulering en voorwaarden aan het gebruik van AI in de strafrechtspleging, in een poging een raamwerk voor verantwoorde implementatie te creëren. Hoewel een stap in de goede richting, is regulering alleen niet genoeg om te verzekeren dat AI de fundamenten van ons strafrecht niet ondergraaft. Daarvoor hebben we een diepgaandere benadering nodig die, naast de juridische en technologische, ook de psychologische en ethische aspecten van het gebruik van AI omvat.

Een sleutelaspect van de Europese verordening is de classificatie van AI-systemen naar risiconiveau. Toepassingen in rechtshandhaving en rechterlijke ondersteuning krijgen het label ‘hoog risico’, wat inhoudt dat deze aan strenge eisen moeten voldoen, waaronder een beoordeling van de impact op fundamentele rechten, registratie in een EU-databank en voortdurende monitoring. Burgers kunnen bovendien klachten over de toepassing van deze systemen indienen, wat bijdraagt aan transparantie en verantwoordelijkheid.

Inzet AI bij rechtshandhaving

In Nederland wordt AI steeds vaker ingezet in de rechtshandhaving. Voorafgaand aan het strafbare feit als het gaat om ‘predictive policing’, en nadien als het gaat om grootschalige data-analyse en (gezichts) herkenningssoftware. Een voorbeeld van predictive policing is het door de Amsterdamse politie in 2014 ontwikkelde CAS (Criminaliteits Anticipatie Systeem), een systeem om criminaliteit te voorspellen, zoals waar de grootste kans bestaat dat de volgende woninginbraak plaatsvindt. Grootschalige data-analyse met AI vond plaats in de Marengo-strafzaak, waarin de Amsterdamse rechtbank Ridouan Taghi heeft veroordeeld tot levenslang. In deze zaak is de tool ‘Hansken’ door de opsporing gebruikt om 25 miljoen berichten van cryptotelefoondienst Ennetcom te analyseren, waarvan de resultaten in belangrijke mate hebben bijgedragen aan de veroordeling van Taghi.

Hoewel AI op dit moment nog geen functie heeft in de rechterlijke ondersteuning, is de verwachting dat AI ook daar gebruikt zal gaan worden, zoals bij het selecteren en waarderen van bewijsmateriaal in de context van het rechterlijke beslissingsmodel. De Europese AI-verordening loopt op die ontwikkeling vooruit, maar benadrukt dat AI geen vervanging kan zijn van de rechter, en de definitieve rechterlijke beslissing altijd door een mens genomen moet worden.

Een bijzondere positie is weggelegd voor AI-systemen op het gebied van biometrische identificatie, zoals gezichtsherkenningssoftware. De verordening verbiedt deze, maar laat ruimte voor uitzonderingen in het geval van rechtshandhavingsdoeleinden. Voorwaarde is dat het gaat om opsporing of het voorkomen van bepaalde ernstige misdrijven én dat er voorafgaand aan de inzet toestemming van de rechter is verkregen, tenzij toestemming niet kan worden afgewacht.

Deze ontwikkelingen roepen belangrijke vragen op over de impact van AI op de fundamenten van ons strafrecht, met name het recht op een eerlijk proces en het verbod van discriminatie. Waar dit toe kan leiden laat het schrijnende voorbeeld van de onterechte aanhouding van Porcha Woodruff zien. Woodruff, destijds 8 maanden zwanger, werd in 2023 in Detroit aangehouden en vastgezet als gevolg van een foutieve gezichtsherkenning door AI. Een aannemelijke verklaring voor deze fout is volgens experts gelegen in het feit dat de gebruikte technologie en de onderliggende dataset raciale vooringenomenheid kent.

Regulering alleen volstaat niet

Regulering is een essentiële eerste stap om de fundamenten van het strafrecht te waarborgen, maar het volstaat niet om ons rechtssysteem volledig tegen de complexe invloed van AI te wapenen. Wanneer AI-systemen gebrekkig zijn ontworpen of onjuist gebruikt worden, kunnen ze in strijd zijn met fundamentele rechten, zoals het recht op een eerlijk proces op grond van artikel 6 van het Europees Verdrag voor de Rechten van de Mens. Daarom hebben we een diepgaandere benadering nodig die niet alleen de juridische en technische, maar ook de psychologische en ethische aspecten van AI omvat. Nederland is niet slechts een plaats delict en dataset. We moeten nadenken en discussiëren over hoe en wanneer we de toepassing van AI in de strafrechtspleging moreel aanvaardbaar vinden. Voor AI geldt: hoe meer data hoe beter. Dat staat op gespannen voet met de privacybelangen van de burgers.

Als onderzoekers dagen we onszelf, de wetgever, het openbaar bestuur en rechtshandhaving en anderen binnen het strafrecht uit om verder te kijken dan alleen regulering. De vraag is namelijk of juristen in staat zijn om systeemfouten in een concreet geval tijdig te identificeren, zoals in het toeslagenschandaal overduidelijk niet gelukt is.

Samenwerken binnen en buiten de strafrechtketen

De inzet van AI biedt ongekende mogelijkheden. We moeten binnen en buiten de strafrechtketen samenwerken om een toekomstbestendige benadering van AI te ontwikkelen, waarbij mensenrechten – en in het bijzonder de rechten van verdachten – worden gewaarborgd. Laten we kritisch kijken naar de rol van AI in het veranderen van de aard van oordeelsvorming, het beïnvloeden van besluitvormingsprocessen en het vormgeven van de toekomst van ons rechtssysteem. Daar ligt een opdracht voor De Rechtspraak in de vast te stellen AI-strategie.