Gemeenten zijn zelf verantwoordelijk voor de toetsing van de inzet van AI. 'In elke fase van de levenscyclus (ontwerpen, bouwen, testen, gebruiken en monitoren) van AI-systemen moet aandacht zijn voor de mensenrechten,' schrijft minister van BZK Bruins Slot in antwoord op Kamervragen over Rotterdams algoritmegebruik.
Beeld: Shutterstock
Welke overheden gebruiken algoritmes en met welk doel, wilde Tweede Kamerlid Renske Leijten (SP) weten naar aanleiding van de algoritmes die Rotterdam gebruikt bij het opsporen van bijstandsfraude. Ze vroeg of de minister van Binnenlandse Zaken bereid is hiernaar onderzoek te doen. Gemeenten moeten zelf zorgen dat ze volgens de regels handelen, antwoordt Bruins Slot, en ze moeten zelf waar nodig onderzoek doen.
Overheden zijn bij de inzet van kunstmatige intelligentie gebonden aan mensenrechten en wetgeving. Gemeenten zijn daarbij zelf verantwoordelijk voor de toetsing. Nieuwe Europese wetgeving (AI-verordening) voor de toepassing van kunstmatige intelligentie moet ervoor zorgen dat de ontwikkelde systemen rekening houden met mensenrechten.
Eigen verantwoordelijkheid
‘Gelet op hun eigen verantwoordelijkheid voor het naleven van de regelgeving is het de eigen verantwoordelijkheid van provincies en gemeenten om waar nodig onderzoek te laten doen, via de Provinciale Staten of Gedeputeerde Staten en gemeenteraad of B&W’, schrijft de minister, die vindt dat er al veel onderzoek wordt gedaan, ook door onafhankelijke instanties.
De technologie moet zelf mensenrechtenschendingen voorkomen.
Het is niet aan de minister om over het algoritmegebruik van Rotterdam te oordelen, vindt ze, maar ze vertelt wel wat Rotterdam aangaf: dat het algoritme efficiënt is, dat het onhaalbaar zou zijn om het grote aantal uitkeringsgerechtigden binnen een of twee jaar te onderzoeken, en dat door deze werkwijze bij een deel van de uitkeringsgerechtigden administratieve lasten worden voorkomen. Ook wordt het algoritme alleen gebruikt bij de selectie en voert een medewerker altijd het feitelijke onderzoek uit.
AI-verordening
Bruins Slot gaat in haar antwoord aan de Kamer uitgebreid in op aankomende Europese wetgeving over kunstmatige intelligentie: de Artificial Intelligence Act, een van de maatregelen waarmee Europa de digitale achterstand probeert in te halen. De technologie moet zelf mensenrechtenschendingen voorkomen,’ schrijft de minister. Het basisidee van de AI-verordening is dat mens en maatschappij centraal moeten staan bij het ontwikkelen, aanbieden en gebruiken van AI in Europa. Het voorstel bevat onder andere een verbod op AI-praktijken die strijdig worden geacht met de waarden en grondrechten van de EU en een uitgebreid hoofdstuk betreffende AI-systemen met een hoog risico.
Klik HIER om het antwoord op vragen van het Renske Leijten over het gebruik van algoritmes door decentrale overheden te lezen.
Dit artikel werd gepubliceerd op BinnenlandsBestuur.nl
