De veiligheid en het IT-beheer van twee algoritmes van Rijkswaterstaat en de Marechaussee laat te wensen over. Dat wordt duidelijk na onderzoek van de Algemene Rekenkamer. Een algoritme voor jeugdstrafrecht werd positief beoordeeld.
De Algemene Rekenkamer meldt dat er drie algoritmes zijn gecontroleerd op objectiviteit, veiligheid en IT-beheer. Bij geen van de algoritmes werd vooringenomenheid aangetroffen, wel zijn er andere zorgen. Een algoritme van de Marechaussee dat gebruikt wordt bij het bepalen welke vluchten extra gecontroleerd worden tijdens grenscontroles op de luchthaven moet beter als het gaat om IT-beheer. “Het risico bestaat namelijk dat onbevoegden toegang kunnen krijgen tot de omgeving van het algoritme en daarin wijzigingen kunnen aanbrengen. Dat risico is onvoldoende afgedekt. ok kan het zijn dat niet te achterhalen is wanneer en door wie er (ongewenste) aanpassingen zijn gedaan”, schrijft de Rekenkamer.
Privacywetgeving niet nageleefd
Er werd ook gekeken naar een algoritme van Rijkswaterstaat waarmee weginspecteurs zo slim mogelijk worden ingezet bij incidenten op de weg, zodat deze sneller kunnen worden afgehandeld. De Rekenkamer constateert dat er met dit algoritme niet voldaan wordt aan de AVG. “Rijkswaterstaat geeft onvoldoende aan hoe zij omgaat met gegevens”, aldus de Rekenkamer. Een derde algoritme, dat gebruikt wordt in het jeugdstrafrecht, werd door de Rekenkamer nadat vorig jaar gebreken waren gevonden opnieuw op de snijtafel gelegd. Vorig jaar bleek nog dat dat algoritme niet voldeed aan de privacywet AVG. Nu valt op dat er goede vooruitgang is geboekt als het gaat om privacybescherming.
Vernieuwd toetsingskader
De Rekenkamer maakte voor de onderzoeken gebruik van een vernieuwd toetsingskader. De eerste versie werd in 2021 geschreven. In de nieuwe versie is een aantal zaken veranderd. “De belangrijkste verbetering is dat er zogenaamde ‘inspectiestappen’ zijn toegevoegd. Daarin staat beschreven hoe je kunt vaststellen of de risico’s van een algoritme goed worden beheerst, met mogelijke bronnen waar dat uit zou kunnen blijken. In de praktijk helpt dit de controlerende organisatie om samenhangend te toetsen en te beoordelen. Ook helpt het door ons gecontroleerde organisaties om de beheersing van risico’s aan te tonen”, aldus de rapporteurs.
Lees ook:
- Overheidsorganisaties moeten aan de slag met het registreren van algoritmes – iBestuur
- Kamer bezorgd over toezicht op AI en algoritmes – iBestuur
