Afspraken maken over risicoprofileringsalgoritmen

Er gaat gewerkt worden aan een NTA (Nederlands Technische Afspraak) om organisaties te helpen bij het zo verantwoord mogelijk ontwikkelen en/of inzetten van risicoprofileringsalgoritmen. Hiervoor zijn nog geen nationale, Europese of mondiale normen beschikbaar. Een werkgroep van de normcommissie AI & Big data start daarom op 1 april 2025 met de ontwikkeling van deze NTA. Belangrijk, zegt Ronald Damhof, CDO van het ministerie van JenV. Hij roept collega’s op hieraan mee te werken.

In de Nederlands Technische Afspraak (NTA) worden toetsingsmethoden uitgewerkt die algoritmeontwikkelaars en -beheerders ondersteunen bij het invullen van open juridische normen uit onder meer het non-discriminatierecht. Daarbij wordt zo veel mogelijk gebruik gemaakt van praktijkervaringen met het valideren van profileringsalgoritmen. Organisatorische beheersmaatregelen zullen ook (beperkt) aan bod komen. ‘De NTA zal primair gericht zijn op de Nederlandse publieke sector, maar kan tevens door organisaties uit de private sector worden gebruikt’, schrijft NEN op haar website.

Stichting Koninklijk Nederlands Normalisatie Instituut (NEN) verbindt partijen en belanghebbenden in nationale en/of internationale normcommissiesen om ervoor te zorgen dat er afspraken worden vastgelegd in normen en richtlijnen.