Denk mee over standaard voor verantwoord profileren

Veel impact

In het kader van de Europese AI-verordening (AI Act) worden Europese normen geschreven voor verantwoord AI-gebruik, maar niet alle impactvolle algoritmes vallen onder de AI-verordening. Regel-gebaseerde algoritmes voor (risico)profilering vallen er bijvoorbeeld buiten. Toch kan de impact van ongewenste bias in zulke algoritmes groot zijn – denk maar aan het Toeslagenschandaal, of het DUO-algoritme dat groepen studenten met een migrantenachtergrond benadeelde.

Voor dergelijke profileringsalgoritmes bestaan momenteel nog geen nationale of Europese normen. De NTA werkt als een soort leidraad voor ontwikkelaars en beheerders van profileringsalgoritmes van overheidsorganisaties. In de NTA zijn ontwikkel- en toetsingsmethoden uitgewerkt die ze voor discriminatie-effecten moeten behoeden. Ook als een algoritme al in gebruik is, kan de NTA worden ingezet om te onderzoeken of een algoritme ongewenst onderscheid maakt.

Verschillende disciplines

Een werkgroep van de normcommissie AI & Big data van de Stichting Koninklijk Nederlands Normalisatie Instituut (NEN) begon in april vorig jaar met de ontwikkeling van de NTA. Het enthousiasme om mee te denken was groot; er waren 45 aanmeldingen van 35 organisaties. Daaronder zaten overheidsorganisaties, maar ook onderzoeksinstituten en maatschappelijke organisaties. Ook de betrokkenheid was verschillende disciplines was belangrijk voor de ontwikkeling: techneuten, juristen en filosofen droegen eraan bij.

Iedereen kan zijn zegje doen over de conceptversie van de NTA. Afhankelijk van de reacties op de publieke consultatie zou de NTA rond 15 juni 2026 definitief moeten worden gepubliceerd.