BZK gaat met Algorithm Audit kennis opbouwen met validatie van AI

In de verzamelbrief ‘Algoritmen reguleren’ van 7 juli jl. kondigde demissionair staatssecretaris Van Huffelen aan samen met maatschappelijke organisaties publieke kennis op te willen bouwen over de risico’s op vooringenomenheid en de uitlegbaarheid van algoritmische systemen te vergroten. Hiervoor gaat BZK een samenwerking aan met Algorithm Audit, een non-profitorganisatie die kennis over ethische algoritmen opbouwt en deelt.

Wanneer algoritmen of de complexere systemen als AI in een verkeerde context, op verkeerde wijze of met het verkeerde doel worden ingezet kan dit grote gevolgen hebben. Publieke waarden en fundamentele rechten zoals privacy, non-discriminatie, autonomie en menselijke waardigheid kunnen onder druk komen te staan, waardoor burgers in de knel komen. De ‘Toeslagenaffaire’ heeft de overheid wat dit betreft wel met de neus op de feiten gedrukt.

In Singapore zag Van Huffelen hoe de AI Verify Foundation, met steun van de overheid, werkt aan een wereldwijde gemeenschap om te komen tot AI die vertrouwd kan worden. Daarbij worden ook hulpmiddelen ontwikkeld om AI te kunnen valideren. Grote bedrijven hebben voor deze aanpak interesse getoond. “Ik vind het belangrijk om ook in Nederland kennis en ervaring op te bouwen met validatie van AI en daarbij met internationale initiatieven samen te werken,” schrijft ze in de beleidsbrief.

Samenwerking met Algorithm Audit

BZK wil de komende periode ervaringen opdoen met biastoetsing (in publiek-private context) en best practices van (semi-) geautomatiseerde besluitvormingscasussen publiek toegankelijk maken. Hiervoor gaat zij een samenwerking aan met Algorithm Audit, een non-profit organisatie die bouwt publiek beschikbare ‘algoprudence’, case-based normatief advies over ethische algoritmen.

Algorithm Audit doet dit met de inzet van auditcommissies en open source AI-auditingtools. Hiernaast bouwt de organisatie aan een Europees kennisplatform van experts op het gebied van verantwoord gebruik van algoritmen.

In het bestuur van Algorithm Audit zitten Samaa Mohammad-Ulenberg, Founder van de Dutch AI Ethics Community, Jurriaan Parrie, senior consultant Trustworthy AI bij Deloitte en Ariën Voogt, filosoof en promovendus dogmatic/ethics aan de Protestantse Theologische Universiteit.

Financiering BZK

“We worden op deze missie graag ondersteund met onafhankelijke publieke financiering van het Ministerie van Binnenlandse Zaken. Stay tuned voor nieuwe algoprudence in september!,” schrijft Algorithm Audit op LinkedIn.