Toezicht op algoritmes moet nog concreet gemaakt worden

De Autoriteit Persoonsgegevens (AP) heeft sinds dit jaar een nieuwe tak: de directie Coördinatie Algoritmes (DCA). iBestuur interviewde programmadirecteur Sven Stevenson Hij bouwt met zijn team aan het raamwerk voor toezicht op algoritmes. Aan het concreet beoordelen van algoritmes zijn ze nog niet toe. “Mijn focus ligt allereerst op het versterken van het macroperspectief. “

Met een team van acht mensen en een budget van 1 miljoen euro in 2023 is hij in maart 2023 aan de slag gegaan bij de Autoriteit Persoonsgegevens (AP). Het is een team van jonge mensen vertelt hij. “We willen hier mensen hebben die holistisch kijken, naar een breed scala risico’s in verschillende contexten. Het liefst heb je mensen die perspectieven combineren, die behalve juridische bagage kennis hebben in brede zin over digitalisering, over mathematische risico’s van modellen, met een filosofische blik, en kennis van de praktijk van algoritmes.”

Rapportage Algoritmerisico’s Nederland

In juli 2023 bracht hij zijn eerste rapport uit: Rapportage Algoritmerisico’s Nederland (RAN), ee totaaloverzicht van ontwikkelingen, risico’s en uitdagingen, bijeengebracht vanuit het overkoepelende risicoperspectief. In januari staat een volgende rapportage op de rol. De AP wil vanaf elk half jaar een Rapportage Algoritmerisico’s Nederland publiceren, om daarmee een beeld te geven van recente ontwikkelingen, actuele risico’s en bijbehorende uitdagingen.

Intelligente chatbots en gebrekkig inzicht in bestaande algoritmes werden in deze eerste rapportage als de belangrijkste algoritmerisico’s gezien. Harde oordelen werden geveld over het Criminaliteits Anticipatie Systeem (CAS) van de Nationale Politie – na onderzoek van de Rekenkamer – en algoritmes van banken om witwassen te detecteren en van gemeenten in fraudebestrijding. Transparantie over risico’s schiet tekort, vooral over  ‘groepsdiscriminatie’. Ook wordt het probleem benoemd van AI-systemen die zonder keuring vooraf op de markt komen.

Ecosysteem voor beheersing van algoritmes

Stevenson zoekt de samenwerking met andere toezichthouders die met algoritmes te maken hebben. Kennisuitwisseling is daarbij van belang. “We werken ondertussen aan een tweede platform op bestuurlijk vlak. We moeten elkaar goed weten te vinden.” Hij verwijst hierbij naar “de horizontale zoals de Rijksinspectie Digitale Infrastructuur (RDI), de ACM vanwege consumentenbescherming, het College voor de Rechten van de Mens. Daarnaast de sectorale toezichthouders als DNB en AFM voor de financiële sector en de Inspectie Justitie en Veiligheid.”

AI Act

Nu de AI Act vorm krijgt komt er ook meer zicht op het wettelijk instrumentarium dat de basis biedt voor toezicht. Stevenson: “We zitten nog in het beginstadium. We moeten de regelgeving, normen en guidance helder krijgen. Ons belangrijkste wettelijke instrument, de Europese AI-verordening, moet eind 2023 gereed zijn en in 2024 opgenomen worden in nationale wetgevingen. Daarop volgt de handhaving.”

Het begint met bewustwording

Zijn werk begint met “bewustwording en organisaties helpen met risicobeheersing van algoritmes, bijvoorbeeld met testen en jaarlijkse audits. Uit de praktijk blijkt dat dit vaak nog niet gebeurt en er is veel te winnen. We houden het nog eenvoudig, met het benadrukken van de noodzakelijke voorwaarden.”

“We moeten het maatschappelijk debat voeren over de mate van transparantie van profilerende algoritmes. Je wilt dat mensen vertrouwen kunnen hebben in het goed functioneren van profilerende algoritmes; en kunnen vaststellen of dat al dan niet het geval is en dat kunnen laten herstellen. Nu nog beschouwen veel organisaties profilerende algoritmes als interne aangelegenheid terwijl ze wel de fundamentele behandeling van burgers en consumenten beïnvloeden.”

Ze zijn nog niet toe aan het concreet beoordelen van algoritmes. Stevensen: “We kijken nog overkoepelend naar het stelsel. Mijn focus ligt nu allereerst op het versterken van het macroperspectief. We bouwen aan krachtig microtoezicht op individuele organisaties.

Dit interview is gepubliceerd in iBestuur Magazine #48

Lees ook:

• Autoriteit Persoonsgegevens pleit voor deltaplan AI – iBestuur
• AI Act volstaat niet – iBestuur
• Aanbevelingen om beter toezicht te houden op inzet algoritmes – iBestuur
• Nieuwe directie Coördinatie Algoritmes bij Autoriteit Persoonsgegevens – iBestuur