AP mist budget om proactief algoritmes te onderzoeken
Zolang de Autoriteit Persoonsgegevens (AP) niet genoeg budget heeft, kan er slechts reactief toezicht worden gehouden op algoritmen. Dit werd duidelijk tijdens een rondetafelgesprek in de Kamercommissie Digitale Zaken. “En dat is een bron van serieuze ramp,” stelde AP-voorzitter Aleid Wolfsen.
PvdA-Kamerlid Barbara Kathmann merkte tijdens het rondetafelgesprek over normuitleg en toezicht op Artificiële Intelligentie op dat zowel het College voor de Rechten van de Mens als de Autoriteit Persoonsgegevens aangeven dat er te weinig budget is voor adequaat toezicht. Ze wilde weten wat de gevolgen hiervan zijn.
Jarenlang zonder klachten
Uit het antwoord van Wolfsen bleek dat voor adequaat toezicht meer nodig is dan enkel reageren op meldingen van datalekken. Om zijn punt te onderstrepen gaf hij alvast een tip van de sluier over het nog niet gepubliceerde AP-onderzoek naar DUO, dat jarenlang discriminerende algoritmen gebruikte voor het controleren van uitwonende studenten met een beurs.
DUO heeft tien tot twaalf jaar lang algoritmen gebruikt die volgens Wolfsen ‘100 procent discriminerend’ waren, zonder dat er ooit één melding bij de AP binnenkwam of dat DUO zelf aangaf dat er iets mis was. Een ander voorbeeld is de geruchtmakende Toeslagenaffaire, waarover in vele jaren slechts één klacht bij de AP werd ingediend.
Reactief toezicht
“Als je je alleen laat sturen door klachten, kan zoiets heel lang doorgaan,” aldus Wolfsen. “Je moet veel proactiever te werk gaan en aan de voorkant samenwerken met organisaties om normuitleg te geven. Voorkomen is beter dan genezen. Wanneer een algoritme wordt ingezet, moet je ook uit eigen beweging spontaan nagaan of het wel goed functioneert, want klachten zul je niet of nauwelijks ontvangen.” Wolfsen pleit er daarom voor om organisaties te onderwijzen over ‘AI-geletterdheid’. “Dat voorkomt dat we later problemen ontdekken. Als we met te weinig middelen werken en alleen reactief reageren, leidt dat tot ernstige problemen.”
Niet licht opvatten
Justin Hoegen Dijkhof van het College voor de Rechten van de Mens gaf aan dat het te beperkte budget voor zijn organisatie een ‘grote zorg’ is. De nieuwe taken die erbij komen, moeten volgens hem niet licht worden opgevat. ‘Je kunt deze taken er niet zomaar bij doen met zoveel verschillende verschijningsvormen en risico’s. Een deel van het risico is bijvoorbeeld dat wij vraagstukken moeten reduceren en niet voldoende kunnen ‘inrichten’ bij toezichthouders. Dan zitten we met een niet-uitvoerbare taak. Taken neerleggen bij de samenleving, waaronder bedrijven en organisaties, is vaak niet voldoende gebleken.’
Lees ook:
Signalen met aanzienlijke omvang (tav banken en verzekeraars) niet in behandeling nemen helpt ook niet.
Zeker niet als dat signaal samen ging met een aanbod om een deel van het onderzoek voor de AP uit te voeren.