Toezicht op het gebruik van data en algoritmes is belangrijk, maar dit mag niet doorslaan in verdere verstarring van de uitvoering en het frustreren van de aanpak van maatschappelijke opgaven. Kijk ook naar mogelijkheden die data en algoritmen kunnen bieden.
Toezicht op het gebruik van data en algoritmes is belangrijk, maar dit mag niet doorslaan in verdere verstarring van de uitvoering en het frustreren van de aanpak van maatschappelijke opgaven. Kijk ook naar mogelijkheden die data en algoritmen kunnen bieden.
Sinds begin dit jaar is het toezicht op algoritmes belegd bij de Autoriteit Persoonsgegevens. Bij de introductie van deze nieuwe waakhond sprak AP-voorzitter Aleid Wolfsen over ‘levensgevaarlijke’ algoritmes en het uit het oog verliezen van de menselijke maat door de inzet van algoritmes. Maar de menselijke maat is vaak juist gebaat bij een overheid die data en algoritmes weet in te zetten, bijvoorbeeld om de dienstverlening mensgerichter te maken.
Menselijke controle is belangrijk, maar geen garantie voor de menselijke maat.
De discussie over het gebruik van algoritmes en kunstmatige intelligentie is niet nieuw. De overheid worstelt al langer met de vraag hoe om te gaan met deze ontwikkelingen, zeker in het licht van bijvoorbeeld de toeslagenaffaire. Het positieve hieraan is dat het onderwerp inmiddels ook de politieke agenda heeft bereikt. Zo sprak de Tweede Kamer recent over algoritmes en data-ethiek. Maar ook het politieke debat blijft nog te vaak hangen op de risico’s en de noodzaak van menselijke tussenkomst om de menselijke maat te bewaken.
Menselijke controle is belangrijk, maar geen garantie voor de menselijke maat. De menselijke maat betekent ook een overheid die de burger kent en in de dienstverlening zoveel mogelijk tegemoetkomt aan de wensen en verwachtingen van burgers. Maar ook een overheid die in staat is gericht problemen aan te pakken. Hierbij is het delen van data in veel gevallen noodzaak, en kunnen algoritmes juist onderdeel zijn van de oplossing. De menselijke maat vraagt maatwerk, en maatwerk vraagt data.
Bij het gebruik van data en algoritmes door de overheid wordt nu vaak alleen gesproken over het risico van toenemende controle en repressie van de overheid richting de burger. In de praktijk zijn data juist ook essentieel bij het beschermen van burgers en bijvoorbeeld bij de aanpak van de woonopgave of armoede. Zo is er een grote groep van 170.000 huishoudens die nu geen gebruik maakt van de bijstand terwijl ze daar wel recht op hebben, en zo zijn er vele andere voorbeelden van dit niet-gebruik van regelingen door burgers. Door het gebruik van data kunnen deze groepen in beeld worden gebracht en kan proactief ondersteuning worden geboden aan die mensen die nu vaak niet mee kunnen komen.
Om het debat over data en algoritmes goed te kunnen voeren moet ook dit perspectief worden meegenomen. Toezicht op het gebruik van data en algoritmes is belangrijk maar dit mag niet doorslaan in verdere verstarring van de uitvoering en het frustreren van de aanpak van maatschappelijke opgaven. Als de menselijke maat daarbij de norm is moet het toezicht niet alleen zien op de risico’s, maar ook op het benutten van de mogelijkheden die data kunnen bieden.
Christian Verhagen is senior adviseur bij Verdonck, Klooster & Associates en publiceert regelmatig over data en technologie in de publieke sector.
