zoeken binnen de website

Risico's van gebruik algoritmes al decennia bekend

door: Hans Bekkers | 11 oktober 2022

De overheid gaat meer doen om te voorkomen dat burgers in de problemen komen door verkeerd gebruikte algoritmen. Deze week kondigde staatssecretaris Van Huffelen een serie maatregelen aan. Wetenschappers en topambtenaren waarschuwden 35 jaar geleden al voor de risico’s van algoritmes. “Die gaan een eigen leven leiden.”

Juridisch redeneren is een proces dat zich onttrekt aan het algoritme, stelde hoogleraar Ernst Hirsch-Ballin in 1985. | Beeld: Shutterstock

Op 7 oktober stuurde de staatssecretaris van Digitale Zaken een uitgebreide brief aan de Tweede Kamer waarin ze benadrukt dat de inzet van algoritmen niet alleen moet liggen op het bestraffen van mensen. ‘Er zijn nu ook veel algoritmen die goede dingen doen. Juist nu mensen in financieel zwaar weer terechtkomen, wil ik dat de overheid algoritmen vooral inzet om mensen te helpen, bijvoorbeeld bij het gebruik van regelingen, zoals bij UWV en SVB.’

Van Huffelen wil een algoritme-toezichthouder aanstellen en meer transparantie over het gebruik van algoritmen, schrijft ze aan de Kamer. ‘Algoritmen moeten vooraf worden getoetst en gedurende het gebruik steeds weer worden onderzocht op datakwaliteit, proportionaliteit en mogelijke bias. Het is met name van belang om ons in elk geval te richten op algoritmen met een hoog risico op het schenden van fundamentele rechten. Op deze algoritmen moet helder toezicht worden ingericht, vooraf, tijdens en na het gebruik. En de werking en inzet moeten transparant zijn, waarbij het duidelijk is waar burgers en bedrijven hun recht kunnen halen wanneer ze menen dat het algoritme onrechtmatig wordt ingezet.’

Problemen al voorspeld

In de jaren ‘80 werd minder gedebatteerd over de gevolgen van digitalisering dan nu. Juist daarom is opmerkelijk hoe nauwkeurig sommige van onze huidige problemen toen al werden voorspeld, zoals wat er mis ging bij de toeslagenaffaire. Die conclusie trekt Margo ter Bekke, datastrateeg van de provincie Zuid-Holland, in een essay in Binnenlands Bestuur op basis van een analyse van artikelen in magazines van die titel uit die jaren.

Weinig aandacht voor digitalisering

‘Politici, bestuurders en ambtenaren spraken zich graag uit over allerlei onderwerpen, maar het onderwerp digitalisering, of, zoals het toen nog heette, automatisering, kwam zelden aan de orde. Dit ondanks het feit dat de overheidsinvesteringen in IT halverwege de jaren ‘80 al meer dan 2 miljard gulden per jaar bedroegen en er al veel eerder, in 1967, een staatssecretaris met automatisering in zijn takenpakket had bestaan’, aldus Ter Bekke. ‘Wim van Gelder, die in 1984 gedeputeerde was in Noord-Holland en de portefeuille Informatie en Automatisering onder zijn hoede nam, merkte op dat hij dit onderwerp enkel kreeg toegeschoven omdat geen van zijn medebestuurders het wilde. En ook Hans Wiegel zal ongetwijfeld gelijk gehad hebben toen hij zei dat er in zijn tijd als minister in het kabinet-Van Agt ‘aan automatisering politiek gezien niets viel te verdienen.’

Algoritmes

Ondanks het feit dat er vanuit politiek-bestuurlijke hoek weinig belangstelling is voor het onderwerp digitalisering, vond Ter Bekke in Binnenlands Bestuur wel degelijk artikelen waarin digitalisering wordt besproken in relatie tot thema’s als de rechtsstaat en het functioneren van de overheid. Zo doet, in de editie van 1 februari 1985, redacteur Tom Eijsbouts verslag van een symposium ‘Trias Automatica’ aan de Tilburgse Hogeschool. Voorzitter van het symposium is dan Herman Tjeenk-Willink, destijds Regeringscommissaris voor de Reorganisatie van de Rijksdienst. De bijeenkomst gaat over de relatie tussen automatisering en de rechtsstaat, en de sprekers benaderen het onderwerp niet vanuit de techniek maar vanuit het recht en het bestuur.

“Wat in een computerprogramma is vastgelegd, vraagt onze dagelijkse aandacht niet meer.”

De centrale vraag op het symposium is wat de gevolgen zullen zijn wanneer de overheid beslissingen gaat nemen, of preciezer geformuleerd, beschikkingen gaat geven, op basis van digitaal verzamelde gegevens, en bij het nemen van die beslissingen gebruik gaat maken van algoritmes. Gert Nielen, hoogleraar informatiesystemen, is er in elk geval niet helemaal gerust op. “Je kijkt er niet meer naar om, naar die gegevens, en die dingen gaan dus een eigen leven leiden. Wat in een computerprogramma is vastgelegd, vraagt onze dagelijkse aandacht niet meer. Dit is het grootste voordeel van de automatisering, maar tegelijkertijd haar grootste gevaar.”

Isolement van de bureaucratie

Een ander punt dat door sprekers wordt benoemd heeft te maken met het gevaar van eenzijdig opereren van de overheid. Ernst Hirsch-Ballin, destijds hoogleraar staats- en bestuursrecht, merkt op dat een te sterk vertrouwen op de eigen, automatisch verzamelde gegevens bij het nemen van beslissingen kan leiden tot een isolement van de bureaucratie en het vervagen van het rechtsbeginsel fair hearing. Daarbij, zo stelt hij, is het vermogen om te kunnen vergeten, of verjaring, een fundament van het recht, maar geen eigenschap van computers. Ook de Nijmeegse hoogleraar bestuurskunde Hans Bekke is bang voor een eenzijdig opererende overheid. Automatisering kan er volgens hem toe leiden dat de overheid liever ‘mondsnoerende’ databestanden opbouwt dan dat ze haar informatie ophaalt bij intermediaire organisaties. Het enige dat je dan overhoudt, zo stelt hij, “zijn overheidsdiensten die elkaar ieder met hun eigen cijfers bestoken.”

Onvoorspelbaar

Een derde punt van zorg heeft te maken met de mogelijkheid dat algoritmes gebruikt gaan worden bij het geven van beschikkingen. “Juridisch redeneren,” zo stelt Hirsch-Ballin, “is een proces dat zich onttrekt aan het algoritme. Onvoorspelbaarheid is daarin vervat, onvoorspelbaarheid die geen willekeur is.“Daar waar een afweging nodig is, waar een bevoegdheid bestaat en geen plicht tot beslissen van de overheid, zijn er volgens hem grenzen aan het gebruik van computers.

Alles wat er mis ging bij de toeslagenaffaire is op die bijeenkomst in 1985 vrij aardig voorspeld.

“Zulke discretionaire bevoegdheden zijn bedoeld om recht te doen aan het individuele geval, en rechters vragen in zulke gevallen ook om een oordeel gericht op de individuele situatie. Aan algoritmes heb je hier dus niets’,” schrijft Ter Bekke.

Toeslagenaffaire

Hoewel het wat ver gaat om de sprekers van toen profetische gaven toe te dichten, is het opmerkelijk hoe relevant hun analyses zijn gebleken voor het heden. Alles wat er mis ging bij de toeslagenaffaire is op die bijeenkomst in 1985 vrij aardig voorspeld. Algoritmes die beschikkingen genereren, databestanden die een eigen leven leiden, het onvermogen om recht te doen aan individuele gevallen en rechters die geen tegenmacht bieden. Dat het in 1985, toen pc’s nog een bezienswaardigheid waren en de internet revolutie nog moest beginnen, al mogelijk was om zo’n nauwkeurige analyse te maken van de rol van digitalisering in de rechtsstaat, mag een prestatie heten.

Lees het volledige essay in Binnenlands Bestuur nr. 18.

tags: ,

Reactieformulier

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie. U kunt bij de vormgeving van uw reactie gebruik maken van textile en er is beperkt gebruik van html mogelijk.