Vorige week publiceerde de Algemene Rekenkamer het onderzoeksrapport 'Aandacht voor algoritmes'. Daarin zegt zij een overzicht te schetsen van waar het rijk algoritmes inzet, welke soorten en effecten er zijn en hoe de sturing daarop is vormgegeven. Het beeld dat de Rekenkamer neerzet slaat de plank echter mis, zowel qua feiten, qua theorie als qua aanbevelingen.
Wanneer je de impact van algoritmes wilt begrijpen moet je niet met een nauw juridisch-technisch kader kijken, dat handig is voor de individuele organisatie, maar naar de impact op de burger.
Laat ik voorop stellen dat ik groot respect heb voor het werk van de Algemene Rekenkamer als instituut. Vaak zijn haar rapporten tijdig en regelmatig inspirerend. De Rekenkamer vraagt ook terecht aandacht voor algoritmes. En ik heb begrip voor het feit dat een Rekenkamer op zoek is naar specifieke punten waarop je kunt toetsen, zij is tenslotte een rekenkamer. Maar kijkend naar de bevindingen is het jaartal op het rapport een halve eeuw te hoog.
De Rekenkamer zegt te constateren dat er relatief eenvoudige algoritmes ingezet worden, de effecten op burgers beperkt zijn, de geïnventariseerde algoritmes niet zelf besluiten nemen en uitvoerende functionarissen nadrukkelijk betrokken zijn bij het gebruik. Elk van deze constateringen is onjuist. Het idee dat algoritmes eenvoudig zijn, wanneer het concept waarop ze zijn gebaseerd eenvoudig te begrijpen is, is een denkfout. Daarnaast neemt de overheid in werkelijkheid al lang de meerderheid van de individuele besluiten volautomatisch. En het lijkt alsof de twee parlementaire onderzoekscommissies aan de aandacht van de Rekenkamer zijn ontsnapt, want de effecten voor burgers zijn enorm.
Het gaat voor het eerst mis in het rapport als de Rekenkamer de focus legt op een subgroep van meer experimentele algoritmen in de hoek van data-analyse, bestandsvergelijkingen en kunstmatige intelligentie. Zij geeft dit niet expliciet aan. Een veel groter deel van de algoritmen zijn al lang niet experimenteel meer. Automatische besluitvorming is de kern van het openbaar bestuur. Algoritmen zijn óók automatisering van processen en gegevensuitwisseling, niet alleen patroonherkenning in gegevens met software.
De tweede keer gaat het mis wanneer zij impliciet aanneemt dat de effecten voor burgers kunnen worden afgeleid uit het algoritme zelf. Dit is te begrijpen vanuit de ambities van de Rekenkamer. Zij is op zoek naar criteria om algoritmen te kunnen toetsten. Het is echter onjuist. Een organisatie die met software patronen in data zoekt – want daar gaat het rapport eigenlijk over – heeft niet alleen een handig hulpmiddel ingezet. Er verandert veel meer, het werk van de ambtenaren bijvoorbeeld. Waar zij eerst zelf en bewust een selectie maakten, worden ze nu ofwel controleur van de software ofwel zij beperken zich in hun controletaak blind tot de selectie die de software maakt. Het eerste vraagt geheel andere kennis en competenties. Het tweede kan een keuze zijn, mits het eerste goed is geregeld.
De derde keer gaat het mis wanneer zij menen dat een ethisch normenkader een impliciet onderdeel kan zijn van vier bestaande kaders die kijken naar individuele algoritmen. Wat de digitalisering van de overheid juist kenmerkt is de verwevenheid op het niveau van gegevensuitwisseling en algoritmisering, terwijl de verkokering op de hogere niveaus is blijven bestaan. De meeste effecten voor burgers blijken juist op een systeemniveau waarvoor niemand zich verantwoordelijk voelt.
Hoewel de impliciete nauwe focus die de Rekenkamer aanlegt in het rapport te begrijpen is vanuit haar belang als organisatie, is dat precies waar het mis gaat ook in de digitalisering van de overheid. Wanneer je de impact van algoritmen wilt begrijpen moet je niet met een nauw juridisch-technisch kader kijken, dat handig is voor de individuele organisatie, maar naar de impact op de burger. Anders worden je conclusies al snel absurd, zoals het idee dat er geen probleem is met transparantie, want de Rekenkamer kon deze algoritmen inzien. Vinkje.
Dat betekent niet dat de ambitie van de Rekenkamer onmogelijk is, maar daarvoor is een andere aanpak nodig. Een voorbeeld van zo’n aanpak heb ik beschreven in De Digitale Kooi, waarin ik tien toetsbare criteria afleidt uit de reële gevolgen die burgers ondervinden. Zo’n concreet probleem voor burgers is dat een fout zich als een olievlek verspreidt, maar burgers dat bij vele overheden moeten corrigeren. De technische oorzaak daarvan ligt in de wijze waarop gegevens worden opgeslagen en uitgewisseld. Daar kun je op toetsten. Maar je vindt zo’n probleem, noch de oplossing, wanneer je kijkt naar één algoritme.
Een aanbeveling uit het rapport als ‘geef aan waar burgers met vragen terecht kunnen’ is zo weinig passend en inspirerend, omdat de verbinding tussen theorie en praktijk is verloren. Van de Rekenkamer verwacht ik meer. Eigenlijk verwacht ik een samenwerking van de Nationale Ombudsman, die signalen uit de praktijk ontvangt, de Algemene Rekenkamer, die deze signalen kan onderzoeken naar hun oorzaken en vertalen in normenkaders en de Auditdienst Rijk, die zo’n toets rijksbreed tot een nieuw normaal kan maken. Ik ben daarin hoopvol, omdat ik de Rekenkamer heb leren kennen als een responsieve organisatie.
Arjan Widlak is directeur van Stichting Kafkabrigade en auteur van het boek De Digitale Kooi
Tja, als we het dan over foute constateringen hebben dan is ook dit artikel daar helaas weer een voorbeeld van. Het is inmiddels en beetje mode aan het worden om algoritmes overal de schuld van te geven. De voorbeelden van Arjan Widlak hebben vooral te maken met de wijze waarop het proces is ingericht. Ook het begrip algoritmes wordt inmiddels te pas en te onpas gebruikt. Elk spreadsheet bevat namelijk ook algoritmes en de overheid gebruikt al vele jaren allerlei vormen van berekeningen die resulteren in besluiten. Maar die algoritmes besluiten helemaal niets. De uitkomst van een algoritme is een gegeven wat gebruikt wordt voor het nemen van een besluit. Dat kan een geautomatiseerd proces zijn. De inrichting van het proces en de toegepaste controle bepaalt wat er gebeurt, niet het algoritme. Dat het daar ook helemaal verkeerd kan gaan weten we inmiddels. Dus stop met algoritmes de schuld te geven, zorg dat je processen en relevante wetgeving aanpast.
Beste Frank,
Een algoritme ergens de schuld van geven is inderdaad geen zinvolle benadering. Dat doe ik dan ook niet en de Algemene Rekenkamer ook niet. Eens dat het woord algoritme geen gelukkige term is, maar dat is nu eenmaal het discours geworden. Maar je stelling dat algoritmes helemaal niets besluiten is onjuist. Er is zowel software die volautomatisch besluiten neemt, als software die de besluitvorming ondersteunt maar daarbij grote invloed uitoefent of het besluit – zoals risico-analyses – en er is software die eigenlijk geen rol heeft in het besluitvormingsproces, zoals jouw voorbeeld van een spreadsheet. Wat de Algemene Rekenkamer doet is de nadruk leggen op software die besluitvorming ondersteunt en tegelijk software negeren die de menselijke besluitvorming overneemt. Daarop lever ik kritiek, omdat ze haar conclusies algemeen geldend maakt. Uiteraard staan beide soorten software in de context van processen binnen en tussen organisaties. Je stelling dat uitsluitend de procesinrichting bepaalt wat er gebeurt en de software geheel niet is onjuist. Beiden kunnen grote invloed hebben op het resultaat en ze kunnen ook grote invloed hebben op elkaar. De Algemene Rekenkamer concludeert ten onrechte dat alles is af te leiden uit het algoritme. Jij concludeert ten onrechte dat alles is terug te brengen tot het proces. Beiden zijn mijns inziens reducties die je blind maken voor de maatschappelijke effecten.
Met vriendelijke groet,
Arjan Widlak.