Springende kikkers
U kent het verhaal over de kikkers. Zet ze in een schaal met heet water en ze springen er meteen uit. Begin met koud water op een vuurtje en ze blijven versuft zitten tot ze levend gekookt worden. Het schijnt niet helemaal te kloppen, maar het blijft een krachtige metafoor. Hoe lang blijven wij zelf zitten in een veranderende omgeving? Wanneer besluiten wij dat we eruit moeten? En zijn we dan nog op tijd?
Ik discussieerde laatst over de opwinding rond Facebook en Cambridge Analytica. Data van 80 miljoen Amerikaanse kiezers werden ingezet om de verkiezingsstrijd te beïnvloeden. De meeste van ons waren het erover eens dat deze verontwaardiging geen echte gevolgen zou hebben; dat dit slechts een rimpeling aan de oppervlakte van een diepe poel was. De knulligheid van de hoorzittingen met Zuckerberg in de Senaat boden een onthutsend inkijkje in de kennisachterstand van bestuur en politiek.
Toch denk ik niet dat het water al te warm is. Wij kunnen denk ik nog heel goed springen! Wij hebben – zij het niet in verhouding tot de techgiganten – enige macht. Ik geloof in de macht van democratie, bestuur en pers. Monopolisten zijn er altijd geweest bij technologische revoluties. Het is aan ons er een visie tegenover te stellen.
Een van de elementen daarin heeft te maken met het gebruik van big data en geautomatiseerde besluitvorming. De EU heeft het Rathenau Instituut onderzoek laten doen naar de relatie tussen mensenrechten, big data en robotica [1]. De studie wijst op de wenselijkheid van twee nieuwe mensenrechten: het recht om niet gemeten te worden en het recht op betekenisvol menselijk contact.
Het eerste heeft onder meer betrekking op big-datagebruik door de overheid. Wij, als burgers worden steeds meer gedataficeerd en geprofileerd. Denk aan opsporing van fraude, preventie van misdaad, terrorisme en ordeverstoring, voorspelling van schoolloopbaan, gezondheid, schuldenproblematiek of verkeersinfarcten. De toepassingen zijn legio en groeien in snel tempo. We gaan die niet stoppen, en dat hoeft ook niet. Daarvoor zijn er te veel voordelen. Maar we moeten als burgers wel eisen van onze overheid dat de door ons en de particuliere sector gebruikte methodes kenbaar zijn. En dat er rekenschap wordt afgelegd over de rekenmodellen en besluitvormingssystemen – samen te vatten met de veelgehoorde term algoritmes. Rekenschap over hun betrouwbaarheid en de aannames waarop ze gebaseerd zijn. Dat moeten we eisen als gedataficeerde burgers. Om te voorkomen dat de black box dieper en groter wordt.
U en ik kunnen ons daar ook voor inzetten vanuit onze verantwoordelijkheid als bestuurders en ambtenaren. Algorithmic accountability betekent verantwoording afleggen over toepassingen van data die op allerlei platforms verzameld worden door overheden, bedrijfsleven, het internet of things en de sensoren in de openbare ruimte. Dat is niet gemakkelijk. Sommige datawetenschappers zeggen dat we de boot al gemist hebben. Algoritmes in een zelflerende omgeving zijn volgens hen allang niet meer te doorgronden en gaan hun goddelijke gang. Ik denk dat we hier vooral de vraag moeten stellen: blijven we zitten, als de kikkers uit het experiment, of hernemen we ons beschikkingsrecht? Oftewel vrij naar Marx: Er waart een spook door cyberspace! Gedataficeerden aller platforms verenigt u!
[1] Rathenau Instituut: Opwaarderen. Borgen van publieke waarden in de digitale samenleving. Februari 2017.
Marens Engelhard is Algemeen Rijksarchivaris
Deze column is te vinden in iBestuur magazine 27. Download hier
