Enkeltje konijnenhol
In de filmklassieker The Matrix staat hoofdpersoon Neo voor een principiële keuze. Slikt hij de blauwe pil, dan blijft alles zoals het was. Slikt hij de rode, dan zal hij onder de motorkap de (lelijke) echte wereld ervaren. Compromisloos: ‘I show you how deep the rabbit hole goes’, aldus een niet te missen verwijzing naar die andere klassieker, Alice in Wonderland.
Marleen Stikker gebruikte in Zomergasten de rode pil als metafoor voor haar visie op de slimme samenleving – vol algoritmes en kunstmatige intelligentie. Zij zou persoonlijk geen seconde twijfelen en de rode pil nemen.
Dat valt te prijzen, maar belangrijker is wat de doorsnee mens doet. Tal van mediaberichten suggereren dat burgers haarfijn willen weten hoe dingen onder digitale motorkappen gaan en deze met chirurgische precisie willen beheersen. De cookiewetgeving is er een mooi uitvloeisel van. Goedbedoeld, maar ook zonder onderzoek is duidelijk dat weinigen weten waar ze eigenlijk mee akkoord gaan als ze cookiemeldingen wegklikken. Een recent nogal vermakelijk voorbeeld: de organisatie van een culinair festival in Haarlem vroeg bezoekers die vanuit privacyoverwegingen niet wilden worden gefotografeerd een rode stip op het gelaat aan te brengen. Voor de goede orde: het was ruim na 1 april. Naar verluidt waren er van de vele duizenden bezoekers welgeteld drie die zo’n stip wel wilden.
Dergelijke berichten suggereren dat burgers het konijnenhol van de slimme samenleving willen verkennen en leggen een merkwaardig verschil bloot met onze houding op andere gebieden. De doorsnee mens weet immers evenmin hoe een airbag werkt of hoe ons defensieapparaat in elkaar steekt, maar wordt niet aangemoedigd om dat onder de motorkap te begrijpen. Onwetendheid is voor dergelijke onderwerpen kennelijk geen enkel probleem. Gelukkig maar, want soms doen we eigenlijk ook maar wat. Neem het streven naar 2 procent inflatie, wat monetair goed zou zijn voor ons. Geen enkele econoom kan dat streefcijfer onderbouwen en het is min of meer bij toeval zo bepaald bij het opstellen van het Verdrag van Maastricht. Er worden geen vragen over gesteld. Dergelijke onwetendheid lijkt echter ondenkbaar als het gaat om (wettelijke) eisen aan (bijvoorbeeld) kredietverlening of politiesurveillance op basis van een algoritme.
De staatssecretaris van Binnenlandse Zaken gaf dit voorjaar in een brief aan te gaan onderzoeken hoe bestuursorganen zich kunnen verantwoorden over de toepassing van algoritmes. Een nuttig en belangrijk onderwerp; daarover geen misverstand. Het is echter maar te hopen dat de onderzoekers er niet vanuit gaan dat iedere burger toe is aan een enkeltje konijnenhol.
Sander Klous is hoogleraar Big Data Ecosystems, UvA en partner bij KPMG
Deze bijdrage is te vinden in iBestuur magazine 28. Download hier
