Verwondering

Lange tijd heb ik mij, samen met anderen, verwonderd over de nieuwste toepassingen van persoonlijke gegevens en locatiedata door marketeers. En die verwondering is nuttig geweest. Als je je verbaast over iets, wil je weten hoe het zit. Het heeft ertoe geleid dat wij vanuit Geonovum verkenningen hebben uitgevoerd. Wat gebeurt er in Nederland op dit gebied? En sluit dat nog aan bij wat wij willen als samenleving?

De vragen zijn nog lang niet allemaal beantwoord, maar het proces is in gang. Met de debatten rond Facebook als decor, zie ik hoe wij als samenleving worstelen met de vraag wat wij wel en niet willen. Intussen dient het volgende onderwerp van verwondering zich alweer aan: de macht van het algoritme.

Wat gebeurt er als marketeers weten welke consument zich wanneer op welke locatie bevindt? Dat vroeg ik mij vorig jaar nog af. In een van mijn eerdere blogs verbaasde ik mij over de vele commerciële voorbeelden die er wereldwijd al waren. De ontwikkelingen gaan verder en ze gaan snel. Maar de gewenning gaat ook snel, en de fase van verwondering ben ik intussen voorbij. Dat dit soort locatiegegevens op een slimme manier wordt gebruikt, dat is zo, en dat zal ook zo blijven. Aan ons de taak om beter inzicht te krijgen en de juiste spelregels te formuleren.

We zien dat er toepassingen ontstaan die beantwoorden aan het publieke belang. Maar er zijn ook ontwikkelingen waar we als samenleving niet op zitten te wachten. De technologische ontwikkeling dwingt ons om duidelijk te zijn in wat we willen en wat we niet willen. Want als we dat niet formuleren, dan gaat de technologie vanzelf wel verder.

Die discussie – en dat merken we dagelijks in de media en de actualiteit – is niet zo eenvoudig. Als iemand vermist is, dan vinden we het natuurlijk goed als diegene makkelijk te achterhalen is. Ook al wist die persoon zelf niet dat hij werd gevolgd. Filevoorspellingen, informatie over productleveranties… ook dat soort zaken vinden we prettig en ook steeds vanzelfsprekender. Aan de andere kant is er natuurlijk het fundamentele recht op privacy. Het recht om geen gepersonaliseerde advertenties te moeten zien. Het recht om níet gevolgd te worden.

Voor de overheid ligt er een wetgevende taak en een toezichthoudende taak. En het is een voor de hand liggende reflex om te willen bepalen op welke manier het bedrijfsleven mag omgaan met locatiegegevens van consumenten. Wie anders bewaakt het publieke belang? Maar… voordat wij zover zijn om dit op een goede manier te doen, is het goed te beseffen dat wij als overheid zelf óók gebruikers zijn van dit soort data. Wat doen we zelf met persoonlijke gegevens in onze informatiesystemen? Weten wij zelf nog precies waar en hoe wij locatiedata van personen gebruiken? Met die vraag zullen we ons de komende tijd intensief bezig moeten houden. Het is allemaal deel van onze bewustwording, het proces dat ooit met verwondering begon.

Nu dit proces in volle gang is, wordt ons echter maar weinig rust gegund. Het volgende onderwerp van verwondering dient zich alweer aan. Het besef dat het gebruik van die data in toenemende mate voor een normaal mens niet meer te achterhalen is. Het zijn de algoritmen die bepalen. Het algoritme bepaalt hoe groot de kans is dat jij een bepaald product gaat kopen. Het algoritme is ook datgene wat bepaalt wat de snelste route is voor jou ergens naartoe. Het algoritme bepaalt hoe de toevoerwegen en looproutes bij evenementen worden gemanaged. We hebben zo veel data, dat niemand meer met een calculator of rekentabel nog iets zou kunnen narekenen. Algoritmen zijn het nieuwe fenomeen.

Maar wat is een algoritme? Wie heeft daar nog een idee bij? Data kun je nog herkennen. Je ziet of er een x of y in staat, een tijdstip. Eenvoudige algoritmen zijn misschien ook nog te vatten. Maar bij meer geavanceerde algoritmen verliezen we langzaamaan het begrip hoe al die gegevens worden vertaald in iets wat bruikbaar is. En dat is nog meer het geval bij zelflerende algoritmen. Een programmeur kan een algoritme ontwikkelen dat zich vervolgens op basis van gegevens en eerdere resultaten verder ontwikkelt. Welkom in de wereld van kunstmatige intelligentie.

Dus, mooi al onze initiatieven om data open te willen hebben. Maar wat te doen met die algoritmen? Van wie zijn die algoritmen? Wie controleert ze? Zijn er manieren om algoritmen net als data ‘open’ te maken? Zijn daar voorbeelden van? Kan de overheid daarop sturen, is dat überhaupt mogelijk? Waarom krijg je een bepaalde route aangeboden? Wanneer is het zover dat we onbewust langs een bepaald restaurant of reclamezuil worden geleid?

Net zoals het ooit begon bij het commerciële gebruik van locatiedata, is volgens mij ook nu verwondering de eerste stap. Laten we ons verbazen, en laten we hierover nadenken. Wat willen we als samenleving? Wat zijn de gewenste en ongewenste effecten. En net als bij data zal ook hier de vraag opkomen: wat moet de overheid hiermee? Dillema’s zijn nu al in zicht. Zo is er al onderzoek gedaan naar het gebruik van algoritmen bij de Belastingdienst. Wat als niet meer achterhaald kan worden hoe de beslissing over wel of niet toekennen van een uitkering tot stand is gekomen? Hoe kun je zo’n beslissing dan aanvechten?

Er komt een nieuw spel bij. Een spel waarvan we de naam nog niet kennen, laat staan de regels. Ik gun onszelf een samenleving met alle kansen om zich technologisch te ontwikkelen. Maar ik gun onszelf ook een samenleving die begrijpt wat er gaande is, en die eventueel kan bijsturen waar dat gewenst is. Daarvoor hebben we jongen mensen nodig met kennis van zaken. Mensen die voldoende ‘tegenmacht’ ontwikkelen in de zin van kennis, deskundigheid, aandacht en wetgeving die de waarden van de samenleving beschermt. Laten we ervoor zorgen dat we mensen opleiden op het gebied van cybersecurity, privacy en algoritmen. Laten we de ambities uit de Nederlandse Digitaliseringsstrategie serieus nemen en deze uitdagingen voortvarend aanpakken. Want dit is iets waar we nog lang niet mee klaar zijn.

Rob van de Velde is directeur van Geonovum