Vijf inzichten voor overheden om digitale vrijheid te waarborgen

Beeld: Tumisu / Pixabay

Data. Banken verwerken onze aankopen, smart watches registreren hoeveel we bewegen, sociale media platformen leggen vast met wie we communiceren en onze telefoon houdt continue bij waar we zijn. Ook ons landschap dataficeert in rap tempo. Sensoren vinden hun weg van lantarenpalen tot drones. En wij, de burgers in Nederland, zijn er inmiddels aan gewend. We stellen wel vraagtekens bij de schandalen die bij partijen als Facebook en Google ontstaan, maar over het algemeen gaan we snel mee in nieuwe ontwikkelingen en staat gemak centraal in onze relatie tot het internet.

De coronacrisis brengt het verzamelen van data over burgers in een stroomversnelling. In veel landen wordt geëxperimenteerd met corona-apps die bijhouden of iemand in de buurt is geweest van een besmet persoon. Het ministerie van Volksgezondheid, Welzijn en Sport (VWS) heeft de inzet van telecomdata tegen verspreiding van het coronavirus onderzocht (uiteindelijk tegengehouden door de Autoriteit Persoonsgegevens) en de populariteit van software voor het monitoren van werknemers op afstand is sinds de coronacrisis sterk gestegen.

Ook binnen de provincie Zuid-Holland is het verzamelen, analyseren en verwerken van data een steeds belangrijker deel geworden van ons beleidsproces. Voor allerlei vraagstukken die een innovatieve aanpak vereisen, zijn data essentieel. Denk daarbij aan de energietransitie vormgeven, verkeerstromen regelen of voedselverspilling tegengaan. Net als elders zien we ook binnen de provincie een versnelling optreden in de hoeveelheid data die wordt verzameld en dat roept nieuwe vraagstukken op, waardoor bestuurders op zoek moeten naar nieuwe antwoorden.

Inbreuk op privacy is verreweg het meest gehoorde argument tegen de verdergaande dataverzamelingen. Hierdoor dreigen echter andere, nóg ernstigere maatschappelijke gevolgen over het hoofd te worden gezien. De term privacy vestigt de aandacht op de gevolgen voor een individuele burger als het gaat om delen van data. Als individu overzie ik immers welke data ik wel en niet wil delen en als individu ga ik wel of niet akkoord met het installeren van apps en het accepteren van cookies. Deze focus op het individu verklaart het veelgehoorde sentiment op: ‘Ik heb toch niets te verbergen (want ik doe toch niets strafbaars)’? Echter, het grootschalig verzamelen en verwerken van data bedreigt niet alleen onze privacy, maar ook onze (digitale) vrijheid, een voorwaarde voor een goed functionerende democratische rechtsstaat.

Data genereren

We vergeten vaak dat door het analyseren en combineren van data, nieuwe data worden gegenereerd. Data worden eindeloos gecombineerd in profielen, die vervolgens leiden tot voorspellingen en aannames over de groep waartoe jij behoort. Hoe werkt dat? Jouw data worden door algoritmes met die van andere burgers vergeleken. Op basis daarvan plaatsen algoritmes jou in een categorie en doen ze voorspellingen. Bijvoorbeeld: ‘mensen met dezelfde muzieksmaak als jij vinden dit nummer vaak goed’, maar ook ‘mensen uit jouw postcodegebied zijn regelmatig niet in staat om hun lening af te betalen’ of ‘mensen van jouw geslacht zijn minder vaak geïnteresseerd in goedbetaalde banen’.

Er is meer af te leiden uit gecombineerde data dan je op het eerste gezicht zou denken. Op basis van jouw slimme meter is bijvoorbeeld af te leiden wanneer je ‘s nachts niet kunt slapen. Wanneer je dat combineert met het gegeven dat mensen die slecht slapen op latere leeftijd een grotere kans hebben op Alzheimer, krijg je een profiel dat interessant is voor een verzekeringsmaatschappij. Een ander voorbeeld is dat algoritmes uit hoe jij je muis over een webpagina beweegt, kunnen afleiden in hoeverre je vatbaar bent voor stress en burnouts. En ook al mag jouw directe data niet verkocht worden, dat geldt niet voor het profiel dat over jou wordt gemaakt. Dat is eigendom van de bedrijven die deze profielen maken.

Precies daar ligt het ook het risico voor gemeenten en provincies. In Zuid-Holland gebruiken we weinig data die tot personen te herleiden is. Maar we gebruiken wel data over natuurgebieden, energieverbruik en afvalstromen om beleid te ontwikkelen. De algoritmen die door deze data worden gevoed, doen onvermijdelijk aannames die de leefwereld van burgers direct raken. En naarmate het gebruik van data toeneemt, wordt het effect van deze aannamers groter.

Zelfcensuur

Voor burgers is vaak niet na te gaan welke data verzameld worden en hoe die worden gecombineerd. Algoritmes van bedrijven zijn bijna altijd geheim om concurrentie tegen te gaan. Maar ook al is het erg ondoorzichtig wat er precies gebeurt, het dringt wel bij steeds meer mensen door dat het verzamelen en analyseren van data op grote schaal gebeurt. Na de onthullingen van Edward Snowden bleek bijvoorbeeld dat het aantal bezoeken aan Wikipediapagina’s over onderwerpen als ‘terrorisme’ plots terugliep. De vrijheid om Wikipediapagina’s te bezoeken wordt niet letterlijk afgenomen, maar mensen voelen zich minder vrij om het te doen. Naarmate de bewustwording onder burgers toeneemt over de mate waarin we bekeken en gevolgd worden, zullen burgers zich ‘braver’ gedragen.

Is dat een slechte ontwikkeling? Mensen zullen onder deze groeiende controle meer geneigd zijn zich aan de regels te houden, wat een positief effect lijkt. Maar burgers zullen zich ook minder vrij voelen om kritiek te uiten en banger zijn om fouten te maken. Onze democratie is afhankelijk van deze vrijheid. Zonder het gevoel onbespied te zijn en de ruimte hebben om te experimenteren, kunnen impopulaire ideeën (zoals vrouwenrechten en het homohuwelijk ooit waren) nooit tot wasdom komen. De honger naar data leidt tot burgers die zich comformeren aan de collectieve norm, in plaats van zich sterk maken voor hun eigen overtuigingen. Dit zuigt de lucht die nodig is voor een sterke democratie langzaam uit de kamer.

Tijd voor debat

Het is tijd voor een groot en breed maatschappelijk debat over de onbedoelde en ongewenste neveneffecten van grootschalige dataverzameling. Raads- en statenleden zijn in een unieke positie om dit debat naar de voorgrond te brengen en zo met elkaar te verkennen hoe technologie onze samenleving kan versterken, zonder onze democratische waarden te eroderen.

Het is niet altijd eenvoudig om de effecten van grootschalige dataverzameling te overzien. Onze organisaties ontberen het noodzakelijke instrumentarium om niet alleen de privacy en business impact van intiatieven, projecten en technologie te beoordelen, maar ook de brede maatschappelijk effecten te begrijpen. Vanuit het Interproviciaal Digitaal Overleg werken we daarom aan een handelingskader dat ons kan helpen deze effecten beter in kaart te brengen en ambtenaren slagkracht te geven in deze ontwikkeling.

Vijf inzichten uit de crisis

Raads- en statenleden, bestuurders en beleidsspecialisten kunnen geholpen worden in hun zoektocht om de impact van een technologie op de samenleving beter te begrijpen door vijf eenvoudige vragen te stellen. Het is daarbij in mindere mate van belang de daadwerkelijke technologie volledig te begrijpen – we kunnen immers niet allemaal techexperts zijn – maar vooral noodzakelijk om vanuit morele overwegingen naar de ontwikkeling te kijken.

1) Worden burgers in toenemende mate gevolgd door een ontwikkeling?

Gevoed door de coronacrisis ontstaan in rap tempo technologische oplossingen die de verlossing uit de lockdown beloven. Als we maar bluetooth aanzetten, als we maar een digitaal certificaat laten maken, als we maar GPS gebruiken, als we maar een QR code scannen, dan… Overhaast instappen op technologie gedreven oplossingen kan echter op de lange termijn allerlei onbedoelde effecten opleveren, zoals hierboven beschreven. Oplossingen waarbij burgers, door middel van data, sensoren of algoritmen gevolgd en in kaart gebracht worden, verdienen daarom altijd extra aandacht.

2) Versterkt de ontwikkeling de waardenketen in de stad, regio of land?

De coronacrisis heeft de sterke opkomst van platformen een extra boost gegeven. Het is tekenend dat een bedrijf als Just Eat Takeway uit Rotterdam recent met een grote overname in de Verenigde Staten in het nieuws kwam. Platformen hebben grote invloed op regionale waardeketens en zijn in staat de waarde van data en algoritmen te verzilveren. Echter, de positie van individuele ondernemers en tussenpersonen verzwakt als gevolg daarvan. Een klein dakdekkersbedrijf kan immers nooit op eenzelfde manier profiteren van deze waarde. Wanneer overheden investeren in platformen is het daarom belangrijk om altijd de gevolgen van investeringen in de gehele keten te bezien.

3) Worden maatschappelijke functies overgenomen door het bedrijfsleven?

De veerkracht van de samenleving komt tijdens de coronacrisis naar de voorgrond. Burgers vinden elkaar vanuit sociale infrastructuren en helpen elkaar op allerlei vlakken: maaltijden voor zorgverleners, opvang voor kinderen, bestrijding van eenzaamheid met kaartjes-acties en ga zo maar door. Wanneer de overheid investeert in het vermarkten van deze activiteiten, worden data en algoritmen die ontstaan door deze activiteiten privaat bezit, terwijl de waarde voor de gehele samenleving onmiskenbaar groot is. De balans tussen publiek, gedeeld en privaat bezit en gebruik van data en algoritmen zorgt voor het behoud van een veerkrachtige maatschappij.

4) Worden we afhankelijk van een leverancier?

Net als andere overheden kon de provincie Zuid-Holland de afgelopen maanden snel overschakelen op thuiswerken door de technische infrastructuur waarin de afgelopen jaren in is geïnvesteerd. Zonder deze investeringen was de schade die is opgelopen in de afgelopen periode veel groter geweest. Deze noodsituatie legt echter ook de afhankelijkheid ten aanzien van een kleine hoeveelheid leveranciers bloot. Waar we bij fysieke infrastucturele projecten gewend zijn met vele (grote en kleine) leveranciers te werken, domineren slecht een paar partijen de ICT-sector bij de overheid. Daarmee zijn we ook overgeleverd aan de keuzes die zij maken ten aanzien van het verzamelen en bewaren van data. Het is een uitdaging om de komende jaren deze afhankelijkheid langzaam af te bouwen.

5) Weten we welke blinde vlekken er in gebruikte data of algoritmen zitten?

Sinds afgelopen jaar denken de meeste ambtenaren niet meer aan Apple, maar aan de Belastingsdienst bij het woord SyRi (Systeem Risico Indicatie). En is het probleem, dat kan ontstaan bij het gebruiken van data en algoritmen voor besluitvorming over zoiets als toeslagen, voor iedereen duidelijk. Echter, het is lang niet altijd duidelijk in welke contexten deze problematiek nog meer speelt. Hoe vertalen de inzichten van SyRi zich in verkeersregelinstallaties of recruitment software? De Belastingdienst nam niet voldoende tijd en ruimte om na te denken over systemische problemen in het startpunt van hun besluitvorming: de data. De vraag is hoe wij hiervan kunnen leren en hoe we die lessen in de praktijk toe gaan passen.

Aandacht voor Digitale Vrijheid

De provincie Zuid-Holland en Hogeschool Rotterdam organiseerden in het afgelopen ’75 jaar vrijheid’ lustrum jaar het seminar Digitale Vrijheid. Ook komend jaar zullen we blijven investeren in het onderwerp en – als de crisis het toelaat – aanwezig zijn op het vrijheidsfestival 2021. Bijeenkomsten als deze zijn nodig om de bewustwording over het onderwerp onder burgers, bedrijfsleven, academici en overheden te vergroten. Want alleen met elkaar kunnen we de volle breedte van de ontwikkeling begrijpen. En alleen met elkaar kunnen we de nieuwe spelregels binnnen de digitale publieke ruimte vormgeven.

#digitalevrijheid – #75jaarvrijheidzh – #hoenormaalbenik

Maaike Harbers is Lector Artificial Intelligence & Society, Hogeschool Rotterdam; Ivonne Jansen-Dings is Strategic advisor Technology and Society bij de provincie Zuid-Holland.