zoeken binnen de website

Vijf inzichten voor overheden om digitale vrijheid te waarborgen

door: Maaike Harbers en Ivonne Jansen-Dings | 30 juli 2020

Over alles wat we doen worden data verzameld. Maar maken we ons nog echt druk om die dataverzameling? Maaike Harbers en Ivonne Jansen-Dings wel. Zij vinden het tijd voor een breed maatschappelijk debat over de ongewenste neveneffecten van grootschalige dataverzameling. “Raads- en statenleden zijn in een unieke positie om dit debat naar de voorgrond te brengen en zo met elkaar te verkennen hoe technologie onze samenleving kan versterken, zonder onze democratische waarden te eroderen.”

verrekijker

Beeld: Tumisu / Pixabay

Data. Banken verwerken onze aankopen, smart watches registreren hoeveel we bewegen, sociale media platformen leggen vast met wie we communiceren en onze telefoon houdt continue bij waar we zijn. Ook ons landschap dataficeert in rap tempo. Sensoren vinden hun weg van lantarenpalen tot drones. En wij, de burgers in Nederland, zijn er inmiddels aan gewend. We stellen wel vraagtekens bij de schandalen die bij partijen als Facebook en Google ontstaan, maar over het algemeen gaan we snel mee in nieuwe ontwikkelingen en staat gemak centraal in onze relatie tot het internet.

De coronacrisis brengt het verzamelen van data over burgers in een stroomversnelling. In veel landen wordt geëxperimenteerd met corona-apps die bijhouden of iemand in de buurt is geweest van een besmet persoon. Het ministerie van Volksgezondheid, Welzijn en Sport (VWS) heeft de inzet van telecomdata tegen verspreiding van het coronavirus onderzocht (uiteindelijk tegengehouden door de Autoriteit Persoonsgegevens) en de populariteit van software voor het monitoren van werknemers op afstand is sinds de coronacrisis sterk gestegen.

Ook binnen de provincie Zuid-Holland is het verzamelen, analyseren en verwerken van data een steeds belangrijker deel geworden van ons beleidsproces. Voor allerlei vraagstukken die een innovatieve aanpak vereisen, zijn data essentieel. Denk daarbij aan de energietransitie vormgeven, verkeerstromen regelen of voedselverspilling tegengaan. Net als elders zien we ook binnen de provincie een versnelling optreden in de hoeveelheid data die wordt verzameld en dat roept nieuwe vraagstukken op, waardoor bestuurders op zoek moeten naar nieuwe antwoorden.

Inbreuk op privacy is verreweg het meest gehoorde argument tegen de verdergaande dataverzamelingen. Hierdoor dreigen echter andere, nóg ernstigere maatschappelijke gevolgen over het hoofd te worden gezien. De term privacy vestigt de aandacht op de gevolgen voor een individuele burger als het gaat om delen van data. Als individu overzie ik immers welke data ik wel en niet wil delen en als individu ga ik wel of niet akkoord met het installeren van apps en het accepteren van cookies. Deze focus op het individu verklaart het veelgehoorde sentiment op: ‘Ik heb toch niets te verbergen (want ik doe toch niets strafbaars)’? Echter, het grootschalig verzamelen en verwerken van data bedreigt niet alleen onze privacy, maar ook onze (digitale) vrijheid, een voorwaarde voor een goed functionerende democratische rechtsstaat.

Data genereren

We vergeten vaak dat door het analyseren en combineren van data, nieuwe data worden gegenereerd. Data worden eindeloos gecombineerd in profielen, die vervolgens leiden tot voorspellingen en aannames over de groep waartoe jij behoort. Hoe werkt dat? Jouw data worden door algoritmes met die van andere burgers vergeleken. Op basis daarvan plaatsen algoritmes jou in een categorie en doen ze voorspellingen. Bijvoorbeeld: ‘mensen met dezelfde muzieksmaak als jij vinden dit nummer vaak goed’, maar ook ‘mensen uit jouw postcodegebied zijn regelmatig niet in staat om hun lening af te betalen’ of ‘mensen van jouw geslacht zijn minder vaak geïnteresseerd in goedbetaalde banen’.

Er is meer af te leiden uit gecombineerde data dan je op het eerste gezicht zou denken. Op basis van jouw slimme meter is bijvoorbeeld af te leiden wanneer je ‘s nachts niet kunt slapen. Wanneer je dat combineert met het gegeven dat mensen die slecht slapen op latere leeftijd een grotere kans hebben op Alzheimer, krijg je een profiel dat interessant is voor een verzekeringsmaatschappij. Een ander voorbeeld is dat algoritmes uit hoe jij je muis over een webpagina beweegt, kunnen afleiden in hoeverre je vatbaar bent voor stress en burnouts. En ook al mag jouw directe data niet verkocht worden, dat geldt niet voor het profiel dat over jou wordt gemaakt. Dat is eigendom van de bedrijven die deze profielen maken.

Precies daar ligt het ook het risico voor gemeenten en provincies. In Zuid-Holland gebruiken we weinig data die tot personen te herleiden is. Maar we gebruiken wel data over natuurgebieden, energieverbruik en afvalstromen om beleid te ontwikkelen. De algoritmen die door deze data worden gevoed, doen onvermijdelijk aannames die de leefwereld van burgers direct raken. En naarmate het gebruik van data toeneemt, wordt het effect van deze aannamers groter.

Zelfcensuur

Voor burgers is vaak niet na te gaan welke data verzameld worden en hoe die worden gecombineerd. Algoritmes van bedrijven zijn bijna altijd geheim om concurrentie tegen te gaan. Maar ook al is het erg ondoorzichtig wat er precies gebeurt, het dringt wel bij steeds meer mensen door dat het verzamelen en analyseren van data op grote schaal gebeurt. Na de onthullingen van Edward Snowden bleek bijvoorbeeld dat het aantal bezoeken aan Wikipediapagina’s over onderwerpen als ‘terrorisme’ plots terugliep. De vrijheid om Wikipediapagina’s te bezoeken wordt niet letterlijk afgenomen, maar mensen voelen zich minder vrij om het te doen. Naarmate de bewustwording onder burgers toeneemt over de mate waarin we bekeken en gevolgd worden, zullen burgers zich ‘braver’ gedragen.

Is dat een slechte ontwikkeling? Mensen zullen onder deze groeiende controle meer geneigd zijn zich aan de regels te houden, wat een positief effect lijkt. Maar burgers zullen zich ook minder vrij voelen om kritiek te uiten en banger zijn om fouten te maken. Onze democratie is afhankelijk van deze vrijheid. Zonder het gevoel onbespied te zijn en de ruimte hebben om te experimenteren, kunnen impopulaire ideeën (zoals vrouwenrechten en het homohuwelijk ooit waren) nooit tot wasdom komen. De honger naar data leidt tot burgers die zich comformeren aan de collectieve norm, in plaats van zich sterk maken voor hun eigen overtuigingen. Dit zuigt de lucht die nodig is voor een sterke democratie langzaam uit de kamer.

Tijd voor debat

Het is tijd voor een groot en breed maatschappelijk debat over de onbedoelde en ongewenste neveneffecten van grootschalige dataverzameling. Raads- en statenleden zijn in een unieke positie om dit debat naar de voorgrond te brengen en zo met elkaar te verkennen hoe technologie onze samenleving kan versterken, zonder onze democratische waarden te eroderen.

Het is niet altijd eenvoudig om de effecten van grootschalige dataverzameling te overzien. Onze organisaties ontberen het noodzakelijke instrumentarium om niet alleen de privacy en business impact van intiatieven, projecten en technologie te beoordelen, maar ook de brede maatschappelijk effecten te begrijpen. Vanuit het Interproviciaal Digitaal Overleg werken we daarom aan een handelingskader dat ons kan helpen deze effecten beter in kaart te brengen en ambtenaren slagkracht te geven in deze ontwikkeling.

Vijf inzichten uit de crisis

Raads- en statenleden, bestuurders en beleidsspecialisten kunnen geholpen worden in hun zoektocht om de impact van een technologie op de samenleving beter te begrijpen door vijf eenvoudige vragen te stellen. Het is daarbij in mindere mate van belang de daadwerkelijke technologie volledig te begrijpen – we kunnen immers niet allemaal techexperts zijn – maar vooral noodzakelijk om vanuit morele overwegingen naar de ontwikkeling te kijken.

1) Worden burgers in toenemende mate gevolgd door een ontwikkeling?

Gevoed door de coronacrisis ontstaan in rap tempo technologische oplossingen die de verlossing uit de lockdown beloven. Als we maar bluetooth aanzetten, als we maar een digitaal certificaat laten maken, als we maar GPS gebruiken, als we maar een QR code scannen, dan… Overhaast instappen op technologie gedreven oplossingen kan echter op de lange termijn allerlei onbedoelde effecten opleveren, zoals hierboven beschreven. Oplossingen waarbij burgers, door middel van data, sensoren of algoritmen gevolgd en in kaart gebracht worden, verdienen daarom altijd extra aandacht.

2) Versterkt de ontwikkeling de waardenketen in de stad, regio of land?

De coronacrisis heeft de sterke opkomst van platformen een extra boost gegeven. Het is tekenend dat een bedrijf als Just Eat Takeway uit Rotterdam recent met een grote overname in de Verenigde Staten in het nieuws kwam. Platformen hebben grote invloed op regionale waardeketens en zijn in staat de waarde van data en algoritmen te verzilveren. Echter, de positie van individuele ondernemers en tussenpersonen verzwakt als gevolg daarvan. Een klein dakdekkersbedrijf kan immers nooit op eenzelfde manier profiteren van deze waarde. Wanneer overheden investeren in platformen is het daarom belangrijk om altijd de gevolgen van investeringen in de gehele keten te bezien.

3) Worden maatschappelijke functies overgenomen door het bedrijfsleven?

De veerkracht van de samenleving komt tijdens de coronacrisis naar de voorgrond. Burgers vinden elkaar vanuit sociale infrastructuren en helpen elkaar op allerlei vlakken: maaltijden voor zorgverleners, opvang voor kinderen, bestrijding van eenzaamheid met kaartjes-acties en ga zo maar door. Wanneer de overheid investeert in het vermarkten van deze activiteiten, worden data en algoritmen die ontstaan door deze activiteiten privaat bezit, terwijl de waarde voor de gehele samenleving onmiskenbaar groot is. De balans tussen publiek, gedeeld en privaat bezit en gebruik van data en algoritmen zorgt voor het behoud van een veerkrachtige maatschappij.

4) Worden we afhankelijk van een leverancier?

Net als andere overheden kon de provincie Zuid-Holland de afgelopen maanden snel overschakelen op thuiswerken door de technische infrastructuur waarin de afgelopen jaren in is geïnvesteerd. Zonder deze investeringen was de schade die is opgelopen in de afgelopen periode veel groter geweest. Deze noodsituatie legt echter ook de afhankelijkheid ten aanzien van een kleine hoeveelheid leveranciers bloot. Waar we bij fysieke infrastucturele projecten gewend zijn met vele (grote en kleine) leveranciers te werken, domineren slecht een paar partijen de ICT-sector bij de overheid. Daarmee zijn we ook overgeleverd aan de keuzes die zij maken ten aanzien van het verzamelen en bewaren van data. Het is een uitdaging om de komende jaren deze afhankelijkheid langzaam af te bouwen.

5) Weten we welke blinde vlekken er in gebruikte data of algoritmen zitten?

Sinds afgelopen jaar denken de meeste ambtenaren niet meer aan Apple, maar aan de Belastingsdienst bij het woord SyRi (Systeem Risico Indicatie). En is het probleem, dat kan ontstaan bij het gebruiken van data en algoritmen voor besluitvorming over zoiets als toeslagen, voor iedereen duidelijk. Echter, het is lang niet altijd duidelijk in welke contexten deze problematiek nog meer speelt. Hoe vertalen de inzichten van SyRi zich in verkeersregelinstallaties of recruitment software? De Belastingdienst nam niet voldoende tijd en ruimte om na te denken over systemische problemen in het startpunt van hun besluitvorming: de data. De vraag is hoe wij hiervan kunnen leren en hoe we die lessen in de praktijk toe gaan passen.

Aandacht voor Digitale Vrijheid

De provincie Zuid-Holland en Hogeschool Rotterdam organiseerden in het afgelopen ’75 jaar vrijheid’ lustrum jaar het seminar Digitale Vrijheid. Ook komend jaar zullen we blijven investeren in het onderwerp en – als de crisis het toelaat – aanwezig zijn op het vrijheidsfestival 2021. Bijeenkomsten als deze zijn nodig om de bewustwording over het onderwerp onder burgers, bedrijfsleven, academici en overheden te vergroten. Want alleen met elkaar kunnen we de volle breedte van de ontwikkeling begrijpen. En alleen met elkaar kunnen we de nieuwe spelregels binnnen de digitale publieke ruimte vormgeven.

#digitalevrijheid - #75jaarvrijheidzh - #hoenormaalbenik

Maaike Harbers is Lector Artificial Intelligence & Society, Hogeschool Rotterdam; Ivonne Jansen-Dings is Strategic advisor Technology and Society bij de provincie Zuid-Holland.

reacties: 2

tags: ,

  • Hans IJsselstein #

    3 augustus 2020, 18:01

    Gelukkig is er een groeiende bewustwording dat de democratische rechtstaat wordt ondergraven door GAFA (Google, Apple, Facebook, Amazon) e.a. Maar er moet erg veel gebeuren om dat om te buigen.
    In de eerste plaats denk ik dat dataficatie niet het grootste probleem is, maar dat de ondoorzichtigheid van de ‘geheime’ algoritmes de rechtstaat ondergraven. Dus moeten er eisen worden gesteld aan functionaliteit en de betrouwbaarheid van algoritmes en de betrouwbaarheid van de data in relatie met het doel waarvoor ze worden gebruikt. Dit moet aantoonbaar zijn. Er moet ook een autoriteit komen die de eisen handhaaft.
    Verder moet de wetgeving fundamenteel worden aangepast aan de digitalisering van de maatschappij.
    Het voert te ver om gedetailleerd aan te geven wat er moet gebeuren om de democratie te redden in een gedigitaliseerde omgeving.
    Nog één technische opmerking. Platformen zouden onderdeel moeten gaan uitmaken van de openbare infrastructuur, en dat betekent ook dat aansluitpunten van die platformen (API’s) moeten worden gestandaardiseerd. Zo’n infrastructuur is dan basis voor een eerlijke concurrentie. Het liefst op EU niveau.

  • Ronald Mons #

    4 augustus 2020, 10:39

    Interessant artikel. Ik reageer even alleen op de analyse en niet op de inzichten. Binnen Europa focussen we ons primair op regulering via de GDPR op het gebruik van data en de herleidbaarheid daarvan tot het individu. Tegelijkertijd zien we overal dat toezichthouders steeds verder worden gekort. Ook al is de GDPR een uitstekende benadering, toch denk ik dat we daarnaast ook nog een andere moeten verkennen.

    Jaron Lanier en Glen Weyl pleiten voor Data Dignity. Een route uit de spagaat die is gecreëerd door enerzijds het (socialistische) gedachtegoed dat alles op internet gratis moet zijn en beschikbaar voor iedereen en anderzijds het (kapitalistische) gedachtegoed dat de grote techbedrijven geld aan gratis moeten verdienen. Die twee tegenstrijdige uitgangspunten raken elkaar maar op 1 plek, en dat is via advertentie-inkomsten. Hierdoor is een wereld ontstaan waarin de digitale interactie tussen jou en mij wordt gefinancierd door een derde partij die als enige belang heeft dat hij ons gedrag zodanig kan beïnvloeden dat we zijn producten kopen. En daarvoor heeft hij data nodig. Onze gegevens geven we niet alleen weg via toestemming op cookies, maar worden ook gewoon verzameld zonder toestemming. Naast dat ik dat onwenselijk vind, komt het ook met een aantal maatschappelijk zeer onwenselijke bijverschijnselen. Die worden door Jaron uitgebreid toegelicht in de vele lezingen van hem die online zijn te vinden.

    Data Dignity gaat uit van het principe dat techbedrijven moeten betalen (royalties) voor het gebruik van jouw en mijn data en dat tegelijkertijd een einde komt aan het ‘gratis’ internet. Jij blijft dus tot in de eeuwigheid eigenaar van jouw data en hebt regie over het gebruik daarvan. Volgens Lanier en Weyl is het zelfs een alternatief voor het basisinkomen (gezien de waarde van data).

    Een intrigerende theorie, die alleen al vanwege de onderbouwing van de noodzaak voor een andere koers het waard is om je in te verdiepen. In hun paper beschrijven ze ook hoe dat te realiseren is.

    Als je het wilt nalezen (sorry Engels):
    eliassi.org/lanier_and_weyl_hbr2018.pdf

    Als je meer visueel ingesteld bent, kun je via de opiniepagina’s van de New York Times en drieluik over dit onderwerp vinden.

Reactieformulier

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie. U kunt bij de vormgeving van uw reactie gebruik maken van textile en er is beperkt gebruik van html mogelijk.