Digitaliseren en verantwoordelijkheid

door: Leon Dohmen, Joan Baaijens en Liesbeth Ruoff, 29 november 2018

De Magna Carta wordt gezien als het eerste mensenrechtenverdrag, nodig om mensen te beschermen tegen machtsmisbruik van de koning. Anno 2018 moeten grondrechten van mensen ook worden beschermd tegen de voortschrijdende digitalisering. Zo pleit het Rathenau Instituut voor maatschappelijk verantwoord digitaliseren. Maar welke rol spelen de bouwers van de digitale samenleving, de (IT-) professionals, daarbij?

digitalisering

Beeld: Shutterstock

‘De overheid, het bedrijfsleven en maatschappelijke organisaties moeten de digitale samenleving zo inrichten dat mensen en waarden meer centraal komen te staan.’ Met de update ‘Doelgericht digitaliseren’ [1] van het rapport ‘Opwaarderen’ [2] uit 2017 pleit het Rathenau Instituut voor een versterking van de (bestuurlijke) samenwerking (governance). Deze moet ervoor zorgen dat overheden en bedrijven acties doelgerichter vormgeven vanuit maatschappelijke uitdagingen. Bescherming van grondrechten als uitgangspunt, in plaats van sluitpost. Grondrechten betreffen privacy, autonomie, veiligheid, controle over technologie, menselijke waardigheid, rechtvaardigheid en machtsverhoudingen.

Dynamische IT-waarden

Het centraal stellen van mensen en waarden (grondrechten) is logisch. Maar dit blijkt in de praktijk erg lastig. Digitalisering verwijst naar een uitgesproken vorm van technologie. En technologie is hier opgevat als een breed omvattend maatschappelijk concept. De digitale samenleving omvat een materiele wereld (bijvoorbeeld zelfrijdende auto), biologische wereld (bijvoorbeeld gezichtsherkenning) en een socio-culturele wereld (bijvoorbeeld iTunes en Airbnb). ‘Technologie’ staat voor een complexe verbinding tussen techniek (een instrumentele doel-middel verhouding) en doelgericht (menselijk) handelen. Digitalisering wordt tevens gekenmerkt door drie meer fundamentele processen, te weten: digitalisering groeit exponentieel, digitalisering doet zich in (vrijwel) alle sectoren en organisaties voor, en digitalisering combineert verschillende onderliggende technieken en vermogens tot geheel nieuwe toepassingen. Daarmee is er sprake van een algehele proliferatie van technologie in alle microprocessen in onze wereld van arbeid, organisatie en maatschappij.

Digitalisering leidt hierbij tot een ingewikkeld, dynamisch en verweven geheel van IT-waarden. Deze waarden manifesteren zich zowel op micro- (interpersoonlijk), meso (organisatorisch), als macro (maatschappelijk) niveau. Mobiel IT-gebruik, zoals een smartphone, leidt tot een mix van positieve en negatieve waardenbelevingen [3]. Zo kunnen gemak (positieve instrumentele waarde) en plezier (positieve emotionele waarde) bij het gebruik van een smartphone ontaarden in dwangmatig checken van berichten en verslaving (negatieve emotionele waarde) [4]. Deze mix van waardenbelevingen raakt grondrechten, zoals menselijke waardigheid (instrumentalisering) en autonomie (keuzevrijheid). Wie is verantwoordelijk voor deze mix van positieve en negatieve waardenbelevingen? Is dit alleen de verantwoordelijkheid van de gebruiker? Of kun je ontwerpers en programmeurs (bouwers) van mobiele apparaten hier ook op aanspreken?

Schending van grondrechten

Er zijn echter ook voorbeelden waarbij schending van grondrechten duidelijk waarneembaar is. Vanwege invoering van de AVG (Algemene Verordening Gegevensbescherming) in mei 2018 hebben (veel) internetgebruikers (opnieuw) hun akkoord moeten geven om toegang te krijgen tot een bepaalde site. Bij sommige sites kun je alleen maar alle soorten cookies accepteren en valt er niets te kiezen. Als op de button of link met uitleg wordt geklikt volgt vaak een ingewikkelde verwijzing naar de help-functie van de internet-browser voor het in- en uitschakelen en verwijderen van cookies. Privacy- en cookieverklaring staan nog altijd bol van onduidelijkheid en wazigheid met betrekking tot behandeling van persoonlijke data van gebruikers. Allemaal voorbeelden die bedoeld lijken om het gebruikers zo moeilijk mogelijk te maken om inzicht te krijgen hoe met hun persoonlijke data wordt omgegaan. Dat is een trieste constatering! Waarom bouwen ontwikkelaars en programmeurs deze functies zo? Doen ze dit bewust of onbewust? Of omdat hun producteigenaar dit zo wenst?

Een ander treurig voorbeeld liet het tv-programma Radar [5] zien in de uitzending van 15 oktober 2018. Het betreft online kindermarketing voor ongezonde voedingsproducten. Steeds meer reclame en marketing over ongezonde producten vindt de weg naar kinderen via vloggers en YouTube. Op de site van Radar is te lezen dat 88 procent van de ouders een verbod wil op dit soort kinderreclame. Een moeder noemt de werkwijze van marketeers, reclamemakers en vloggers “een gemene manier van opdringen”.

Van Utopia naar een panopticum

Meer instanties wijzen op de schaduwzijde van de voortschrijdende digitalisering. Zo wijst de Autoriteit Financiële Markten [6] in een trendrapport op mogelijk misbruik en uitsluiting van mensen door banken, verzekeraars en hypotheekverstrekkers. Het programma Tegenlicht doet verslag van de zogenaamde ´klik-en-kluseconomie’ [7]. Mensen schrijven zich in bij online platformen om klusjes uit te voeren voor een luttel bedrag en alle risico’s liggen bij de klussers zelf. Ongelijke machtsverhoudingen zorgen voor uitbuiting van mensen en het aantasten van het sociale stelsel dat in Nederland over vele jaren zorgvuldig is opgebouwd. De utopische belofte dat het internet de ultieme democratische vrijheid zou brengen is uitgemond in een digitaal panopticum [8]: een maatschappij waarin individuen worden gecontroleerd en beheerst.

Ethiek versus slecht vakmanschap

Het bespreekbaar en inzichtelijk maken van het spanningsveld tussen digitalisering en grondrechten is niet los te zien van ethiek. Hier ligt een fundamenteel probleem aan ten grondslag. Immers grondrechten vormen een normatief kader. Digitalisering vormt een instrumenteel technisch complex dat niet op voorhand normatief is, maar pas normatief wordt in de handen van individuele gebruikers en organisaties. Menselijk gedrag is altijd normatief omdat het voortdurend teruggrijpt op keuzes die al dan niet in een bepaalde richting gedaan worden. Daarmee is digitalisering als technologie uiteindelijk waardegebonden en daarom gebonden aan maatschappelijke normen en waarden.

Wat ons betreft wordt de discussie over ethiek nogal eens misbruikt als excuus voor slecht vakmanschap. Ethiek gaat over de kritische bezinning van wat we juist en onjuist handelen noemen. Uiteindelijk impliceert het toepassen van technologie naast praktische overwegingen ook normatieve beslissingen over de juiste mate, legitimiteit en proportie van de beoogde toepassing. Thema’s zoals genetische manipulatie en euthanasie lenen zich voor het voeren van een ethische discussie. De eerder genoemde voorbeelden van kindermarketing en ingewikkelde cookie-policies vinden wij duidelijke voorbeelden van slecht vakmanschap. Niet op prijs gestelde kind-reclame voor slechte voedingsproducten maak je niet. En als je data nodig hebt van gebruikers, dan doe je dat transparant en begrijpelijk. Niet via ingewikkelde procedures, of door mensen geen keuze te geven of moeilijk te begrijpen lange stukken tekst.

Digitaliseren en governance

Disruptief, high performance, exponentiele groei: termen en hypes die goeroes en trendwatchers graag koppelen aan digitalisering om de (maatschappelijke) impact ervan te benadrukken. Yuval Noah Harari [9] gebruikt de term dataïsme om de ‘goddelijke’ kracht van big data en algoritmes te benadrukken. Hoe kunnen (IT-) professionals opboksen tegen deze krachttermen en het opportunisme van hun leidinggevers? Het Rathenau Instituut schrijft in haar rapport : ‘We zien veel bewustwording en losstaande acties. Wat ontbreekt, is de koppeling tussen maatschappelijke vraagstukken en innovatie. Voor de uitdagingen waar we als samenleving voor staan, moeten overheden en bedrijven doelgerichter digitaliseren…’. ‘…Publieke waarden (grondrechten) niet als sluitstuk maar als uitgangspunt’. Hier speelt governance een belangrijke rol.

De vraag is niet óf we digitalisering van onze samenleving willen, maar hóe beschaafd we die willen!

De aanbevelingen van het Rathenau-rapport zijn zeker relevant en nuttig. Tegelijkertijd lijken deze ver af te staan van de beroepspraktijk van de (IT-) professionals: de bouwers van de digitale samenleving. Governance dient een veilig en open klimaat te creëren waarbinnen (IT-) professionals schendingen bespreekbaar kunnen maken. Meer bewustzijn bij (IT-) professionals over de sleutelrol die zij spelen bij het bepalen van de digitale toekomst is belangrijk om maatschappelijk verantwoord digitaliseren in de beroepspraktijk te verankeren. Ontwerpprincipes en instrumenten helpen om dit bewustzijn te vergroten en verder te ontwikkelen.

Ontwerpprincipes en instrumenten

De ethische legitimiteit van digitalisering zal in de praktijk moeten blijken. Het vanaf de ontwerpfase vooraf toepassen van principes en criteria is gewenst maar vaak lastig, gezien het verweven en dynamische complex van IT-waarden. Daardoor is achteraf toetsen van toepassingen in de praktijk ook van groot belang. Een noodzakelijke voorwaarde is dat ontwerp, ontwikkeling, testen, implementatie en acceptatie van toepassingen plaatsvinden in een communicatieve werkomgeving. Criteria zijn hierbij geen vast gegeven, maar komen voort uit maatschappelijke verhoudingen en principes zoals vervat in onze organisaties en instituties. ‘Ethics by design’, ‘security by design’ en ‘privacy by design’ zijn relevante voorbeelden van ontwerpprincipes voor IT-oplossingen. ‘Privacy by design’ als voorbeeld verwijst naar de volgende ontwerpstrategieën [10]:

• Minimaliseer: Beperk zoveel mogelijk de verwerking van gegevens. Selecteer voor het verzamelen. Verwijder wanneer mogelijk.
• Scheid: Scheid persoonsgegevens zoveel mogelijk van elkaar en werk zo gedistribueerd mogelijk.
• Abstraheer: Aggregeer tot het hoogst mogelijke niveau. Beperk zoveel mogelijk het detail waarin persoonsgegevens worden verwerkt.
• Bescherm/maak onherleidbaar: Voorkom dat gegevens openbaar worden. Beveilig gegevens. Verbreek waar mogelijk de link tussen personen en gegevens (anonimiseer en pseudonimiseer).
• Informeer: Informeer gebruikers over de verwerking van hun persoonsgegevens.
• Geef controle: Geef gebruikers controle over de verwerking van hun persoonsgegevens.
• Dwing af: Stel een privacybeleid op en dwing dit af met technische en organisatorische middelen.
• Toon aan: dat op een privacyvriendelijke wijze persoonsgegevens worden verwerkt. Verzamel logs, doe audits en rapporteer.

Om een gerichte discussie te kunnen voeren over grondrechten, moeten bovenstaande ontwerpprincipes worden geconfronteerd met privacyregels zoals deze zijn verankerd in de grondwet [11]. In het artikel over privacy staat hier dat iedereen het recht heeft om in de beslotenheid van zijn persoonlijke levenssfeer met rust te worden gelaten en om bijvoorbeeld niet te worden afgeluisterd. De persoonlijke levenssfeer omvat:

• het huis;
• de briefwisseling;
• de communicatie via telefoon en andere communicatiemiddelen;
• het recht om niet te worden bespied of afgeluisterd;
• het recht op zorgvuldige behandeling van persoonlijke gegevens;
• het recht op eerbiediging van het innerlijk leven;
• het recht op eerbiediging van de lichamelijke integriteit.

De opsommingen van een relatief eenvoudig voorbeeld, zoals privacybescherming, laten zien dat het 1-op-1 matchen van ontwerpstrategieën voor technologie met grondrechten van mensen niet gemakkelijk is. Er bestaat een groot grijs gebied – want concrete normering ontbreekt – en er is de nodig ruimte voor interpretatie. Zeker met een ontwikkeling zoals het ‘internet of things’, waarbij veel ‘connected’ apparaten mensen in hun leefomgeving omringen, is het een enorme uitdaging om het spanningsveld tussen digitalisering en grondrechten te beheersen. Welke eisen moeten we hiervoor eigenlijk stellen aan (IT-) professionals? Welke (digital) skills zijn nodig?

Digital skills

Het rapport Doelgericht digitaliseren van het Rathenau Instituut besteedt relatief weinig aandacht aan de vaardigheden van de huidige (IT-) professionals en de digitale vaardigheden van burgers. Het bezitten van de juiste vaardigheden is volgens een rapport van de OECD (Organisatie voor Economische Samenwerking en Ontwikkeling) ‘The Future of Productivity’ [12] een van de belangrijkste bronnen voor een duurzame en inclusieve samenleving. Om te zorgen voor die juiste vaardigheden vermeldt het rapport dat we rekening moeten houden met het feit dat kennisverspreiding niet vanzelfsprekend gebeurt en permanent moet worden geactiveerd. Zowel in een land als tussen landen.

In Nederland is de Koninklijke Nederlandse Vereniging van Informatieprofessionals (KNVI) al lange tijd betrokken bij allerlei initiatieven om de professionaliteit van (IT-) professionals te verhogen. Die ontwikkelingen hebben onder meer geleid tot het European Competence Framework [13], een competentie raamwerk met als doel om (binnen de Europese Unie) eenduidig te kunnen communiceren over skills en competenties in de ICT-sector. Het denkraam maakt het mogelijk om bruggen te slaan tussen digitale vaardigheden en functieomschrijvingen, rollen en opleidingen, doelstellingen van organisaties en daarbij passende competenties. De mening [14] leeft dat in Europa voor verdere professionalisering en bescherming van grondrechten aandacht gegeven moet worden aan opleiding en certificering, ‘body of knowledge’, ethiek en ‘code of conduct’.

Ook wereldwijd zijn activiteiten gestart rondom accreditering en certificering van organisaties van IT-professionals binnen onder andere IFIP en IP3 [15]. De redenen die zij daar noemen het ICT-professionalisme te onderzoeken en uit te bouwen vloeien voort uit en de toenemende alomtegenwoordigheid van ICT en de potentie die het heeft om onze economie en samenleving schade toe te brengen.

In tegenstelling tot de aandacht voor de kwaliteit van de IT-professional is de aandacht voor digitale vaardigheden van gebruikers in Nederland gefragmenteerd en zeker niet structureel in beleid en bedrijfsstrategie opgenomen. Willen we in Nederland optimaal gebruikmaken van digitale mogelijkheden dan kan dat niet zonder vaardigheden bij de gebruiker. Willen we grondrechten eerbiedigen in onze huidige digitale transformatie, dan kunnen we niet zonder aandacht voor de noodzakelijke of juiste digitale vaardigheden en competenties voor ICT-professionals en -gebruikers.

Hoe nu verder?

Een zekere spanning tussen commercieel gedreven digitalisering en bescherming van grondrechten moeten we accepteren. Niet alles wat door technologie verandert is vooraf met regels en/of wetgeving te ondervangen. Des te belangrijker is het dat bouwers van de digitale samenleving zich (meer) bewust zijn van dit spanningsveld. Ze moeten (meer) verantwoordelijkheid nemen voor de keuzes die ze maken in de (dagelijkse) praktijk. Een interessante vraag hierbij is: Moet IT een professie gereguleerd worden zoals de advocaat, de notaris en de arts met een register en permanente educatie?

De KNVI-interessegroepen Onderzoek en Onderwijs en Digital Skills werken nauw samen bij het vraagstuk digitalisering en grondrechten. De interessegroep Onderzoek en Onderwijs stimuleert samenwerkingsverbanden tussen partijen en werkt momenteel aan een voor bouwers praktisch en toegankelijk toetsingsinstrument voor grondrechten. De interessegroep Digital Skills neemt deel aan de initiatieven op Europees en wereldwijd niveau. Daarnaast brengen ze waar mogelijk digitale vaardigheden in als aandachtspunt zowel voor de (IT-) professional als gebruiker.

Leon Dohmen, Joan Baaijens en Liesbeth Ruoff zijn bestuursleden interessegroepen Onderzoek en Onderwijs en Digital Skills van de Koninklijke Nederlandse Vereniging van Informatieprofessionals [16]

[1] L. Kool, E. Dujso en R. Est van, ‘Doelgericht digitaliseren: Hoe Nederland werkt aan een digitale transitie waarin mensen en waarden centraal staan’, Rathenau Instituut, Den Haag, 2018.
[2] L. Kool, J. Timmer, L. Royakkers en R. Est van, ‘Opwaarderen: Borgen van publieke waarden in de digitale samenleving”, Rathenau Instituut, Den Haag, 2017.
[3] L. Dohmen, ‘Positieve en negatieve waardenbelevingen van mobiel IT-gebruik’, Blogit, 13 oktober 2016.
[4] L. Dohmen, ‘Dynamic IT Values and Relationships: A Sociomaterial Perspective’, in Open and Big Data Management and Innovation, Heidelberg, Springer, 2015, pp. 338-353.
[5] Radar, ‘Radar’, AvroTros, 15 oktober 2018.
[6] T. Financieel, AFM: digitalisering vergroot risico’s misbruik, oktober: Telegraaf, 2018.
[7] Tegenlicht, ‘Klik- en kluseconomie’, VPRO, 4 november 2018..
[8] F. Vree van, ‘Digitaal panopticum’, De Groene Amsterdammer, 13 juni 2012.
[9] H. Spiering, Fascinerend boek over hoe wij allemaal in illusies leven, Amsterdam – Den Haag: NRC, 2016.
[10] B. W. Schermer, D. Hagenauw en N. Falot, ‘Handleiding Algemene verordening gegevensbescherming’, ministerie van Justitie en Veiligheid, Den Haag, 2018.
[11] D. N. Grondwet, ‘De Nederlandse Grondwet”, het ministerie van Binnenlandse Zaken en Koninkrijksrelaties, Den Haag, Sinds 1798.
[12] OECD, ‘The Future of Productivity’, OECD Publishing, Paris, 2015.
[13] European Competence Framework, ‘e-CF Overview’, 2014.
[14] NEN, ‘Nieuwe naam voor CEN/TC 428: ICT Professionaliteit en Digitale Vaardigheden’, NEN, 19 juni 2018.
[15] IP3 – the Global Partnership, ‘IP3 – the Global Partnership’, IP3, juli 2013.
[16] Koninklijke Nederlandse Vereniging van Informatieprofessionals, ‘KNVI – Home’, KNVI, 16 november 2018.

tags: , ,

- - - - -

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie.