Bij het ontwikkelen, gebruiken van en omgaan met ICT-systemen zijn waarden van organisaties, individuen, maar ook van de samenleving als geheel aan de orde. Het bezig zijn met morele waarden en overtuigingen betekent bewust vragen stellen bij het omgaan met de technologische ontwikkelingen en de mogelijkheden die zich voordoen als gevolg daarvan.
Beeld: Shutterstock
Techniek is niet neutraal. Ook ICT niet. In elk IT-systeem zit iets van de opdrachtgever, de ontwerper en de programmeur. In elk IT-systeem worden keuzes gemaakt die de gebruiker van het systeem onwillekeurig beïnvloeden. De wijze waarop zaken worden gepresenteerd en het gemak waarmee iets kan, bepalen deels hoe gebruikers reageren. Denk maar aan de verplichte vraag om cookies te accepteren. De default optie, die het meest nadrukkelijk als keuze aanwezig is, is om alles toe te staan. Wil je als gebruiker de minimale variant selecteren, dan moet je vaak een aantal schermen dieper zijn. De digitalisering maakt de impact van technologie alleen maar groter. Toenemend gebruiksgemak door mobiele apps veranderen het gedrag van mensen. Algoritmes die op basis van big data beslissen of een sollicitant op gesprek wordt uitgenodigd of onder welke voorwaarden iemand een verzekering krijgt, hebben alles te maken met de in- en uitsluiting van personen. Een mooi boek dat dit laat zien is Weapons of math destruction van Cathy O’Neil. De impact wordt alsmaar groter, omdat enerzijds er steeds meer kan met ICT en anderzijds de impact potentieel wereldwijd is.
Reden genoeg voor bestuurders, managers en professionals om stil te staan bij de ethische impact die hun handelen, maar ook hun houding heeft. Met name als er technologie in het geding is. Vaak gaat het daarbij over rechtvaardigheid, hoe dat eruit ziet en past in de dagelijkse realiteit en op de werkvloer. Bij het ontwikkelen, gebruiken van en omgaan met ICT-systemen zijn waarden van organisaties, individuen, maar ook van de samenleving als geheel aan de orde. Dat maakt het vraagstuk complex en veranderlijk. Het gaat daarbij niet alleen om rechtvaardigheid, maar ook om andere kernwaarden als autonomie, privacy, identiteit en vertrouwen.
Rechtdoen aan waarden
Bezig zijn met morele waarden en overtuigingen betekent bewust vragen stellen bij het omgaan met de technologische ontwikkelingen en de mogelijkheden die zich voordoen als gevolg daarvan. Wat is een moreel juiste manier van handelen en beslissen? Hoe ziet dat er concreet uit in het werken en samenwerken met ICT-toepassingen en het organiseren van processen? Deze vragen impliceren dat we stilstaan bij de totstandkoming van beleid en van beslissingen bij het ontwerpen en toepassen van ICT-systemen. Nadenken over goed en kwaad en de diepere betekenis van kernwaarden wordt hiermee een expliciet onderwerp van gesprek, in plaats van een veronderstelde vanzelfsprekendheid op grond van aannames en vooronderstellingen. Achter eerdere keuzes en beslissingen gaan, zoals we gezien hebben, ook impliciete overtuigingen schuil. Deze hebben impact op de dagelijkse realiteit waarin we samenwerken, leven en op basis van technologie, maar ook op basis van recht en rechtsregels, verwachtingen hebben van elkaar en van informatiesystemen. We kunnen het ons niet langer veroorloven om deze impact impliciet te laten.
Onze identiteit stroomt tegenwoordig door allerlei systemen
Het spel is echter niet zo simpel. Veel meer dan vroeger zijn systemen aan elkaar gekoppeld en geeft het netwerk dat is ontstaan al dan niet grip op de werkelijkheid. Onze identiteit stroomt tegenwoordig door allerlei systemen. Alles tezamen wordt er een digitaal netwerk gevormd, waar we onderdeel van zijn en tegelijkertijd maar in beperkte mate zeggenschap over hebben en zicht op hebben. De verantwoordelijkheid voor deze stromen van persoonsgegevens, maar ook van andere informatie, ligt dus tegelijkertijd bij verschillende instanties, organisaties, commerciële partijen en individuen. Gegevensuitwisseling heeft voor al deze spelers een andere doelstelling of motief en gebeurt bovendien tijd- en plaatsonafhankelijk. Enerzijds hebben we te maken met een individuele verantwoordelijkheid en anderzijds met een gezamenlijke. Gezamenlijke verantwoordelijkheid neemt onze individuele verantwoordelijkheid niet weg, maar de twee varianten kunnen wel kleur aan elkaar geven. Ethiek beoefenen, betekent het vinden van een weg hierin.
Het voorgaande betekent zowel vooruitkijken aan de start van een project of innovatie, zoals met ‘ethics by design’, als achteraf reflecteren op het geheel. Ethiek kan ons hierbij helpen: de gevolgenethiek laat ons nadenken over de consequenties van onze keuzen, de plichtethiek over onze normen en de deugdethiek over onze houding als persoon. Kern hierbij is dat we nadenken bij het maken van keuzen over hoe we recht kunnen doen aan de waarden van de direct en indirect betrokkenen. Dit laatste kan alleen als we het gesprek aangaan, want alleen zij kunnen de beleving van hun eigen waarden en hun overtuigingen aangeven. Een benadering als ‘Value Sensitive Design’ geeft hierbij bruikbare handvatten, omdat in het ontwerpproces van een product de sociale en morele overwegingen een plaats krijgen. De achterliggende menselijke waarden worden hierbij erkend en meegenomen.
Samengevat kunnen de onderstaande stappen helpen bij het organiseren van ethiek in IT-projecten en recht doen aan de overtuigingen van stakeholders en het implementeren van moraal in input- en beslismomenten:
1. Het in kaart brengen van zowel directe als indirecte stakeholders;
2. Het inventariseren van de verschillende belangen, waarden en morele overtuigingen van deze stakeholders;
3. Het analyseren hoe dit in de ICT-oplossing kan worden meegenomen en met name waar de spanningen zitten;
4. Het nadenken over de mogelijke onbedoelde effecten, bijvoorbeeld bij gebruik door andere doelgroepen of inzet voor andere doeleinden;
5. Het serieus zoeken naar alternatieven als kernwaarden in het gedrang komen.
Ethiek toevoegen aan belangen
Terug naar ieders dagelijkse realiteit. Neem het voorbeeld van gepersonaliseerde advertenties op basis van big data. Hiervoor verzamelen bedrijven data van hun klanten. Zolang dat alleen gebruikt wordt voor het aanbieden van passende producten uit het eigen assortiment, is de impact relatief gering. Hooguit dat iemand een keer iets koopt dat hij of zij eigenlijk niet nodig heeft. Zodra deze data verkocht worden aan andere bedrijven, komt de privacy van individuen al veel meer in het geding en wordt de impact al groter: het risico ontstaat dat het blikveld van individuen wordt vernauwd, omdat ze alleen nog zien wat past bij hun wereldbeeld en leefstijl. Worden dezelfde technieken gebruikt om tijdens een referendum het stemgedrag van burgers gericht te beïnvloeden, dan explodeert de impact opeens en kan zomaar de economie en het vrije verkeer van een heel werelddeel worden geraakt. Wij hebben kortom als bestuurders, managers en professionals, zowel in de privé als in de werksfeer, elke dag bewust en onbewust te maken met beslissingen omtrent privacy, digitalisering en ICT waarbij ethiek een cruciale rol speelt. Het gaat immers om de achterliggende overtuigingen bij beslissen, zowel ten aanzien van onze handelingen als van onze houding. Er staat ons hieromtrent nog heel wat te ontdekken en delen de komende tijd. Want niemand kan het alleen.
Meer weten?
Hogeschool Utrecht verzorgt een 7-daagse masterclass Ethiek in de digitale wereld.
Leestips
– Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy – Cathy O’Neil
– Basisboek ethiek – Martin van Hees, Thomas Nys, Ingrid Robeyns
– Ethical IT Innovation – Sarah Spiekermann
– Het EPD: in de schaduw van het dossier – Petra van Driel
Petra van Driel is jurist en onderzoeker, verbonden als docent aan Hogeschool Utrecht. Marlies van Steenbergen is lector Digital Smart Services aan de Hogeschool Utrecht, principal consultant enterprise architectuur Sogeti
