Mensen hebben recht op beschaafde digitalisering
De vraag is niet of we digitalisering van onze samenleving willen, maar hoe beschaafd we het willen! Doen bedrijven en (semi)publieke instanties dit niet uit eigen beweging dan zal (toekomstige) wetgeving dit afdwingen. Mensen hebben recht op beschaafde digitalisering. Het spel ‘Moral Design Game’ is een uitstekend hulpmiddel bij het identificeren en prioriteren van waarden op een ethisch verantwoorde wijze.
Ondanks zorgplicht, lezen we regelmatig over laakbaar gedrag en handelen van bedrijven en instanties waaronder machtsmisbruik, het inbouwen van verslavingstechnieken in apps, profilering en discriminatie, misbruik van persoonsgegevens en slechte toegankelijkheid van apps en websites voor mensen met een audiovisuele beperking. Deze hebben ethiek tot een essentieel onderwerp gemaakt bij het bouwen van apps (en websites). Ethiek betekent kritisch nadenken door engineers en professionals over de bedoeling van een app. Hierbij hoort ook het nadenken over en zich bewust zijn van welke (ongewenste) schade deze app kan veroorzaken en hoe dit is te voorkomen of te beperken.
Ethiek begint bij het identificeren van welke waarden van belang zijn voor een nieuw te bouwen app. Dit gebeurt al tijdens de analysefase van het systeemontwikkelingsproces of zogenoemde Sprint 0 als een agile werkwijze wordt toegepast.
‘Moral Design Game’
Een instrument dat tijdens deze fase prima helpt met het identificeren en prioriteren van waardebelevingen is de ‘Moral Design Game’. Het bordspel is ontworpen door Fontys Hogeschool en daagt de spelers uit om na te denken over techno-ethische kwesties.
Het spel wordt gespeeld door functionarissen en vertegenwoordigers van de bouwer en belangengroepen. Er wordt vanuit het perspectief van de verschillende rollen en functies gediscussieerd en onderhandeld welke waarden het belangrijkste zijn voor een app. In een aantal speelrondes ontstaat een set van waarden en prioritering ervan inclusief voorwaarden en uitgangspunten. In ongeveer 1½ tot 2 uren speeltijd helpt het spel om te achterhalen welke waarden het belangrijkste zijn. Deze waarden kunnen dan als uitgangspunt dienen voor het vaststellen van (ethisch verantwoorde) architectuur- en ontwerpprincipes. Een uitkomst van het spel kan ook zijn dat het beste is om een app niet te bouwen omdat het risico op schade voor gebruikers te groot wordt bevonden.
Lastige dilemma’s
Ethisch handelen kan evengoed zorgen voor lastige dilemma’s en het maken van moeilijke keuzes. Neem bijvoorbeeld de CoronaCheck-app. In de prioritering van waarden werd privacybescherming belangrijker gevonden dan fraudebestrijding. Dit maakte het bestrijden van valse QR-codes een stuk lastiger. QR-codes werden gebruikt om te controleren of een persoon een vaccinatie had gehad, een negatieve test kon voorleggen of hersteld was van Corona.
De uit het spel voortkomende, op waardebelevingen gebaseerde, architectuur- en ontwerpprincipes zijn vervolgens in de ontwikkel- en bouwfase aan te sluiten op (internationale) standaarden, richtlijnen en normenkaders. Voorbeelden zijn: Web Content Accessibility Guidelines (toegankelijkheid); ISO27001 (veiligheid); Standard for Data Privacy Process (privacy); Standard for Algoritmic Bias Considerations (rechtvaardigheid); Sociale Digitale Standaard (waardigheid); De Digitale Spoelkeuken (o.a. privacy, veiligheid van gegevens) et cetera. De hierin opgenomen normen en criteria zijn ook als controlelijst, toetsing en evaluatie te gebruiken bij het testen en in productie nemen van een app (of website). Een (nieuwe) ontwerpbenadering zoals humanity by design omvat een complete leidraad om te komen tot ethisch verantwoorde apps (en websites) die de fundamentele rechten van de individuele mens als eindgebruiker centraal stelt. Dit betekent dat technologieën en systemen worden ontworpen op een manier die rechten en waarden van mensen respecteren en hun welzijn voorop stelt. Zo biedt de (toekomstige) AI-verordening een controlelijst die uitgaat van grondrechten van mensen. Bij de AI-verordening krijgen apps met de classificatie ‘Hoog Risico’ te maken met het verkrijgen van een keurmerk voordat deze worden vrijgegeven voor gebruik.
Beschaafde digitalisering
Apps die zowel het economisch perspectief als ethisch perspectief verbinden zijn een noodzakelijke vereiste voor beschaafde digitalisering. Dit leidt tot digitaliseringsproducten en diensten die aan ene kant waarde en nut opleveren en aan de andere kant het risico op misbruik, uitsluiting en schending zo klein mogelijk maken of elimineren.
Lees ook:
