Hoe weet je of je met de technologie je doelen bereikt? En hoe zorg je ervoor dat technologie ethisch verantwoord wordt ingezet? De lectoraten Moral Design Strategy en Journalistiek en Verantwoorde Innovatie van Fontys Hogeschool ontwikkelden een bordspel om over dit soort zaken eens een goed gesprek met elkaar te voeren: Moral design.
Het bediscussiëren van cases leidt tot nieuwe inzichten en argumenten.
Er is een verschil tussen een digitale stad en een slimme stad. Een digitale stad maakt gretig gebruik van digitale technologie, van data en apps, van AI en sensoren, maar dat maakt de stad nog niet automatisch slim. Daar is meer voor nodig. Want wat is eigenlijk de impact van technologie? Hoe weet je of je met de technologie je doelen bereikt? En wat is de beste manier om de technologie in te zetten(of is het beter om een digitale technologie juist niet te gebruiken?). Bij al die vragen speelt één niet te onderschatten thema een hoofdrol: hoe zorg ik ervoor dat technologie ethisch verantwoord wordt ingezet? Het antwoord op die vraag is zo eenvoudig nog niet. En wie mag eigenlijk bepalen welke morele vraagstukken besproken moeten worden, en wat vervolgens ‘ethisch’ is? Politici, burgers en professionals zijn het hier doorgaans niet over eens.
Het spel: Moral design
In het spel, dat gespeeld wordt met 6-8 spelers, nemen alle deelnemers een personage aan. Bijvoorbeeld wethouder, student, ondernemer of bewoner van een rijke buurt. Vanuit die rol geven ze hun mening over een specifieke case. Denk hierbij aan elektrische scooters, bezorgdrones, het gebruik van data of camera’s met gezichtsherkenning. Hier staan alle cases.
Het spel duurt 1 tot 1,5 uur.
- Ronde 1: Alle deelnemers nemen hun positie in. Op basis van het universele menselijke waardenmodel van Shalom Schwartz formuleert iedereen waarom hij iets wel of geen goed idee vindt. Vervolgens worden pionnen geplaatst op overeenkomstige, individuele waarden.
- Ronde 2: Nu komt het aan op onderhandelen. Kun je andere spelers overtuigen om te bewegen? Of kom jij in beweging?
- Ronde 3: Het spel met powerpunten. Sommige spelers hebben meer macht dan anderen, maar welke coalitie wordt er gesmeed en wat betekent dat voor de uitkomst van de case?
Met het spel worden spelers gedwongen om hun argumenten zorgvuldig en overtuigend te formuleren.
Wetenschappelijke basis
Het spel zoals het er nu ligt, is het resultaat van heel veel spelen met prototypes met steeds verschillende spelers. Zonder de wetenschappelijke basis die onder het spel ligt geweld aan te doen, werd op die manier het spel stap voor stap toegankelijker en speelbaarder gemaakt. Het uitgangspunt was steeds dat iedereen het spel moet kunnen spelen en dat het een echt spel moet zijn. Het moet leuk zijn en er moet gewonnen en verloren kunnen worden.
Ervaringen
Inmiddels is het spel al een flink aantal keer gespeeld in allerlei verschillende settings. Soms met kleine groepen, maar soms ook aan vele tafels tegelijk. De spelers waren wethouders, raadsleden, betrokken inwoners, studenten, ondernemers en ambtenaren. Steeds gaven de spelers aan dat ze het ontzettend leerzaam vonden om in de huid te kruipen van een ander personage. Met het spel werden ze gedwongen om hun argumenten zorgvuldig en overtuigend te formuleren. Dat was vaak moeilijker dan gedacht. Vaak vertelden spelers dat ze wel voelden dat iets heel erg fout of goed was, maar dat ze het lastig vonden om daar de juiste woorden en argumenten bij te vinden. De waardencirkel van Shalom Schwartz hielp daarbij.
Voorbeeld dilemma: sportdata
Het bediscussiëren van de cases leidde tot nieuwe inzichten en argumenten gaven deelnemers na afloop aan. En het was ook gewoon leuk. ‘De tijd vloog voorbij,’ is een opmerking die we vaak tegenkwamen in de evaluaties.
Je kunt het spel op allerlei manieren spelen. Veel mensen kopen het spel en spelen het met de meegeleverde handleiding. Het heeft echter grote voordelen om te spelen met een moderator. Dit is iemand die het spel al veel vaker heeft gespeeld en kan helpen bij het begeleiden van de gesprekken en de flow van het spel.
Onderzoek
Het spel is een product van twee onderzoeksgroepen binnen Fontys, maar de resultaten van het spel zelf kunnen in de toekomst ook onderwerp van onderzoek worden. In het spel worden deelnemers opgeroepen na elke ronde een foto te maken van het speelbord en de voorwaarden te noteren. Samen geven deze foto’s en voorwaarden inzicht in het gesprek en de resultaten. Wat waren de initiële uitgangspunten? Hoe succesvol is er onderhandeld? Welke voorwaarden werden er gesteld? En, wat gaf uiteindelijk de doorslag? De foto’s en genoteerde voorwaarden kunnen worden geüpload.
De onderzoeksdata kan gebruikt worden voor inzichten in techno-ethische besluitvorming in de stad.
Het bord is geprepareerd om die gegevens te vertalen in een geautomatiseerd verslag en mogelijk in de toekomst in onderzoeksdata die gebruikt kan worden voor inzichten in techno-ethische besluitvorming in de stad. Op deze manier kunnen de betrokken onderzoekers zien welke waarden aanvankelijk conflicteren in een techno-ethische casus, wat de waardentransitie was tijdens het spelverloop, en hoe zich dat verhoudt tot vergelijkbare spelmomenten elders. Wat hiervan te leren valt is enerzijds begrip van waardenconflicten, maar ook mogelijke denkrichtingen om beter om te gaan met deze waardenconflicten.
Voorbeeld
Stel dat veel discussie rondom de inzet van drones in de binnenstad gaat over zorgen rondom privacy versus positieve effecten rondom duurzaamheid en toegankelijkheid. Wanneer in de onderhandelingen vaste vliegroutes boven bestaande infrastructuur in uitsluitend de openbare ruimte de privacy-zorgen grotendeels kunnen wegnemen, en de positieve effecten vervolgens veel breder onderschreven worden, dan geeft dat belangrijke design-input voor zowel bestuurders die hier beleid op moeten gaan maken, als drone-ontwikkelaars die zoeken naar schaalbare businessmodellen in de binnenstad.
Toekomst
We zijn pas net begonnen. We zijn van plan om het spel bij zoveel mogelijk gemeentes uit te zetten of zelf te spelen. De opgedane ervaringen zullen we vertalen in een tweede versie, wellicht met andere of meer personages en cases. Daarnaast denken we erover om andere varianten te maken. Het huidige spel is ontworpen voor het bespreken van morele vraagstukken in de stad. Echter, er zijn plannen om dat uit te breiden naar andere sectoren. Met andere personagekaarten en cases kunnen ook techno-ethische vraagstukken worden gespeeld in het onderwijs, de zorg, bij de provincie of in het bedrijfsleven. Ook wordt er gedacht over een Engelstalige versie.
Ook het spel spelen?
Er zijn verschillende manieren waarop het spel gespeeld kan worden. Je kunt een spel kopen en gewoon gaan spelen. Je kunt een moderatortraining afnemen, waarbij we het spel intensief spelen met 6-8 spelers, die daarna het spel overal kunnen spelen in de eigen organisatie. Of je kunt besluiten tot een spellendagdeel. In dat geval verzorgen we vanuit het lectoraat een presentatie en leveren we moderators voor maximaal 6 tafels waaraan gelijktijdig het spel gespeeld wordt.
Klik HIER voor meer informatie over de mogelijkheden
Rens van der Vorst is docentonderzoeker bij Fontys Hogeschool
Bart Wernaart is professor Moral Design Strategy bij Fontys Hogeschool
