De tijd dat we alleen maar de goede kant van digitale technologie zagen is voorbij, zegt Jeroen van den Hoven, professor aan de TU Delft en wetenschappelijk directeur van het Delft Design for Values Institute. “Dit is het moment om de grote, digitale opgaven volwassen aan te pakken en publieke waarden in onze systemen te verankeren.”
Jeroen van den Hoven (TU Delft): “De naïviteit van de afgelopen dertig jaar, waarin we van technologie naar technologie holden en alleen de spannende dingen zagen, is wel voorbij.” | Beeld: Arneda Oomen
Alles om ons heen is ontworpen. En in al die ontwerpen zitten waarden en sturing, “gestolde keuzes van mensen”, vertelt Van den Hoven. Hij pleit ervoor om dit gegeven ten goede te gebruiken, zodat waarden op een transparante en systematische manier worden verwerkt in wat wij gebruiken in ons werk en leven. Hij noemt het ontwerpen vanuit waarden “de uitdaging van de 21e eeuw” en pleit ervoor om publieke waarden al vanaf het eerste begin mee te nemen in elk ontwerp. “Laten we gaan werken met morele specificaties, met ethische requirements.”
Hoe zorg je ervoor dat publieke waarden effectief worden geborgd in software?
Publieke waarden liggen vast in de Grondwet, in internationale verdragen over fundamentele rechten en uiteindelijk in wetten zoals de AVG. Op bestuurlijk en ambtelijk niveau zijn deze vertaald en aangevuld in talloze position papers, principes en plannen zoals de Digibeter-agenda. Soms worden ze aangescherpt in het publieke debat. Aan de kant van softwaredesign wordt gewerkt met methodes en werkwijzes die waarden zoals privacy in software borgen. De grote vraag is hoe je deze twee werelden samenbrengt. Hoe zorg je ervoor dat publieke waarden effectief worden geborgd in software? Zodat met het gebruik van digitale systemen publieke waarden worden gerespecteerd of, beter nog, versterkt? Met andere woorden: hoe vertaal je publieke waarden naar morele specificaties? “Dat is best lastig. Maar het kan. Door dit onderwerp een vast onderdeel te maken van elke organisatie. In de aanbesteding, de architectuurfase, het programma van eisen en in de gebruikte software engineering methodologie. De Amerikaanse Engineering organisatie IEEE lanceerde onlangs een nieuwe 7000 standaard voor incorporatie van ethische overwegingen in het systeemontwerp. En er staat nog meer op stapel. De WHO adopteerde deze ontwerpbenadering in haar global report 2021 over de ethiek van AI in de gezondheidszorg.”
De menselijke maat
Aan het begin van elk ontwikkelproces zou je duidelijke keuzes moeten maken over welke waarden in software en in systemen geborgd moeten worden, zegt Van den Hoven. Waarden zoals privacy, democratie en ook brede waarden zoals ‘de menselijke maat’, respect voor personen en menselijke waardigheid. “Op dit moment heeft de overheid het veel over de menselijke maat, als reactie op de kindertoeslagaffaire. Maar wat is dat, de menselijke maat? Hoe implementeer je dat? Dat moet je eerst helder hebben als je dit een belangrijke waarde vindt die verankerd moet worden in het systeem dat je maakt.” Dit soort afwegingen en vragen zouden een structureel onderdeel moeten zijn in organisaties en in relevante processen, bepleit Van den Hoven: “Niemand zal zeggen dat privacy of de menselijke maat niet belangrijk zijn, maar je moet het serieus nemen en vertalen naar de praktijk. Dit is niet iets dat je eens per jaar of maand bespreekt, dit hoort elke maandagochtend op de agenda van het managementteam. En dan verslag maken van deze bespreking en erop toezien dat wordt geïmplementeerd wat er is afgesproken.”
Een kans voor innovatie
Als je vanuit waarden ontwerpt, dan kunnen in een ontwerp meerdere waarden worden verenigd en elkaar zelfs versterken, zegt Van den Hoven. “Het is moeilijk om op deze manier te ontwerpen, maar tegelijkertijd worden ontwerpen er vaak beter van. Ook als het om waarden gaat die tegenstrijdig lijken. Juist dan kan er een spanning ontstaan waaruit nieuwe ideeën voortkomen waarmee je meerdere waarden bedient. Schrik dus niet terug voor het werken vanuit waarden in je ontwerp, want ze bieden een kans voor innovatie.” Publieke waarden en digitale ethiek zijn dynamisch, je zult dus moeten blijven herzien en herijken, zegt hij ook.
Wat is de menselijke maat? Hoe implementeer je dat? Dat moet je eerst helder hebben.
Van den Hoven benadrukt dat je je niet blind moet staren op de software alleen: “Het gaat om het gehele socio-technische systeem, software, hardware, mensen en incentive structuren, toezicht, afsprakenstelsels, wetgeving en checks & balances. Kijk naar kernenergie, daar gaat het ook niet alleen om het reactorvat, maar om het gehele systeem: de veiligheidsvoorschriften, regelgeving, controles, adequaat opgeleide mensen. Dat geheel van goed geïntegreerde elementen bepaalt of een reactor veilig is. Hetzelfde geldt voor onze digitale systemen. We zijn nog niet gewend om op deze manier naar digitale technologie te kijken, maar langzaamaan zie je het besef doorbreken dat dat wel nodig is. Kijk naar de nieuwe regelgeving over AI die er vanuit Europa aankomt. Of wat eerder gebeurde met privacy en de AVG. Dit soort regelgeving maakt dat er wordt gebouwd aan een stelsel van afspraken, rollen en processen rondom de inzet van technologie.”
De naïviteit voorbij
Van den Hoven roept bestuurders op om actief aan de slag te gaan met verantwoorde innovatie. “De naïviteit van de afgelopen dertig jaar, waarin we van technologie naar technologie holden en alleen de spannende dingen zagen, is wel voorbij. We hebben inmiddels door dat er nadelen kleven aan digitale innovaties. Ik denk dat de tijd rijp is dat we vooropstellen dat technologie moet worden gebruikt op een manier die onze publieke waarden borgt. We staan voor grote, infrastructurele digitale opgaven, laten we daar volwassen mee omgaan. Door elke keer weloverwogen een nieuw stuk van het systeem te bouwen, waarin publieke waarden op de best mogelijk manier tot uitdrukking komen.”
Waardenbewust ontwerpen bij ICTU
Een masterclass waardenbewust ontwerpen wordt een onderdeel van het curriculum dat ICTU aan haar medewerkers aanbiedt. Het onderwerp is relevant voor softwareontwikkelaars, designers, architecten, projectleiders en programmamanagers, die vanuit ICTU werken aan de digitale transformatie van de overheid. De masterclass is ontwikkeld door de TU Delft en start dit voorjaar.
ICTU houdt zich al jaren bezig met de ethische aspecten van digitale technologie. Zo is Gebruiker Centraal ooit opgericht om publieke waarden in dienstverlening te borgen. En er is in het project Discipl, waarin ICTU technologie voor de samenleving van de toekomst onderzoekt, veel aandacht voor de menselijke maat. De uitbreiding van het opleidingsaanbod van ICTU met de masterclass over waardenbewust ontwerpen, past hierbij. Niet alleen wil ICTU hiermee de bewustwording over dit onderwerp versterken, ook wil het concrete instrumenten en ‘good practices’ aanbieden om in het ontwerpproces mee aan de slag te gaan
