De ethificering van govtech

Steeds meer start-ups en scale-ups ontwikkelen onder het label govtech digitale oplossingen voor overheden. Beleidsmakers zien hierin kansen om tegenwicht te bieden aan Big Tech. Nitesh Bharosa, hoogleraar GovTech aan de TU Delft waarschuwt waakzaam te zijn. Wie is straks waarvoor verantwoordelijk?

Wie het nieuws aanzet kan er niet omheen: we leven in een tijdperk van grote maatschappelijke opgaven: tekorten op de arbeidsmarkt, de energie­transitie, schulden en de gebrekkige compensatie rond de toeslagenaffaire, opvang asielzoekers en Groningen. Publieke organisaties worstelen met deze opgaven en kijken naar de mogelijkheden die digitale oplossingen bieden.

Steeds meer start-ups en scale-ups demonstreren onder het label govtech digitale oplossingen voor de publieke sector. Denk aan arbeidsbesparende technologieën zoals AI-gedreven assistenten, data wallets en digital twins. Dit zien we niet alleen in Nederland; de markt van govtech-oplossingen op Europees niveau groeit zo hard dat er intussen intermediairs zijn die databases bijhouden en aanbieden aan investeerders en mogelijke publieke inkopers.

Tegenwicht bieden aan Big Tech

Europese beleidsmakers zien met de kleine start-ups en scale-ups achter govtech ook een kans om tegenwicht te bieden tegen verdergaande monopolisering door Big Tech. Dit zou de digitale soevereiniteit van Europa verstevigen. Recentelijk zijn twee grote govtech-programma’s gestart in de EU: GovTech4All en GovTech Connect. Allemaal wind in de zeilen voor govtech incubators, accelerators, pilots en experimenten. Het is niet vreemd dat govtech zoveel momentum krijgt. Het biedt een behoorlijke verdienpotentie dankzij geharmoniseerde EU-regelgeving: de data wallet uit Nederland kan ook worden aangeboden in Spanje.

Zo bestaat een data wallet uit onder meer een digitale identiteit, user interface, algoritmes, functionaliteiten, API’s en verschillende publieke en private databronnen, die weer gevoed worden door allerlei andere registraties en algoritmes. En het is zeker niet zo dat alles precies in elkaar past en met elkaar praat. Interoperabiliteit en datakwaliteit zijn geen gegeven. Er is geen grand design en geen enkele partij heeft een integrale verantwoordelijkheid voor de som der delen. Wie is er waarvoor verantwoordelijk? Wat als de burger, op advies van het algoritme een aanvraag doet, op basis van verkeerd geconverteerde data? Wat voor checks en controls zitten er in dat proces en is aan de condities voldaan dat de mensen die checks en controls ook kunnen uitvoeren? Hoe nemen we burgers daarin mee? Wat voor verantwoordelijkheid verwachten we van publieke organisaties die deze oplossingen toestaan of zelfs een deel van de data aanbieden?”

Als publieke en private organisaties elk verantwoordelijk zijn voor een functionele component of een deel van de data, ontstaan automatisch gaten in de verdeling van verantwoordelijkheid om te voorkomen dat mensen in de problemen komen. Politici en ingenieurs realiseren zich steeds meer dat morele en publieke waarden belangrijk zijn bij de ontwikkeling van technologische artefacten. Nadenken over waarden is niet genoeg, we moeten proberen ‘voor te denken’ en te ontwerpen voor de juiste conceptualisering van deze waarden. We kunnen niet verantwoordelijk ontwerpen, innoveren en technologie vormgeven in overeenstemming met onze morele waarden, zonder een systematische en continue ‘conceptual engineering’. Wat betekent ‘menselijke maat’ en ‘respect voor de burger’, Er zijn tientallen definities van democratie. Als we gaan experimenteren met digitale democratie, dan zullen we gerechtvaardigd keuzen moeten maken. Wat staat centraal? Information, contestation, deliberation, delegation, respresentation? Dit betekent dat we morele waarden moeten opvatten als ‘requiremenst’ en ze moeten voegen bij de functionele en kwaliteits­eisen die we aan govtech stellen. Dit is niet alleen een academische of theoretische kwestie, het is ook niet alleen een kwestie voor het overheidsbeleid of de politiek, of toezichthouders, het is een centraal probleem geworden in de wereld van govtech. En dat is waar Digicampus en de Delft Digital Ethics Centre elkaar versterken

Dankzij de samenwerking met Delft Digital Ethics Centre brengen we wetenschappelijke kennis en methoden op het gebied van ‘designing for values’ vanaf het begin in bij innovatietrajecten. Zo werken we aan systematische en continue ‘conceptual engineering’ op govtech”.

Van den Hoven: “Digicampus biedt een plek waar de verschillende partijen vooraf, al in de ontwerpfase, kunnen werken aan de vertaling van abstracte concepten zoals privacy en transparantie, accountability in termen van requirements. Dit is een belangrijke stap die je actief moet stimuleren, want het gaat niet vanzelf”.

Promotieonderzoek

Een belangrijk onderdeel van de samenwerking is dat er kennisontwikkeling en kennisdeling plaatsvindt via promotie­onderzoek. Zo wordt onderzoek gedaan naar het ontwerpen voor verantwoordelijkheid, in complexe data en AI-ecosystemen, zodat actoren al in de ontwerpfase worden gestimuleerd om de gevolgen in de keten te verkennen en de condities in te vullen waardoor actoren hun verantwoordelijkheid kunnen nemen.

Bharosa ziet veel meerwaarde in deze combinatie en noemt dit ook wel ‘de ethificering van GovTech’. Door het met elkaar nadenken over zingeving en vormgeving van publieke waarden in de ontwerpfase voorkomen we dat we later moeten bijsturen met complexe wet- en regelgeving. Hiermee scheppen we de voorwaarden voor het ontwikkelen van verantwoorde govtech-oplossingen.

Dit artikel werd ook gepubliceerd in iBestuur Magazine #47 van juni 2023