Tada – Duidelijk over data

Op het Centraal Station van Amsterdam wacht een reiziger op zijn trein. Argeloos staart hij naar een billboard waarop een reclame voor een nieuw drankje te zien is. Wat hij niet weet is dat het billboard ook naar hem kijkt. Een ingebouwde sensor analyseert nauwkeurig leeftijd, geslacht en gemoedstoestand van de reiziger om vervolgens razendsnel een passende, nieuwe advertentie te tonen.

Wat ooit verre toekomstmuziek leek, wordt stukje bij beetje realiteit. De beloften van sensoring en andere nieuwe technologieën zijn groot. En niet alleen voor bedrijven: ze kunnen ook onze steden groener en leefbaarder maken, de gezondheidszorg effectiever en het onderwijs toegankelijker. Maar naast grote beloften zijn er ook grote vragen. Profiteert iedereen evenredig van de digitale revolutie? Wat gebeurt er met de data van bijvoorbeeld de sensoren in reclameborden? En van wie is die data? Wie ontwikkelt de algoritmen die al deze data inzichtelijk maken? En welke verantwoordelijkheid hoort daarbij en voor wie?

Tada!

In de afgelopen maanden is een diverse groep professionals, op uitnodiging van Amsterdam Economic Board, met deze vragen aan de slag gegaan. De uitkomst is het manifest ‘Tada – Duidelijk over data’, waarin waarden staan opgenomen die volgens de grondleggers zouden moeten gelden in digitaal verantwoorde steden. Dinsdag 31 oktober 2017 werd het manifest gelanceerd.

In Amsterdam Economic Board werken overheden, bedrijven en kennisinstellingen samen aan de uitdagingen van de metropoolregio Amsterdam. Samen met de gemeente Amsterdam en Waag Society roept de Board nu bedrijven, overheden en andere organisaties op die actief zijn in snel digitaliserende steden, het manifest te ondertekenen en om maatregelen te nemen. Hiermee wordt volgens de initiatiefnemers de ontwikkeling naar een ‘verantwoorde digitale stad’ versneld.

“Data dreigen steeds meer in de hoek te komen van controle en argwaan”, zegt Willem Koeman, business connector Digitale Connectiviteit bij Amsterdam Economic Board. “Wij draaien het om. Transparantie, privacy, verantwoording, eigendom, beheersbaarheid en ethiek kunnen volgens ons kansrijke uitgangspunten zijn voor het ontwerp van een verantwoorde digitale stad.”

‘Data dreigen steeds meer in de hoek te komen van controle en argwaan’

De waarden die volgens de grondleggers van het manifest in elke digitale stad moeten gelden zijn: iedereen doet mee, we hanteren de menselijke maat, mensen hebben zeggenschap over wat er met hun digitale gegevens gebeurt, organisaties zijn transparant over de data die ze verzamelen en wat ze ermee doen, maatschappelijke legitimiteit is het uitgangspunt en data uit de stad bezitten en beheren we samen.

Ook worden er alvast enkele suggesties gedaan voor concrete maatregelen. ‘Maak individuen met behulp van onderwijs en trainingen weerbaarder in de digitale wereld’ is er bijvoorbeeld eentje, ‘pas ethics bij design toe’ een andere. “Het manifest is een levend document”, legt Koeman uit. “Het is niet uit steen gehouwen en je kunt er als stad of bedrijf je eigen draai aan geven. Wij willen vooral dat alle partijen die zich in een stad met data bezighouden, gaan nadenken over hun digitale rol en daarvoor verantwoordelijkheid nemen.”

Input uit de stad

Om er een breed gedragen document van te maken, schreef Amsterdam Economic Board het manifest niet alleen. Filosofen, ethici, werkgevers, overheden, serviceproviders, kennisinstellingen en technologiepartners uit de regio kregen een uitnodiging om in drie sessies (‘Designing digital responsible cities’) mee te denken over de inhoud van het manifest. De sessies werden ingeleid door sprekers als techniekfilosoof Esther Keymolen en Gerd Kortuem, hoogleraar Internet of Things aan de TU Delft.

Keymolen vertelde bij de eerste sessie over de relatie tussen vertrouwen en technologie. “Vertrouwen is een strategie die mensen aanwenden om met onzekerheden om te gaan.” Nu technologie steeds actiever en proactiever wordt, wordt dat vertrouwen steeds belangrijker. Interpersoonlijk systeemvertrouwen, noemt Keymolen het, en daarvoor zijn vier c’s belangrijk: context, curatie, codificatie en constructie. “De meeste gebruikers baseren hun vertrouwen alleen op de eerste c, die gaat over gebruiksgemak”, zei Keymolen. Dat komt volgens de techniekfilosoof doordat die andere 3 c’s vaak een blackbox zijn. De uitdaging is om gebruikers niet alleen over die eerste c te laten nadenken, maar ook over de drie andere c’s. “Er wordt nu vertrouwen gegeven aan een systeem of applicatie op de verkeerde gronden: het ziet er mooi uit en het werkt. Dat er over die andere 3 c’s niet wordt nagedacht is niet alleen slecht voor mij als klant, maar ook voor de bedrijven en overheden. Die denken dat ze een vertrouwensmandaat hebben gekregen, maar feitelijk is dat niet zo.”

De rol van de overheid

Idealiter werken overheid, bedrijven, bewoners en maatschappelijke organisaties samen aan een verantwoorde digitale stad. Maar wat kan de overheid als speler vanuit zijn eigen kracht betekenen in de door Keymolen geschetste uitdaging?

In ‘De platformsamenleving. Strijd om publieke waarden in een online wereld’ van José van Dijck, Thomas Poell en Martijn de Waal staat geschreven dat de overheid ten minste drie afzonderlijke rollen speelt. De overheid en publieke instituties zijn in de eerste plaats gebruikers van digitale producten en diensten. Maar de overheid heeft daarnaast de bijzondere positie ook regulator te zijn, met een overkoepelende verantwoordelijkheid voor het publieke domein; zij kan in die rol zowel zaken aan banden leggen als stimuleren. Tenslotte kan de overheid ook zelf optreden als ontwikkelaar van platformen.

De overheid als gebruiker

Als gebruiker heeft een overheidsinstantie een voorbeeldfunctie. Als overheidsinstellingen technologieën kiezen, worden ze geacht deze keuze te toetsen aan de publieke waarden die ze uitdragen, zoals autonomie of keuzevrijheid, vertellen de de auteurs. “Het manifest biedt de overheid in deze rol een richting bij het maken van de juiste keuzes”, zegt Koeman.

Maar het maken van die keuzes is moeilijker dan het lijkt. Als een school met zijn ouders en leerlingen wil communiceren, dan zijn platformen als Facebook en WhatsApp niet meer weg te denken. Maar hoeveel zeggenschap heeft een school dan nog over deze data? Koeman: “De waarden uit ons manifest zijn niet vanzelfsprekend verankerd in de algoritmes en verdienmodellen van deze platformen. De komende jaren is het noodzakelijk dat publieke organisaties hier volop aandacht aan schenken en in de eigen gelederen genoeg capaciteiten ontwikkelen om hiermee om te gaan.”

De overheid als regulator

De overheid kan ontwikkelingen van nieuwe digitale innovaties reguleren door bepaalde voorwaarden te stellen aan veiligheid en privacy van technologische toepassingen. Maar ook dit is volgens de schrijvers van ‘De platformsamenleving’ moeilijker dan het lijkt. Ze illustreren hun uitspraak met de Gezondheidsraad, die ‘stelde in 2015 [dat er] een keurmerk voor health apps moet komen, omdat van vele applicaties onduidelijk is of ze betrouwbare of zinvolle metingen verrichten. Maar hoe ziet zo’n keurmerk eruit en welke publieke belangen worden hierin geborgd? Alleen veiligheid en betrouwbaarheid, of ook individuele privacy en het gebruik van collectieve geaggregeerde data?’

‘In de ontwikkeling van software binnen overheden moet een grote slag worden gemaakt’

Naast het stellen van bepaalde voorwaarden, kan de overheid zich ook richten op het beter inzichtelijk maken van de werking van nieuwe digitale technologieën. ‘Overheden zouden namens consumenten en professionals bepaalde eisen kunnen stellen aan transparantie op het gebied van algoritmische selectieprincipes en verdienmodellen’, aldus de schrijvers van De platformsamenleving.

Soms staat dit opgenomen in de gebruiksvoorwaarden, maar die zijn vaak zo complex dat er gespecialiseerde kennis nodig is om ze te begrijpen. Koeman: “Daarom hebben we in de maatregelen bij het manifest ook ‘Ontwikkel een standaard voor gebruiksvoorwaarden’ opgenomen. Een label dat in normale mensentaal aangeeft wat een specifieke app of platform met je data doet zou in veel gevallen al kunnen leiden tot het vergroten van het bewustzijn bij de gebruikers.”

Ten slotte kunnen overheden ook bepaald gebruik stimuleren, en daarmee publieke waarden onderdeel van het ecosysteem maken, door positief te sturen. Zo noemt ‘De platformsamenleving’ São Paulo, waar een wet in voorbereiding is om online vervoersdiensten beter aan te laten sluiten bij door de gemeente vastgestelde publieke belangen. De maatregel komt erop neer dat de gemeente ‘kredietpunten’ gaat veilen die vervoersplatformen een licentie geven om een bepaald aantal passagierskilometers in de stad af te leggen. De vervoerder kan extra punten krijgen door ook diensten aan te bieden in delen van de stad waar taxi’s normaliter niet komen, of door meer gehandicapten aan het werk te zetten.

De overheid als ontwikkelaar

Naast gebruiker en regulator is ook de rol van eigenaar, ontwikkelaar en exploitant van systemen voor het leveren van publieke services een niet te onderschatten overheidsrol, zo zeggen de auteurs van ‘De platformsamenleving’. De overheid als ontwikkelaar kan ervoor zorgen dat haar eigen diensten voldoen aan de voorwaarden voor de verankering van democratische publieke waarden.

Koeman: “Dit betekent dat in de ontwikkeling van software binnen overheden een grote slag moet worden gemaakt. Populaire ontwikkelmodellen als ‘rapid prototyping’ hebben het voordeel van directe en snelle feedback van eindgebruikers, maar delegeren het maken van de ‘juiste’ beslissing aan iemand anders. Daardoor voelt niemand zich verantwoordelijk voor het maken van ethische keuzes die aansluiten bij de waarden in ons manifest.”

Optimisme en alertheid

“Wat de digitale toekomst ook wordt: door bewust om te gaan met zowel de mogelijkheden als bedreigingen van digitale technologieën, kunnen we voorkomen dat burgerrechten in het geding komen en ervoor zorgen dat er zo evenredig mogelijk van kansen geprofiteerd wordt”, zegt Koeman. “Dat was althans voor Amsterdam Economic Board de reden om dit manifest te schrijven en te delen.”

Onder het motto ‘Tada’ – een woordspeling op data die optimisme, maar ook alertheid voorstaat – voeren de initiatiefnemers de komende tijd campagne om zoveel mogelijk initiatieven te laten ontstaan die bijdragen aan de realisering van een verantwoorde digitale stad. De ambities zijn groot, vertelt Koeman. “We beginnen in Amsterdam, maar als innoverende Metropoolregio willen we ons idee wereldwijd uitdragen en leidend zijn.”

Steden die ook digitaal verantwoord willen worden en het manifest willen ondertekenen, kunnen contact opnemen met Amsterdam Economic Board.

Het manifest is te vinden op tada.city
Meer uitleg over Tada en het manifest op Vimeo.

Mirjam Streefkerk is freelance journalist