Begin 2019 kondigde de gemeente Helmond en UNSense een samenwerking aan voor het ontwikkelen van een ‘smart’ wijk: Brainport Smart District. De aankondiging hiervan ging gepaard met veel ophef in de media, onder meer over de privacy van de bewoners. Hoewel de minister heeft aangegeven dat het wel goed komt met die privacy, blijven er nog veel (ethische) vragen over.
Schets van Brainport Smart District. Beeld: UNSense
Brainport Smart District is de naam van de Helmondse wijk met in totaal 1500 woningen. In de publieke ruimte van de wijk zullen sensorhotels worden geplaatst om het gedrag van de bewoners te monitoren. Denk aan wifi-trackers die informatie geven over voorkeursroutes door de wijk, luchtkwaliteit en geluid. Binnen de wijk zijn er 100 huizen waarin intensiever monitoring plaatsvindt, ook binnenshuis. De bewoners van deze huizen kunnen vrijwel alles laten monitoren. Van hun uitwerpselen, het slaapgedrag tot aan hun beweging middels het dragen van een smart watch. Ook het monitoren van hoe hun ‘slimme’ apparaten werken behoort tot de mogelijkheden. Denk daarbij bijvoorbeeld aan de opbrengsten van zonnepanelen of slimme koelkasten. Het idee van het project is om de kwaliteit van leven van bewoners te verbeteren met behulp van ‘smart’ technologie.
De media-ophef van vorig jaar leidde bij de Stichting Brainport Smart District tot interne twijfel. Het architectenbureau UNSense kreeg de opdracht een haalbaarheidsstudie te doen. Dit rapport verscheen in december 2019. Rond die tijd sprak ik ook met enkele betrokkenen. In het rapport en in de gesprekken stond het rechtzetten van de slechte pers centraal. Van UNSense begreep ik dat mensen niet gratis of met korting in deze buurt zouden kunnen komen wonen. De bewoners zouden hun data wel kunnen ruilen om (gunstiger) van diensten gebruik te kunnen maken, maar dit wordt vormgegeven als equal exchange. Elke bewoner krijgt, in eigen beheer, een digitale identiteit. Denk aan een avatar waar data aan kunnen worden toegeschreven. Die data kunnen door de bewoner op drie manieren worden gedeeld: (1) de bewoner kan zijn data delen met een (commerciële) dienstverlener; (2) de bewoner kan kiezen om de data tussen meerdere dienstverleners te laten delen; (3) de bewoners kunnen hun data onderling delen.
In de haalbaarheidsstudie van UNSense staan de technische en de juridische haalbaarheid van het project centraal. Helaas was een groot deel van de juridische haalbaarheid voor mij gecensureerd, vanwege ‘de competitieve waarde van zulke informatie’. De ethische haalbaarheid van het rapport bevat welgeteld één pagina. In de gesprekken met betrokkenen werden ethische vraagstukken slechts kort benoemd. De reden die daarvoor werd gegeven was dat het hele project nog in ontwikkeling is en ethische vragen pas besproken worden door een ethische commissie, als die ethische vragen spelen.
Sidewalk Labs
Het project in Helmond heeft willen leren van het Sidewalk Labs project in de Canadese stad Toronto. Sidewalk Labs, onderdeel van Alphabet (moederbedrijf Google), heeft dezelfde doelstellingen als Helmond om met behulp van ‘smart’ technologie de kwaliteit van leven verbeteren. Het project in Toronto heeft een tijd stil gelegen na ophef van burgers over de intenties van Sidewalk Labs. De data gegenereerd binnen het project zouden eigendom worden van de projecteigenaar. De gemeente Helmond besloot: zo willen we het niet. Er werd een stichting opgericht, waarin alle stakeholders gelijkwaardig zouden participeren. Daarnaast werd er een datamanifest opgesteld, waarin de uitgangspunten voor de omgang met data staan vermeld.
Ethische vragen
Mijn zoektocht heeft bij mij tot veel vragen geleid. Ik noem alleen de meest prominente:
De haalbaarheidsstudie beantwoordt twee vragen: de technische vraag (kan dit?) en de juridische vraag (mag dit?). Maar een derde lijkt niet gesteld in dit project: is dit wenselijk? Ethiek komt er karig vanaf door de oprichting van een externe ethische commissie die ethische vraagstukken bespreekt zodra die er zijn. Mijns inziens moet ethiek vanaf het begin onderdeel zijn van het project en ik vind dat de wenselijkheid van het project als geheel voortdurend ter discussie moet staan. Mijn advies: creëer bewustwording bij alle betrokkenen, steun hen bij het voeren van het gesprek hierover en geef ze ethische handelingsmogelijkheden. Het optuigen van een externe commissie zou ik niet adviseren. Dat is het outsourcen van je morele geweten.
De redenering van UNSense is als volgt: Data worden nu al gebruikt door partijen zonder dat mensen zich daar bewust van zijn (Google, Facebook). In dit project kunnen de bewoners een bewuste keuze maken met welke commerciële dienstverlener zij welke data delen. Wat blijft is een fundamenteel geloof in het businessmodel dat data voor een bepaalde waarde staan en in te ruilen is.
Ik zie dat anders. Data zijn een weerslag van ons gedrag, geen materieel goed. Data geven inzicht in menselijke levens. Een zonnepaneel geeft niet alleen data over de hoeveelheid energie die het produceert. Indirect geeft het ook informatie over mijn financiële situatie, hoeveel energie ik verbruik, hoeveel mensen er wonen, en wat al niet meer. Voor een wearable is de weerslag van gedrag nog veel directer. De informatie die wordt vergaard kan op zijn beurt weer gebruikt worden om het gedrag van mensen te sturen (‘nudgen’). Dat roept op zijn beurt weer ethische vragen op.
De slimme wijk wordt ontworpen volgens het ‘quadruple helix-model’. Dat betekent dat niet alleen de stad, universiteiten (TUEindhoven en Universiteit Tilburg) en ondernemers, maar ook de bewoners betrokken worden.
In de praktijk worden in dit project de bewoners, zo lijkt het, niet alleen als vierde, maar ook als laatste betrokken bij het project. Op dit moment schrijft de stichting ‘challenges’ uit naar bedrijven die vervolgens hun voorstellen kunnen indienen over de diensten die zij naar de honderd huizen willen brengen. De stichting bepaalt welke ondernemers deel kunnen nemen aan het experiment. De enige betrokkenheid die de bewoners hierin lijken te hebben is al dan niet akkoord te gaan met het voorstel van de op voorhand geselecteerde commerciële partijen. Het centraal stellen van de bewoner betekent mijns inziens het initiatief zoveel en zo vroeg mogelijk bij de burger leggen.
In mijn ogen wonen de bewoners straks niet alleen in een technologisch, maar ook in een sociaal experiment
Brainport Smart District wordt gezien als een living lab. Wat betekent dat concreet voor de bewoners? In mijn ogen wonen de bewoners straks niet alleen in een technologisch, maar ook in een sociaal experiment. Hoe is het om in een technologisch experiment te wonen? En hoe vindt de collectieve besluitvorming over gezamenlijke diensten straks plaats? UNSense heeft aangegeven dat het één van de doelen van het project is om te leren hóe collectieven dit in de realiteit doen.
Ik maak mij zorgen over de vrijheid van bewoners en de psychologische mechanismen die spelen wanneer zij als collectief moeten beslissen. Ik mag hopen dat er in dit levende lab ook nagedacht is over psychologische begeleiding en ondersteuning.
De bewoners zijn in dit project eigenaar van hun data. Maar wanneer data worden gedeeld en worden gekopieerd, dan wordt de derde partij de eigenaar van de data. Dat de bewoners eigenaar zijn en blijven klinkt mooier dan het is. Het datamanifest van de stichting zou meer duidelijkheid kunnen geven. Daar heb ik echter geen toegang toe gekregen.
Op een metaniveau kan een andere vraag worden gesteld. Dit project zal bepaalde uitkomsten hebben. Wie is daarvan de eigenaar? Is daarover nagedacht?
In dit project wordt er toestemming gevraagd van bewoners om hun data te delen met dienstverleners, tussen dienstverleners onderling en met hun buren. Dat is in overeenstemming met de wet: met toestemming mag véél.
Het probleem met privacy is mijns inziens, net als met de klimaatcrisis (Kenis en Levens, De Mythe van de Groene Economie 2012), dat de wet en onze visie op privacy gericht is op ons mensen als consumenten en niet zozeer als burgers. Als consumenten kan ik data van mijzelf prijsgeven om van een dienst gebruik te kunnen maken. Maar je kunt je afvragen of dat als burger ook wenselijk is. De bewoners van het 100 huizenproject moeten beschermd worden in hun mensenrechten door hen niet te adresseren als consumenten, maar als burgers.
De bewoners van deze wijk zijn bereid om hun data te delen die in het publieke domein kunnen worden opgepikt. Maar van wie is die ruimte eigenlijk? Kunnen de bewoners en de projecteigenaar die ruimte zo maar ‘opgeven’, terwijl er ook mensen zijn die de wijk bezoeken of passeren?
UNSense geeft aan dat datagenererende activiteiten zoveel mogelijk gekoppeld worden aan de bewoners en dat derde personen zullen worden uitgesloten. Zij zeggen gebruik te maken van onmiddellijke anonimisatie van derden. Ik kon dit niet terugvinden en controleren in mijn gecensureerde versie van de haalbaarheidsstudie. Het ‘zoveel mogelijk’ belooft mijns inziens geen volledige bescherming van de bezoeker. Bovendien is er discussie is over de vraag of volledige anonimisatie wel mogelijk is.
De publieke ruime in dit project zal digitaal gekoloniseerd worden door de stichting Brainport Smart District. Aan de gemeente Helmond, tevens participant in de stichting, de taak om de burgers en de publieke ruimte te beschermen.
In deze wijk zullen ook kinderen komen te wonen en ook hun gedrag zal worden gevolgd. Worden zij wel voldoende beschermd? Gezien de gewoonte van ouders om foto’s van hun kinderen op bijvoorbeeld Facebook te zetten en hen TikTok te laten gebruiken, kan je je afvragen of wij de bescherming van de rechten en toekomst van de kinderen wel aan hun ouders kunnen toevertrouwen. Hun ouders kiezen voor dit project, de kinderen niet.
UNSense verwijst voor dit vraagstuk naar de haalbaarheidsstudie, maar ook dit kon ik niet terugvinden in mijn gecensureerde versie. Dit is wat ik zou adviseren: Leer van de strenge voorwaarden waaronder medisch en wetenschappelijk onderzoek is gedaan op kinderen, en overweeg om kinderen helemaal buiten het ‘smart’ project te laten.
‘Is dit wenselijk?’
Er rijzen veel ethische vragen op bij dit project. De eerste vraag, die voortdurend tijdens het project zou moeten worden gesteld is: is dit wenselijk? En zo ja, onder welke omstandigheden?
In de gesprekken die ik had met UNSense en bij het lezen van de haalbaarheidsstudie kreeg ik de indruk dat UNSense mij (en anderen) hebben proberen te overtuigen dat zij het ‘juiste’ doen. Voor mij is dit echter een rode vlag. Om ethiek serieus onderdeel te laten zijn van dit project, betekent dat onder meer (1) niet de grenzen opzoeken onder het mom dat het van de wet ‘mag’; (2) het omarmen van kritiek en publieke verontwaardiging; (3) een reflectieve houding: voortdurend reflecterend op eigen concepten en ideeën, en last but not least (4) te allen tijden bereid te zijn het project te beëindigen en je niet te laten leiden door (commerciële) belangen.
Ethiek is een zorgvuldig en voortdurend proces. Dat heeft tijd nodig.
(Ik wil Henri de Bekker van de gemeente Helmond, Machteld Kors van UNSense en Hans Bouwknegt van UNSense bedanken voor de tijd die zijn namen om met mij te spreken. Brainport Smart District heeft niet gereageerd op mijn verzoek om met hen te spreken)
Piek Visser-Knijff is filosoof en data-ethicus
Dit is een ingekorte versie van het Engelstalige artikel dat eerder verscheen op DataEthics
Misschien wel een ‘business case’, maar dus zeker geen ‘ethics case’. Na SYRI lijkt dit mij een volgend voorbeeld van een project waarbij de ethische waarden onvoldoende benoemd en geborgd zijn. Hoe kijkt de gemeente Helmond hier tegen aan?
“De kwaliteit van het leven van de bewoners verbeteren”, wie kan daar op tegen zijn? Maar het zegt nog helemaal niks. De initiatiefnemers zouden de beoogde kwaliteitsverbetering(-en) expliciet moeten maken, aangevuld met de zinsnede: “zodanig dat…”.
“Met behulp van smart technologie” impliceert een oplossingsgericht initiatief. Alsof zonder smart technologie geen kwaliteitsverbetering van het leven zou kunnen plaatsvinden. Zonder expliciete beantwoording van de waarom-vraag en zonder het opbouwen van een ondubbelzinnig en gezamenlijk beeld van de doelstellingen weten betrokkenen niet waar ze ja tegen zeggen, weet je niet wanneer het goed is (dus onbestuurbaar) en ligt de beantwoording van ethische vraagstukken mbt het datagebruik sowieso buiten bereik, omdat niet duidelijk is tussen welke belangen je afweegt.