Tijdens een heus college over techniek en ethiek vertellen TU Delft hoogleraren Marijn Janssen (ICT & Governance) en Jeroen van den Hoven (Ethics & Technology) over de kansen van innovatie met nieuwe technologie en de ethische uitdagingen daarbij.
Marijn Janssen (links) en Jeroen van den Hoven (rechts). Beeld: De Beeldredaktie
Janssen vertegenwoordigt de mogelijkheden van de techniek, Van den Hoven belicht de ethische kant. Janssen trapt af. “De technische ontwikkelingen gaan hard, nu vooral op technologieën als blockchain en Artificial Intelligence. We hebben het er veel over en de verwachtingen zijn hooggespannen. Over tien jaar kunnen we op deze periode terugkijken: hebben we het waargemaakt?” Zijn ervaring is dat dat altijd wat tegenvalt. Naast mogelijkheden heeft de techniek immers ook altijd onmogelijkheden. “Je kunt intussen wel spreken van the internet of everything. We kunnen iedereen volgen. Je telefoon bevat wel 25- 30 sensoren, die data kunnen we voor allerlei doeleinden gebruiken. Die data kunnen we bij elkaar brengen, en het openbaar vervoer hier op Papendal afstemmen op het aantal mensen dat weggaat. Dat kan voor schuldhulpverlening om mensen preventief te kunnen helpen. Ook de belastinginspecteur kan ook een algoritme zijn.” Er is dus heel veel mogelijk, soms is dat goed, soms slecht. “Algoritmen zijn inmiddels goed in staat ons na te doen en ze kunnen leren van hun fouten. Er is steeds meer data beschikbaar. Algoritmen hebben daardoor steeds meer impact. Er zijn al gezichtsherkenningstechnieken op de markt die kunnen herkennen of iemand goede of slechte bedoelingen heeft. We moeten er goed over nadenken wanneer en hoe we dat gaan gebruiken.”
De Europese weg kiezen
Jeroen van den Hoven neemt het stokje over: “Er zijn dus problemen en uitdagingen om te kunnen innoveren. Ethiek en techniek hebben elkaar nodig”, is zijn stelling. “Je hebt techniek nodig om ethiek te kunnen toepassen, en je hebt ethiek nodig voor de innovatie van techniek.” Goed nieuws, Nederland blinkt uit in ethische toepassing van techniek. En dat is maar goed ook, want, zoals de Europese Commissie zegt: ”The way we approach IT will define the world we live in.” De wereld kent verschillende systemen waarin technologische innovaties hun weg vinden. Zoals in China, waar de staat een grote vinger in de pap heeft of de VS waar de grote bedrijven het voor het zeggen hebben. Europese kiest voor een ethische manier… “Het is geen wedstrijd”, benadrukt Van den Hoven. “Het gaat erom de kansen van AI te omarmen op een manier die past bij wat we belangrijk vinden: mensgericht, veilig, ethisch en trouw aan onze kernwaarden.”
Kernproblemen adresseren
Er is een aantal kernproblemen bij technologische innovaties, ziet van Den Hoven. “Deze technologie problematiseert de voorwaarden voor verantwoordelijkheid, zoals transparantie. Uitleggen aan mensen wat je gedaan hebt en wat daarbij je overwegingen waren, is een belangrijk onderdeel van verantwoordelijkheid.” AVG artikel 22 geeft burgers rechten bij geautomatiseerde besluitvorming, waaronder profilering. En er komt nog veel meer wetgeving aan vanuit, weet Van den Hoeven. Een tipje van de sluier: “Er wordt al gewerkt aan next generation AVG en specifieke regelgeving voor AI.“ Een tweede kernprobleem is de controle. “Zijn we wel in control bij nieuwe technologie? En: hoe houden we dat zo? Controle is ook een voorwaarde om verantwoording af te kunnen afleggen. We hebben zoveel data; betekent big data ook big nudging?” Zetten we die data in om het gedrag van mensen te beïnvloeden? Of om de democratie te ondermijnen? Ook privacy blijft een issue wanneer we praten over controle over technologie of soms ook het gebrek aan controle. “Grote techbedrijven als Facebook en Google bieden platforms om organisaties te helpen bij hun datadriven strategie, maar ze hebben natuurlijk heel andere belangen bij het bewerken van die data.”
Ethische dilemma’s
Deelnemers worden opgeroepen om innovatietrajecten met hun smartphone ethische dilemma’s in te brengen. De lijst is lang. Van zelfrijdende auto’s, tot datagedreven werken rondom armoede en schuldenproblematiek, het gebruik van gezichtsherkenningstechniek op Schiphol, onderzoek naar ondermijning, profiling op fraude, slim cameratoezicht tot het kopen van private bestanden voor handhaving. Jeroen van den Hoven vat de oogst samen: “Veel problemen gaan over predictive analyse en het gebruik van persoonsgegevens. De wetgeving en jurisprudentie stelt steeds meer de bezitter van data verantwoordelijk om maatregelen te nemen. Dat betekent in de praktijk dat je je huiswerk moet doen om jouw eigen keuzes rondom de invulling van de vaak open normen van bijvoorbeeld de AVG te rechtvaardigen. En als je dat goed doet en er goed over nadenkt hoe je eventuele nadelige effecten gaat adresseren, kun je ook met ‘ethisch lastigere’ toepassingen aan de slag,” ziet hij.
Ongelijkheid voorkomen
Een nadelig effect is bijvoorbeeld wanneer mensen buitengesloten worden door techniek. Dat is overigens geen nieuw vraagstuk. Hij noemt een voorbeeld van de verdeling van huurwoningen in Rotterdam. “Nieuwe woningen werden op een gegeven moment niet meer alleen via de krant gecommuniceerd maar ook via e-mail. Dat kan leiden tot ongelijkheid: sommige mensen visten daardoor steeds achter het net omdat ze niet met techniek uit de voeten kunnen en daardoor te reageren.” Datzelfde geldt voor wie nu nog Teletekst gebruikt voor beursinformatie; die loopt daarmee altijd een paar seconden achter op andere bronnen. Dat noemt Van den Hoven de proportionaliteit van informatie: “Informatie heeft meer waarde als anderen het niet hebben, dat leidt tot ongelijkheid.“ Gelukkig is het in deze voorbeelden niet zo ingewikkeld er eisen voor te formuleren. “Bij beursinformatie zou een eis moeten zijn dat iedereen tegelijkertijd dezelfde informatie krijgt. Bij de huurwoningen dat er een bepaalde tijdsperiode wordt ingelast om te reageren, zodat iedereen – ongeacht de bron van informatie – dezelfde kans heeft een woning te bemachtigen.”
Designturn als oplossing
Als we de eisen hebben, kunnen we de techniek ethisch vormgeven, stelt Van den Hoven. “We moeten de designturn maken: de bak met ethische problemen omzetten naar requirements of eisen en belangrijke waarden net zo lang specificeren tot programmeurs er wat mee kunnen.” Dit is het terrein van ethics by design. “Je kunt hostile ontwerpen, zorgen dat mensen iets níet meer kunnen doen. Denk aan de bankjes met armleuningen tussen de zitplekken waardoor niemand erop kan slapen. Of -veel schrijnender – een viaduct in de VS dat bewust laag is gemaakt, want het is zo ontworpen dat de hoge bussen uit de arme zwarte wijken er niet doorkunnen. Arme mensen konden zo niet naar de ‘rijke’ stranden komen.” Twee voorbeelden die duidelijk maken hoe waarden tot uiting kunnen komen in een ontwerp. Als we kijken naar nieuwe technologie ziet Van den Hoven de ontwikkeling van zogenaamd addictive design, dat zich bezighoudt met de vraag: hoe zorg ik dat mensen zo lang mogelijk op hun telefoon zitten of zo lang mogelijk spelletjes blijven spelen? “Dat is inmiddels zelfs een terrein van wetenschap, met hoogleraren en alles!”
Moral axioma
Het vakgebied van de ethiek richt zich op de vraag hoe we gedeelde publieke waarden in de techniek krijgen. “Ieder systeem is een optelsom van 1000 keuzes; waarden zitten op elk niveau van een ontwerp.” Waarden zijn high level non functional requirements, ze zijn altijd abstract en moeten in de ontwerpfase steeds verder geconcretiseerd worden. “Al is het alleen maar om later uit te kunnen leggen hoe je belangrijke waarden in je ontwerp hebt geborgd en daarover verantwoording kunt afleggen.” Zo’n analyse van waarden om ze te vertalen naar praktische eisen, slaat precies de brug tussen techniek en ethiek: we moeten de ethische kant dus eerst concreet maken. Hij sluit af met het moral axioma of responsible innovation: “If you can change the world by innovation today so that you can satisfy more of your obligations tomorrow, you have a moral obligation to innovate today.” We hebben dus óók een morele verplichting om technologie in te zetten wanneer dat helpt om de wereld een stukje beter te maken en daar niet mee te treuzelen.
