Paneldiscussie over ethiek en technologie

Discussie onder leiding van Ivonne Jansen Dings, strategisch adviseur Ethiek, Technologie en Samenleving bij de provincie Zuid-Holland en voorzitter van de Interprovinciale werkgroep ethiek met:

• Piek Visser-Knijff, data-ethicus en oprichter van Filosofie in actie
• Jeroen van den Hoven, hoogleraar ethiek en technologie aan de TU Delft
• Nelleke Groen, strategisch adviesjurist op het gebied van data en privacy bij Rijkswaterstaat en gespreksleider 

Achtergrond bij het panelgesprek is de begin 2023 ingestelde Interprovinciale Ethische Commissie voor digitalisering. Deze commissie richt zich op de risico’s van het gebruik van data en technologische oplossingen binnen grote vraagstukken als de energietransitie, woningbouw en het stikstofprobleem. Een belangrijke opgave, legt voorzitter Van den Hoven van de commissie uit, is het abstracte kader van maatschappelijke waarden te laten landen in concrete eisen voor de technologie die de provincies in willen zetten, zoals in het programma van eisen bij een aanbesteding. “Van een hoog abstractieniveau ga je naar de weerbarstige werkelijkheid van de ICT-afdeling op maandagochtend. Je hebt een raamwerk en vocabulaire nodig om deze wisselwerking tussen enerzijds abstracte waarden en anderzijds eisen en specificaties productief en efficiënt tot stand te brengen.” Volgens Van den Hoven moet de overheid verder werken aan een ordentelijke kennisinfrastructuur, waarin afspraken kunnen worden gemaakt over hoe ethische dilemma’s rond digitalisering aan te pakken. “Snelheid is geboden, want de digitale wereld ontwikkelt zich razendsnel. Antwoorden op morele dilemma’s zijn cruciaal.”

ChatGPT

In het panel ontpopt zich een levendige discussie over ChatGPT. Ethisch gezien is er wel wat kritiek op de populaire AI-chatbot. De herkomst van informatie kennen we niet. De wetgeving is nog in de maak in Brussel.

Italië heeft ChatGPT tijdelijk verboden vanwege privacyzorgen. De AI-chatbot is weer in de lucht, maar het finale oordeel moet de Italiaanse privacywaakhond GDPG nog geven. Visser-Knijff is resoluut in haar standpunt: “We zijn massaal gratis een model aan het trainen voor Silicon Valley. Dus wie wordt hier beter van? Bovendien maakt het gebruik van andere vormen van moderne slavernij; in Afrika worden mensen tegen een hongerloontje betaald om in clickfarms het model bij te sturen. Bovendien betekent het niet alleen iets voor de mensen nu, ook ligt er een last bij toekomstige generaties. Om de servers te koelen zijn enorme hoeveelheden water nodig. De CO2-uitstoot is enorm, dus ik denk dat je de klimaatcrisis ermee aan het verergeren bent. Ik vind dat provincies er heel goed over na moeten denken of ze dit middel willen inzetten, nog even los van alle haken en ogen in het gebruik ervan, zegt Visser-Knijff. “Wil je zoiets wel legitimeren? De vraag of ChatGPT wel wenselijk is, is nog niet beantwoord.”

Gespreksleider Jansen Dings wijst erop dat een ontwikkeling als ChatGPT zich niet laat stoppen. “Dit is onomkeerbaar.” Dat vindt ook Groen, eveneens lid van de Interprovinciale Ethische Commissie, maar zij zegt wel twijfels te hebben gehad of ze met deze technologie aan de slag wilde, “maar ik ben te gadget-nerdy, dus ik ben het zelf gaan proberen. Aan het resultaat moest ik trouwens nog flink schaven om er iets bruikbaars van te maken. Belangrijk is dat we een duidelijk beeld moeten hebben van wat er nu precies op ons afkomt. Er wordt van alles rond ChatGPT beweerd, maar is dat wel waar. Er is nog veel demystificatie nodig.”

Ook hoogleraar Van den Hoven is kritisch. Hij is een van de 1100 wetenschappers die onlangs in een open brief opriepen om een pas op de plaats te maken met AI, juist omdat de ontwikkelingen zo snel gaan. “De wereld is één groot laboratorium waar deze technologie ontwikkeld wordt, maar de negatieve effecten en de kosten om deze te adresseren komen op het bordje van de samenleving terecht. We hebben maar voor een deel in beeld wat de schade en de benodigde kosten zijn. Het topje van de ijsberg zien we, maar de rest zien we niet. Intussen maakt Microsoft een beweging om ChatGPT in de zorg te gaan gebruiken, bijvoorbeeld om samenvattingen van medische dossiers te maken, en daar zijn artsen serieus bezorgd over.”

“Ik snap wel dat ChatGPT erg handig kan zijn, maar de betrouwbaarheid ervan is absoluut niet vastgesteld. We moeten goed nagaan, wat Europa nu doet, onder welke condities je AI op welke plaats en met welk doel mag toepassen en wanneer niet. Aan de ene kant lijkt het onverantwoord er geen gebruik van te maken, maar aan de andere kant kijken we naar een berg van onvoorspelbare effecten. Het komende jaar gaan we provincies daar handreikingen over doen.”