Hoe richt je een ethische commissie in?

Met de toenemende mogelijkheden van data en kunstmatige intelligentie nemen ook de vragen toe over de ethische en morele aspecten.  Om antwoord op deze vragen te bieden worden steeds vaker ethische commissies opgericht. De vraag is echter wat een ethische commissie kan bijdragen aan verantwoord gebruik van data, of zijn deze commissies slechts een ethische reflex op recente beruchte schandalen? Op basis van eerste inzichten vanuit lopend wetenschappelijk onderzoek en ervaringen uit de praktijk geven we in dit artikel eerste initiële antwoorden op deze vragen en handvatten voor het inrichten van een ethische commissie.

Ethische commissies zijn niet nieuw, maar komen vooral voor in andere sectoren zoals de medische wereld. Zo werden al in de jaren ‘70 ethische commissies voor gezondheidszorg opgericht. De medische vooruitgang leidde tot nieuwe dilemma’s, bijvoorbeeld over het recht op leven van ernstig zieke mensen aan de ene kant en de kwaliteit van dat leven aan de andere kant. Rechtbanken bleken niet in staat hierover te adviseren en als gevolg hiervan werden ethische commissies opgericht.

Ook grote techbedrijven hebben pogingen gedaan om ethische commissies op te richten. Deze commissies werden echter al snel bekritiseerd als ‘ethics washing’. Google heeft de Advanced Technology External Advisory Council (ATEAC) opgericht om de ‘verantwoorde ontwikkeling van AI’ te begeleiden. Maar na iets meer dan een week werd deze raad alweer opgeheven vanwege controversiële benoemingen van leden van het bestuur.

Ethische commissies binnen de overheid

Ook binnen de overheid komt is meer discussie ontstaan over data ethiek, niet in de laatste plaats door de toeslagenaffaire. Op steeds meer plekken ontstaan ethische commissies om verantwoord ontwerp en gebruik van datatoepassingen te bevorderen door ethische beoordelingen uit te voeren, ethische richtlijnen te verstrekken en beleid voor verantwoordelijke digitale innovatie te formuleren. Hiermee dragen ze bij aan interne en externe transparantie en verantwoording, en versterken zo het vertrouwen van het publiek in de overheid.

Ethiekcommissies kunnen drie belangrijke functies vervullen om dit te verwezenlijken:

• Ethisch Advies – De primaire functie van ethiekcommissies is het geven van advies over ethische vraagstukken.
  Commissies kunnen gevraagd of ongevraagd advies geven over specifieke gevallen. Deze casusbeoordeling omvat meestal een vorm van ethische impactbeoordeling. De commissies zijn sparringpartner of beoordelen de (potentiële) impact van de datatoepassing en de toepassing ervan op burgers, ambtenaren en de samenleving. Of het advies bindend is, hangt af van het specifieke mandaat van de commissie. Naast het beoordelen van specifieke gevallen kan de commissie ook beraadslagen en adviseren over bredere kwesties, waaronder vragen over de ethische implicaties van het gebruik van grote taalmodellen, zoals ChatGPT.
• Governance – Ethische commissies kunnen ook richtlijnen en beleid ontwikkelen en herzien voor het toepassen van nieuwe technologieën, tools en processen, zoals een toetsingskader.
  De commissie geeft daarmee niet alleen advies maar vertaalt dit ook naar intern beleid, vaak in nauwe samenhang met bijvoorbeeld de Chief Data Officer die verantwoordelijk is voor de organisatie, beheer en toepassing van data binnen de organisatie.
• Educatie & Kennis – Commissies kunnen een essentiële rol spelen bij het onderwijzen over digitale ethiek binnen de organisatie.
  – Educatie – Commissies moeten zichzelf onderwijzen en onderzoek uitvoeren om relevante kennis te waarborgen voor het geven van ethisch advies in digitale ontwikkelingen, en om organisatorisch leren op het gebied van data-ethiek te bevorderen.
  – Samenwerking – Ethische commissies kunnen ook een plek zijn voor leren en het delen van kennis door samen te werken met andere overheidsorganisaties, academische instellingen en maatschappelijke organisaties.

• Het adviespanel – Het adviespanel heeft een relatief zwak mandaat en bestaat uit externe experts. Deze commissie omvat onafhankelijke experts, zoals technologie-ethici, computerwetenschappers of wetenschappers op het gebied van openbaar bestuur. De essentiële bijdrage van deze experts ligt in hun kennisverstrekking. Deze groep is van vitaal belang voor ethische reflectie en advies. Als onafhankelijke experts wordt hun advies als bijzonder geloofwaardig en apolitiek beschouwd. Ze hebben echter een zwak mandaat. Zonder een sterk mandaat kunnen deze commissies het risico lopen ineffectief te zijn of misbruikt te worden als een ‘ethics-washing’ oefening. Anderzijds hebben dit soort commissies een lage drempel voor degenen die deze commissies oprichten of raadplegen. Hierdoor zijn ze ideaal als ‘beginnerscommissies’. Dit verklaart mogelijk waarom deze commissies het meest voorkomen in Nederland.
• De raad van advies – Net als het adviespanel bestaat de raad van advies uit onafhankelijke experts. De commissie heet echter een sterk mandaat en kan ongevraagd advies geven. Het advies heeft een geformaliseerde comply-or-explain functie. Hun sterkere mandaat geeft ze een formelere positie binnen de organisatie. Dit type commissie kan ook actiever zijn in het ontwikkelen en herzien van (bindende) governance-processen en mechanismen voor het ontwerp van ethische datatoepassingen. We constateren dat in de praktijk na een initiële proef- en leerperiode veel commissies formeler worden geïntegreerd in de governancestructuur, waarbij hun mandaat en informatie- en rapportagepositie wordt formaliseert en versterkt.
• De agora – De agora heeft een relatief zwak mandaat en bestaat uit burgers in tegenstelling tot de vorige typen. In plaats van te vertrouwen op expertkennis, benoemt deze commissie burgers om ethische reflectie en overleg te voeren. Deze panels bevatten een essentieel element van democratisering, transparantie en verantwoording naar de samenleving. De mate van participatie hangt af van het daadwerkelijke mandaat van dit type commissie. Een zwakker mandaat beperkt het niveau van adviserende participatie van burgercommissieleden om (gevraagde) informatie, consultatie en advies te verstrekken. Dit soort commissies is nog relatief zeldzaam in Nederland.
• De jury – De jury, vergelijkbaar met de agora, bestaat uit burgers. Deze commissie heeft echter een sterker mandaat om ongevraagd ethisch advies en begeleiding te bieden. Een sterk mandaat kan een hoger niveau van participatie mogelijk maken om samenwerking te bevorderen. Het kan echter ook het niveau van onzekerheid en oncontroleerbaarheid vergroten waarmee overheidsorganisaties te maken kunnen krijgen bij het betrekken van dergelijke commissies. Deze commissie maakt de typologie compleet, maar is op dit moment nog enigszins hypothetisch in Nederland.

Elk type commissie heeft sterke en zwakke punten, kansen en risico’s. Er is dan ook niet één blauwdruk van de beste ethische commissie omdat dit ook afhangt van de context van de omgeving. Op basis van de huidige inzichten zien we wel enkele algemene ontwerpprincipes voor ethische commissies om potentiële (ethische) risico’s aan te pakken: de verspreiding van verantwoordelijkheden, de perceptie van data-ethiek als een barrière in plaats van de drijvende kracht achter innovatie, en de risico’s van ethiek als een ‘afvink’-oefening. We hebben deze teruggebracht tot de volgende drie:

• Balans tussen inbedding in de organisatie en kritische onafhankelijkheid – Het is cruciaal voor ethische commissies om een balans te vinden tussen een onafhankelijk orgaan te zijn en voldoende ingebed te zijn in de organisatie. Ethiekcommissies moeten hun onafhankelijkheid behouden om geloofwaardig te blijven. Toch lopen ze het risico bij te dragen aan een begrip van ethiek als een afvinkoefening als ze ex-post instrumenten blijven waarvan de primaire taak het onafhankelijk faciliteren van impactbeoordelingen is. Commissies moeten daarom voldoende banden met de organisatie behouden om specifieke gevallen, lopende ontwikkelingen en organisatorische normen en cultuur te begrijpen en te beïnvloeden.
• Transparantie en accountability – Commissies moeten een veilige en betrouwbare plek zijn om gevoelige kwesties te bespreken. Echter, het serieus nemen van ethiek vereist het serieus nemen van transparantie. Transparantie en verantwoording zijn essentieel om te voorkomen dat ethiekcommissies bijdragen aan ethiek-washing of misbruikt worden als zodanig.
• Verantwoordelijkheden en middelen – Het opzetten en beheren van een ethische commissie vereist toewijding en voldoende middelen. Als commissies willen voorkomen dat ze een bottleneck of hindernis worden, moeten ze in staat zijn om tijdig advies te geven en responsief te zijn op nieuwe ontwikkelingen. Dit vereist dat de commissie regelmatig en in korte intervallen bijeenkomt.

Het belangrijkste is dat de commissie moet erkennen dat zij niet eigenaar is, maar de data-ethiek in de organisatie faciliteert. Idealiter zou men zich kunnen voorstellen dat de commissie zichzelf overbodig maakt door individuen en organisaties in staat te stellen data-ethiek uit te voeren.

Lees ook:

• Waarom UWV een Commissie Data Ethiek oprichtte – iBestuur
• Hoe ontwikkel je een ethisch kompas? – iBestuur