Data-ethiek is een randvoorwaarde voor datagedreven werken. UWV zette onlangs de eerste stappen in de governance van algoritmes: “Elke nieuwe datatoepassing ondergaat in eerste instantie een ethisch impact assessment ‘light’."
UWV gebruikt algoritmes ter ondersteuning van de medewerker die bepaalt of iemand recht heeft op een werkloosheidsuitkering. | Beeld: ANP/ Peter Hilz
Overheden maken meer en meer gebruik van artificiële intelligentie (AI), waaronder algoritmes, om processen efficiënter te laten verlopen en de burger beter van dienst te zijn.
AI helpt bij het nemen van beslissingen op basis van patronen en voorwaarden. Denk maar aan de automatische rechtentoekenning of de uitbetaling van premies. Maar hoe groter de invloed wordt van slimme computersystemen bij het nemen van besluiten door overheden, hoe belangrijker digitale ethiek wordt.
UWV zette onlangs de eerste stappen in de governance van algoritmes. “Er komt meer bij kijken dan alleen een ethiekcommissie”, vertelt Eveline Jacobson, senior projectmanager Data-ethiek en Algoritmeregister bij UWV. “Het gaat erom dat continu de dialoog over data-ethiek binnen de organisatie wordt gevoerd; van het nadenken over de inzet van een algoritme tot de livegang en daarna. Data-ethiek is een randvoorwaarde voor datagedreven werken.”
Valkuilen in verantwoorde ethiek-governance
Toch baart data-ethiek overheden kopzorgen, legt Dasha Simons, managing trusted AI consultant bij IBM, uit. “De vraag of iets ethisch verantwoord is of niet, komt nu nog te vaak te laat in het proces. Daardoor verzandt de discussie in een uiteenzetting over wat er allemaal níét kan. Ook steunen organisaties meestal wel op ethische principes, maar het is een stuk lastiger om die om te zetten naar concrete praktijken en om AI-toepassingen te borgen en te meten.”
Uitdagingen die Simons bij klanten ziet:
- Het toenemende manuele documentatiewerk
- Gebrek aan een centraal overzicht van de AI-systemen
- Gebrek aan organisatiestructuren die AI-governance verantwoord ondersteunen
Marloes Roelands, partner voor Overheid bij IBM, vult aan: “Governance is niet alleen belangrijk bij bestaande toepassingen. Je moet ethiek ook meenemen bij de ontwikkeling van elke nieuwe toepassing, bijvoorbeeld met de hulp van onze cocreatiemethode: de IBM Garage.”
Hoe werkt UWV aan data-ethiek?
“UWV heeft gegevens van zo’n miljoen mensen”, legt Eveline Jacobson uit. “We gebruiken algoritmes ter ondersteuning van de medewerker die bepaalt of iemand recht heeft op een werkloosheidsuitkering. Of ter ondersteuning van UWV-medewerkers bij het berekenen van het arbeidsongeschiktheidspercentage van iemand die door ziekte of een handicap minder of niet kan werken. Maar de besluitvorming vindt uiteindelijk altijd plaats door medewerkers en niet door het algoritme. Om ervoor te zorgen dat het denken over, ontwikkelen en gebruiken van algoritmes ethisch verantwoord gebeurt, hebben we een ethisch kader uitgewerkt.”
Creatie van het Kompas Data Ethiek
Eveline Jacobson: “Het ethisch kader start bij ons Kompas Data Ethiek, waarin twaalf uitgangspunten staan waarover wij in samenhang een afweging maken om te komen tot een verantwoord gebruik van data in een algoritme. Die uitgangspunten verzamelden we in een ethisch impact assessment, met vragen als: wat willen we precies oplossen? Welke gegevens hebben we daarvoor nodig? En is daar wel een algoritme voor nodig? Als een algoritme een goede oplossing blijkt, kijken we – naast doelbinding en proportionaliteit – naar hoe we die gegevens verantwoord kunnen gebruiken en vooral: wat het effect is op burgers. Dat ethische impact assessment is geen invuloefening. We bespreken die vragen met een multidisciplinair team.”
Om het principe van transparantie verder in te vullen, startte UWV met de publicatie van de algoritmes.
Commissie Data Ethiek
“Elke nieuwe datatoepassing ondergaat in eerste instantie een ethisch impact assessment ‘light’. Als er daarna nog redenen zijn om aan te nemen dat er morele bezwaren kunnen zijn, volgt een volledig ethisch impact assessment. En komen we er dan nog niet uit? Dan leggen we de vraag voor aan onze Commissie Data Ethiek. Die bestaat uit interne en externe experts onder het voorzitterschap van prof. dr. Jeroen van den Hoven, hoogleraar Ethiek en Technologie aan de TU Delft. Ook prof. dr. Sandjai Bhulai, hoogleraar Business Analytics aan de VU, neemt deel. “Sinds de oprichting negen maanden geleden formuleerde die commissie twee adviezen, en er zitten er nog twee in de pijplijn. We leren met elkaar door te doen tijdens een ‘inleerjaar’. In 2023 evalueren we het proces.”
Om het principe van transparantie verder in te vullen, startte UWV met de publicatie van de algoritmes. Dat algoritmeregister legt op een begrijpelijke manier uit welke gegevens ze gebruiken en hoe ze die gebruiken. Intussen organiseert UWV ook interne sessies rond data-ethiek om ervoor te zorgen dat iedereen de principes van het kompas met zich meedraagt. Geen eenvoudige klus met 20.000 collega’s!
Een vooruitblik op governance van algoritmes
“Als overheid is het goed om regelmatig na te kijken: welke manuele processen kunnen we automatiseren om de last van de ontwikkelaars weg te nemen?”, vervolgt Dasha Simons. “Je werkt beter met een centraal dashboard waarop je alle waarden en prestaties van het AI-systeem verzamelt. Je houdt dan makkelijker controle op aspecten als robuustheid, transparantie, privacy, uitlegbaarheid en non-discriminatie. Zo kun je die principes en waarden ook in de productie waarborgen.”
Aan de slag
Drie methoden om in de organisatie aan de slag te gaan met data-ethiek:
Meer weten:
De discussie over AI en algoritmes heeft te lijden onder onduidelijke definities en afbakening. Beide termen lopen gemakkelijk in elkaar over. Ook in dit stuk. Dat er een algoritme gebruikt wordt bij het bepalen van een premie wil niet zeggen dat er AI gebruikt wordt. “Overheden maken meer en meer gebruik van artificiële intelligentie (AI), waaronder algoritmes”, zijn algoritmes altijd AI?
AI kan gebruikt worden om mensen te profileren en ze eruit te pikken voor extra controle. AI kan ook gebruikt worden om slim te zoeken naar relevante informatie in een brei van gegevens. In het eerste geval speelt er duidelijk ethiek, in het tweede geval lijkt me niet.