Everyday Ethics for Artificial Intelligence

Beeld: Dreamstime

Een aantal belangrijke elementen in de gids zijn: het behoud van controle door klanten over de eigen data, een veilige plaats naar keuze waar die data zich bevinden, en inzicht in de totstandkoming van de adviezen die op basis van artificiële intelligentie worden gegeven. Bottomline: gebruik artificiële intelligentie als ondersteuning van de menselijke specialist. De specialist behoudt de zeggenschap over de beslissing die in samenspraak tussen mens en AI-ondersteunde applicatie tot stand komt. Door dit samenspel is het resultaat groter dan de som der delen.

Die dienende functie van AI-systemen is voor IBM in het algemeen het leidende principe. Dat geldt zo mogelijk nog sterker als het gaat om toepassingsgebieden waarin publieke waarden in het geding kunnen komen. In een Kamerbrief van de minister van Binnenlandse Zaken en Koninkrijksrelaties wordt een aantal van deze gebieden genoemd als de wezenlijke fundamenten voor het leven in een democratische rechtsstaat:

Verbod op discriminatie

• Privacy
• Menselijke waardigheid
• Persoonlijke autonomie
• Recht op een eerlijk proces
• Vrijheid van meningsuiting

Bij het ontwerpen en bouwen van applicaties moet in elke fase van de totstandkoming rekening gehouden worden met deze aspecten. Everyday Ethics for Artificial Intelligence is een praktische gids voor ontwerpers, data scientists en ontwikkelaars die hiermee aan de slag willen.

Feedback

De gids is geschreven door een divers team van materiedeskundigen en beoogt een conversatie te starten over de toepassing van ethische normen en waarden in de alledaagse praktijk van de opdrachtgever, designer en programmeur. Algemeen uitgangspunt is dat ethiek vanaf het prille begin een plaats moet hebben in het ontwerp- en ontwikkelproces van door artificiële intelligentie ondersteunde toepassingen. Daarbij heeft uiteraard niemand de wijsheid in pacht; het document gaat daarom vergezeld van de oproep om met de handvatten aan de slag te gaan, ermee te experimenteren, en de juiste vragen te stellen om er vervolgens commentaar en kritiek op te leveren. Deze feedback draagt bij aan de volgende versies van de gids.

Het startpunt is helder: ethische besluitvorming is niet zomaar een (andere) vorm van technische probleemoplossing. De uitgangspunten, zoals de (publieke) waarden die geraakt kunnen worden, moeten uitgesproken én besproken worden met alle betrokkenen. Dat betreft een breed spectrum aan stakeholders. Professionals als ontwerper, architect, ontwikkelaar, programmeur en beheerder. Maar ook de opdrachtgever, de eventuele businesspartner of onderaannemer, en de leverancier van de technologiecomponenten. En last but not least de gebruiker(sgroepen). Al deze betrokkenen zijn onderdeel van de totstandkoming en het gebruik, en hebben daarmee invloed op de beslissingen die op ethisch gebied genomen moeten worden. Dat geldt in een overheidsomgeving niet in het minst ook voor de politieke en bestuurlijke context, die zo zijn eigen (niet zelden veranderlijke) eisen stelt aan de te leveren voorzieningen.

Ethisch fundament

De (Engelstalige) publicatie zet vijf ethische focusgebieden centraal: Accountability, Value Alignment, Explainability, Fairness, User Data Rights. Het is een gezamenlijke verantwoordelijkheid om deze focusgebieden te begrijpen en te erkennen, ook al omdat de toepassing van AI en de mogelijkheden die AI biedt, zullen toenemen. Tezamen vormen ze een raamwerk voor het leggen van een ethisch fundament voor het bouwen en gebruiken van AI-systemen.

Ethische beslismomenten moeten van vroeg tot laat in het proces ter tafel te komen. Een aantal voorbeelden:

• Bij ‘uitlegbaarheid’: is de gebruiker in staat om vragen te stellen aan het systeem over waarom de toepassing die AI gebruikt tot zijn specifieke aanbeveling komt? De gebruikersinterface moet de gebruiker niet alleen in staat stellen dergelijke vragen naar voren te brengen, maar daar ook actief op wijzen. Is hierin voorzien?
• Bij mogelijke ‘vooringenomenheid’ (‘bias’) van het systeem, gewenst of ongewenst: AI moet zodanig ontworpen worden dat ongewenste bias geminimaliseerd wordt, en zoveel mogelijk inclusiviteit wordt gewaarborgd. Dus: onderzoek waar de bron (zoals gebruikte datasets) van de mogelijke bias zetelt, en ondereem acties tot correctie waar van toepassing
• Bij de controle over de data: de AI-toepassing dient zodanig ontworpen te zijn dat gebruikers- en opdrachtgeversdata beschermd worden, en de gebruiker controle houdt over toegang en gebruik. Dus: geef de gelegenheid om toegang tot persoonlijke data te verhinderen.

Deze en meer voorbeelden en aanbevelingen zijn te vinden in de gids Everyday Ethics for Artificial Intelligence (PDF, 3 Mb).

Rob Nijman is directeur Centrale Overheid, IBM Nederland B.V.