Ethiek wijst AI de weg in publieke domein
In de Ridderzaal van Kasteel Woerden vond het tweede Diner Parlant van iBestuur en Salesforce plaats, over het acuut eigentijdse onderwerp Ethiek en AI. Verantwoordelijken voor AI, leidinggevenden en AI-toezichthouders binnen overheden, ministeries en publieke organisaties waren samen om aan vijf tafels tijdens het eten te praten over de ethische vragen die de toepassing van artificial intelligence in het publieke domein oproept. Het werd een boeiende filosofische avond.
Dat was precies wat iBestuur, Salesforce en moderator Jody van Diemen voor ogen stond: filosoferen. Een greep uit de grote vragen die deze avond langskwamen: Haalt AI een deel van het intermenselijk contact weg en is dat een bedreiging voor AI? Vecht ChatGPT op dit moment mee in Oekraïne? Is verantwoorde inzet van AI afhankelijk van hoe ambtenaren ermee omgaan? Kan AI helpen onszelf als mensen opnieuw uit te vinden? Niet alle vragen kregen een antwoord, maar dat was ook niet de insteek. Men was hier om iets op te steken, van elkaars ervaringen te leren, andere meningen te horen en invalshoeken van collega’s mee te krijgen.
Een pasklare definitie van AI ontbreekt
Het uitgeserveerde voorgerecht van langzaam gegaarde kalfsmuis bleef onaangeroerd zolang filosoof en data-ethicus Piek Visser-Knijff als eerste spreker aan het woord was. Ze had graag een pasklare definitie van AI gepresenteerd, maar dat was moeilijker dan gedacht. Zelfs in de Europese AI-Verordening ontbrak een heldere definitie en werd verwezen naar een opsomming van toepassingen in de bijlage, hield Visser-Knijff haar gehoor voor. Ze observeerde dat AI in de praktijk vooral over algoritmes gaat en intelligentie voornamelijk zit in de mensen die met de systemen werken. Een belangrijke vraag is volgens haar: ‘Wat moet het model precies doen, wat is de probleemperceptie?’
Volgens Piek Visser-Knijff moeten eerst woorden worden gekozen en ordening worden aangebracht, voordat de vele vragen beantwoord kunnen worden. “Wat moet zo’n model eigenlijk kunnen? Daar ontstaan de eerste ethische vragen. Ongemerkt, want je denkt technisch bezig te zijn. Als je er vanuit de ethiek naar kijkt en je maakt de vertaalslag, dan denk je na over wat het betekent dat we die systemen gaan laten werken. Voor ons als mens, voor de manier waarop we werken en voor de manier waarop de organisatie werkt.”
Drie vragen van Hildebrand
De focus van AI en ethiek in de praktijk ligt volgens Visser-Knijff heel erg op het middel, ook bij de overheid. “We willen grip op het model, de bias moet eruit. De ethische vragen in de praktijk gaan heel erg over het middel. Dat is te beperkt. We moeten het hebben over waarom we een middel inzetten en wat daarachter zit. Wanneer je met AI gaat werken, betekent dat ook veel voor de organisatie zelf. Daar moet je vooraf goed over nadenken en AI moet goed in de organisatie ingebed worden. Zorg ervoor dat de technologie en de mensen goed kunnen samenwerken. Hoe verhoudt de ambtenaar zich tot het algoritme?”
Visser-Knijff: “Het doet me denken aan wat ik filosoof en hoogleraar Mireille Hildebrandt hoorde zeggen: ‘Bij de inzet van AI moet je vooraf drie vragen stellen: 1. Welk probleem lost het op? 2. Welk probleem lost het niet op? 3. Welke problemen creëert het?’ Ik denk dat je aan de hand van die drie vragen meteen een brede blik op AI hebt.”
Visser-Knijff sluit haar betoog af met de stelling dat de overheid filosofen nodig heeft om de ethische vragen die de inzet van AI oproept goed te stellen. “Ze kunnen niet alleen de ethische vragen goed stellen, maar ook vanuit wetenschapsfilosofie de modellen bevragen.” Als Visser-Knijff weer op haar plek zit, is het tijd voor het voorgerecht en gesprekken aan de tafels. Er wordt gesproken over de vragen die zijn blijven hangen en nieuwe vragen die zijn opgekomen. Er worden anekdotes uit de praktijk uitgewisseld en dilemma’s besproken.
Dan is het woord aan filosoof, schrijver en socratisch gespreksleider Erik Pool, die de aanwezigen schetst hoe het goede gesprek over ethiek en AI tot stand kan komen. Als Programmadirecteur Dialoog & Ethiek van de Rijksoverheid werkt hij aan een programma dat rijksbreed moet helpen om ruimte te maken voor ethische vragen. “Maar,” zegt Pool, “voordat je gaat praten over ethiek en AI moet je jezelf eerst afvragen of ethiek überhaupt een goede rol speelt in je werk en in je organisatie. Want als dat niet zo is, heb je een dubbel probleem.”
Erik Pool vraagt zich hardop af wat ethiek is, zoals Visser-Knijff dat deed met AI. “Is het een onderbuikgevoel, waar je een idee bij krijgt en daarmee als mens heel ver kunt komen? Wat mensen onderscheidt van dieren is volgens de filosofie de rede. Als dat een uniek aspect van ons menszijn is, wat raak je dan kwijt als je steeds meer van je eigen besluiten overdraagt aan systemen, instrumenten en modellen die maar een deel van de werkelijkheid pakken? Het komt aan op ons menselijk vermogen om alle aspecten af te wegen en dan te denken: ‘Ik ga toch een stapje verder’. Of om te zeggen: ‘Nee, dit gaat mij te ver!’ Het ontstaat in de interactie tussen mensen.”
Verhoogd moreel bewustzijn nodig
“In de interactie tussen mensen komt iets op gang wat een bedreiging voor AI kan zijn, omdat het een deel van het overleg, het gesprek of de relatie tussen mensen weghaalt. Maar we kunnen het ook omdraaien en de saaie dingen in het systeem stoppen. Maar dan moet je wel in staat zijn om de niet-saaie dingen op een behoorlijk hoog niveau goed beet te pakken.” Pool haalt filosoof Paul van Tongeren aan die vier verschillende ethische systemen identificeerde, die vanuit een eigen hoek redeneren: het doel, de afspraak, de plicht en de deugd. “Alle vier zijn legitiem en relevant”, zegt Pool. “Maar hoe pas je het toe in je werk als AI-programmeur? Daar is een collectief verhoogd moreel bewustzijn voor nodig.”
De ethische vragen waar het programma Dialoog & Ethiek helpt ruimte voor te maken, kunnen volgens Pool heel klein zijn. “Bijvoorbeeld: ‘Kunnen wij samenwerken?’, ‘Mag ik jou?’ of: ‘Wie krijgt de promotie?’. Het programma gaat de technieken bieden die mensen nodig hebben om in een gesprek verder te komen dan het luchten van hun hart, of nog eens zeggen hoe iets voelt. Een echte dialoog kan je verder brengen dan het punt waar je bij aanvang van het gesprek was. Niet in de zin dat er dingen zijn opgelost, maar dat je dingen beter bent gaan begrijpen. Eén van de dingen die je beter gaat begrijpen ben jezelf. Je gaat je afvragen hoe je eigenlijk in elkaar zit. Hoe komt het dat ik hier tegenaan loop en twijfel over mijn keuze, terwijl jij doorgaat? Die zelfkennis is de motor voor je relatie met anderen. De grote vraag is: Kan AI zichzelf onderzoeken?”
Ethiek als wegwijzer
Na afloop van het Diner Parlant was duidelijk dat eigenlijk alle deelnemers hun weg zoeken in de ethische vraagstukken die artificial intelligence opwerpt. ‘Moet er niet vertraagd worden nu AI ervoor zorgt dat alles vergroot en versneld wordt?’, legde Erik Pool de zaal voor. Een van de deelnemers merkte op dat er moet worden nagedacht over wat voor samenleving we willen zijn. In de zoektocht naar het juiste pad ontbreekt de bewegwijzering. Ethiek speelt een belangrijke rol als navigatiehulpmiddel in het vinden van de juiste route als het gaat om de toepassing van AI in het publieke domein.
“Is het een kwestie van met vallen en opstaan, door experimenten en leren te komen tot een kader voor AI?” vroeg moderator Van Diemen. “Of word je dan ingehaald door de realiteit?” Volgens Visser-Knijff is het nu belangrijk de maatschappelijke waarden te waarborgen en na te denken over fundamentele keuzen die de toekomst van de toepassing van AI gaan bepalen. “Ik denk dat we moeten vertragen. Toewerken naar nationale kaders betekent dat je af en toe bewust stil gaat staan en reflecteert: hoe passen we dit aan? Hoe komen we tot een mooi resultaat? Liever zorgvuldig en voorzichtig, in plaats van kijken wat je tegenkomt.”
Verslag: Chris Nap, freelance journalist
