Partnerpagina IBM

- - - - -

Ethiek als ontwerpprincipe

artikelen, 3 juli 2018

De ICT-sector is een bron van veelbelovende nieuwe ontwikkelingen; digitalisering wordt breder en breder met concepten als artificiële intelligentie, deep learning, robotisering en blockchain. En die ontwikkelingen blijven allang niet meer tussen de vier muren van het ‘ICT-ketelhuis’. Ze kunnen iedereen direct raken. Daarom zijn ze terecht onderwerp van uiteenlopende maatschappelijk-ethische discussies.

ethiek - verhaal IBM

Beeld: Dreamstime

Het uitgangspunt van die discussies is steeds meer dat het niet alleen om de techniek zelf gaat, maar in toenemende mate over het (mogelijke) gebruik ervan. En over de daarmee gepaard gaande maatschappelijke effecten. Er zijn allerlei positieve tekenen die erop wijzen dat de ICT-sector deze ontwikkeling begrijpt en erbij aanhaakt.

Waar een leverancier van een mes niet aansprakelijk kan worden gehouden voor het delict dat er óók mee gepleegd kan worden, zo is ook de leverancier van ICT-middelen niet verantwoordelijk voor onbedoeld onwenselijk gebruik ervan. Maar hier stopt deze parallel. ICT-concepten en -technieken kennen ondertussen zoveel dimensies dat de ICT-branche zich aangesproken moet voelen, en moet meedenken over maatschappelijk verantwoord gebruik. Onderwerpen als privacy, autonomie, toegang, inclusie, datagebruik en andere (publieke) waarden zijn voor iedereen belangrijk; ze moeten besproken worden zonder taboes of vooringenomenheid.

Waar artificiële intelligentie (AI) door sommigen voorzien wordt van onheilsprofetieën is er in de praktijk nog bar weinig dat een dergelijke angst rechtvaardigt. Want wat is er aan de hand? Toepassingen van AI worden steeds beter in het verrichten van, en bij voorkeur alleen het adviseren over, de uitvoer van specifieke taken. Een belangrijke ontwikkeling, met vele buitengewoon interessante afzonderlijke toepassingsgebieden tot gevolg. Buiten het betreffende ‘eigen’ domein is het systeem in de regel tot niet veel in staat. Zo ontstaat er een geheel van vele afzonderlijke en specifieke AI-toepassingen, en niet van één groot AI-systeem dat met een algemene intelligentie en ‘intuïtie’ tot onverwachte zaken in staat is. Vele experts, zoals Luciano Floridi (auteur van onder andere The Fourth Revolution), hebben daar al op gewezen.


Heldere principes

Naast een open oog voor mogelijke keerzijden van nieuwe technologieën, bestaat ook de plicht om de grote maatschappelijke kansen te benutten die deze ontwikkelingen bieden bij verantwoord gebruik ervan. Zo lijkt artificiële intelligentie bij uitstek een technologie om inclusiviteit te bevorderen. ICT-systemen zullen steeds makkelijker toegankelijk worden, doordat zij in onze moerstaal met ons converseren en ons van antwoorden voorzien. Waarbij alle voor de gebruiker hinderlijke complexiteit verborgen blijft. Daarmee is een wereld gewonnen.

IBM heeft met overtuiging het voortouw genomen om heldere principes te publiceren over het verantwoord omgaan met de data van zijn klanten (de controle erover houden) en het toepassen van artificiële intelligentie. De in 2017 gepubliceerde Data Responsibility@IBM-principes benoemen het eigenaarschap van data, de noodzaak om AI herleidbare adviezen te laten geven én de duidelijkheid die er moet zijn over met wie een menselijke gebruiker van ICT-systemen communiceert, bijvoorbeeld als hij contact zoekt met een helpdesk. Praat hij met een medemens of met een chatbot? Dat moet duidelijk zijn.

Al met al is een aanpak nodig die ethiek inbrengt als belangrijk designprincipe: hoe gebruiken we technieken, concepten en bedrijfsmodellen bij het tot stand brengen van een maatschappelijk verantwoorde digitale samenleving? En welke dan? Met welke principes en waarden houden we op herkenbare wijze rekening? Het gaat daarbij om een breed gedragen gemeenschappelijk kader waarin casussen als voorbeeld kunnen dienen. Het gaat dus om principes en uitgangspunten, niet zozeer om een set van nieuwe regels, al kan op onderdelen wel degelijk wetgeving nodig zijn.

In z’n algemeenheid zou de aandacht voor de adoptie van nieuwe technologieën moeten toenemen. Nieuwe technologie zou geen bedreiging moeten zijn, maar een wenkend perspectief, waarbij de gebruiker keuzemogelijkheden heeft op het gebied van het gebruik van persoonlijke data en een onderliggend bedrijfsmodel dat aansluit bij de persoonlijke waarden Het is belangrijk om technologie inzichtelijk en begrijpelijk te maken.

Het omgaan met en het accepteren en begrijpen van technologie zou een prominent onderdeel moeten zijn van ieder vak en curriculum. Hier kan de technologiesector een belangrijke bijdrage aan leveren.

Het geheel zal voortdurend aandacht vragen. Waarbij de ICT-sector moet willen leren van andere domeinen, zoals de zorg, waar ethische vraagstukken al langer de aandacht hebben.

Tot slot: de arbeidsmarkt zal, in zijn toch al continue verandering, ook beïnvloed worden door deze nieuwe technologische ontwikkelingen. Er zullen nieuwe vormen van werk komen, waarbij de combinatie mens-techniek er sterker uitkomt dan ooit tevoren. Dat wil niet zeggen dat er geen verscherpte aandacht zou moeten zijn voor de overgangsperiode waarin nog niet voor iedereen de voordelen tastbaar zullen zijn. Ook hier is aandacht voor inclusiviteit op zijn plaats.

Rob Nijman en Sophie Kuijt, IBM Nederland B.V.

reacties: 1

tags:

- - - - -

  1. P.J. Westerhof LL.M MIM #

    13 juli 2018, 12:44

    Interessant.

    Dat neemt niet weg dat o.a. onder de noemer ‘Value Sensitive Design’ sinds 1996 al wordt gewerkt aan kaders.
    Meer recent zijn de opinion ‘Towards a new digital ethics’ uit 2015 van de European Data Protection Supervisor (EDPS) (https://edps.europa.eu/data-protection/our-work/publications/opinions/towards-new-digital-ethics-data-dignity-and_en), en het initiatief ‘Ethically Aligned Design’ van de IEEE Standards Association (https://standards.ieee.org/news/2016/ethically_aligned_design.html).

    - - - - -

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie.