partnermenu

zoeken binnen de website

Partpagina ministerie van binnenlandse zaken en koninkrijksrelaties

‘Niemand heeft alle antwoorden’

Publieke waarden en nieuwe technologie

artikelen | 17 mei 2019

Nieuwe technologieën raken de fundamenten van onze samenleving: hoe versterken en borgen we onze grondrechten en publieke waarden? De overheid zoekt naar nieuwe antwoorden op nieuwe vragen. En daar mag iedereen over meepraten.

DIO

Beleidscoördinator Noor Huijboom (links) en directieteamlid Anja Lelieveld van Directie Informatiesamenleving en Overheid (DIO)

Neem artificiële intelligentie (AI), een technologie die in steeds meer toepassingen opduikt. Die toepassingen hebben een grote impact op ons dagelijks leven, zowel in positieve als negatieve zin. Zo kan nieuwsselectie op basis van algoritmes aan de ene kant de communicatie vergemakkelijken, terwijl het aan de andere kant het risico van beïnvloeding van opinievorming met zich meebrengt. Registratie van gedrag kan bijvoorbeeld helpen de criminaliteit te bestrijden en het verkeer in goede banen te leiden, maar dit heeft wel serieuze consequenties voor onze privacy. En hoe weten we zeker dat een beslissing, tot stand gekomen met behulp van AI, echt onbevooroordeeld is? Grondrechten als een gelijke behandeling, het recht om niet gediscrimineerd te worden of het recht op een eerlijk proces kunnen hier in de knel komen.

Waarden herbezien

Hoeder van onze grondrechten is het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK). Binnen dit ministerie werkt de Directie Informatiesamenleving en Overheid (DIO) samen met de directie Constitutionele Zaken en Wetgeving (CZW) aan het vormgeven van een informatiesamenleving waarin publieke waarden stevig verankerd zijn. Anja Lelieveld, directieteamlid van DIO en verantwoordelijk voor databeleid en nieuwe technologie in relatie tot publieke waarden en grondrechten, legt uit: “We leven in een digitale samenleving en de ontwikkelingen staan niet stil. Als overheid willen we de kansen en mogelijkheden van digitalisering benutten. Daarbij hoort ook dat we goed kijken naar de impact van de digitalisering op onze grondrechten en publieke waarden.” Wat zijn dat precies voor waarden? Lelieveld: “Publieke waarden worden breed gedeeld in onze maatschappij. Denk aan veiligheid, kwaliteit van leven, zelfbeschikking of gelijkheid. Deze waarden veranderen in de loop van de tijd en krijgen steeds een nieuwe invulling. Nu gebeurt dat onder invloed van de techniek. We moeten onze publieke waarden dus opnieuw bekijken vanuit het perspectief van nieuwe technologieën. De minister heeft dat bijvoorbeeld ook aangegeven in haar reactie namens het kabinet op rapporten van het Rathenau Instituut over technologie in relatie tot publieke waarden en grondrechten.1 Waar liggen kansen om ze te versterken? Waar komen ze onder druk te staan? En hoe zorgen we dat onze publieke waarden in nieuwe technologieën zijn geborgd? Daar zijn we bij BZK mee bezig.”

Maatschappelijke dialoog aanjagen

Inspireren, informeren en antwoord geven op concrete vragen: dat is de bedoeling van het platform de Maatschappelijke Dialoog publieke waarden en nieuwe technologie. Onderwerp van gesprek is de bescherming en versterking van grondrechten en publieke waarden bij digitalisering. Dat gesprek wordt allereerst met burgers gevoerd, onder meer via fysieke bijeenkomsten, burgerpanels met debatten in ‘lagerhuisstijl’ en digitale platforms. In tweede instantie richt de dialoog zich op technologiebedrijven, overheden, de wetenschap en het maatschappelijk middenveld, zoals klankbordgroepen en belangenorganisaties. Dat gebeurt bijvoorbeeld via bijeenkomsten, gesprekken en de publicatie van interviews en verhalen. Zo helpt de Maatschappelijke Dialoog beleid te voeden, kennis en ervaring uit te wisselen en bewustzijn en draagvlak te creëren.

De digitalisering van overheidsdiensten gebeurt al zoveel mogelijk ‘waardegedreven’, zegt Lelieveld. “De kwaliteit van de dienstverlening van de overheid valt onder de verantwoordelijkheid van de staatssecretaris van BZK. De kwaliteit van dienstverlening moet goed zijn en het is duidelijk dat die dienstverlening digitaal is. De Agenda Digitale Overheid, NL DIGIbeter, die de staatssecretaris namens het kabinet zomer 2018 aan de Tweede Kamer heeft aangeboden, maakt dat ook helder: betrouwbaarheid, veiligheid, transparantie, begrijpelijkheid, toegankelijkheid; het zijn allemaal publieke waarden waar we bij onze digitale innovatie rekening mee houden. Ook inclusie, dat we niemand buitensluiten, is heel belangrijk. Net als autonomie, dat mensen zelf keuzes kunnen maken en informatie kunnen vinden.”

AI meeste impact

Ieder jaar voert DIO onderzoek uit naar welke nieuwe technologie de grootste maatschappelijke impact heeft en waarop dus de komende periode de focus moet liggen. Noor Huijboom, beleidscoördinator bij DIO: “We kijken naar verschillende opkomende technologieën, zoals virtual en augmented reality, blockchain, persuasive technology, internet of things, human enhancement en artificiële intelligentie. Criteria zijn de volwassenheid van de technologie, de verwachte impact op het leven van mensen en of er beleid of regelgeving voor nodig is.” Voor 2018 én 2019 kwam AI als eerste uit de bus. Huijboom: “De adoptie van AI neemt momenteel een hoge vlucht. Het is niet meer weg te denken, je ziet in allerlei sectoren toepassingen ontstaan en er wordt internationaal veel in geïnvesteerd. Hoe groot de impact op publieke waarden is, blijkt ook uit onderzoek door bijvoorbeeld de Universiteit van Utrecht2, de WRR3, Harvard University4 en het Rathenau Instituut5.”

Gereedschapskist voor verantwoord innoveren

In de Agenda Digitale Overheid, NL DIGIbeter staat dat het ontwikkelen van wetgeving, beleid en voorzieningen binnen de overheid nadrukkelijk ook de ethische aspecten meeneemt. Een digitale toolbox moet overheidsorganisaties helpen de bescherming van publieke waarden en grondrechten proactief in te bouwen bij technologische innovaties. Doelen van deze toolbox zijn meer bewustzijn creëren rond de impact van innovatie op onze grondrechten en publieke waarden en concrete handvatten geven voor een maatschappelijk verantwoorde ontwikkeling van voorzieningen, vanuit de zeven principes voor ‘ethics by design’.

Als voorbeeld van een AI-toepassing met een positieve impact noemt Huijboom de inzet in de zorg; daar kan AI bijdragen aan een betere kwaliteit van leven. “Er zijn bijvoorbeeld goede ervaringen met huidkanker-diagnose op basis van AI, waarmee je miljoenen beelden in seconden kunt vergelijken. Het herkennen van patronen en het zelflerend vermogen maken AI tot een zeer krachtige technologie.” Maar er zijn ook AI-toepassingen die een ongewenste invloed hebben. Zo haalde Amazon de media met een AI-systeem dat cv’s van sollicitanten beoordeelde. Er was een vooroordeel ingeslopen – op basis van de data waarmee het was gevoed had het systeem aangeleerd om de voorkeur aan mannelijke sollicitanten te geven. Huijboom: “Zo speel je discriminatie in de hand en moet je AI dus niet gebruiken. Je moet rekening houden met foutmarges in AI-systemen, bij complexe beslissingen die grote gevolgen voor het leven van individuen hebben, is altijd menselijke tussenkomst nodig.”

Regelgeving verfijnen

De grondslag voor de bescherming van onze rechten en publieke waarden ligt vast in regelgeving, zoals de grondwet en verdragen, licht Paul Van Sasse van Ysselt (CZW) toe. Maar dat is niet voldoende, stellen Van Sasse-van Ysselt en Lelieveld, de vraag is hoe we met die regelgeving omgaan. Lelieveld: “Neem transparantie als publieke waarde. Over transparantie in de besluitvorming zijn onder meer dingen vastgelegd in de Wet openbaarheid van bestuur, de Algemene wet bestuursrecht en de Algemene verordening gegevensbescherming (AVG). Als overheid moeten we die wetgeving verfijnen met richtlijnen die bepalen hoe je er invulling aan geeft in relatie tot nieuwe technologie. Hoe communiceer je bijvoorbeeld als organisatie? Hoe geef je een betekenisvolle uitleg? Dat is niet klip en klaar.”

Donald Duck gaat digitaal

Donald Duck Ook de nieuwe generatie moet bij de Maatschappelijke Dialoog over publieke waarden en tech worden betrokken. Hun leven zal immers van het begin tot het einde doorspekt zijn met technologie. Bovendien vormen kinderen een kwetsbare groep; van de consequenties van hun onlinegedrag zijn ze zich niet altijd bewust. Daarom is er een speciale Donald Duck met bijbehorend lesprogramma ontwikkeld, bedoeld voor kinderen in groep 6, 7 en 8 van het basisonderwijs. ‘Donald Duck duikt in de digitale wereld’ biedt een leuke manier om over nieuwe technologieën, waarden en rechten te leren en te praten.

Een van de manieren om meer inzicht te krijgen, is onderzoek naar de kennis en houding van burgers en ondernemingen ten aanzien van AI (kader). De uitkomsten van dit onderzoek liggen mede aan de basis van de kabinetsvisie ‘AI en ethiek’, waarmee BZK een kader wil scheppen voor een maatschappelijk verantwoorde inzet van AI. De visie is naar verwachting rond de zomer klaar. Via het platform ‘de Maatschappelijke Dialoog over publieke waarden en nieuwe technologieën’ wordt daarnaast het gesprek op gang gebracht tussen burgers, overheid, bedrijfsleven, wetenschappers en andere spelers (kader). Ook de jeugd wordt niet vergeten, met een speciaal ontwikkeld lesprogramma met Donald Duck. Daarin duikt de beroemde eend samen met de hoogste groepen van de basisschool de wereld van de technologie in (kader). Tot slot helpt de ontwikkeling van een ‘toolbox’ overheidsorganisaties ethisch verantwoord innoveren in de praktijk te brengen (kader).

Lelieveld: “Alle onderwerpen zijn nieuw en niemand heeft alle antwoorden. We moeten onderzoek doen, het debat aanjagen met verschillende groepen in de samenleving en ons beleid en onze regelgeving aanscherpen met de dingen die we daaruit leren.” Ook internationale samenwerking is essentieel. “Als je de rechten van mensen wilt borgen in regels, stopt dat niet bij de grens. We moeten de impact van nieuwe technologieën binnen een Europese context bekijken en aanpakken. Ook daar zijn we vanuit het ministerie van BZK mee bezig, samen met iedereen die mee wil werken en denken”, besluit Lelieveld.

[1] Kabinetsreactie op de rapporten ‘Opwaarderen. Het borgen van publieke waarden’ en ‘Mensenrechten in het robottijdperk’, juni 2018
[2] Onderzoek Universiteit Utrecht Algoritmes en grondrechten
[3] WRR big data in een vrije en veilige samenleving
[4] Harvard human rights AI
[5] Rathenau Instituut Opwaarderen

Nederlanders over AI

Waar zien Nederlanders de kansen van AI? Waar maken ze zich zorgen over? En wat verwachten ze van de overheid in de bescherming van belangrijke publieke waarden bij nieuwe technologie? In het kader van de Maatschappelijke Dialoog voerde Kantar Public onderzoek uit onder burgers en ondernemers. Enkele van de uitkomsten:

• Bijna alle deelnemers aan het onderzoek, zowel ondernemers als burgers, hebben weleens met AI te maken gehad, bijvoorbeeld online advertenties afgestemd op hun zoekgedrag, automatische vertaalprogramma’s, persoonlijke aanbevelingen of digitale assistenten. Meer dan de helft van de Nederlanders is zowel positief als negatief over de technologie.

• Ondernemers en burgers twijfelen over de toelaatbaarheid van AI. Het draagvlak is het grootst voor toepassingen die de veiligheid en de kwaliteit van leven vergroten. Minder draagvlak is er voor gepersonaliseerde advertenties, strafbepalingen en beïnvloeding van verkiezingen.

• AI kan zwaar werk overnemen, werk efficiënter maken en maatschappelijke problemen oplossen, zeggen de respondenten over de inzet van AI door de overheid. Maar ze zijn ook bezorgd over de privacy, verkeerde beslissingen, onherstelbare fouten of de uitsluiting van mensen. Digivaardigen zien meer voordelen dan minder digivaardigen. Die laatste groep maakt zich echter ook minder zorgen.

• Wat betreft de behoefte aan beleid, regelgeving, informatie – voor burgers staat de bescherming van privacy op één. Het opstellen van wetten en regels staat op de tweede plaats, de behoefte aan informatie over AI en de gevolgen op drie.

tags: ,

Reactieformulier

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie. U kunt bij de vormgeving van uw reactie gebruik maken van textile en er is beperkt gebruik van html mogelijk.