Integriteit moet gelden voor al onze processen. Uiteraard bij menselijke interactie, maar ook bij het gebruik van geautomatiseerde systemen, big data-toepassingen en slimme apparaten.
Op 1 september ben ik gestart als gemeentesecretaris bij de gemeente Zoetermeer. Als nieuwe medewerker mocht ik in de eerste weken de ambtseed afleggen.
Hoewel dit niet de eerste keer was, blijft het toch een bijzonder moment. Een moment om nog eens extra stil te staan bij het belang van integriteit, misschien wel het belangrijkste beginsel van goed openbaar bestuur. Een beginsel dat zich vertaald in tal van kernwaarden zoals: objectiviteit, duidelijkheid, neutraliteit, betrouwbaarheid en controleerbaarheid. Integriteit is een beginsel waar volgens mij geen compromissen of uitzonderingen op zouden moeten zijn.
Computer says no!
Integriteit moet gelden voor al onze processen, uiteraard bij menselijke interactie, maar ook bij het gebruik van geautomatiseerde systemen, big data-toepassingen en slimme apparaten. Dat is nog lang niet altijd het geval. Sterker nog, zo gauw er een stekker aan te pas komt lijkt integriteit een andere betekenis te krijgen. En dat terwijl juist big data-toepassingen, algoritmen en kunstmatige intelligentie zo’n enorme impact kunnen hebben op de persoonlijke bestaanszekerheid en grondrechten van mensen. Het is de taak van de overheid om deze waarden en rechten te beschermen. Richtlijnen rond ethische besluitvorming bij datatoepassing zijn dringend nodig. Het is de hoogste tijd voor een digitale update van het integriteitsbeleid bij gemeenten en andere overheden.
Dit geldt des te meer nu aanvragen van inwoners en dossiercontroles steeds vaker worden afgehandeld door volledig geautomatiseerde systemen. Systemen die zonder – of met een beperkte – tussenkomt van medewerkers tot besluiten en adviezen komen. Hoewel er vanuit techniek en efficiency het nodige te zeggen is voor dergelijke systemen, is het zaak om deze systemen te onderwerpen aan integriteitstoets, alvorens deze in te zetten. Geen enkele dataset en geen enkele algoritme is immers compleet, volledig en neutraal. Daarnaast is ook een voortdurende menselijke controle op de integriteit van dergelijke systemen van essentieel belang. Menselijke besluitvorming, controle op het systeem en op elk individueel dossier, zou vanuit de overheid altijd een harde eis moeten zijn. Of nog beter: een digitaal (grond)recht van onze inwoners. ‘Computer says no’ mag nooit het antwoord zijn.
Belangenverstrengeling
Een ander actueel ethisch vraagstuk gaat over mogelijke belangenverstrengeling bij dataprojecten. Steeds meer private en publieke instellingen verkopen, ruilen en delen data. Zeker van bronnen in de openbare ruimte. Slimme lantarenpalen, verkeerslichten, bushokjes, vuilnisbakken en reclamezuilen hebben, naast hun primaire functie, steeds vaker een dataverzamelfunctie. Met name voor adverteerders zijn deze data interessant om zo gerichte persoonlijke en plaatsgebonden advertenties te kunnen plaatsen. De stad als interface herbergt een heel nieuw verdienmodel. Interessant in dit verband is om te volgen hoe de samenwerking zal verlopen tussen de stad Toronto en Sidewalk Labs (een zusterbedrijf van Google). Deze partijen zijn in 2017 een samenwerking aangegaan, gericht op de ontwikkeling van een nieuw stadsdeel. Wordt dit de volgende stap naar een echt slimme stad, of wordt dit een opmaat naar de stad als interface, een datamijn waarbij het doen en laten van inwoners wordt vertaald in commerciële data en diensten? Inwoners die worden gemolken als ‘datakoeien’.
De ethische data assistent
De Utrechtse Data School, van de universiteit Utrecht, heeft samen met de gemeente Utrecht een toolkit ontwikkeld die helpt bij het in kaart brengen van ethische kwesties en bij de verantwoording aan de diverse stakeholders en het publiek. Deze ethische data assistent (DEDA) is niet alleen een prima bruikbaar hulpmiddel in de dagelijkse praktijk, het zou ook de onderlegger kunnen zijn voor een nieuw digitaal hoofdstuk van het integriteitsbeleid van gemeenten en andere overheden. Een hoofdstuk over datatoepassingen, algoritmen en kunstmatige intelligentie. Over verantwoordelijkheid nemen voor de dataverzameling, de analyse en de modellen of algoritmen die gebruikt worden dient hierbij centraal te staan. Het is van belang dat data-analisten, beleidsmakers, managers en bestuurders ethische problemen en vraagstukken in dataprojecten, leren herkennen. En misschien moet er in de toekomst ook wel een digitale ambtseed komen voor kunstmatige intelligentie.
André Huykman is gemeentesecretaris/algemeen directeur van de gemeente Zoetermeer
