Computer says no? Mensen hebben geen idee van hun rechten.

Recht op een menselijke blik 

Bij automatische besluitvorming sta je als burger niet machteloos. Met computer says no hoort een instantie niet weg te komen: je hebt recht op een menselijke blik, wat wil zeggen dat een medewerker van de organisatie meekijkt bij het besluiten. Bovendien heb je recht op uitleg over hoe dat besluit is genomen en op basis van welke gegevens. Dat maakt het mogelijk om het besluit aan te vechten als het niet klopt of als je het er niet mee eens bent.

Veel mensen weten dit niet. Vorig jaar liet de Autoriteit Persoonsgegevens een onderzoek afnemen onder 1480 mensen. Van hen wist 38 procent niet dat ze recht hebben op een menselijke blik bij besluiten die door een algoritme worden genomen. Bijna 1 op de 5 heeft weleens meegemaakt dat een organisatie zonder uitleg een automatisch besluit nam dat nadelig uitpakte. Ongeveer 2 op de 5 van deze groep heeft hiervan geen melding gedaan.

Begrijpelijke taal

Vooral mensen die minder digitaal vaardig zijn, willen graag eenvoudige en eerlijke uitleg over wat er met hun persoonsgegevens gebeurt als die worden gebruikt door algoritmes. Begrijpelijke taal over hun rechten ontbreekt: informatie is vaak juridisch en complex verwoord.

Handvatten Recht op uitleg

Het onderzoek was voor de AP aanleiding om de voorlichting over geautomatiseerde besluitvorming uit te breiden. Eerder publiceerde de toezicthouder de handvatten voor betekenisvolle menselijke tussenkomst. Dit zijn praktische tips om betere processen in te richten voor betekenisvolle menselijke tussenkomst bij automatische besluiten.

Momenteel werkt de AP aan handvatten voor het recht op uitleg bij geautomatiseerde besluitvorming. Hoe leg je duidelijk en begrijpelijk uit wat er met iemands persoonsgegevens gebeurt bij zo’n besluit? Welke rechten heeft iemand en hoe wijs je diegene daarop?