In de AVG staat veel, maar over begrippen als kunstmatige intelligentie (AI), robotica of algoritmes is niets te ontdekken.
Begin mei was ik aan de universiteit van Lapland, waar ik een overleg had met de hoogleraar economische en politieke ontwikkeling in China.
De verhoudingen in de politieke piramide in China blijken te zijn gebaseerd op een controlesysteem dat wordt gevoed door een traditioneel corruptie- en omkoopmodel. Dat model functioneert perfect. De bevolking wordt wel degelijk gecontroleerd, maar er bestaat ook een bepaalde elasticiteit die door wederzijdse gunsten wordt gevoed. Bepaalde informatie wordt doorgegeven aan de hogere echelons van het centrale systeem en iedereen is tevreden.
Maar met de invoering van het social creditsysteem kan dit veranderen. De handelingen van iedereen worden geobserveerd en geanalyseerd met hulp van artificiële intelligentie zonder al te veel menselijke tussenkomst. Dat betekent dat ook het doen en laten van het ‘middel-management’ van de politieke comités onderwerp van analyse zal zijn. Dat zorgt ervoor dat het geoliede systeem van het vinden van evenwicht tussen doorgeven van informatie en ontvangen van gunsten wordt verstoord. Privacy voor handelingen in de schaduw bestaat niet meer, ook niet voor de ‘vrijgestelden’ van het systeem.
In mijn vorige bijdrage vergeleek ik het social credit systeem in China met het kapitalistisch georiënteerde facebook/google surveillancesysteem, overigens uitgebreid beschreven door Shoshan Zhuboff in haar boek ‘The Age of Surveillance Capitalism’. Zowel in China als in de westerse wereld hebben wij regelgeving die de privacy van de burger pretendeert te beschermen [1].
Maar afgezien van het feit dat zowel in Europa als ook in China en de Verenigde Staten de wetgeving voorziet in de mogelijkheid voor de overheid om die bescherming op grond van het openbaar belang, met name de nationale veiligheid, opzij te schuiven, is de bescherming in de regelgeving van persoonsgegevens en de privacy onder ‘normale omstandigheden’ door het gebruik van kunstmatige intelligentie vrijwel onmogelijk. Ook het feit dat de mondiale verwerking van persoonsgegevens sterk is toegenomen, maakt de controle op die verwerking uiterst gecompliceerd. De recente eis van de Verenigde Staten om voor het verkrijgen van een visum een overzicht te geven van activiteiten op sociale media, telefoonnummers en buitenlandse reizen van de laatste vijf jaar sterkt het vertrouwen in die bescherming van een ieders persoonlijke levenssfeer niet bepaald.
In de Europese AVG (Algemene verordening persoonsgegevens) wordt gesteld dat de gegevensverwerking van natuurlijke personen transparant, begrijpelijk en makkelijk toegankelijk moet zijn en dat de betrokkene te allen tijde het recht op controle van zijn gegevens heeft. Verder heeft de betrokkene het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit behalve met toestemming, of voortkomend uit overeenkomst of wettelijke plicht. Zelflerende algoritmes doen niet anders dan besluiten nemen op grond van geautomatiseerde verwerking, waaronder profilering. Onze maatschappij wordt één grote profielschets onder invloed van artificiële intelligentie. Alle handelingen van ons als burger en consument worden geanalyseerd, gewaardeerd en benut voor allerlei dienstverlening ‘tot groter nut van ons allen’.
Vele internationale organisaties zijn dan ook over elkaar heen gebuiteld om regels te stellen voor het gebruik van AI bij de verwerking van onze persoonsgegevens. Internationale organisaties als de EU, de OESO en de Raad van Europa proberen allemaal het aspect van betekenisvolle menselijke controle en ethisch gedrag toe te passen bij het creëren en gebruiken van AI, maar de vraag kan gesteld worden of die ‘high level’ niet-verplichtende richtlijnen in staat zullen zijn om een juridische raamwerk te creëren dat realistisch en handhaafbaar is. Vereisten als de transparantie voor besluitvormingsprocessen van AI zijn niet realistisch en daarnaast onmogelijk handhaafbaar voor zelflerende algoritmen die de basis vormen voor besluiten door AI-systemen.
Tijdens de presentatie die ik over deze problematiek gaf voor de Autoriteit Persoonsgegevens registreerde ik een toenemende onrust. Inderdaad, de begrippen artificiële of kunstmatige intelligentie, robotica of algoritmes zijn in de zevenentachtig pagina’s van de Algemene verordening persoonsgegevens niet te ontdekken. Automatische verwerking en hierop gebaseerde besluitvorming van persoonsgegevens is immers alomvattend en de eis tot transparantie is toch helder? Naïef waarschijnlijk, vandaar dat zelfs binnen de AP het bewustzijn leek te ontstaan om eens serieus na te denken over de waarde van de bepalingen in de AVG in een door AI beheerste maatschappij. Op de vragen vanuit de toehoorders hoe deze kwestie aan te pakken suggereerde ik een multidisciplinaire commissie in te stellen die deze problemen wat diepgravender dan de genoemde internationale organisaties zou benaderen.
Aanvaarding van de economische en juridische geldigheid van acties van verschillende autonome AI-entiteiten en hier op gebaseerde verplichtingen tot regulering van de verwerking van persoonsgegevens, zou een betere oplossing zijn om een zinvol wettelijk kader voor de toekomstige samenleving te creëren.
Ik ben benieuwd of ook deze suggestie zal verdwijnen in een zwart gat…
Rob van den Hoven van Genderen is voorzitter van de Nederlandse Vereniging voor Artificiële Intelligentie en Robotrecht (NVAIR) en hoogleraar AI en Robotrecht Lapland University.
[1] Chinese Constitution: Article 40. The freedom and privacy of correspondence of citizens of the People’s Republic of China are protected by law. No organization or individual may, on any ground, infringe upon the freedom and privacy of citizens’ correspondence except in cases where, to meet the needs of state security or of investigation into criminal offences, public security or procuratorial organs are permitted to censor correspondence in accordance with procedures prescribed by law.
