Het nieuwste wetsvoorstel van de Europese commissie geeft de overheid de plicht en mogelijkheden om versleutelde digitale gesprekken en chats te scannen om kindermisbruik op te sporen. Klinkt goed toch? Een schoon internet, vrij van online narigheid? Er zitten goede kanten aan dit voorstel. Maar ook is er een ongekende inzet op privatisering van opsporing en handhaving.
Niemand is tegen de aanpak van online kindermisbruik. En iedereen is voor het intensiveren van onderzoek, delen van informatie en zorgplichten voor de private sector als het gaat om beschermen van onze kinderen. Dat weet ook de EU commissie en gokt er daarom op dat er weinig verzet zal komen tegen het nieuwste wetsvoorstel van directoraat DG-HOME van de Europese commissie op dit gebied. Zo kan iedereen die zich verzet tegen de algemene monitoringverplichting in dit voorstel te kijk worden gezet als een partij die niet serieus werk wil maken van het beschermen van onze kinderen.
Er zitten ontegenzeggelijk goede kanten aan dit wetsvoorstel. Versterking van Europese coördinatie en samenwerking, verbeteren van de distributie van informatie. Ook is er straks minder vrijblijvendheid voor online aanbieders die nu soms hun rol ontkennen bij het hosten van CSAM, de afkorting voor Child Sexual abuse Material. Maar ook is er een ongekende inzet op privatisering van opsporing en handhaving. Niet de overheid, maar het bedrijfsleven en technologie moet gaan uitvinden of u een crimineel bent of niet.
De praktijk
Voor wie nog denkt dat dat zo’n vaart niet loopt, en dat een paar van onze geheimen echt wel mogen wijken voor het beschermen van onze kinderen, schets ik nog even wat dit in de praktijk betekent. De Europese commissie haalt een oud stokpaardje van stal: het idee dat je met technologie ongewenst materiaal makkelijk kunt herkennen door alles wat op jouw servers en in chats gebeurt te scannen op mogelijke onrechtmatigheid. De nieuwe wet verplicht providers van communicatiediensten om bij vermoedens van misbruik, op aanwijzing, gesprekken, foto’s en documenten te gaan inspecteren.
Om de communicatie te kunnen inspecteren moeten providers de zogenaamde End-To End versleuteling die ze nu gebruiken, en die waterdichte garantie geeft dat slechts de twee betrokken personen de chat kunnen lezen, vervangen door een versleuteling waar ook een derde partij in kan meekijken. De commissie ziet AI als probaat middel om een eerste automatische selectie te doen op de beelden en chats, op basis van allerlei kenmerken zoals het gespreksonderwerp van je chats, en meta data zoals je afkomst, je leeftijd. Wat cynisch zeg ik, zoals de Belastingdienst Toeslagen die eerste selectie maakte.
Medewerkers moeten bij een positieve AI detectie chats, privégesprekken, foto’s, video’s, documenten gaan bekijken.
Een onvermijdelijk gevolg is dat de duizenden Europese hosting- en andere providers die met die nieuwe verplichting worden opgezadeld, medewerkers moeten opdragen en trainen om bij zo’n positieve AI detectie die chats, privégesprekken, foto’s, video’s, documenten te gaan bekijken. Om die na te pluizen of de verdenkingen kloppen, of zij ook vinden dat het om kinderporno gaat. Dat is nodig omdat AI ook zo z’n beperkingen heeft. De “ethische AI normen” die de EU ook verplicht gaat maken vereisen menselijke tussenkomst en beoordeling. Dat de AI aanslaat op de foto’s van je kinderen in bad, je ondeugende foto’s in je slaapkamer of een pikante chat met een geliefde, vindt de Commissie minder belangrijk. Dat die medewerkers ook informatie van mensen te zien krijgen die ze kennen of dat er types bij zitten die het misschien een goed idee vinden om wat bij te verdienen met die informatie, idem dito. Dat is de prijs voor het opsporen van misbruik en beschermen van kinderen.
Data delen
Het gaat verder. Als die medewerkers dan inderdaad vinden dat er iets niet klopt, dan kunnen ze die data doorgeven aan de politie. Dat mag trouwens allemaal van de AVG, want een wettelijke plicht is een geldige verwerkingsgrond. De politie kan dan weer nader onderzoek doen. Vanwege de andere nieuwe wet, de WGS die het delen van data tussen overheden toestaat voor bestrijding van fraude en criminaliteit, kan die lijst zonder al te veel poespas worden gedeeld met UWV, de Belastingdienst en de gemeente. Die voorzichtigheidshalve alvast uitkeringen kunnen stoppen. Want we willen geen geld geven aan potentiële kindermisbruikers en criminelen, toch? Dat zal de overheid echt nooit doen, zegt u? Ik vraag u dan, weet u dat zeker? We weten inmiddels dat bevoegdheden altijd worden gebruikt en daar alleen achteraf de rechter aan te pas komt.
Ook ligt de weg nu open voor de “preventie” van andere online criminaliteit. Waarom alleen CSAM? Met de plicht en mogelijkheden om ook versleutelde digitale gesprekken en chats te scannen ligt de weg vrij om niet alleen kindermisbruik, maar van alles en nog wat in de gaten te gaan houden. Alles wat potentieel verdacht is: fraude, witwassen, terrorisme, kan nu worden gedetecteerd, want AI is geweldig, en de juridische basis is gelegd.
