De Europese Commissie wil technologiebedrijven kunnen dwingen mee te kijken met de chats van hun gebruikers. Het doel is nobel: bestrijding van seksueel misbruik van kinderen en jongeren. Dat kunnen we veel beter doen door de positie van slachtoffers te versterken. Dit wetsvoorstel is misschien wel de grootste bedreiging voor vertrouwelijke communicatie.
De Europese Commissie wil technologiebedrijven kunnen dwingen mee te kijken met de chats van hun gebruikers. Het doel is nobel: bestrijding van seksueel misbruik van kinderen en jongeren. Dat kunnen we veel beter doen door de positie van slachtoffers te versterken. Dit wetsvoorstel is misschien wel de grootste bedreiging voor vertrouwelijke communicatie.
Centraal in het voorstel staat de oprichting van een nieuwe autoriteit, het EU-centrum. Die nieuwe instantie moet hun kantoorruimte gaan delen met Europol, de samenwerking tussen de politie in elk van de lidstaten. Dat is nodig, volgens de wetgever, voor “de betere mogelijkheden voor gegevensuitwisseling” en om er voor te zorgen dat “het personeel […] meer loopbaanmogelijkheden heeft zonder van standplaats te hoeven veranderen.” En natuurlijk regelt de wet dat de beide instanties “elkaar van een zo volledig mogelijke toegang tot relevante informatie en informatiesystemen […]” voorzien. In de praktijk zal de scheiding tussen de twee diensten dan ook niet meer dan een plantenbak zijn.
Context is belangrijk
Dat EU-centrum heeft als taak meldingen van materiaal van mogelijk misbruik van kinderen te filteren. Die meldingen komen van platforms als WhatsApp of Signal. Om alle berichtjes te kunnen beoordelen, gebruiken die bedrijven kunstmatige intelligentie. Die technologie is notoir slecht in het beoordelen van de context. Dat is belangrijk, want het delen van een intieme foto in een gesprek tussen twee minderjarigen is alleen een probleem als een van de twee dat onvrijwillig doet. Computers kunnen dat onderscheid echter bijzonder slecht maken, want die kennen de context niet.
Als er sprake zou kunnen zijn van misbruik moet het platform het materiaal rapporteren bij het EU-centrum. Zo’n platform zal dat al snel doen: beter te vaak dan te weinig, om publicitaire risico’s te minimaliseren.
Kennelijk ongegrond
Dat EU-centrum moet vervolgens de meldingen van platformen “snel beoordelen en verwerken […] om te bepalen of die meldingen kennelijk ongegrond zijn.”
De enige manier om dat met zekerheid te bepalen, is door de context te kennen. Maar die heeft het EU-centrum niet. En dus is zo’n beetje elke melding van een foto met naakt en jonge mensen erop, en elk gesprek dat niet overduidelijk tussen volwassenen is, niet “kennelijk ongegrond”. En dus mogelijk misbruik.
Loze meldingen leiden tot last
In dat geval stuurt het centrum de foto door naar de politie van de relevante lidstaat. Is de gebruiker een Nederlandse gebruiker, dan wordt de melding dus doorgestuurd naar de Nederlandse politie. Die zal moeten onderzoeken of er écht sprake is van misbruik. De politie moet vervolgens op zoek naar de context: het verhaal achter de foto of het gesprek. Daar heeft ze opsporingsbevoegdheden voor. Ze kan dus bij het platform aankloppen, om bijvoorbeeld de gespreksgeschiedenis van de gebruiker te onderzoeken. En dan wordt duidelijk of er sprake is van misbruik. Of niet (wat vaak zo zal zijn).
Als je als jongere je seksualiteit onderzoekt, of gewoon een fijne relatie hebt, moet je de politie vrezen.
De Ierse politie heeft daar ervaring mee: van de meer dan 4.000 foto’s die zij vorig jaar via een Amerikaanse kinderrechtenorganisatie doorgestuurd kreeg, bleek tenminste tien procent geen kindermisbruik. Het werkelijke aantal onterechte meldingen ligt vermoedelijk veel hoger, want bij slechts 20% van de meldingen is er wél met zekerheid sprake van misbruik van kinderen. (Maar misschien nog wel veel heftiger: de politie bewaart de identificerende gegevens over alle meldingen. Alle. Dus ook van die meldingen waarvan is vastgesteld dat die niets te maken hebben met misbruik van kinderen. Je zou maar in zo’n database geregistreerd worden.)
Politie legt verzameling amateurporno aan
Over databases gesproken… Als de melding naar inschatting van het EU-centrum niet “kennelijk ongegrond” is, moet er ook een kopie van die melding naar Europol. De melding wordt dan dus over de plantenbak gegooid. Europol krijgt daarmee de beschikking over een gigantische set aan intieme foto’s, video’s en chat’s van met name jongeren. Dat zijn stuk voor stuk intieme foto’s waar in veel gevallen helemaal niets mis mee is.
Wat Europol daarmee moet doen zegt het wetsvoorstel niet. Dat zal vast wel weer iets zijn als “analyseren” en “in samenhang brengen en verrijken met andere informatie.” Het voorstel bepaalt niet hoe lang Europol die foto’s mag bewaren. En dat terwijl veel van die intieme foto’s, video’s en chat’s buiten het mandaat van Europol vallen. Dat is namelijk “ernstige internationale criminaliteit en terrorisme”.
Wat was het doel ook al weer?
Kortom, als dit wetsvoorstel aangenomen wordt, zijn de gevolgen desastreus. Als je als jongere je seksualiteit onderzoekt, of gewoon een fijne relatie hebt, moet je de politie vrezen. Je kunt er immers niet langer op vertrouwen dat je meest intieme gesprekken alleen tussen jou en je partner blijven.
En voor politici die nu denken: “Goed punt, we moeten een bewaartermijn toevoegen,” je mist het punt. Om kinderen te beschermen is het helemaal niet nodig dat elke foto, video of chat die misschien wel op seksueel misbruik van jongeren zou kunnen wijzen, naar Europol moet. En zeker niet als het buiten hun mandaat valt. Want wat was het doel ook al weer? Kinderen en jongeren beschermen toch? Dat kunnen we veel beter doen door de positie van slachtoffers te versterken, gebruikers eenvoudiger misstanden te laten melden, de capaciteit van de zedenpolitie te vergroten, en door ervoor te zorgen dat daders gestraft worden. Niet door mee te lezen met ieders vertrouwelijke communicatie, of door Europol te laten concurreren met Pornhub.
Rejo Zenger is beleidsadviseur bij digitale burgerrechtenbeweging Bits of Freedom
Deze blog is ook verschenen op de website van Bits of Freedom
