Het huidige kabinet beraadt zich momenteel op een nieuw standpunt inzake de CSAM-verordening. In een indringende brief aan het kabinet vraagt cybersecurity-expert Bert Hubert in aankomende overleggen de CSAM-verordening niet te steunen. Met deze verordening zetten we volgens hem een staatsrechtelijke deur op een kier om onze meest privé-communicatie stelselmatig te laten monitoren door overheden.
Op basis van de EU-Verordening ter bestrijding van online seksueel kindermisbruik (Child Sexual Abuse, CSA) worden internetbedrijven verplicht om risico’s op de verspreiding van kinderpornografisch materiaal tegen te gaan en om dit materiaal te verwijderen. Om dit te kunnen doen moeten providers de zogenaamde ‘end-to end versleuteling’ die ze nu gebruiken, en die waterdichte garantie geeft dat slechts de twee betrokken personen de chat kunnen lezen, vervangen door een versleuteling waar ook een derde partij in kan meekijken.
‘Met de plicht en mogelijkheden om ook versleutelde digitale gesprekken en chats te scannen ligt de weg vrij om niet alleen kindermisbruik, maar van alles en nog wat in de gaten te gaan houden’, schreef Michiel Steltman hier over op iBestuur. ‘Alles wat potentieel verdacht is: fraude, witwassen, terrorisme, kan nu worden gedetecteerd, want AI is geweldig, en de juridische basis is gelegd.’
Verzet vanuit de Tweede Kamer
Vorig jaar weigerde het kabinet de motie Van Ginneken uit te voeren, waarin de regering werd opgeroepen tot het tegengaan van chatcontrole of client-side scanning, en anders de verordening niet te steunen. Met de motie-Dekker-Abdulaziz c.s. werd de regering verzocht de motie-Van Ginneken c.s. alsnog uit te voeren.
Het nieuwe kabinet mag zich nu over dit vraagstuk gaan buigen. Volgens minister Van Weel van Justitie en Veiligheid bevat een nieuwe voorstel van EU-voorzitter Hongarije ‘onderdelen die tegemoetkomen aan bezwaren die gedurende de onderhandelingen door Nederland naar voren zijn gebracht ten aanzien van de reikwijdte van het zogeheten detectiebevel.’ Dit voorstel wordt waarschijnlijk in stemming gebracht tijdens de JBZ-raad van 10 oktober a.s.
‘Weet welke deur we hiermee op een kier zetten’
‘Met deze verordening zullen voor het eerst onze meest private berichten in opdracht van de overheid door Big Tech gemonitord worden op potentieel strafbare inhoud. Indien deze wordt gevonden in bijvoorbeeld ons WhatsApp-verkeer gaat er een melding naar Europol en de lokale politie. Voor de duidelijkheid, dit gaat ook over de appgroep van uw afdeling of kabinet, al kunnen sommige ministeries een uitzondering krijgen’, schrijft Hubert in zijn brief aan de huidige ministers.
‘Ik kan niet genoeg benadrukken wat voor een drempel we hiermee over zouden gaan. Buiten dictaturen is dit soort bulk monitoring van privé-berichten nog nooit vertoond. Ervaring leert dat als een dergelijke hobbel eenmaal genomen is dit soort surveillance ook acceptabel wordt voor andere doelen. Europol noemde als voorbeeld dat dit ook zou werken tegen witwassen.’
Ook stevenen we af op een situatie dat dergelijke algoritmes ons effectief aangeven bij een politiemacht, die vervolgens weinig beperkt is in wat er gebeurt. ‘De CSAM-verordening bevat geen procedure hoe lokale politiemachten om moeten gaan met een melding.’ Ook wordt zo’n melding opgenomen in een databases. Hubert: ‘We weten inmiddels uit ruime ervaring dat ook geheel onschuldige burgers jaren lang last kunnen hebben van het voorkomen in zo’n database. Zeker als de politie (zoals wordt voorspeld) geen tijd heeft om iedere melding tijdig te onderzoeken en eventueel af te voeren. In het voorstel staat overigens opgenomen dat de EU ook onterecht bevonden meldingen blijvend opslaat voor onderzoek (!).’
Kunnen we Big Tech wel vertrouwen?
Hubert wijst erop dat Europa het op verschillende punten ‘in gevecht is’ met grote techbedrijven als Google, Facebook/Meta en Apple, omdat deze zich stelselmatig aan de wetgeving onttrekken. ‘Slechts na jarenlang procederen luisteren deze “multinationale platformbedrijven” (MPB’s) naar onze gerechtelijke uitspraken. Tegelijkertijd zijn we in Europa nu zeer afhankelijk van big tech, zoals ook uiteengezet in het recente boek van Marietje Schaake, ‘De tech coup. Hoe tech is gaan regeren en we de macht weer terugwinnen.’
‘Is dit nu het moment om juist Big Tech te voorzien van een faciliteit waarmee levens geruïneerd kunnen worden? Zeker als we weten hoe slecht deze bedrijven zich onderwerpen aan onze wetgeving? Terloops dient ook de EU de nodige hoeveelheid software te (laten) ontwikkelen om de stroom meldingen veilig af te handelen, maar bijvoorbeeld Europol heeft het zelf moeite met informatiebeveiliging. En terloops, wat betekent het voor onze agenda digitale open strategische autonomie?
Lees ook:
