zoeken binnen de website

Deepfake verbod?

door: Rob van den Hoven van Genderen | 23 december 2020

Rob van den Hoven van Genderen


Willen we met wettelijke hooivorken voor de technologietrein gaan staan om die nieuwlichterij een halt toe te roepen?

Met behulp van artificial intelligence (AI) lopen fantasie en werkelijkheid steeds meer door elkaar. Fake nieuws is inmiddels een bekend fenomeen. Maar is dit nog wel te onderscheiden van feitelijk juiste berichtgeving als dit ‘nepnieuws’ wordt uitgesproken door voor ons als betrouwbaar bekend zijnde personen? Moet daarom dit soort AI-technologie worden verboden?

Met behulp van deepfake, manipulatiesoftware, waardoor zowel stemgeluid als beeld van personen bijna ondetecteerbaar kan worden aangepast zodat BN-ers of bekenden in eigen kring in meer of minder onverkwikkelijke situaties aan de openbaarheid kunnen worden plaats gegeven. Deze programma’s zijn voor iedereen beschikbaar. Ook het programmeren van specifieke toepassingen is steeds makkelijker met de laatste AI-ontwikkeling, bekend als GPT-31. Onze nationale aanzwengelaar van menselijke dwalingen en misstanden, Arjen Lubach, stelde de mogelijkheden en risico’s van deep fake op zijn bekende komische wijze aan de orde.

CDA en GroenLinks (Van Toorenburg en Buitenweg) kwamen recent met een voorstel om manipulatie van beelden strafbaar te stellen als dit leidt tot fictieve pornografische afbeeldingen. Deze zogenaamde deepnude manifestatie kan worden gecreëerd door, met toepassing van manipulatiesoftware (deepfake technologie), bekende of minder bekende personen in pornografische afbeeldingen of films te laten optreden zonder dat zij hier ooit bij betrokken zijn geweest. Dit is niet anders dan de algemene toepassing van deepfake manipulatiesoftware waarbij foto’s, films en spraak zodanig kunnen worden gemanipuleerd zodat de afgebeelde personen – en gedragingen en spraak van die personen – worden vervangen door uitspraken of optreden van anderen. In verschillende Amerikaanse staten (Virginia, Texas, New York) werden vorig jaar al amendementen op bestaande bepalingen aangenomen om deep fake bij gebruik als manipulatie van video’s en foto’s met sexuele inhoud om personen te belasteren, te intimideren of te chanteren, als misdrijf te bestraffen2. Heeft Nederland nu een vergelijkbare bepaling in het wetboek van strafrecht nodig om dit soort gedrag te bestraffen?

Dat opzettelijke misleiding door beeld- en stemmanipulatie onwenselijk en zelf strafbaar zou moeten zijn. is duidelijk. Maar zonder meer strafbaar stellen van deep fake technologie in algemene zin lijkt me ook niet wenselijk. Talloze persiflage-makers van bekende personen maken gebruik van deze technologie. Zelfs Snapchat is een vorm van deepfake. Het strafbaar stellen van deepfake, zelfs voor bepaalde toepassingen, is dus geen oplossing omdat er ook legale toepassingen van deepfake technologie bestaan, bijvoorbeeld door creatie van niet bestaande personen of met toestemming van in real life (irl) bestaande personen.

Voor een strafrechtelijke benadering moet er ook worden gekeken naar de bedoeling van de manipulator; is het de bedoeling geweest om opzettelijk een persoon te beschadigen door aantasting van zijn goede naam of maatschappelijke positie? Is de activiteit onrechtmatig en strafwaardig? Is de manipulatie gericht op verrijking van degene die de deep fake gebruikt voor chantage of om een grotere verkoop van bijvoorbeeld een film na te streven door bekende personen zonder toestemming fictief te laten optreden?

Hiertegen zijn andere juridische middelen voorhanden, zowel in het strafrecht als het civiele recht, waarbij de technologie geen rol speelt; zoals belediging, smaad en valsheid in geschrifte. Ook waar technologie wel een rol speelt, bestaan voldoende strafbepalingen om (onwenselijke) deepfakeporn aan te pakken. Een voorbeeld hiervan is computer/data vredebreuk wanneer er sprake is van gehackte beelden of films in het bezit van het ‘slachtoffer’:

‘het opzettelijk en wederrechtelijk binnendringen in een geautomatiseerd werk of in een deel daarvan door technisch ingreep of valse hoedanigheid’3

Ook het met een technisch hulpmiddel (software) vervaardigen van een afbeelding van iemand anders zonder dit kenbaar te maken, is strafbaar gesteld4. De meest toepasselijke strafbepaling is overigens het recent gevormde ‘wraakporno’ artikel5, waarbij degene die opzettelijk en wederrechtelijk van een persoon een afbeelding van seksuele aard vervaardigt, strafbaar is6.

Verder bestaan er al bruikbare bepalingen om deepfake aan te pakken op basis van het auteursrecht en/of het portretrecht. Aangezien het onrechtmatig is zonder toestemming van de betrokken personen beeltenissen te manipuleren en te verspreiden. Daarnaast zijn er nog civielrechtelijke mogelijkheden op grond van onrechtmatige daad om schadevergoeding te eisen van degene die zich op onrechtmatige wijze bedient van deepfake technologie.

Er bestaat bij de politiek de neiging om op basis van de waan van de dag het strafrecht te gebruiken om aan te geven hoe betrokken men is bij morele verontwaardiging over de negatieve toepassing van AI-technologie. Aanpassingen van het strafrecht dienen echter uiterst terughoudend te worden toegepast, zeker als meer technologieneutrale strafbepalingen voorhanden zijn.

Kortom, er zijn al voldoende juridische mogelijkheden om deepfake porno aan te pakken. De vraag is overigens of handhaving, opsporing en vervolging altijd even makkelijk zal zijn. De ontwikkelingen op het gebied van AI lijken voor Justitie onmogelijk bij te houden. Een aanpassing van het strafrecht zal dat probleem zeker niet oplossen.

Rob van den Hoven van Genderen is hoogleraar AI & Robotlaw aan de universiteit van Lapland en voorzitter van de Nederlandse Vereniging voor Artificiële Intelligentie en Robotrecht (NVAIR)

1 GPT-3

2 Amendementen

3 Artikel 138 ab WvS

4 Artikel 139 f WvS

5 Artikel, 139 h wetboek van strafrecht (WvS)

6 Zie voor een inzichtelijk artikel van de ontwikkeling van deze bepaling: Michael Berndse, Een verbod op wraakporno, Tijdschrift voor Strafrecht, 2, 2020

reacties: 1

tags: , , ,

  • Hans IJsselstein #

    23 december 2020, 18:23

    Deze regering regeert op basis van incidenten, terwijl een visie en implementatie van een goede innovatieve infrastructuur achterblijft. Het zou zonde zijn als een veelbelovende technologie wordt verboden, omdat er ook misbruik van zou kunnen worden gemaakt. Beelden worden allang gemanipuleerd, dat begon al met het retoucheren en photoshoppen van foto’s. Ook de veelbelovende nieuwe technologie van GAN-systemen (2 AI-systemen die met elkaar concurreren/samenwerken) zouden in de kiem worden gesmoord.

Reactieformulier

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie. U kunt bij de vormgeving van uw reactie gebruik maken van textile en er is beperkt gebruik van html mogelijk.