Volgens ICT-jurist Caroline van Ekeren van ICTRecht hebben Europese toezichthouders de mogelijkheid om platforms als X ontoegankelijk te maken wanneer andere handhavingsmogelijkheden zijn uitgeput en niet toereikend zijn. Eerder werd de torrent-website The Pirate Bay ook offline gehaald, naar aanleiding van een rechtszaak.
X solliciteert naar ban in Europa volgens juristen: 'Deze maatregel verandert niets'
Toezichthouders wereldwijd buigen zich over Grok, de AI-chatbot die op het platform X onrechtmatig seksueel beeldmateriaal met AI genereert en verspreidt. Indonesië en Maleisië hebben X om die reden inmiddels offline gehaald, en ook in Europa bestaat er kans dat het zo ver komt.
Het vervaardigen van ongevraagd seksueel getint beeldmateriaal, waar gebruikers op X Grok massaal voor inzetten, is in Nederland strafbaar op grond van het Wetboek van Strafrecht, zo legt van Ekeren uit. Dat geldt nadrukkelijk ook voor materiaal van minderjarigen. Of dat ‘per ongeluk’ gebeurt is daarbij niet relevant. Van Ekeren stelt bovendien dat het extreem lastig is om te verdedigen dat iemand bij het gebruik van generatieve AI per ongeluk tot naakt beeldmateriaal komt.
Extra verplichtingen voor zeer grote platforms
Vanuit Europese regelgeving volgt dat hostingproviders in principe niet aansprakelijk zijn voor illegale content van gebruikers, zolang zij niet op de hoogte zijn en de inhoud direct verwijderen zodra zij dat wel zijn. Voor zeer grote platforms (VLOP’s) zoals X gelden aanvullende verplichtingen. Volgens Van Ekeren is het genereren van onrechtmatig seksueel materiaal zeker van minderjarigen of onwetende derden een risico dat moet worden weggenomen. Vooral wanneer dit aan de lopende band gebeurt. X moet dus sowieso maatregelen nemen om dit te voorkomen. Het bedrijf heeft inmiddels aangekondigd dat alleen betalende leden nog foto’s mogen bewerken met Grok. Die maatregel verandert in principe niks aan hun aansprakelijkheid.
AI-output: van wie komt die eigenlijk?
Een ingewikkelde vraag om te beantwoorden is volgens Van Ekeren of de output van Grok moet worden gezien als content van de gebruiker of van X zelf. In juridische discussies wordt er nu vanuit gegaan dat de output van de gebruiker komt, maar de input van het platform is groot in het bepalen van de output. Als de output als eigen content van X wordt aangemerkt, vervalt de aansprakelijkheidsuitzondering en is X aansprakelijk. Waar die grens ligt, is onduidelijk. Dit is volgens Van Ekeren juridisch onontgonnen terrein waar een rechter of toezichthouder zich nog niet over heeft uitgesproken.
Gebruikers strafrechtelijk aansprakelijk
Strafrechtelijk is in ieder geval de gebruiker aansprakelijk, stelt Van Ekeren. Wie Grok of een ander generatief AI-model inzet om dergelijk materiaal te maken en te delen, kan een gevangenisstraf en geldboete krijgen. Het maken van “deepfake porno” zoals dat (onterecht) genoemd wordt, is namelijk al een tijd onrechtmatig in Nederland. Bij materiaal van minderjarigen is niet alleen het maken, maar ook het verspreiden ervan strafbaar.
Daarnaast kan de aanbieder van het generatieve AI-model, zoals xAI, onder omstandigheden als medeplichtige worden aangemerkt. Medeplichtigheid geldt voor partijen die ‘opzettelijk behulpzaam’ zijn bij het plegen van een misdrijf. Van Ekeren wijst erop dat bekend is dat het zeer gemakkelijk is om met een simpele prompt dit soort misdrijven te plegen en dat er breed bekend onrechtmatig materiaal wordt vervaardigd.
Ook platforms kunnen aansprakelijk gesteld worden voor de onrechtmatige inhoud, op basis van de Digital Services Act. Zij zijn niet aansprakelijk voor gebruikerscontent behalve als zij wisten dat het materiaal onrechtmatig was en er niets aan deden. Volgens Van Ekeren is het duidelijk dat er veel onrechtmatig materiaal wordt gegenereerd en verspreid via X, waardoor het platform aansprakelijk kan worden gesteld als ze niet direct handelen, wat niet lijkt te gebeuren.
Voorkomen is beter dan genezen
Volgens Van Ekeren zit een groot probleem bij het genereren van onrechtmatige deepfakes in de opsporing: digitaal is het makkelijker om sporen te wissen en lastiger om mensen aansprakelijk te stellen. Bovendien is het, zodra onrechtmatig materiaal eenmaal is verspreid, moeilijk om het echt overal te verwijderen. De schade voor betrokkenen kan enorm zijn. In de onderhavige situatie waarbij dergelijke berichten publiek geplaatst worden vanuit persoonlijke profielen, lijkt het opsporen van de misdadiger minder lastig. Wie erachter zit kan in sommige situaties ook van X gevorderd worden, zelfs als aliassen gebruikt worden.
Daarom noemt zij directe handhaving als optie, bijvoorbeeld het tijdelijk offline halen van een platform bij grove schendingen van grondrechten. Onder Europese wetgeving hebben VLOP’s zoals X sowieso de verplichting maatregelen te nemen om te voorkomen dat risico’s intreden en toezichthouders kunnen daar dus al op handhaven.
Vergelijkbare zaak met Clothoff
Van Ekeren wijst tot slot op een waarschuwing van de Italiaanse privacytoezichthouder afgelopen vrijdag aan gebruikers van Grok en vergelijkbare diensten die mensen zonder toestemming digitaal ‘ontkleden’. Dat is in strijd met de AVG. De Italiaanse toezichthouder nam al maatregelen tegen de app Clothoff. Deze dienst bood generatieve AI aan waarmee gebruikers zogenoemde ‘deep nude’-beelden konden maken: nepafbeeldingen en -video’s waarin echte mensen naakt of in pornografische poses werden afgebeeld. De Italiaanse privacytoezichthouder besloot toen per direct het bedrijf dat de app beheert een beperking op te leggen op de verwerking van persoonsgegevens van Italiaanse gebruikers.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.