Van Weel wijst erop dat hoger beroep nog mogelijk is, maar spreekt van een goede eerste stap in de rechtsgang. Uiteindelijk wil hij apps waarmee met behulp van kunstmatige intelligentie (AI) naaktbeelden gemaakt kunnen worden, zo veel mogelijk in EU-verband aanpakken. 'Juist omdat je dan echt een vuist kunt maken tegen deze bedrijven.'
Minister vindt verbod op uitkleedfunctie Grok 'goed signaal'
Justitieminister David van Weel vindt het 'een goed signaal aan slachtoffers' dat de rechtbank in Amsterdam de uitkleedfunctie van de chatbot Grok heeft verboden. De VVD-bewindsman concludeert 'dat er serieus naar gekeken wordt en dat erkend wordt wat de nadelige effecten zijn voor slachtoffers.'
De chatbot Grok mag zijn 'uitkleedfunctie' niet meer aanbieden in Nederland. De rechtbank in Amsterdam heeft de tool donderdag verboden, nadat het Fonds Slachtofferhulp en het expertisecentrum Offlimits dat hadden geëist in een kort geding.
Naaktbeelden
Grok is gemaakt door xAI, het Amerikaanse bedrijf van zakenman Elon Musk. Gebruikers konden de chatbot opdracht geven om met kunstmatige intelligentie naaktbeelden te maken. Dat kunnen afbeeldingen van volwassenen zijn, maar ook van kinderen. De afgebeelde personen kunnen virtueel zijn en alleen online bestaan, maar het kan ook om nepbeelden van echte mensen gaan.
Om hun eis kracht bij te zetten, hadden Fonds Slachtofferhulp en Offlimits foto's gedeeld die ze met Grok hadden gemaakt. Daarop waren schaars geklede virtuele kinderen met volwassen mannen te zien.
Volgens de rechter is het aannemelijk dat de makers van Grok 'onrechtmatig en toerekenbaar bijdragen aan een klimaat van online grensoverschrijdend gedrag'. xAI heeft controle over Grok en moet misbruik dus voorkomen, ook als de makers van het platform niet zelf de beelden creëren.
Verbod in Nederland
Het verbod geldt voor beelden van mensen die in Nederland wonen en voor het maken en verspreiden van de beelden in Nederland. De beide organisaties hadden een wereldwijd verbod op de 'nudification tool' geëist, maar daarin ging de rechtbank niet mee, de voorzieningenrechter oordeelt dat hij daar niet over gaat.
De makers van Grok krijgen ook een dwangsom opgelegd. Elke dag dat de uitkleedfunctie beschikbaar is, moeten ze 100.000 euro betalen. Dat kan oplopen tot een maximaal bedrag van 10 miljoen euro. En zolang Grok zich niet aan het verbod houdt, mag de dienst ook niet worden aangeboden als onderdeel van X, het vroegere Twitter.
De minister kan nog niet zeggen hoe een verbod moet worden gehandhaafd. 'Ik ga de uitspraak bestuderen en kijken hoe we daarmee verdergaan.'
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.