Een bordeelhoudster die een kort geding aanspant tegen haar seksrobot voor het verspreiden van persoonlijke data van een misbruikende klant op social media. Het klinkt absurd, maar dat kort geding is precies wat er op 4 oktober plaatsvond. Het ludieke evenement stond in het teken van de expositie 'Robot Love' en diende gelijk als startschot van de Nederlandse Vereniging voor AI- en Robotrecht (NVAIR).
Advocaat Hub Dohme, met naast zich de zichtbaar gemankeerde seksrobot Sadie
Het fictieve kort geding in de Campinafabriek in Eindhoven werd geopend door Ine Gevers, artistiek leider van Robot Love, een expositie over liefde tussen mens en machine. Gevers vertelde hoe ze in een recentelijke thema-avond in Pakhuis de Zwijger het dilemma ‘robotrechten, voor of tegen?’ aan het publiek voorlegde. Het grootste gedeelte bleek tegen. In een wereld waarin dieren van steeds meer bescherming genieten en zelfs rivieren mensenrechten toegekend krijgen, best een opvallend geluid. Robotrechten – het is voor veel mensen waarschijnlijk toch een stap te ver.
Rob van den Hoven van Genderen, jurist, docent en voorzitter van de NVAIR, timmert al langer aan de weg om meer aandacht te krijgen voor robotrechten en robotrechtspraak. Dat is volgens hem ook hard nodig: ‘in Japan is bijvoorbeeld al een robotbordeel geopend’. Volgens Van den Hoven van Genderen komt dat deels omdat de ethische en morele vragen die ons in Nederland nog bezighouden, in Japan ‘niet lijken te bestaan’. Maar ook dichtbij huis speelt het. Eerder dit jaar opende in in België het eerste sekspoppenbordeel haar deuren. En vergeet, als het gaat om robotrechten en robotrechtspraak, niet de zelfrijdende auto’s en zorg- en fabrieksrobots, die steeds geavanceerder worden.
Goed. Bordeelhoudster vs. seksrobot: de hilariteit van het onderwerp ontging de bezoekers van het geënsceneerde kort geding in de Campinafabriek niet. Veelvuldig barstte een lachsalvo los. Bijvoorbeeld over het feit dat de in levende lijve aanwezige en zichtbaar gemankeerde seksrobot Sadie geprogrammeerd was om uit te blinken in sadomasochisme en haar arm verloor tijdens een iets te wild bezoekje van de agressieve klant.
Kat-en-muisspel
Als reactie op de toetakeling schakelde Sadie vliegensvlug social media in om het wangedrag van de agressieve man openbaar te maken. Probleem: de bordeelhoudster verloor door alle ontstane ophef de helft van haar klandizie. Bovendien had Sadie als sekswerker een geheimhoudingsplicht, wat betekende dat ze het recht op privacy van de klant had geschonden. Ze had nooit openbaar mogen gaan en de reputatieschade van zowel de man als de bordeelhoudster mogen veroorzaken. Belangrijk: de seksrobot had volgens advocaat Merel Dorgelo, die de bordeelhoudster vertegenwoordigde, geen mensenrechten, dus ook geen recht op lichamelijk integriteit, noch die van vrijheid van meningsuiting. ‘Entiteit’ Sadie moest daarom per direct ophouden met het verspreiden van negatieve informatie en bovendien een fikse geldboete betalen.
Het kat-en-muisspel tussen verdedigend advocaat Hub Dohmen en aanklager Dorgelo kon beginnen. Dohmen pleitte dat het algemene mensenrecht van toepassing zou moeten zijn op Sadie. De autonome robot die haar arm kwijt was leed immers pijn, was bang en verstopte zich uit angst om te worden uitgezet of gewist. Er was volgens hem ‘onlosmakelijk sprake van lijden, zoals mensen en dieren daarover beschikken’. Bovendien werd door de bordeelhoudster verwacht dat Sadie rechtshandelingen, zoals het sluiten van arbeidscontracten, verrichte. Iets dat alleen volwassen mensen mogen doen.
Tijden veranderen
Dohmen greep terug op het verleden om verder zijn punt te maken. Was het niet verwerpelijk dat slaven niet van dezelfde mensenrechten konden genieten als hun meesters? Maar niet alleen slaven, ook vrouwen moesten lang wachten op een gelijke behandeling. ‘Moeten vrouwen stemrecht krijgen? Dat was 1920. Zijn gehuwde vrouwen handelingsbekwaam voor de wet? Dat was tot 1957 niet het geval en nu volstrekt ondenkbaar’, oppert Dohmen.
Hij benadrukt dat zijn cliënt veel meer is dan zomaar een MSAR – most sophisticated autonomous robot – een begrip uit een fictieve EU-verordening, opgesteld voor het kort geding waarin staat dat intelligente robots een bepaalde legale status moeten krijgen. Een MSAR is een ‘autonome artificiële entiteit die op basis van een certificaat geacht wordt handelingen met rechtsgevolg te verrichten’, stelt de bepaling.
‘Door haar zelflerend vermogen merkt niemand het verschil met een mens, zelfs niet tijdens een juridische ondervraging of gesprek bij een psycholoog’, pleit Dohmen. ‘Ze is zo vergevorderd en intelligent dat ze menig mens, in cognitie en emotie, overstijgt’. Maar Sadie bleek meer superieure eigenschappen te hebben. Zo kon ze zich bijvoorbeeld verbeteren én zichzelf repareren. Kortom, we hadden volgens Dohmen te maken met een entiteit die zo vergevorderd is dat het absurd zou zijn deze geen rechten te geven. ‘Dat hoeven we geen mensenrechten te noemen, maar vergelijkbaar’.
Het waren bijzonder baldadige aannamen voor een advocaat die een doofstomme robot verdedigde. ‘Uw cliënt lijkt met stomheid geslagen’, pareerde Dorgelo dan ook met een lach. Ze benadrukte nogmaals dat we het hier niet over een mens, maar over een ding hadden en zelfs van minder rechten dan dieren zou moeten genieten. En als ze zo fantastisch was en zichzelf kon verbeteren of beter maken, waarom zat ze dan zonder arm te klagen in de rechtbank?
Black box
Om te bewijzen dat Sadie daadwerkelijk over haar toegeschreven vaardigheden en emotionele intelligentie beschikte, riep Dohmen Ine Gevers als deskundige naar voren. Hij vroeg haar om de emoties capaciteiten van de artificiële intelligentie uiteen te zetten. Dat kon ze. Het begon volgens Gevers allemaal met robots die emoties simuleerden om mensen beter te begrijpen, maar naarmate er steeds meer kennis en data over emoties bijkwamen, nam het simuleren van het lijden en voelen van emoties een volgende stap. Door de constante nabijheid en interactie met mensen ging het simuleren over tot echt lijden en voelen – een relatie die ‘niet meer uit elkaar te trekken’ was, aldus Gevers. Van emoties als lijden en angst was volgens Gevers vanzelfsprekend sprake. ‘Het was de eerste reactie die ze van mensen kregen en dus ook het meeste ontwikkeld’.
Dorgelo was niet overtuigd en vroeg waar dit ‘ding’ eigenlijk voor was geprogrammeerd. Gevers gaf aan dat mensen over de software eigenlijk geen controle meer hadden, omdat het ging over een zelflerende artificiële entiteit. Daarop hapte Dorgelo direct toe. ‘Ik constateer dat we hier met een levensgevaarlijke situatie te maken hebben, een black box. We hebben geen idee waartoe Sadie precies in staat is en of ze zich houdt aan de handelingen beschreven in haar certificaat. Ze is duidelijk een bedreiging voor mijn cliënt haar lichamelijke integriteit’. Als reactie stelt Dohmen dat deze black box juist getuigt van Sadie’s typische menselijke eigenschappen. ‘Wat is er menselijker dan emotioneel en onvoorspelbaar reageren? Ik doe dat ook, zegt mijn vrouw’.
Geveinsde emoties
De cynische houding van Dorgelo kreeg veel bijval. Op de vraag wie er volgens de rechter gelijk zou krijgen, bleek het leeuwendeel van het publiek het met Dorgelo eens te zijn. De argumenten van Dorhem en Gevers deden weliswaar een succesvol beroep op onze menselijke empathie, ze bleken niet steekhoudend. Het argument van het beoogde lijden van de autonome artificiële intelligentie was te dunnetjes. Het was voor het kort geding wellicht ook niet de juiste plaats, want nergens kwam duidelijk naar voren hoe de digitale simulaties van menselijke emoties voldoende waren om een vergelijkbare digitale subjectieve levenservaring vorm te geven.
Dat een autonoom systeem zo echt lijkt dat het niet van een mens valt te onderscheiden, zoals Dohmen beaamde, betekent nog niet dat het menselijk is of we het zo zouden moeten benaderen. Het getuigt meer van knappe algoritmen dan van het type zelfbewustzijn dat een vereiste is voor subjectief lijden. We animeren kortom onze eigen menselijke emoties op een ogenschijnlijk intelligent systeem, zonder dat het systeem zelf begrijpt wat een emotie is. Net zoals we onze slimme auto’s nu al gekscherend een soort bewustzijn toeëigenen. We moesten Dohmen dan ook maar geloven dat Sadie over een immens rijk innerlijk leven beschikte, vol angsten en wensen. Dat bleek ook hier een stap te ver.
Als eindoordeel stelt rechter Willem F. Korthals Altes beide partijen in het ongelijk, maar in het voordeel van Dorgelo. De uitspraak lijkt Sadie, die met ijskoude blik voor zich uit staarde, weinig te boeien. Fascinerend was hoe ondanks haar expressieloze gedaante, het na verloop van tijd toch aanvoelde alsof er een echt persoon in de zaal zat. Een gevoel waar we, vrees ik, voor moeten waken. Dat iets echt lijkt, betekent niet dat het echt is, wat bij de populaire robot Sophia snel duidelijk wordt. Entiteiten zoals Sadie of Sophia menselijke rechten toedichtten op basis van hun gedrag, lijkt dan ook een ongewenste premature ontwikkeling.
Het kort geding in de Campinafabriek was bijzonder boeiend, maar de discussie voelde wat voorbarig. Een daadwerkelijke specialist in artificiële intelligentie voordragen als deskundige was wellicht beter geweest om de (on)mogelijkheden rondom intelligente systemen beter te duiden. Dan had het debat over robotrechten ook buiten het juridische kader kunnen worden getrokken en zou een duidelijker beeld geschetst kunnen worden van wat er nou écht mogelijk is met betrekking tot autonome intelligente systemen. Gelukkig gaat de zaak in hoger beroep, want de discussie rondom robotrechten en autonome systemen is, zoals vandaag is gebleken, allerminst geklaard.
