Robotrecht leeft niet alleen in Nederland. Ook in Japan. Niet behept met de christelijk-calvinistische belemmeringen van moraal wordt het onderwerp daar in ruime zin serieus genomen.
De gerenommeerde Kyushu universiteit in Japan biedt aan veelbelovende juristen van verschillende geografische origine de mogelijkheid om een 1- of 2 jarige brede opleiding te volgen in het kader van het zogenaamde ‘Young Leaders Program’.
Door het aanbieden van die opleiding probeert de Japanse overheid een positieve houding te creëren bij toekomstig buitenlandse beleidsbeslissers. Ik had de eer om aan deze universiteit een cursus robotrecht te mogen geven. Hoewel het moeilijk is om aan te geven hoe Japanners over dit onderwerp denken, het is sowieso moeilijk aan te geven hoe Japanners denken, geeft dit wel aan dat de Japanse overheid ruimte geeft aan doordenken over nieuwe technologische ontwikkelingen. Niet behept met de christelijk-calvinistische belemmeringen van moraal wordt het onderwerp robotrecht in ruime zin serieus genomen. Het wordt daarbij zeker niet uitgesloten dat autonome zelfdenkende entiteiten zekere rechten zouden moeten krijgen. Dat is ook wel te begrijpen in een maatschappij die meer en meer afhankelijk wordt van de inzet van robots in allerlei geledingen van de maatschappij. Dat geldt niet alleen voor de inzet van eenvoudige industriële robots, maar met name voor de inzet van sociale robots, in de zorg en daar buiten.
Door de formalistische structuur van de Japanse samenleving zijn sociale contacten moeizaam. Contacten vinden voornamelijk plaats in de zakelijke omgeving. Na het werk ga je als (mannelijke) werknemer met de baas op stap, laat naar huis en vroeg weer op om naar het werk te gaan. De familiekring is beperkt en vriendschappelijke verbanden zijn nauwelijks aanwezig. Vereenzaming (naast zelfmoord of dood door de hoge werkdruk: ‘karoshi’) ligt dan ook op de loer. De (rolbevestigende) oplossing: gezelschaps(seks)robots voor de mannen en knuffelrobots voor de thuisblijvende echtgenoten en ouderen in de bejaardentehuizen. De knuffelzeehond Paro is een bekend fenomeen voor dementerende bejaarden in Japan. Deze therapeutische robotzeehond met een hoge aaibaarheidsfactor is een therapeutische robot met sensoren die reageren op geluid, warmte en aanrakingen. Bijkomend voordeel van dit kunstmatig huisdier is dat het vergeten van eten en verzorging geen negatieve gevolgen heeft voor het beestje. Ook de aandacht voor vreemde robots in allerlei toepassingen intrigeert de Japanner. Er is zelfs een ‘Henna’-hotel dat wordt gerund door robots, waar men wordt verwelkomd door een robotdinosaurus.
Geconfronteerd met al deze robotmanifestaties in het land van de rijzende zon, ging de aandacht van de studenten van de cursus naast de juridische kanten dan ook uit naar de ethische aspecten van de inzet van autonome systemen. Als er een neiging zou bestaan om de handelingen van autonoom handelende kunstmatige intelligente entiteiten (robots en AI-systemen) te normeren, zou er dan niet sprake moeten zijn van ethics by design? De algoritmen die de basis vormen van de gedragingen van deze robots zouden hierdoor in hun zelflerend vermogen worden gekanaliseerd en wij leefden dan allen nog lang en gelukkig. Want bovenal heerst ook bij deze getalenteerde studenten de natuurlijke ‘science fiction film’ – angst van de opstand van de intelligente robots tegen hun menselijke meesters. Een soort van ‘Spartacus’-opstand, waarbij Spartacus door zijn grotere intelligentie en kracht deze keer zegevierend tevoorschijn zou kunnen komen. Het is daarom ook een natuurlijke neiging om de menselijke controle, ‘the human in the loop’, te (over)waarderen.
Als het mogelijk zou zijn om die menselijke controle te combineren met de intelligente systemen, zou de kans op succesvolle integratie van AI-robots groter worden, zo werd gedacht. De implementatie van ‘ethics by design’ zou dit succes nog kunnen versterken. Het feit dat de meeste fouten in het gebruik van technologie een menselijke oorzaak hebben, doet daar blijkbaar niet aan af. Daarnaast kan de vraag worden gesteld of de ethische component zo eenvormig en onaantastbaar is dat dit altijd een positief resultaat zou opleveren. Ethiek is ook afhankelijk van het doel wat wordt nagestreefd (utilisme) en de cultuur waarbinnen de robot functioneert en de daarbij behorende moraal.
Dat werd ook duidelijk uit de eerder op iBestuur besproken casus van ‘sexy Sadie’, een exercitie die ook door de groep studenten werd uitgevoerd. Zoals in Nederland ook het geval was bij de gevoerde rechtszaak tussen de seksrobot en haar baas, speelde de kwestie dat de robot in strijd met haar functie en het in het algoritme vastgelegde gedrag, namelijk geheimhouding van de door haar uitgevoerde activiteit met de klant, een boekje open had gedaan over het wrede gedrag van haar klant met beroep op fundamentele recht van lichamelijke integriteit en vrijheid van meningsuiting. Na een emotionele uitwisseling van standpunten tussen de advocaten van beide partijen werd ook hier beslist dat een robot alleen die rechten toekomt die noodzakelijk zijn voor de uitoefening van haar functie en dat fundamentele rechten zijn voorbehouden aan natuurlijke personen.
Wanneer robots deel uit zouden maken van het maatschappelijk verkeer, neigt men naar een utilaristisch standpunt: de robot dient slechts die rechten te verkrijgen die in het kader van de functieuitoefening noodzakelijk zijn. Ethiek speel slechts een rol voor zover dit past binnen de taak en functie van die robot. Een chirurg in robotvorm moet zich houden aan de beroepsethiek binnen die sector. Een accountancyrobot of vergelijkbaar AI-systeem dient te functioneren op basis van een algoritme dat de ethische beginselen van die sector toepast. Dat wil niet zeggen dat daarmee de normen die van toepassing zijn op robots voor altijd in marmer zijn gebeiteld, maar dat is evenzo van toepassing op het recht dat de positie van natuurlijke personen bepaalt. Het recht is een instrument dat uit zijn geest dynamisch hoort te zijn. Het is daarom niet uitgesloten dat in de toekomst ook meer fundamentele rechten aan robots zullen toekomen. Zeker in Japan…
Rob van den Hoven van Genderen is voorzitter van de Nederlandse Vereniging voor Artificiële Intelligentie en Robotrecht (NVAIR)
