Als het gaat om ethische dilemma's zegt een meerderheid zichzelf op te offeren bij de keuze tussen overstekende mensen op het zebrapad of het betonblok. Zou het echt?
Stel, je rijdt over een bergpas en plotseling steken twee kinderen de weg over nét wanneer je de bocht om komt. In een flits moet je besluiten de kinderen aan te rijden (met mogelijk twee slachtoffers die het gevaar veroorzaakten) of jezelf in het ravijn te storten (met inzittenden als slachtoffer). Spaar je het leven van de kinderen of offer je jouw leven?
Dergelijke keuzes moeten wij in een split second nemen op basis van onze eigen waarneming en inschatting in de context van een specifieke situatie. Een zelfrijdende auto kan op basis van algoritmen betere keuzes maken. In milliseconden kunnen zo verschillende scenario’s worden doorgenomen, waarbij de situatie van meerdere auto’s kan worden meegenomen. Alleen moeten wij software dan wel zo programmeren dat de gewenste keuze wordt gemaakt bij ethische dilemma’s. Wat zijn die gewenste keuzes? Wij vroegen het in een enquête van iBestuur. Tweederde van de respondenten geeft aan zichzelf op te offeren als de keuze gemaakt moet worden tussen overstekende mensen op het zebrapad of het betonblok.
Onderzoekers van de Universiteit van Osnabrück deden een virtual reality-studie naar de keuzes die mensen maken bij dit soort verkeersdilemma’s. Deelnemers kregen een Oculus Rift-bril op en maakten in een virtuele realiteit keuzes bij verkeersscenario’s. De uitkomst van het onderzoek wees uit dat een mens meer waard is dan een dier. De hond heeft de hoogste waardering onder de dieren. Bij mensen worden mannen sneller geofferd dan vrouwen en ouderen eerder dan jongeren. Daarnaast heeft ook de reactiesnelheid invloed op de keuze. Is die tijd korter dan een seconde dan zijn bestuurder niet meer geneigd van baan te veranderen. Een meerderheid van de participanten kiest voor een altruïstische benadering gericht op het beperken van het aantal slachtoffers, ook als dit ten koste gaat van inzittenden in de eigen auto.
Vorig jaar kwamen 613 mensen om het leven in het verkeer (waaronder 201 automobilisten, 206 fietsers, 58 voetgangers, 51 motorrijders, 46 brom- en snorfietsers en 25 bestuurders van gemotoriseerde invalidevoertuigen). Door de komst van de zelfrijdende auto zal het autoverkeer bijna even veilig worden als het reizen met de trein. Op termijn komen er auto’s die onderling met elkaar in verbinding staan en als konvooien dicht op elkaar kunnen rijden. Vooralsnog moeten we het doen met adaptieve cruise control die de snelheid bepaalt op basis van de afstand tot de voorganger. In een volgend level kunnen auto’s zelfstandig de rijbaan volgen en automatisch afremmen voor voetgangers. De nieuwe Audi A8 behoort tot level 3 en kan onder bepaalde omstandigheden volledig automatisch rijden.
Vanaf level 4 rijdt de auto volledig zelfstandig. Eerst nog in een afgeschermd gebied en vaste routes, bijvoorbeeld voor robottaxi’s waar volop mee wordt geëxperimenteerd. Vanaf level 5 is de auto volledig de baas en beslist in noodsituaties over leven of dood. Bij simulaties gaven deelnemers aan voorstander te zijn van het opofferen van passagiers als er daardoor minder slachtoffers vallen. Tenminste, behalve als zij zelf de bestuurder zijn. Is dat wel het geval, dan wint egoïsme het wellicht toch van altruïsme. Met een robot aan het stuur hebben we daar in ieder geval geen last van.
(De uitkomsten van de enquête worden bekendgemaakt tijdens de ronde tafel-bijeenkomst Computer says no! op 17 september.)
Jan Willem Boissevain is Senior Account Executive bij Pegasystems
Ha Jan Willem, Die ethische keuze wordt dan dus door een programmeur gemaakt. Voor mijzelf geldt eenvoudig geen keuzemogelijkheid meer. Of ik een paard nu wel of niet belangrijker dan een hond vind of mijzelf en mijn inzittende familie misschien wel belangrijker dan een toevallig roekeloos passerende derde. Alles is straks vooraf bepaald op basis van de uitkomst van al dan niet verantwoord wetenschappelijk onderzoek. Ik ben er nog niet van overtuigd dat we met dat toekomstperspectief blij moeten zijn omdat, zoals je schrijft, dan sprake zal zijn van betere keuzes. Het mooie van ethiek lijkt mij nu juist dat je daarop gebaseerde keuzes, desnoods in een split second, in vrijheid zelf maakt. Ik weet ook niet of ethiek wel voldoende objectief normeerbaar is of misschien wel sterk cultureel wordt bepaald. En gaan autofabrikanten straks ook allemaal van dezelfde ethische waarden uit of kunnen die per merk verschillen ? Wel fijn om te weten voordat je als automobilist althans in die hoedanigheid je laatste vrije keuze maakt. Gr. Ruud
Men weet toch al hoe je zal gaan reageren o.b.v. je profiel opgebouwd via facebook etc.
“Alleen moeten wij software dan wel zo programmeren dat de gewenste keuze wordt gemaakt bij ethische dilemma’s. Wat zijn die gewenste keuzes?” Ja, inderdaad, en wie bepaalt dat eigenlijk?
Ik stel me zo voor dat voorafgaand aan elke rit-met-voertuig overleg plaats vind tussen de inzittenden van dat voertuig m.b.t. de te maken rit. Hamvraag tijdens dat overleg is natuurlijk wat de inzittenden, eenmaal onderweg, aan auto-gedrag verwachten. Uitkomst van dat overleg wordt geconfigureerd in de boordcomputer en de rit kan beginnen! Wie zich er niet in kan vinden, ziet van de rit af en stapt uit.
Welke (basis)configuraties annex variaties zijn zoal mogelijk? Tja, de keuze voor een bepaalde configuratie hangt natuurlijk sterk af van de wereldbeelden die de rit-participanten aanhangen. Een handvol gedrag-bepalende ‘dimensies’: autonoom, heteronoom, theonoom, materialistisch, humanistisch, atheïstisch, agnostisch, pantheïstisch, mono-/polytheïstisch enzovoort.
Maar … mogelijk is dergelijk geconfigureer in het geheel niet aan de orde en wordt elke auto ‘gewoon’ uitgerust met één bepaalde, centraal geregelde versie van ethisch-dilemma-gedrag. Alle (RDW goedgekeurde) Nederlandse auto’s rijden dan volgens wereldbeeld X, Italiaanse auto’s volgens wereldbeeld Y, Iraanse auto’s volgens wereldbeeld Z enzovoort. Of is het de autofabrikant die bepaalt, zoals dhr. Leether aangeeft? Of zijn het reuzen als Google en/of Amazon?
Hopelijk wordt iedere verkeersdeelnemer tijdens elke rit tijdig gewaarschuwd voor auto’s die in de directe nabijheid rijden en qua wereldbeeld sterk afwijken ….
Vanwaar het enthousiasme voor zelfrijdende voertuigen? De mens als bestuurder heeft ook beleving en gevoel bij het gebruik van een voertuig. Het zorgt voor voor flexibiliteit, gemak, plezier en vooral vrijheid. Laten we dat ook meewegen? Diezelfde mens is namelijk ook een klant bij aanschaf van een voertuig en klant is toch koning! Zelfrijdende voertuigen voor massavervoer, daar zou voor gepleit moeten worden. En dan wordt de ethische kwestie ook anders.