Frictieloze technologie is niet je beste vriend

Beeld: SETUP / Merijn van Moll

Technologie zo frictieloos maken dat het uit ons bewustzijn verdwijnt: het is de hoogdravende missie van Snips, een platform waar gebruikers hun eigen spraakassistent kunnen ontwikkelen:

• What if we could use AI to make machines communicate like humans, using natural language? Perhaps then, we could simply ask them what we want, making technology so intuitive that it disappears into the background. Our mission is to make technology so effortless that it disappears from our consciousness.

Hun missie om zoveel mogelijk digitale assistenten naadloos in onze analoge wereld te integreren staat niet op zichzelf.

Het weghalen van frictie is al jaren een speerpunt van de tech-industrie met een specifieke reden: het maximaliseren van onze dataproductie. Via onze clicks, likes, swipes, shares, views en spraakcommando´s produceren wij data waarmee techbedrijven hun kunstmatige intelligentie trainen en reclame-inkomsten genereren. Maar hoe zorgen bedrijven voor zo’n frictieloze technologie ervaring en wat raken we daarmee kwijt?

Surfen zonder frictie

Je wilt snel even iets opzoeken maar moet eerst nog een melding aanvinken die toestemming vraagt voor het plaatsen van cookies. Bedrijven zijn wettelijk verplicht om te laten weten op welke manier onze data worden verwerkt. Toch zorgen de meldingen er niet voor dat we massaal de privacystatement gaan lezen en vertrekken zodra we het daarmee oneens zijn. De meldingen zijn dan ook zodanig ontworpen dat we gedachteloos op ‘I agree’ klikken. Hoe minder actieve overwegingen we hoeven te maken, hoe frictielozer onze surfervaring.

Dat weten ze ook bij YouTube. Tegenwoordig hoef je niet meer te overwegen welke video je wilt bekijken omdat de volgende automatisch begint met afspelen. In bijna alle gevallen is dat een video die lijkt op wat je daarvoor al hebt bekeken. Zo wordt jouw frictieloze kijkervaring niet verstoord door content die afwijkt van jouw wereldbeeld. Wel zo comfortabel, ook voor YouTube: sinds de introductie van autoplay zijn onze kijk- en luistertijd bijna verdubbeld en daarmee ook de advertentie-inkomsten.

Empathie simulaties

Naast het maximaliseren van kijk- en luistertijd doen ontwikkelaars hun uiterste best om technologie zodanig te ontwerpen dat wij de mechanische aspecten vergeten, en menselijke eigenschappen aan hun producten gaan toedichten.

Google heeft bijvoorbeeld een speciaal empathie lab waar al hun producten van mensachtige emotionele reacties worden voorzien. Want we delen onze zielenroerselen nu eenmaal makkelijker met een mensachtige stem dan met iemand die klinkt als een robotische Transformer.

Door een digitale assistent natuurlijk te laten klinken, worden we minder behoedzaam en geven we meer data uit handen. Maar daar zit wel een grens aan, want als we bijna geen onderscheid meer kunnen maken tussen mens en machine dan schrikt dat af.

Zo introduceerde Google vorig jaar hun spraakassistent Duplex, die met zijn verschillende intonaties, aarzelingen en ‘Mm-hmm’s’ zo menselijk klinkt, dat gebruikers opeisten dat Duplex zich als robot bekend moet maken voordat hij in gesprek gaat met een mens.

Google Duplex maakt een afspraak bij de kapper

Voor robotontwikkelaars is het de kunst om de juiste balans te vinden tussen menselijke en mechanische trekken. Uit onderzoek blijkt dat mensen robots afstotelijk vinden zodra de suggestie wordt gewekt dat ze een eigen gevoelswereld hebben. Bewustzijn is iets wat toebehoort aan de mens en we houden er niet van als we daarin worden misleid. Bovendien wordt het ontbrekende bewustzijn bij robots in sommige situaties als een voordeel ervaren.

Zo blijkt uit onderzoek van het Institute for Creative Technologies dat mensen minder terughoudend zijn met het uiten van kwetsbaarheden als ze weten dat ze met een entiteit zonder bewustzijn communiceren. Sommige kinderen uit oorlogssituaties vinden het bijvoorbeeld prettig om hun trauma’s met een robot te delen.

Vriendschap zonder frictie

Maar als we onze kwetsbaarheden niet met elkaar kunnen delen, kan dat ook betekenen dat we zelf tekort schieten. De Amerikaanse socioloog Sherry Turkle waarschuwt dat teleurstellingen in menselijke relaties nooit een reden mogen zijn om alleen te investeren in technologische oplossingen. Wanneer we teleurgesteld zijn in onze sociale relaties, gaat deze teleurstelling in ieder geval nog over ons potentieel als mens. Een potentieel dat robots missen omdat zij niet in staat zijn tot empathische wederkerigheid; robots kunnen slechts simuleren dat ze onze taal en gevoelens begrijpen.

Een ander belangrijk verschil is dat robots door mensen zijn geprogrammeerd en daarmee worden gereduceerd tot doelmatige objecten. Juist omdat een robot geen eigen verlangens en intenties heeft, is hij voornamelijk dienstbaar en frictieloos. Dat maakt hem misschien een makkelijke vriend, maar niet per se een betere vriend.

Als je geen behoefte hebt aan sociale frictie, dan zet je gewoon even je spraakassistent aan

Onvoorspelbaarheid, veeleisendheid en de mogelijkheid om sociaal te leren omgaan met elkaars verlangens geven waarde aan onze sociale relaties. Een goede vriend praat niet altijd met je mee, maar geeft ook tegengas.

Toch voelen veel mensen zich aangetrokken tot een frictieloze vriendschap. Het bedrijf Replika ontwikkelde vorig jaar een app waarmee je een digitale kopie van jezelf kunt maken in de vorm van een chatbot. Hoe meer persoonlijke data je aan de chatbot voert, hoe meer hij op jou gaat lijken.

Twee miljoen mensen hebben de app inmiddels gedownload en beschouwen de chatbot als een digitale vriend met wie ze overwinningen en faalmomenten delen. Maar let op: om gezellig te kletsen met een data-aftreksel van jezelf moet je over een flinke dosis zelf-interesse beschikken.

Replika – the AI app that becomes you

Mocht het leven met al dat frictieloze surfen, communiceren en socialiseren nog steeds te veeleisend zijn, dan kun je ook nog een beroep doen op een aantal apps die ongemakkelijke situaties voor je oplossen.

Personal trainer tegen levensongemakken

Een voorbeeld is GottaGo, een app waarmee je een bericht op je telefoon kunt instellen die je vervolgens activeert wanneer je uit een ongemakkelijke situatie wilt vluchten. En met Knock Knock kun je om iemands telefoonnummer vragen als je dat niet face-to-face durft te doen.

Ook zijn er ‘mood management’ apps die je opmonteren als je somber bent. Mend helpt je bijvoorbeeld door de nasleep van een relatiebreuk heen. Het bedrijf noemt hun app ‘een personal trainer tegen liefdesverdriet met een grote schoonmaak van het gebroken hart’.

© letsmend.com
Mend – The Self Care App For Breakups & Beyond

Behalve personal trainers tegen liefdesverdriet, zijn er ook personal trainers die je helpen om uitgeleend geld terug te vragen, ontslag te nemen en geen gekke berichten te sturen als je dronken bent. Maar dit zijn lang niet de enige sociale situaties waarbij we een personal trainer zouden kunnen gebruiken.

Voor sommigen is een gesprek bij de kapper een climax van ongemak. De digitale assistent van Google maakt moeiteloos een afspraak bij de kapper, maar daarna ben je aangewezen op je eigen sociale vaardigheden. Gelukkig werkt SETUP aan een spraakassistent die het volledige kappersgesprek kan overnemen. Als je geen behoefte hebt aan sociale frictie, dan zet je gewoon even je assistent aan.

Nouja… ‘gewoon’? Het is nog maar de vraag of onze levens er ook echt beter van worden als we emoties als schaamte, ongemak, verlegenheid en verdriet proberen te elimineren met behulp van apps en digitale assistenten.

Zo blijkt het nog knap lastig om een digitale assistent te ontwikkelen waarmee je een geavanceerd sociaal gesprek kunt voeren. Communicatie is meer dan informatieverwerking en het genereren van een set instructies. De verschillende intenties achter taalgebruik en de culturele contexten waarin iets wordt gezegd laten zich niet programmeren. Desondanks maken we steeds gretiger gebruik van Alexa, Siri en andere pratende assistenten.

Volgens filosoof en computer-wetenschapper José Hernández-Orallo passen we onze uitingen aan aan het taalgebruik en de intelligentie van onze digitale assistent, waardoor onze emotionele uitdrukkingsvaardigheid meer gestandaardiseerd en minder persoonlijk wordt. Daarmee zouden digitale assitenten de verscheidenheid van onze gedachten en de gelaagdheid van onze gesprekken beperken.

Ook zouden de emotionele waarden die in onze digitale assistenten zijn verwerkt ons gedrag op subtiele wijze een kant op sturen die vooral de belangen van de technindustrie dient. Socioloog Eva Illouz noemt dat ‘emotioneel kapitalisme’: een regime waarin digitale assistenten ons aansporen om onze gevoelens rationeel te beheersen en te onderwerpen aan een marktlogica waarin je doorlopend het beste uit jezelf moet halen. Daarbij zijn relaties iets waarin je moet ‘investeren’ en draait het in onderlinge verhoudingen om een ‘uitruil’ van emotionele behoeften om uitendelijk een emotionele winstmarge te bereiken.

Een voorbeeld is volgens haar de Google Assistent die een digitale knuffel geeft met als doel een eind te maken aan de negativiteit die jou belet het beste uit jezelf te halen.

Of die emotionele winst uiteindelijk ook behaald wordt en in wiens voordeel die uitpakt is nog maar de vraag. Mood apps en digitale assistenten die ons aansporen om optimistischer te worden geven ten onrechte de indruk dat onze emoties altijd rationeel beheersbaar zijn. Ook geven ze de indruk dat het leven altijd een feest moet zijn en sombere emoties er niet mogen zijn.

Frictie is onze beste vriend

Terwijl sombere gevoelens en ongemakkelijke situaties juist kleur en contrast geven aan het leven. Deze zorgen ervoor dat we ons kunnen ontwikkelen tot veerkrachtige persoonlijkheden die om kunnen gaan met tegenslag. Een blauwtje lopen is pijnlijk voor je ego, maar gezond voor je relativeringsvermogen. En ongemakkelijke situaties stimuleren ons improvisatievermogen. Bovendien is het uitwisselen van ongemakkelijke ervaringen een manier om een sociale band met elkaar te smeden.

De constatering dat het weghalen van frictie schadelijk kan zijn is ondertussen ook doorgedrongen tot de industrie zelf.

Omdat techbedrijven steeds fellere kritiek krijgen op de verslavende werking van hun frictieloze producten, proberen ze hun imago en omzet veilig te stellen door de kritiek te omarmen. Zo schreef Justin Kosslyn, beveiligingsexpert bij Alphabet, een essay waarin hij bepleit dat het internet meer frictie nodig heeft:

• The internet’s lack of friction made it great, but now our devotion to minimizing friction is perhaps the internet’s weakest link for security. Governments can influence foreign populations remotely and at relatively low cost. Whether the threat is malware, phishing, or disinformation, they all exploit high-velocity networks of computers and people. It’s time to bring friction back.

Naast het beveiligingsaspect wordt de industrie ook uitgedaagd om iets te doen aan het verslavende aspect van hun frictieloze technologieën. Voormalig Google ethicus Tristan Harris richtte de Time Well Spent movement op, een beweging die Facebook en Apple inspireerde om gebruikers bewuster te maken van hun schermtijd.

Time Well Spent – This Panda Is Dancing

Nu Google, Apple en Facebook hun imago proberen op te poetsen met functies die je schermtijd bijhouden, moeten we extra alert zijn op de rol die wij aan digitale assistenten willen geven. We hebben geen spraakassistenten en mood apps nodig om onze sociale levens te verbeteren. Het is precies andersom: de bedrijven die deze technologieën ontwikkelen hebben ons nodig om hun big data verdienmodel te waarborgen.

Emotionele intelligentie – het herkennen, benoemen en verwerken van emoties in ons denken en gedrag – is bij uitstek een 21st century skill waar mensen beter in zijn. We moeten ons dus goed achter de oren krabben wanneer we juist deze vaardigheden verwaarlozen door ze uit te besteden aan machines.

Waar machines big data nodig hebben om te kunnen leren, hebben mensen frictie nodig om te kunnen leren. Frictie maakt dat we ergens moeite voor moeten doen; een belangrijke voorwaarde voor menselijke ontwikkeling en het kunnen ervaren van levensgeluk. Frictie is onze beste vriend en beste vrienden moet je niet elimineren.

Siri Beerends is cultuursocioloog en schrijver. Ze onderzoekt de ethische rol van authenticiteit, autonomie en imperfectie in de context van opkomende technologieën.

Dit verhaal is eerder geplaatst op de website van SETUP