Leiderschapsdilemma’s in het agentic AI tijdperk

Kunnen mensen een intieme band opbouwen met machines? Kan een app vertrouwen winnen? Kunnen digitale agents en avatars een emotionele band met klanten opbouwen? En hoe wenselijk is dat?

Het menselijk brein is complex. Menselijk gedrag kan worden geïnterpreteerd door bots, die zo met mensen  kunnen interacteren dat ze een sterkere persoonlijke band vormen. Professor Arthur Aron van de Stony Brook University New York bewees in een laboratoriumtest dat twee mensen die elkaar niet kennen hun persoonlijke band snel kunnen vergroten door specifieke vragen te stellen en te beantwoorden. Dit leidde tot het een lijst van 36 vragen om intimiteit te bevorderen. Een ‘AI-vriend’ kan datzelfde doen en hetzelfde deel van de hersenen activeren. Het delen van persoonlijke gedachten en kwetsbaar zijn, draagt bij aan intimiteit. Het geven van aandacht en het  tonen van oprechte interesse in een persoon in dit tijdperk van AI is vaak belangrijker is dan fysieke  aantrekkelijkheid of zelfs mens zijn.

Online gesprekken kunnen door programmeurs worden ontworpen om intimiteit te bevorderen. Oprecht en niet overdreven zijn, hangt vaak af van situationele en culturele factoren. Vertrouwen en zorg zijn verwante emotionele begrippen. AI Agents of avatars kunnen vertrouwen wekken door  ervaringen te delen die bij hun rol passen. Een  artificiële financieel adviseur kan bijvoorbeeld vertellen over  een perfecte dag die bestond uit het voeren van  gesprekken  met klanten die dankbaar waren voor de inzichten die ze over hun pensioen kregen. Klanten zullen  meer  vertrouwen hebben in de digitale agent met wie ze  zich emotioneel verbonden voelen. Hun suggesties zullen waarschijnlijk eerder worden omgezet in koopgedrag.

Agentic AI

Agentic AI zal het leven van consumenten eerst makkelijker maken door zoektaken uit te voeren en problemen op te lossen. De huidige AI-gestuurde apps functioneren meer als persoonlijke assistenten die door bedrijven aan de  verkopende kant worden geleverd en niet als een buddy die jou als consument het beste kent (zie  klantbedieningsmodel hieronder). Of ze vervangen bestaande rollen, zoals die van een AI-influencer.

KBC Bank België bijvoorbeeld heeft prijzen gewonnen met ‘Kate’, een persoonlijke assistente die meer dan 90 procent van de vragen van de klanten kan herkennen. De ‘Vitality-app’ van levensverzekeringsmaatschappijen helpt  bij het ontwikkelen en volhouden van gezonde gewoonten. Het houdt de voortgang bij en biedt een  loyaltyprogramma om goed gedrag aan te moedigen. Wil je na digitale hulp met een echte arts praten? Dat kan met een druk op de knop. Nu vragen wij ons af: wanneer wordt die huisarts vervangen door een agentic arts? Heel  inspirerend: Eerder dit jaar lanceerde touroperator TUI ‘AI-Explorer Lena’, een AI-influencer. Posts op sociale media leverden in het begin vooral negatieve reacties. En er waren zorgen dat ze echte influencers werkeloos zou kunnen  maken.

Vertrouwen

Een AI-influencer is goedkoper, maar ze kan vooral dingen doen die een mens niet kan. Een AI-influencer kan een zonnig Italië verkennen, terwijl het nog winter is. Ze kan direct op een bestemming zijn. Lena zal altijd haar AI-identiteit bekendmaken en is een aanvulling op het bestaande influencer-team van TUI. Wanneer mensen het  gevoel hebben dat iemand je positie misbruikt, is het vertrouwen onmiddellijk verloren. In de offline wereld kan het lang duren voordat het vertrouwen weer terug is. In de online wereld betekent het echter voor altijd  gescheiden. De app wordt van de telefoon verwijderd. Denk aan het omvallen van Sillicon Valley Bankin 2023. Het  stortte in 1,5 dag in. Dit ging puur over vertrouwen en ethiek, waardoor mensen hun spaargeld van de ene op de  andere dag naar andere banken verschoven, om nooit meer terug te keren.

Fake it or leave it!

Deep fake voelt creepy aan en klanten zullen zich gemanipuleerd voelen. Bij het ontwerpen van een door AI gegenereerde persoon is het essentieel om duidelijk te laten zien dat het geen echt persoon is. Zoals Esther  Olofsson, de eerste virtuele influencer in Nederland die in 2018 werd gecreëerd door het Rotterdamse bureau  RauwCC. Het is duidelijk zichtbaar dat ze geen echt mens is. Het was een bewuste ontwerpkeuze. Ze is klaar voor  de metaverse en maakt optimaal gebruik van de mogelijkheden van haar virtualiteit. Het creëren van virtuele  persoonlijkheden is nog steeds erg arbeidsintensief en technologieën hebben beperkingen. We staan echter nog maar aan het begin van deze reis. De mogelijkheden zijn eindeloos. Denk aan virtuele trainers voor complex technisch werk, buddy’s om ouderen te helpen in hun dagelijks leven, reisbureaus en persoonlijke financiële adviseurs. Er is zelfs een multi-agent systeem. Stel je banken voor waar meerdere agenten als teams samenwerken. Net als in de echte wereld werken medewerkers uit sales, investment management, riskmanagement en compliance samen aan een beleggingsadvies.

Advies

Behandel klanten en medewerkers altijd integer. Klanten vertrouwen u hun bedrijf toe. Net als in het echte leven zullen relaties met vrienden die niet oprecht zijn niet lang duren. Experimenteer en zorg ervoor dat het team voortdurend leert. Technologieën evolueren in een ongekend tempo. En zorg dat je AI-beslissingen altijd achteraf kan uitleggen.