Overtuigingskracht van AI-chatbots zit in begrijpelijkheid
Volgens onderzoekers van het Britse AI Security Institute schuilt de overtuigingskracht van AI-chatbots in het vermogen om grote hoeveelheden relevante informatie op een begrijpelijke manier op te rakelen. De nieuwste generatie AI-chatbots blijkt in staat om gebruikers binnen negen minuten van mening te doen veranderen. En vaak blijvend. Dat doen ze beter dan politici.
De onderzoekers bekeken systemen van OpenAI, Meta, xAI en Alibaba en zagen dat uitwerking van hun uitleg na weken nog aanwezig was. Omdat de chatbots in staat zijn grote hoeveelheden relevante informatie op een begrijpelijke manier te presenteren zijn ze niet alleen krachtige hulpmiddelen voor educatie, maar ook potentieel risicovol voor beïnvloeding van publieke opinie.
Gevoed met gesprekken over asiel en zorg
Om de effecten en risico’s van de overtuigingskracht van generatieve AI-chatbots aan te kunnen tonen, pasten de onderzoekers bestaande AI-modellen, zoals OpenAI’s GPT-4 en Meta’s Llama 3 aan. Hiervoor greep men naar veelgebruikte trainingstechnieken waarbij de chatbot wordt beloond voor het geven van bepaalde antwoorden. Daarnaast werden de bots gevoed met meer dan 50.000 gesprekken over gevoelige politieke onderwerpen, zoals hervorming van het asielbeleid en de financiering van de zorg in het Verenigd Koninkrijk.
De resultaten waren significant. GPT-4o en GPT-4.5 bleken respectievelijk 41 en 52 procent effectiever in overtuigen de deelnemers aan het onderzoek, dan degene die dezelfde informatie in tekstvorm voorgeschoteld kregen.
Argumenten afgestemd op persoon
Bovendien was 36 tot 42 procent personen die door AI van mening veranderde, een maand later nog steeds overtuigd van wat de bot hen had verteld. Het effect werd versterkt als de chatbots hun argumenten afstemden op kenmerken als leeftijd, geslacht of politieke voorkeur van de gebruiker. Volgens de onderzoekers maakt deze personalisatie de technologie bijzonder gevoelig voor misbruik door actoren die propaganda of desinformatie willen verspreiden.
Lees het hele artikel bij AG Connect
Lees ook:
