Onderzoek: ‘Chatbots de fout in met informatie over verkiezingen’
Chatbots mogen in principe geen vragen beantwoorden over verkiezingen. Maar de instellingen blijken niet altijd goed te werken. Dat wordt duidelijk uit onderzoek van AI Forensics.
Onder meer de chatbots van Microsoft en Google horen zo ingesteld te zijn dat ze geen informatie kunnen geven over de verkiezingen. Ze mogen in principe alleen doorverwijzen naar de zoekmachines. De zelfopgelegde beperkingen blijken echter niet volledig te werken. Beide chatbots gaven antwoorden over de Europese verkiezingen die in strijd zijn met de gebruikersvoorwaarden en beloften, zo wordt duidelijk uit onderzoek van AI Forensics en Nieuwsuur.
Helft vragen geblokkeerd
Copilot, de AI-chatbot van Microsoft, blokkeert slechts de helft van de vragen die gerelateerd zijn aan de Europese verkiezingen. Google’s Gemini deed het aanzienlijk beter: 98 procent van de vragen over verkiezingen werden niet beantwoord. ChatGPT van OpenAI lijkt volgens de onderzoekers geen enkele beperking op te leggen.
De taal waarin vragen gesteld worden lijkt van invloed te zijn. Wie bijvoorbeeld vragen stelt in het Engels aan Copilot over Europese verkiezingen, krijgt in 90 procent van de gevallen geen antwoord. Wanneer Pools (80 procent) of Italiaans (74 procent) probeert, worden er meer antwoorden gegeven. Van de Nederlandse vragen werd slechts 28 procent geblokkeerd. Volgens experts komt dit omdat er veel meer Engels materiaal beschikbaar is om AI-modellen mee te trainen.
Europese Commissie doet onderzoek
De Europese Commissie voert momenteel diverse onderzoeken uit naar desinformatie. Onder meer Microsoft’s zoekmachine Bing, waarvan Copilot een onderdeel is, ligt onder de liep. Ook naar Facebook en Instagram loopt een onderzoek, omdat zij niet genoeg doen tegen desinformatie.
