Sociale media maken inmenging verkiezingen eenvoudig
De aanbevelingsalgoritmen van Instagram, Facebook, X, YouTube en TikTok zijn een cadeautje voor kwaadwillenden: hoe meer ‘engagement’ een bericht oproept, hoe meer mensen het te zien krijgen. Het is daardoor eenvoudig om specifieke inhoud te versterken en daarmee gebruikers te misleiden, schrijven onderzoekers van het Rathenau Instituut. De maatregelen om inmenging aan te pakken, werken niet goed genoeg.
Scrollend naar de stembus heet het woensdag verschenen rapport, dat het Rathenau Instituut publiceert op verzoek van de vaste Tweede Kamercommissie voor Digitale Zaken. De commissie wilde weten welke rol de aanbevelingsalgoritmen van grote sociale mediaplatformen kunnen spelen bij inmenging in verkiezingen. Het instituut legt de focus op aanbevelingen aan de politiek en beleidsmakers om het risico op inmenging te verminderen.
Eerst wat definities van de onderzoekers. Inmenging is beïnvloeding door of namens een buitenlandse statelijke actor die strijdig is met de soevereiniteit, waarden of belangen van het beïnvloede land. De handelingen zijn dwingend, heimelijk, misleidend of corrumperend. In het geval van inmenging via sociale mediaplatformen gaat het om het beïnvloeden van de publieke opinie of verkiezingen door te zorgen dat bepaalde inhoud door meer of juist minder gebruikers wordt gezien. Inmenging kan mensen tegen elkaar opzetten, de stemuitslag beïnvloeden en twijfel zaaien over het democratisch proces.
Divers instrumentarium
Hoe pak je dat dat aan, als statelijke actor? Het instrumentarium is groot en divers, schrijven de onderzoekers. Je kunt je als buitenlandse actor voordoen als een Nederlander en rechtmatige inhoud verspreiden, bijvoorbeeld een artikel van iBestuur over een politiek gevoelig onderwerp.
Je kunt borderline-inhoud verspreiden, inhoud die grenst aan wat niet is toegestaan op sociale mediaplatformen, bijvoorbeeld mis- en desinformatie. Je kunt je bijvoorbeeld voordoen als iBestuur door een kloonwebsite te maken met een webadres dat sterk op de titel lijkt, zoals iBestuurd.nl, en vervolgens met sociale media-accounts berichten van de kloonwebsite verspreiden.
Met gerichte haatcampagnes kun je een bepaald narratief over een (kandidaat)politicus in de wereld helpen.
Je kunt ook onrechtmatige inhoud verspreiden, zoals gerichte haatcampagnes om een bepaald narratief over een (kandidaat)politicus in de wereld helpen. Een lastercampagne met nepaccounts vanuit De Verenigde Arabische Emiraten in 2023 was bijvoorbeeld onder meer gericht op voormalig GroenLinks-Kamerlid Kauthar Bouchallikht en de Arnhemse burgemeester Ahmed Marcouch.
Technieken
Er zijn allerlei technieken om te zorgen dat de boodschap zo veel mogelijk mensen wordt bereikt. Nepaccounts inzetten bijvoorbeeld, of gecoördineerd posten: samenwerken om specifieke inhoud op een afgesproken moment te verspreiden. Bots gebruiken, zodat je accounts lekker hyperactief te werk gaan. Livestreamen, omdat het contentmoderatie bemoeilijkt. Influencers betalen om een boodschap te verspreiden werkt ook goed, lieten de presidentsverkiezingen in Roemenië zien. Veel influencers op TikTok vroegen hun volgers om een beschrijving te geven van een ideale presidentskandidaat, terwijl kwaliteiten van kandidaat Georgescu werden genoemd. De influencers bleken te worden betaald voor deze opdracht.
Influencers betalen om een boodschap te verspreiden werkt ook goed.
Wat kan de overheid doen?
De overheid staat gelukkig niet helemaal machteloos tegen dit soort wangedrag. Europese wetten zoals de digitaledienstenverordening (DSA) en de gedragscode tegen desinformatie, de algemene verordening gegevensbescherming (AVG) en de AI-verordening (AI Act) verplichten techbedrijven om in de gaten te houden wat zich op hun platform afspeelt en zo nodig in te grijpen. Experts signaleren echter dat juist eenvoudige maatregelen, zoals het verwijderen van nepaccounts, niet door de platformen worden genomen. De onderzoekers wijzen er ook op dat de voorstellen in de Digitale Omnibus waar de Europese Commissie onlangs mee kwam een versoepeling van sommige regels inhoudt, wat manipulerende partijen nog meer ruimte geeft voor inmenging.
Experts signaleren dat juist eenvoudige maatregelen, zoals het verwijderen van nepaccounts, niet door de platformen worden genomen.
Het rapport beschrijft drie soorten handelingsperspectieven voor de overheid, die bij voorkeur in combinatie worden toegepast: (1) platformontwerp veranderen, (2) informatiepositie versterken, (3) weerbaarheid vergroten.
Sociale mediaplatformen zouden hun eigen aanbevelingsalgoritmen kunnen aanpassen om ze minder geschikt te maken voor inmengingsactiviteiten. Veel grote platformen rangschikken de inhoud op basis van het verwachte engagement, dus hoeveel likes en reacties een bericht krijgt en hoeveel tijd gebruikers er naar verwachting aan besteden. Hoe meer engagement, hoe meer de platformen verdienen aan advertentie-inkomsten. Uit zichzelf zullen ze dus niet zo snel van platformontwerp wisselen, maar de overheid kan ze wel stimuleren om aanpassingen te doen, of ze er op z’n minst op bevragen. De overheid kan ook alternatieve online omgevingen stimuleren.
Volgens de DSA moeten platformen hun inhoud toegankelijk maken voor toezichthouders en onafhankelijke onderzoekers.
Volgens de DSA moeten platformen hun inhoud toegankelijk maken voor toezichthouders en onafhankelijke onderzoekers. Dat gebeurt volgens experts nog niet genoeg. Het rapport doet een aantal voorstellen om de informatiepositie van overheid, toezichthouders en onderzoekers te versterken. De overheid heeft al een verkiezingsflaggerstatus voor het melden van inhoud die de verkiezingen zouden kunnen schaden, maar dat doet de overheid alleen op basis van meldingen van derden en dan nog heel terughoudend. Eigen onderzoek, of onderzoek door een onafhankelijk orgaan, zou een manier kunnen zijn om inmenging te signaleren. Nu nemen vooral wetenschappers en ngo’s deze taak op zich.
Een derde weg is om de weerbaarheid van de samenleving te vergroten, door verkiezingsprocedures te versterken, de huidige wetgeving te versterken en verhelderen, te investeren in onafhankelijke journalistiek en een pluriform medialandschap en te investeren in technologisch burgerschap en mediawijsheid.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.
Complot-georiënteerde discursieve praktijken zijn erop ingericht om met name kritisch denken te ontmoedigen. Dat gebeurt door controversiële inhoud te "meme-ifyen" en door de vijandige weerlegging van alle externe kritiek aan te moedigen en zo in-group/out-group patronen te versterken. Het doel is hypernormaliteit. Een vertwijfelde samenleving is een machteloze samenleving, omdat je schaarse assets en resources alleen maar slim in kunt zetten als je daar rationele besluitvorming over hebt kunnen voeren. Uiteindelijk tellen slechts intersubjectieve, consistent herleidbare en verifieerbare feiten. De meeste onzin is te herleiden tot maar een paar sites en botnets, waarom visualiseren we die niet gewoon in een graph? Hoezo duizenden reacties een paar seconden na de politieke uiting van wie dan ook? Geen enkele menselijke politicus is zo populair en wordt zo nauw gevolgd. Dat zijn botnets. Westerse politiek daarentegen bestaat bij de gratie van checks and balances; verfijnde mechanismen die zich makkelijk laten vervuilen door extreme informatie die middels ‘klokkenluiders’ wordt geïnjecteerd in het populaire discours om bijvoorbeeld steun te werven voor onconventionele kandidaten. Velen zoeken simpele antwoorden in een complexe, dynamische wereld. Hun insulaire digitale gemeenschappen richten zich zelden op entertainment van een divers, voorbijgaand publiek. Het is dus vechten tegen een gesloten ecosysteem dat precies de ijver van haar eigen leden stimuleert: 'denk zelluf! (dat moet je wel kunnen: kritisch denken vereist een opleiding in kritisch denken) Juist die mensen die zelluf op zoek gaan naar kennis over zaken die zij niet overzien en zonder gestructureerde logica, lopen het risico in de honingtrap te vallen van vermeende gemeenschapskennis als exclusief of speciaal, wat vervolgens de extreme retoriek van hun politici legitimeert. Het Dunning-Kruger-effect is een cognitieve bias waarbij mensen hun eigen kennis of vaardigheden overschatten, vooral op gebieden waar ze weinig ervaring of expertise hebben. Cult-achtige omgevingen make de brede projectie van intern ontwikkelde verhalen gebaseerd op cherry picking en doelredenering mogelijk. Deels versterkt door de impliciete bedreigingen aan het adres van afwijkende gebruikers die gepaard gaan met de altijd pijnlijke sociale dynamiek van gesloten sociale systemen: uitstoting uit de kudde. Investeer actief in een meta-narratief door het grote geheel zo te kaderen dat de discrepanties tussen wat Staten doen en zeggen duidelijk af te zetten wordt tegen de waarden en normen van de regel-gebaseerde internationale gemeenschap. Verlicht de cognitieve overbelasting! Wij hoeven het niet met elkaar eens te zijn, maar wij kunnen het wel eens zijn over de intersubjectief verifieerbare feiten. Prachtige kans ook om te investeren in Data Governance en Data Kwaliteit en chain of custody (is die Professor wel écht een Professor en wie betaalt dit clipje?) en maak gewoon live graphs van sentiment analyse
De kansen die noodzaak biedt, mogen niet over het hoofd worden gezien.