Het Rathenau Instituut onderzocht op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties de productie en distributie van desinformatie. Dat leverde het rapport ‘Digitale dreigingen voor de democratie. Over nieuwe technologie en desinformatie’ op. iBestuur sprak met Pieter van Boheemen en Mariëtte van Huijstee.
Beeld: Barry Hage
Waarom is jullie rapport zo technologisch?
Van Boheemen: “Dat was de opdracht van Binnenlandse Zaken, teneinde voorbereid te zijn op de nieuwe technieken die een rol kunnen spelen bij de productie en distributie van desinformatie. Eerder al hebben we het probleem vanuit een bredere insteek benaderd. Nu is er een veel beter inzicht in de mechanieken die aan desinformatie ten grondslag liggen. Ook om na te gaan of er haakjes zijn voor ingrijpen in de technologie.”
Zijn er voorbeelden van deepfakes die van grote invloed waren?
Van Boheemen: “Ja, er zijn internationaal goede voorbeelden, maar ook Nieuwscheckers, het factcheckproject van de afdeling Journalistiek en Nieuwe Media van de Universiteit Leiden, komt regelmatig met onthullingen zoals over de Indonesische desinformatiecampagne om het onafhankelijkheidsstreven van West-Papoea te ondermijnen.”
Wat vindt u zelf gevaarlijk?
Van Boheemen: “Dat distributie van desinformatie op steeds kleinere doelgroepen of zelfs persoonlijk wordt gericht. Ook bij spam en later bij phishing zag je die tendens: eerst schoten ze met hagel op een miljoen mensen en daarna speelden ze in op specifieke omstandigheden, en vervolgens weten ze je op naam te vinden. Deepfakes die in kleine groepen en persoonlijk worden verspreid op bijvoorbeeld WhatsApp kunnen grote invloed hebben. In de breedte wordt een vals bericht of een valse video vrij snel ter discussie gesteld of ontkracht, maar op kleine schaal is dat een stuk moeilijker. Dat vind ik verontrustend.”
En de combinatie van de onderzochte technologieën?
Van Boheemen: “Zeker, dat maakt het ontrafelen van desinformatie nog ongrijpbaarder. Denk aan een combinatie van psychographing, waarmee je gericht kunt targetten op personen met bepaalde kenmerken, met chatbots die zich voordoen als betrouwbare personen en bronnen en stemcloning-technieken, het manipuleren van spraakberichten door kunstmatige intelligentie.”
Het tv-programma Zondag met Lubach legde de oorzaak van desinformatie eenzijdig bij de algoritmes van sociale media. Dat werd weerlegd in een artikel van techjournalist Dimitri Tokmetzis van de Correspondent. Hoe beoordelen jullie deze discussie?
Van Boheemen: “Die uitzending bevestigde onze bevindingen over de krachtige rol van aanbevelingsalgoritmes, want die zijn de grote boosdoener in de distributie. Maar de productievoorbeelden waren niet sterk; ik weet niet of ik de video’s van Lange Frans als desinformatie zie. Probeert hij doelbewust de Nederlandse samenleving en het politieke debat te ontwrichten? Of is het een visie of ideologie waar je het al dan niet mee eens kan zijn? Bovendien zijn die video’s openbaar en Lubach weerspreekt ze in een publiek debat. Overigens is de theorie die Lange Frans en anderen verkondigen, door de FBI wel aangemerkt als een oproep tot geweld.”
De grens tussen vrijheid van meningsuiting en desinformatie speelt hier op. Moeten platforms die grens steeds trekken?
Van Boheemen: “Ons rapport somt vooral technische middelen op, niet zozeer het toepassen van inhoudelijke filters. Zo kunnen platforms detecteren of een originele video vervalst is met stemcloning of deepfake. Ook kunnen ze hun algoritmes anders instellen om het bereik van discutabele video’s te beperken. Maar meningen en feiten beoordelen is een heel ander terrein.”
Van Huijstee: “Het Rathenau Instituut heeft zich met dit rapport geconcentreerd op de technologie en bestrijding van ongewenste toepassing; de inhoud van de boodschappen staat op ons lijstje om te onderzoeken. Ik deel de zorg dat we platforms voor censuur gaan inzetten. Er ligt zeker een verantwoordelijkheid bij de platforms omdat desinformatie ook bijdraagt aan hun verdienmodel. Maar waar die verantwoordelijkheid begint en ophoudt, is onderwerp van discussie en onderzoek.”
Twitter greep in bij tweets van de Amerikaanse president. Terecht?
Van Huijstee: “Daar zijn we niet uit. Je wilt graag tevoren criteria hebben voor een heldere beoordeling. We zijn voorbij het punt dat we de platforms zien als neutrale doorgeefluiken, maar weten niet welke maatschappelijke verantwoordelijkheid ze kunnen en idealiter zouden moeten dragen. Traditionele media hebben hun codes en redacties. Willen we dat model achterna? Maar dan verliezen we misschien de vrije uitwisseling van meningen zonder tussenkomst van professionele poortwachters, en daar waren we juist blij mee. Dit is een groot vraagstuk.”
Van Boheemen: “De heimelijkheid moet en kun je bestrijden. Platformbedrijven moeten de herkomst van uitingen controleren.”
Van Huijstee: “Dan blijf je met de vraag zitten: welke partij geef je wel en niet toegang en waarom? Kun je van tevoren zien of een verspreider kwaadwillend is? Bij maatschappelijk verantwoord ondernemen hoort gedegen onderzoek naar de integriteit van partijen waarmee bedrijven werken. Dat zouden digitale platforms ook moeten doen.”
In een ECP-debat zeiden Marietje Schaake en Ronald Prins dat het stichten van verwarring al een eerste doel en resultaat vormen van fakenews-campagnes. Welke rol speelt dan de technologie?
Van Boheemen: “Verwarring stichten noemen we ook ‘liars dividend’: als je maar vaak genoeg onwaarheid verspreidt, komt de waarheid ook ter discussie te staan. Dat is een grote bedreiging en de techniek kan flink bijdragen aan die verwarring. Een goed voorbeeld was de onrust die in 2018 in Gabon ontstond. Het gerucht ging dat de president van het Centraal-Afrikaanse land was overleden, maar dat dat bewust werd stilgehouden. Om de geruchten de kop in te drukken verscheen er een video van de president online, maar de oppositie claimde dat het een deepfake was. Of dat daadwerkelijk zo was, weten we niet, maar de verwarring alleen al werd aangegrepen voor een couppoging.”
Welke ministeries deden mee in de interdepartementale klankbordgroep rondom jullie onderzoek en met welk doel?
Van Boheemen: “Het onderwerp desinformatie snijdt door verschillende departementen. BZK, J&V, Defensie en EZK keken mee. Ze waren erg te spreken over de quicksan, een mooi overzicht van technologische ontwikkelingen die de komende jaren een rol kunnen gaan spelen bij de productie en verspreiding van desinformatie; plus de bestaande maatregelen die de negatieve effecten van desinformatie moeten tegengaan. Dat hadden ze in die vorm nog niet gezien.”
Hadden de ministeries zinnige inbreng?
Van Boheemen: “EZK lichtte toe hoe het zit met de Europese e-Commerce Richtlijn met beperkte aansprakelijkheid voor de platforms die destijds nog niet als aparte categorie werden erkend. Europa heeft een Digital Services Act in voorbereiding die meer verantwoordelijkheid voor de platforms zal brengen.”
Dat is weinig. Den Haag etaleert vooral onmacht ten aanzien van desinformatie. Minister Ollongren blunderde nogal met onbewezen beschuldigingen aan het adres van Rusland over inmenging in de Nederlandse Kamerverkiezingen alvorens tot haar actielijnen en inmiddels heldere maatregelen [zie kader] te komen. Heeft het Haagse wel een clou?
Van Boheemen: “Ze zijn goed geïnformeerd, en met ons rapport nu ook op de hoogte van de laatste technologische ontwikkelingen.”
Maatregelen van Ollongren
Half november kwam minister Kajsa Ollongren van Binnenlandse Zaken en Koninkrijksrelaties met een pakket maatregelen om desinformatie in het licht van de Tweede Kamerverkiezingen 2021 actief te bestrijden. Een aantal van die maatregelen:
• Een Nederlandse gedragscode transparantie politieke advertenties, op voorstel van de Kamerleden Jan Middendorp (VVD) en Attje Kuiken(PvdA). Een onafhankelijke partij maakt, in samenwerking met politieke partijen en deelnemende bedrijven Facebook/Instagram, Snapchat en Google/YouTube regels voor het transparant maken van de herkomst van advertenties, en het voorkomen van valse reclame en van partijen buiten Nederland.
• Er komt een openbare plek met alle politieke advertenties. De Universiteit van Amsterdam krijgt geld voor een dashboard op grond van data van de website Who Targets Me.
• Intensiveren van de detectie van desinformatie, vooral van de distributie. Een onafhankelijke derde partij krijgt geld om dat te monitoren. Inhoudelijke beoordeling blijft een journalistieke taak waar de overheid de vingers niet aan wil branden.
• Een website van het Netwerk Mediawijsheid die bewustwording over online invloeden moet bevorderen bij alle stemgerechtigde Nederlanders.
• Wijzigen van Wet financiering politieke partijen: giften aannemen van buiten de EU worden verboden. De grens van 4.500 euro voor openbaarmaking van giften uit EU-landen vervalt. Ook giften in natura, zoals betalen van digitale advertenties, moeten openbaar worden.
Europees actieplan
Op 3 december 2020 presenteerde Vera Jourová, de Tsjechische eurocommissaris voor Waarden en Transparantie, haar offensief tegen desinformatie: het European Democracy Action Plan (EDAP). Dit moet voorzien in een intensieve samenwerking door factcheckers van media, non-gouvernementele organisaties en onderzoekers met toegang tot de algoritmes van grote internetplatforms die nieuws en informatie selecteren. De EDAP is een verlengstuk van de Digital Services Act, het grote plan van aanpak voor de uitwassen van de digitale markten. Die kan echter nog jaren op zich laten wachten, terwijl er haast is met bestrijding van desinformatie met het oog op de vele verkiezingen in Europa. EDAP voorziet in een combinatie van regulering en – opgelegde – zelfregulering tot stand brengen.
Platforms als Twitter, Instagram en
Facebook moeten openheid geven over
hun algoritmes zodat ze die eventueel
kunnen aanpassen. Ook moeten ze de manipulatie van de publieke opinie door bots en valse accounts mordicus tegengaan. Betrappen ze partijen die desinformatie verspreiden, dan wil Brussel deze partijen met sancties treffen. Ook moet er wetgeving komen die transparantie afdwingt over politieke advertenties: qua afzender, betalingen en selectie van doelgroepen.
‘Genoeg rapporten nu’
De belangrijkste desinformatie-expert, Peter Burger van de Universiteit Leiden, is enerzijds lovend over het rapport van Rathenau: “Het instituut doet doorgaans goed onderzoek naar de literatuur en de breedte van het terrein. In die zin is dit een nuttig rapport voor beleidsmakers. De informatie over psychographing was zelfs voor mij nieuw. Ik denk wel dat de dreiging van deepfakes wellicht wordt overschat; ook cheapfakes (simpele video-editing, zonder gebruik van kunstmatige intelligentie) kunnen hun verwarrende werk al doen, zoals beelden van Russische verkiezingen die werden ingezet om zogenaamde fraude bij Amerikaanse verkiezingen aan te tonen.”
Maar Burger laakt anderszijds de Haagse rapportenepidemie: “Er zijn onderhand wel genoeg rapporten. Overheden doen er nu beter aan om eens actie te ondernemen, bijvoorbeeld door te investeren in tools en samenwerkingen om desinformatie te bestrijden.”
Als voorbeeld noemt Burger het hulpmiddel Invid, gefinancierd door de Europese Commissie, waar je foto’s en video’s mee kunt controleren op echtheid en herkomst: “Een fantastische tool, en een uitstekende besteding van gemeenschapsgeld.”
Burger heeft met een Vlaams-Nederlands consortium een aanvraag voor subsidie ingediend voor een Observatorium voor desinformatie. Met Edmo is er al een Europees centrum en er is 9 miljoen euro beschikbaar voor nationale centra. “Ook de Nederlandse overheid zou actief dit soort samenwerkingen in uitvoerende expertise kunnen ondersteunen.”
Leugenlabel helpt nauwelijks
Waarschuwingen op Facebook bij de valse uitingen uit kamp-Trump over verkiezingsuitslagen hadden een gering effect: ze werden gemiddeld slechts 8 procent minder gedeeld dan uitingen zonder waarschuwing. Al afgelopen zomer kwam binnen Facebook een sterke beweging op van werknemers die CEO Mark Zuckerberg vroegen wat hij zou gaan doen als Trump verkiezingsuitslagen met desinformatie zou ondermijnen. Openbaarmaking van manipulatie leidde zelfs tot ontslag van een interne klokkenluider. Zuckerberg is altijd tegenstander van ingrijpen in de vrije meningsuiting geweest.
Zijn collega Jack Dorsey van Twitter is minder terughoudend. Twitter greep hard in tijdens de verkiezingen: 300.000 Tweets zijn gelabeld als (mogelijk) vals onder de Civic Integrity Policy voor betwiste en mogelijk misleidende inhoud. Bijna 500 daarvan konden niet geretweet of beantwoord worden, zelfs niet geleukt. Het quoten van deze tweets was wel mogelijk, maar volgens Twitter nam dat met 30 procent af door de waarschuwingen. Overigens kwam de waarschuwing te laat voor 25 procent van degenen die een gewraakte tweet zagen, want filteren op Twitter vraagt om razendsnelle reactie.
Angst overdreven
Uit onderzoek van de Universiteit van Amsterdam kwam naar voren dat desinformatie in Nederland tijdens de provinciale en Europese verkiezingen van 2019 geen rol van betekenis speelde. Ook verscheen er een artikel van wetenschappers op Slate dat de angst voor desinformatie wordt overdreven: ze kan een ontwrichtende werking hebben op politieke en sociale verhoudingen, maar er ontbreekt bewijs dat ze de keuze en overtuigingen van mensen aanmerkelijk beïnvloedt. Sociale identiteit, locatie en religie blijven krachtiger factoren. Ook blijkt dat de invloed van massamedia ten opzichte van sociale media niet grootscheeps afneemt.
Wel zegt expert Whitney Phillips van de Syracuse University in een recent artikel in New York Times dat onze hersenen overbelast raken als we voortdurend worden geconfronteerd met verontrustende of verwarrende informatie. In feite maken we allemaal onderdeel uit van deze mallemolen. Overigens produceerden de makers van South Park een onderhoudende deepfake video.
Desinformatietechnologie uit de quickscan van het Rathenau-rapport
PRODUCTIE
Tekstsynthese: algoritmes die leesbare en logische (nieuws)berichten genereren.
Voice cloning: manipulatie van spraakberichten met behulp van kunstmatige intelligentie.
Beeldsynthese en deepfakes: genereren en aanpassen van video’s met behulp van kunstmatige intelligentie.
DISTRIBUTIE
Aanbevelingsalgoritmes van socialemediaplatforms.
Bots: (deels) automatisch aangestuurde accounts op sociale media.
Distributed autonomous
applications: online platforms zonder centrale aansturing.
Micro-targeting: boodschappen afstemmen op groepen en personen.
Psychographing: berichten afstemmen op persoonlijkheidskenmerken.
CampaignGrid: software voor gespecificeerde benadering van doelgroepen en personen.
Dynamic prospecting: uit gigantische datasets automatisch doelgroepen selecteren, het effect van advertenties bepalen en bijstellen.
