Advertenties van radiozender BNR met deepfakes van Nederlandse politici werden niet gedetecteerd als nep door Meta en X. De grote platforms beloofden eerder om zich in te spannen tegen de inzet van genAI rond de Europese verkiezingen.
Gefingeerde BBB-vegetariër
“Salaam, broeders. Ik heb mij vanochtend bekeerd tot de Islam. Er is slechts één god en zijn profeet heet Mohammed.” Zo luidt de deepfake van Geert Wilders (PVV) die radiozender BNR voor een paar tientjes liet maken. In andere deepfakes kondigt Caroline van der Pas (BBB) aan dat ze vegetariër wordt en belooft Rob Jetten dat zijn partij D66 morgen van standpunt verandert.
Door het filter
De deepfakes zijn duidelijk nep en dat is ook de bedoeling: BNR maakte advertenties met de gefingeerde beelden en bood die aan bij Meta, X en TikTok, met het verzoek om ze tegen een flinke betaling op de dag voor de Europese verkiezingen aan miljoenen gebruikers te tonen. Alle drie de deepfakes kwamen door het filter van Meta en X. Alleen TikTok weigerde de advertenties, omdat het ‘verdacht gedrag’ had gesignaleerd.
Pact tegen misbruik genAI
In februari ondertekenden de sociale mediaplatforms een pact waarin ze beloofden om zich te verweren tegen de inzet van generatieve AI bij de verkiezingen. Meta zou ‘binnen enkele maanden’ AI-gegenereerde content van een duidelijk label voorzien. De Europese Commissie stelde in april vast dat Meta te weinig doet om het democratische proces te beschermen en begon een onderzoek, maar de resultaten daarvan worden pas na de Europese verkiezingen verwacht.
Makkelijk te identificeren
Het Nederlandse deepfake-detectiebedrijf DuckDuckGoose had geen moeite om de advertenties van BNR te identificeren als nep. Dat had voor Meta en X dus ook geen probleem moeten zijn. Meta en X reageerden niet op vragen van BNR.
Lees ook:
