Hoe temmen we de fakes?

Met de ontwikkeling van AI wordt het steeds eenvoudiger overtuigende desinformatie te creëren en verspreiden. Daartegenover staat dat het veel lastiger wordt om informatie op waarde te schatten. Er zijn al de nodige hulpmiddelen beschikbaar. Om deze effectief in te kunnen zetten zijn gemeenschappelijke normen en kaders nodig. Bij de politie belegden ze een rijksbrede werkconferentie over de impact van synthetische media.

Steeds meer media worden met of volledig door kunstmatige intelligentie (AI) gemaakt. Tot voor kort werd het vooral door bedrijven toegepast als extra dienstverlening, denk aan de filters op sociale media en de AI die in de camera op je telefoon automatisch de beelden verbeterd.

Met de opkomst van deepfake-technologie en de openstelling van ChatGPT werd het voor iedereen mogelijk om naar eigen behoefte media te genereren of manipuleren. De verwachting dat in 2027 ruim 90% van de digitale content synthetisch is, dus gegenereerd of gemanipuleerd met AI, wordt daarmee opeens heel voorstelbaar.
Als je dit combineert met de notie dat ons inmiddels globale informatie ecosysteem volledig gedigitaliseerd is, komen fundamentele vragen op. Hoe geef je betekenis aan informatie in een wereld waarin alles nep (gemanipuleerd) is? Wat betekent dit voor de validatie van informatie, vertrouwen en de rol van publieke en private organisaties.

Vertrouwen is cruciaal voor samenwerken, zaken doen, eigenlijk worden al onze beslissingen genomen op basis van informatie. Vertrouwen in informatie maakt dat we risico’s durven te nemen.

Door de brede toegankelijkheid van de technologie kun je er niet zomaar meer op vertrouwen dat de persoon aan de andere kant van de lijn is wie hij zegt te zijn, omdat zowel gezicht als stem gekloond kunnen worden. Het is makkelijker geworden overtuigende desinformatie te creëren en verspreiden, waardoor het steeds lastiger wordt om informatie op waarde in te schatten. Een belangrijk thema van de conferentie was daarom het introduceren van nieuwe zekerheden die mensen en organisaties kunnen helpen met het geven van betekenis aan en het op waarde schatten van de content.

De belangrijkste oplossingsrichtingen zijn vervolgens uitgewerkt in 2 greenpapers, bedoeld om mensen mee te nemen in wat er nodig en (al) mogelijk is. Het gaat om Trust Ankers en Provenance.

Het vertrouwensproces, of het reduceren van onzekerheid, is te vergelijken met het maken van een klimtocht in de bergen. Hierbij zijn jouw ‘referentiepunten’ de klimankers op je tocht: elk solide verankerd anker is er één en biedt zekerheid bij de volgende stap. Een klimmer kan zich vastklampen aan de speciaal daarvoor gemaakte ankers, die veiligheid en houvast bieden, maar vindt natuurlijk ook houvast aan rotspunten of boomwortels op zijn klim.

Tezamen en in samenhang bieden deze referentiepunten een steeds hoger niveau van vertrouwen (trust), tot je het ‘voldoende’ houvast vindt om het risico te nemen van je volgende stap. Samen kunnen deze ankers het vertrouwen in elkaar en de informatie versterken of verlagen.
Digitaal werkt vergelijkbaar. Zo kan een KvK-registratie bewijzen dat een BV bestaat, maar het geeft minder vertrouwen als het adres van de BV op Google Maps overeenkomt met een parkeergarage met een roestige brievenbus. Daarentegen verhoogt een bedrijfslogo, dat op het dak te zien is via Google Maps, het vertrouwen in de echtheid van dat bedrijf. In dit voorbeeld is een autoritatieve bron gebruikt van de Staat; een Basisregistraties, en daarnaast als onderbouwende, ofwel corroboratieve bron Google, maar dit had ook een dataset van een lokale winkeliersvereniging kunnen zijn.

De snelle ontwikkelingen rond trust ankers als hulpmiddel voor zekerheid, bieden concrete handvatten voor het creëren van verschillende niveaus van vertrouwen voor de informatie-uitwisseling tussen het individu en de buitenwereld, tussen organisaties onderling en tussen organisaties en overheden. Hiervoor hoeft niemand opnieuw het wiel uit te vinden, er zijn al veel oplossingen en standaarden beschikbaar. Maar dan moet er wel worden ingezet op het daadwerkelijk gebruiken van deze gemeenschappelijke normen en kaders.

Een belangrijk trust anker is provenance. Het laat zich vertalen als herkomst, maar de betekenis in deze context is breder. Het gaat om het met behulp van cryptografische versleuteling, digitaal onherroepelijk en onweerlegbaar vastleggen van bewijzen van de herkomst, toegebrachte wijzigingen of juist de onveranderlijkheid van afbeeldingen en bijbehorende metadata. Het gaat om het inzichtelijk maken en kunnen controleren van alle (tussen)stappen van creatie totdat de digitale content uiteindelijk bij de consument terecht komt.

Er zijn twee grote internationale initiatieven. Het Content Authenticity Initiative (CAI) richt zich op het grote publiek met een systeem waarbij een verifieerbare laag van vertrouwen aan digitale content wordt toegevoegd. Het Project Origin heeft zijn wortels in de productie en distributie van nieuws en is bedoeld om gemanipuleerde informatie in het digitale nieuwsecosysteem aan te pakken.

Beide projecten doen geen uitspraken over de betrouwbaarheid van de content zelf! Maar het kunnen bepalen van de herkomst en signaleren of de content tussen de bron en het moment dat jij deze krijgt gewijzigd is, kan wel bijdragen aan vertrouwen. Het blijft dan aan mensen zelf om te bepalen of ze de bron betrouwbaar achten.

Beschikbare standaarden benutten
In ons huidige informatie ecosysteem, waarin het steeds moeilijker wordt om de betrouwbaarheid van informatie vast te stellen, kunnen trust ankers en provenance een belangrijke bijdrage leveren. De aanbeveling is daarom om deze ook in Nederland breder door te voeren en daartoe vooral de reeds (internationaal) beschikbare standaarden te benutten. De overheid heeft hier niet alleen een belangrijke voortrekkersrol in, het belang en de urgentie om vertrouwen niet te laten ondermijnen is vanuit publiek belang voor haar ook het grootst.