Digitale weerbaarheid
Nieuws

Overheidsbrede cyberoefening in het teken van deepfakes en AI

Criminelen die inbreken op sociale media-accounts van de gemeente en zichzelf een manier verschaffen om fysiek toegang te krijgen tot het gemeentehuis. Intussen wordt er volop gemanipuleerd met deepfakes. Tijdens de zesde overheidsbrede cyberoefening werden deelnemers opnieuw flink uitgedaagd.

Tijdens de editie van afgelopen maandag 4 november vormde een vijftal specialisten het bestuur van de fictieve gemeente Zilverstede. De rollen werden ingevuld door Marco Zannoni, (voorzitter) Jeroen Schipper (CISO) Astrid van de Klift (gemeentesecretaris) Luuk Steenwelle, (crisisadviseur) en Bob Boot (communicatieadviseur), die gezamenlijk de geënsceneerde cybercrisis tot een goed einde te brengen. Bij deze editie was er volop aandacht voor de risico’s die deepfakes en AI hebben op de veiligheid van de gemeentelijke organisaties.

Meekijken en vragen stellen

Het aanwezig publiek in de Prodentfabriek in Amersfoort kreeg de gelegenheid om vragen te stellen bij de live oefening, intussen keken ook veel geïnteresseerden online mee. Tussen het vergaderen door kwamen in de liveshow diverse experts aan bod om een visie te geven op de huidige uitdagingen, waaronder ook hoogleraar AI en Audit Sander Klous van KPMG.

Systematische controles

‘Vandaag bleek op allerlei vlakken hoe er met AI fakesignalen recreëren kunnen worden om mensen op het verkeerde been te zetten. Zulke risico’s kun je mitigeren, maar ze in de kiem smoren is een te grote uitdaging.’ Wat Klous betreft doen organisaties die zich in gemeente Zilverstede herkennen er goed aan om goed na te denken over systematische controles op gebied van financiën. ‘Systematische elementen inbouwen en volgens het vierogen principe werken.’ Daar moet vanuit de opzet al over worden nagedacht, vindt Klous. ‘Meer controles creëren waarmee al van tevoren bedacht wordt hoe incidenten zich kunnen voordoen, in plaats van achteraf nadenken over reageren.’

Impact NIS2

Wat Klous betreft, kan NIS2 een stap vooruit betekenen voor gemeenten. Hij verwacht dat de komende jaren systemen steeds vaker gecontroleerd gaan worden door onafhankelijke partijen. ‘Je ziet dat er vanuit de NIS2 meer eisen gesteld gaan worden en dat je als gemeente compliance aan moet tonen. In de AI-act zijn er geen onafhankelijke controles als eis meegenomen, ik verwacht deze wel meer te gaan zien.’

De overheidsbrede oefening terugkijken kan via de website van Weerbare Digitale Overheid.

Lees ook:

Plaats een reactie

U moet ingelogd zijn om een reactie te kunnen plaatsen.
Registreren