AIVD en RDI waarschuwen voor aanzienlijke uitdagingen met generatieve AI
De opkomst van generatieve AI brengt aanzienlijke uitdagingen met zich mee voor het dreigingslandschap van organisaties. Dit melden de Algemene Inlichtingen- en Veiligheidsdienst (AIVD) en de Rijksinspectie Digitale Infrastructuur (RDI).
Hoewel de AIVD en de RDI positieve toepassingen van generatieve AI signaleren, moeten organisaties zich ook voorbereiden op nieuwe soorten risico’s en dreigingen. Om dit inzichtelijk te maken, hebben de diensten het AI Cybersecurity Kwadrant opgesteld, dat de kansen, risico’s en uitdagingen rond generatieve AI in kaart brengt.
Dreigingen ontwikkelen sneller
Volgens de AIVD en de RDI is meer inzicht noodzakelijk omdat door generatieve AI aangedreven dreigingen zich snel kunnen ontwikkelen en ‘slimmer’ worden uitgevoerd. “Traditionele beveiligingssystemen kunnen mogelijk tekortschieten bij deze complexere bedreigingen,” waarschuwen de organisaties. Waar voorheen alleen statelijke actoren over voldoende middelen en capaciteiten beschikten om dergelijke geavanceerde aanvallen uit te voeren, biedt de bredere beschikbaarheid van AI nu ook criminelen deze mogelijkheid.
Aanvallen op maat
Generatieve AI kan echter ook een positieve rol spelen bij het verbeteren van de cybersecurity van organisaties, bijvoorbeeld door het helpen detecteren van aanvallen en het analyseren van netwerkverkeer. “Als generatieve AI op een verstandige en veilige manier wordt ingezet, kan het voordelen bieden voor cybersecurityorganisaties”, aldus de AIVD en de RDI. Wel benadrukken zij dat generatieve AI aanvallen op maat kan maken, wat de dreigingen minder voorspelbaar maakt. “Daardoor kunnen bestaande beveiligingsmechanismen, die zijn gebaseerd op bekende patronen, mogelijk tekortschieten.”
Enorme kansen voor cybersecurity
De AIVD en RDI stellen verder dat het onvermijdelijk is dat generatieve AI ook defensief ingezet zal worden, gezien de snelle ontwikkeling van offensieve toepassingen. “Generatieve AI biedt enorme kansen, doordat het organisaties in staat stelt om grote hoeveelheden data te analyseren, voorspellingen te doen en mogelijk zelfs automatisch te reageren op dreigingen.”
Meer informatie over het AI Cybersecurity Kwadrant en de toelichting daarop is hier te vinden.
