Onderzoek: AI en Gen AI in Cybersecurity

In dit onderzoek verkennen we de rol van AI en GenAI in cybersecurity. We hopen dat onze inzichten voor C-suite executives en cybersecurity-leiders van pas zullen komen. In het rapport identificeren we verschillende use cases, en geven we aanbevelingen waarmee organisaties hun cybersecurity kunnen verstevigen.

Met de intrede van AI en GenAI ontstaan nieuwe cybersecurity-risico’s. Tegelijkertijd biedt deze technologieën ook kansen voor betere cybersecurity. AI betekent een transformatie voor de manier waarop beveiligingsprofessionals dreigingen voorspellen, detecteren en erop reageren. Drie potentiële risico’s:

1. Meer geavanceerde aanvallen en meer tegenstanders

Dreigingsactoren maken op verschillende manieren gebruik van AI en GenAI. GenAI werkt drempelverlagend, en maakt het makkelijker om geavanceerdere aanvallen te plegen. GenAI kan worden toegepast voor phishing, social engineering, deepfakes, malware-ontwikkeling, het omzeilen van beveiligingscontroles, het exploiteren van kwetsbaarheden, geautomatiseerd hacken en het creëren van kwaadaardige GPT’s (Generative Pre-trained Transformers). Bovendien kan GenAI gebruikersgedrag nabootsen en zo beveiligingschecks omzeilen.

2. Uitbreiding van het cyberaanvalsoppervlak

97 procent van de ondervraagde organisaties die het afgelopen jaar beveiligingsincidenten rond GenAI rapporteerden, geven aan dat het aanvalsoppervlak is toegenomen. Het externe aanvalsoppervlak wordt steeds complexer en veelzijdiger door het toenemende gebruik van AI en Gen AI in verschillende industrieën. GenAI wordt dus niet alleen gebruikt door dreigingsactoren om geavanceerde aanvallen te plegen, GenAI-oplossingen van organisaties kennen hun eigen zwakheden die ook lijdend voorwerp van aanvallen kunnen worden of kunnen worden misbruikt voor verkeerde doeleinden; denk aan AI-technologieën zoals AI-chat-oplossingen, apps met AI-integratie en allerlei AI-assistenten, adviseurs en zoekhulpmiddelen. “Prompt injection”-aanvallen kunnen bijvoorbeeld GenAI-modellen manipuleren, en de integriteit van hun modeluitvoer compromitteren. Bovendien kunnen AI-technologieën het interne aanvalsoppervlak aanzienlijk uitbreiden, aangezien interne actoren of werknemers ze kunnen misbruiken — bijvoorbeeld door vertrouwelijke informatie te uploaden naar externe tools zoals ChatGPT. Een andere zorg is ‘shadow AI’, waarbij niet-goedgekeurde applicaties buiten de controle van IT om worden geïnstalleerd en gebruikt door werknemers die zich niet bewust zijn van het bedrijfsbeleid. Deze nieuwe dreigingen komen bovenop de traditionele aanvalsoppervlakken die organisaties moeten beschermen, zoals netwerken, eindpunten, dataplatforms en applicaties.

3. Lifecycle management voor maatwerk-GenAI-oplossingen

De hele levenscyclus van Gen AI-oplossingen — van het verzamelen van bedrijfsgegevens en modelverfijning tot ontwikkeling en onderhoud — moet worden beveiligd. Alleen zo voorkom je dat gegevens die worden gebruikt als input voor het model gecompromitteerd raken. Bovendien is beveiliging een randvoorwaarde voor de borging van de beschikbaarheid en integriteit van de oplossing. Er ontstaan extra risico’s als GenAI wordt gebruikt voor code-generatie. Dit kan namelijk resulteren in ‘hallucinaties’ en nieuwe kwetsbaarheden. Daardoor ontstaan weer nieuwe beveiligingsproblemen. Ons onderzoek toont aan dat organisaties zich bewust zijn van deze bedreigingen. Ongeveer 60% ziet daardoor de noodzaak om cybersecurity-budgetten te verhogen.

Integratie in cybersecurity

Positief is dat drie op de vijf organisaties AI essentieel achten voor een effectieve dreigingsrespons. De meerderheid vertrouwt op AI om gegevensbeveiliging, applicatiebeveiliging en cloudbeveiliging te versterken. AI verbetert de dreigingsdetectie en rapportage door realtime responsmogelijkheden te bieden. Het maakt het leven van analisten makkelijker, en stelt ze in staat hun onderzoek te focussen op de juiste aspecten. Daardoor kunnen ze hun analyses sneller en nauwkeuriger uitvoeren. Bovendien geloven organisaties dat GenAI op de lange termijn een positieve uitwerking zal hebben op cybersecurity. Leidinggevenden in meer dan de helft van de onderzochte organisaties geloven dat ze hun beveiligingsstrategieën dankzij GenAI kunnen verbeteren.

Nieuwe use cases in beveiliging

AI biedt een breed scala aan toepassingsmogelijkheden voor cybersecurity in IT, OT en het Internet of Things (IoT). Veel organisaties zien nu al de voordelen, en experimenteren volop met nieuwe beveiligingstoepassingen van GenAI. Denk bijvoorbeeld aan de rol die GenAI kan spelen bij het genereren van dreigingsinformatie en kwetsbaarheidsbeoordelingen.

Versterking van cyberverdediging

Als het gaat om cybersecurity mogen organisaties niet over één nacht ijs gaan. Een doorwrochte strategie is noodzakelijk. Wij geven de nodige handvatten mee:

• Ontwikkel een duidelijke strategie voor de integratie van AI en Gen AI in bestaande beveiligingssystemen. Ga na of de beoogde efficiëntieverbeteringen en risicomitigatie in verhouding staan tot de benodigde investeringen. Stel een incident respons-protocol vast met duidelijke, concrete instructies voor snel en effectief ingrijpen.
• Herzie continu het beveiligingslandschap, zodat nieuwe risico’s tijdig kunnen worden geïdentificeerd en adaptieve verdedigingsmechanismen kunnen worden ingezet.
• Zorg voor de nodige infrastructuur, waaronder geavanceerde communicatiesystemen, oplossingen voor gegevensbeheer en cloud computing-capaciteiten.
• Stel een robuust kader, beleid en governance op om de gegevensveiligheid en integriteit te waarborgen, en het vertrouwen in AI-modellen te bevorderen. Stem de selectie en training van het model af op de behoeften van de organisatie.
• Investeer in de integratie van AI- en GenAI-gebaseerde oplossingen met bestaande Security Operations Centers (SOC)-systemen, om de effectiviteit daarvan te vergroten. Zorg voor een geleidelijke integratie van AI-agenten in cybersecurity-operaties; zo ondersteun je analisten in hun effectieve respons op incidenten en mitigatie van dreigingen. Zorg voor continue monitoring en updates van de AI-systemen, zodat deze altijd zijn voorbereid op nieuwe, evoluerende dreigingen.
• Investeer in uitgebreide AI-cybersecuritytraining, zodat werknemers de mogelijkheden en beperkingen van AI en GenAI begrijpen en er op een verantwoordelijke manier mee omspringen.
• Het beschermen van bedrijfsprocessen en het bevorderen van een cultuur van risicobewustzijn onder werknemers de hoogste prioriteit krijgen.