Vorige maand droeg de Amerikaanse overheid Anthropic op de toegang tot zijn meest geavanceerde AI-modellen tijdelijk te beperken vanwege zorgen over nationale veiligheid. Die zouden kunnen worden ingezet voor het identificeren van kwetsbaarheden in software of het omzeilen van beveiligingsmaatregelen. Die beperkingen zijn inmiddels opgeheven, maar het maakt wel duidelijk hoe afhankelijk Europa is van Amerikaanse infrastructuur en hoe belangrijk het is dat Europa zelf moet investeren in kennis op dit gebied.
Europese Commissie wil eigen ‘frontier AI‑veiligheidsplatform’ opbouwen
Na de Amerikaanse ingreep bij AI‑bedrijf Anthropic ziet Europa opnieuw hoe kwetsbaar het is als het gaat om buitenlandse AI‑infrastructuur. Met een actieplan en miljoeneninvesteringen wil de Europese Commissie nu een eigen evaluatiecapaciteit voor geavanceerde AI opbouwen, ENISA uitrusten om de zwaarste modellen te testen en cruciale open‑source‑software beter beschermen tegen AI‑gedreven cyberaanvallen.
Met een actieplan en miljoeneninvesteringen wil de Europese Commissie maatregelen nemen om de vitale software van overheden en bedrijven te beschermen tegen cyberaanvallen met AI.
Kennisontwikkeling
Om eigen expertise op te bouwen, wil de Commissie een EU-evaluatiecapaciteit op het gebied van cyberbeveiliging opzetten, die in 2027 operationeel wordt. Dit fungeert als een soort expertisecentrum dat het AI‑bureau ondersteunt bij het laten beoordelen van grote AI‑modellen. Op dit moment vinden wereldwijd al audits, veiligheidsanalyses en red‑teaming plaats door grote externe leveranciers; de nieuwe capaciteit moet die externe beoordelingen beter kunnen begrijpen, wegen, vergelijken en aanvullen, zodat het AI‑bureau niet alleen op de verklaringen van modelaanbieders hoeft te vertrouwen.
ENISA krijgt de middelen om de zwaarste AI-systemen te testen
Ook kondigt de Commissie een 'EU Grand Challenge on AI for cybersecurity' aan, een wedstrijd die bedrijven, onderzoekers en organisaties bijeen moet brengen om AI-oplossingen voor cybersecurity te ontwikkelen.
Testen van AI-modellen
In het plan krijgt de Europese cybersecuritywaakhond ENISA de middelen om de zwaarste AI-systemen te testen. Hiervoor gaan ENISA en het Gezamenlijk Centrum voor Onderzoek van de Commissie een beveiligd platform opzetten, onder meer met behulp van gesimuleerde omgevingen. De kennis over het veilige gebruik van AI kan vervolgens worden overgedragen aan vitale sectoren en het openbaar bestuur.
ENISA zal ook partnerschappen tussen overheidsinstanties, bedrijven en open source-gemeenschappen in het cyber-ecosysteem ondersteunen en faciliteren. Dit omvat richtlijnen, aanbevelingen en best practices, evenals een campagne om kritieke open source-software te beveiligen.
Noodklok
ENISA publiceerde gisteren ook haar eigen nota: ‘ENISA’s view on Cybersecurity in the Frontier AI Era’. Hierin luidt het agentschap de noodklok over de impact van geavanceerde AI op de digitale weerbaarheid van Europa. In een op 18–19 juni besproken nota schetst ENSIA hoe geavanceerde AI‑modellen de klassieke securityketen comprimeren: kwetsbaarheden worden binnen minuten gevonden, gewapend en misbruikt, terwijl datalekken gemiddeld al binnen 72 minuten na eerste toegang plaatsvinden.
Waar kwetsbaarheidsmanagement vroeger vooral een detectieprobleem was, ontstaat nu een triage‑ en patchcrisis. Organisaties zien het aantal meldingen en CVE’s explosief stijgen door AI‑gestuurde tooling, terwijl change boards en governanceprocessen te traag zijn om op machinesnelheid te reageren. ENISA spreekt van een “structurele verschuiving in het tempo van aanvallen en verdediging” en waarschuwt dat legacy‑systemen en technische schuld in dit nieuwe tempo een existentieel risico kunnen worden.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.