Capgemini helpt Europa systeemrisico’s te beoordelen, te monitoren en te beperken die samenhangen met het gebruik van geavanceerde AI-modellen voor cyberaanvallen. Deze modellen ontwikkelen in hoog tempo autonome mogelijkheden en capaciteiten voor cyberaanvallen, zoals het automatisch opsporen van kwetsbaarheden, het genereren van exploits en het coördineren van grootschalige cyberaanvallen. Daarom heeft Europa robuuste, geharmoniseerde beoordelingskaders nodig om ervoor te zorgen dat deze technologieën in de hele EU veilig en verantwoord worden ingezet.
Capgemini leidt Europese toetsing van AI-modellen
Het AI-bureau [1] van de Europese Commissie heeft Capgemini geselecteerd om een consortium [2] te leiden dat ondersteuning biedt bij het modelleren van cyberdreigingen en het beoordelen van risico’s rond geavanceerde AI-systemen in het kader van de AI Act. De opdracht maakt deel uit van het EU-programma voor AI-veiligheid [3] en richt zich op het beoordelen en beperken van risico’s op het gebruik van AI-modellen voor algemene doeleinden (General-Purpose AI, GPAI) voor cyberaanvallen [4].
Capgemini zet zijn expertise op het gebied van AI, cybersecurity en compliance in om het AI-bureau te ondersteunen bij zijn kerntaak: de ontwikkeling en het gebruik van betrouwbare AI. Dit omvat het modelleren van opkomende risico’s op het gebruik van AI voor cyberaanvallen, het ontwikkelen van beoordelingsinstrumenten, het ontwerpen van technische methoden om naleving te toetsen en het op verzoek uitvoeren van technische beoordelingen. Capgemini ondersteunt het AI-bureau bij het identificeren van systeemrisico’s en het effectief handhaven van de verplichtingen die de AI-verordening oplegt aan aanbieders van GPAI-modellen.
Nu Europa het eerste alomvattende kader voor AI-veiligheid ter wereld invoert, weerspiegelt deze samenwerking met de Europese Commissie onze gedeelde inzet voor een verantwoorde ontwikkeling en toepassing van AI-technologie. Door wetenschappelijke grondigheid te combineren met operationele expertise en ervaring met het in de praktijk brengen van betrouwbare AI, draagt Capgemini bij aan het versterken van de digitale weerbaarheid van Europa”
Andrea Falleni, CEO van Capgemini’s regio Zuid-Europa en lid van de Group Executive Board.
Capgemini leidt een speciaal voor deze opdracht gevormd consortium met Wavestone en de Franse publieke instelling LNE (Laboratoire National de Métrologie et d’Essais). Het consortium bundelt complementaire expertise op het gebied van cyberrisicobeheer, operationele beveiliging, AI-evaluatie en conformiteitsbeoordeling om de Europese Commissie te helpen gelijke tred te houden met de snel veranderende AI-gedreven cyberdreigingen.
[1] Het Europese AI-bureau is het kenniscentrum voor AI binnen de EU en bevordert de ontwikkeling en toepassing van AI-oplossingen die de samenleving en de economie ten goede komen. [2] In het kader van perceel 2 van de aanbestedingsprocedure EC-CNECT-2025-OP-0032. [3] Het programma voor AI-veiligheid omvat de ontwikkeling van instrumenten, methodologieën en benchmarks om de capaciteiten en reikwijdte van AI-modellen voor algemene doeleinden te beoordelen en modellen met systeemrisico’s te classificeren. [4] Overzicht richtlijnen GPAI-modellen.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.