TNO: Cybersecurity gebaat bij zelfdenkende en zelfhandelende systemen
De mens achter een scherm in een Security Operations Center (SOC) gaat in de toekomst plaats maken voor zelfdenkende en zelfhandelende systemen die cyberaanvallen vroegtijdig kunnen detecteren en afslaan om onze digitale infrastructuur te beschermen. En dat gaat verder dan automatiseren, legt Berry Vetjens, marktdirecteur ICT, Strategy and Policy bij TNO, uit.
Un inconvenient truth
“Velen vinden het uit handen geven van steeds meer menselijk denken en handelen met AI aan autonome systemen zorgwekkend, maar de ongemakkelijke waarheid is dat dit niet doen specifiek op cybergebied misschien nog wel zorgwekkender is”, stelt Vetjens bij de presentatie van het nieuwe positionpaper ‘Checkmate, cybersecurity?‘.
”In de race tegen kwaadwillenden in het digitale domein is de mens een complicerende factor. In Security Operations Centres, waar de computer- en netwerkactiviteiten in een organisatie worden gemonitord, zitten nog altijd vooral mensen aan de knoppen. Maar er komt zoveel op hen af dat we moeten gaan accepteren dat de securitysystemen autonoom gaan worden,” aldus Vetjens.
Systemen waar geen mens meer aan te pas komt zullen er komen en het is tijd dat wij met wetenschappelijke partners, bedrijfsleven en overheid deze systemen gaan ontwerpen. Er is geen tijd te verliezen.”
Schaakmat?
”We hebben de term schaakmat met een vraagteken als titel voor de paper gekozen omdat het een uiterst complexe wedstrijd is tegen onzichtbare en vaak ongrijpbare tegenstanders. Je schaakt als het ware tegen computers.” De enorme hoeveelheid gegevens die nodig is om een aanval tijdig te kunnen detecteren en de snelheid om adequaat te kunnen reageren, is volgens hem onderhand veel te groot voor het menselijk brein.
Positie van de mens
TNO schetst in het paper een zelflerend en zelfherstellend systeem dat een breed scala aan beveiligingstaken tegelijk kan uitvoeren, en gaat hiermee verder dan ooit. ‘Human in the loop’ maakt plaats voor ‘human before the loop’, legt Vetjens uit. “De mens ontwerpt het systeem dat vervolgens zelf nadenkt en handelt. Dat moet dan wel met de grootst mogelijke zorgvuldigheid gebeuren.”
Het systeem moet volgens TNO vanuit ethisch oogpunt voldoen aan hoge waarden die in samenspraak tussen deskundigen, beleidsmakers, belanghebbenden worden vastgesteld. Daarover moet ook verantwoording kunnen worden afgelegd. Het verwerken van veel data raakt immers de privacy van mensen. Daarover moeten juridisch sluitende afspraken komen.
Discussie
TNO erkent de complexiteit van het ontwerpen van zo’n systeem. “Je moet verschillende technologieën rond cybersecurity en AI combineren, juridische en ethische kwesties adresseren en de belangen van uiteenlopende publieke en private partijen samenbrengen”, aldus Vetjens. TNO geeft met het paper een mooi startschot voor de discussie.
