Om daar internationale kaders voor te ontwikkelen, lanceerde de International Telecommunication Union (ITU), de VN-organisatie voor digitale technologie tijdens de AI for Good Global Summit in Genève een nieuwe Focus Group on Trust and Identity for Humans and Agentic AI (FG-TIDA). De groep wordt mede voorgezeten door Amir Banifatemi, Chief Responsible AI Officer bij Cognizant. Daarmee zitten we aan een belangrijke tekentafel waar deze standaarden vorm krijgen.
Wie zijn die AI-Agents eigenlijk, en zijn ze te vertrouwen?
AI verschuift in hoog tempo van systemen die reageren op een opdracht naar agents die zelfstandig plannen, beslissen en handelen. Die verschuiving roept twee vragen op die voor u ongetwijfeld direct herkenbaar zijn: wíe is de AI-agent die hier handelt, en is zijn gedrag te vertrouwen? De eerste vraag gaat over identiteit, de tweede over betrouwbaarheid. Samen vormen ze de basis die nodig is om mensen en AI-agents op grote schaal veilig te laten samenwerken.
Met het bankenwezen als duidelijke koploper werken organisaties in vrijwel elke sector aan de inzet van agentic AI. En hoewel de ene zich dus in een verder gevorderd stadium bevind dan de ander (Rabobank presenteerde vorige maand trots haar eigen Agentic AI Hub), zitten we als het aankomt op de zorgen en bezwaren voor de inzet van agentic AI bijna allemaal in hetzelfde schuitje.
Bouwstenen voor vertrouwen
De Focus Group werkt daarom aan een set bouwstenen die (overheids)organisaties direct raakt: een gedeelde basis voor digitale identiteit en vertrouwen. Concreet gaat het om: dezelfde begrippen gebruiken, standaardmanieren om identiteit en vertrouwen op te zetten, afspraken over hoe digitale identiteiten en bewijsstukken worden beheert en betrouwbaar houdt, en manieren om die systemen met elkaar te laten samenwerken. Daarnaast worden er veiligheidseisen opgesteld waarmee AI-agents doorlopend getoetst kunnen worden, en maakt men een routekaart die alle betrokken experts op één lijn brengt. De rode draad is het behoud van betekenisvolle menselijke controle, via heldere mechanismen voor autorisatie, toezicht en, belangrijk, het kunnen intrekken van bevoegdheden.
Lokaal ook op de agenda
Ook lokaal sluit dit naadloos aan bij thema's die hier al hoog op de agenda staan: betrouwbare digitale identiteit, verantwoording over geautomatiseerde besluitvorming, en menselijke regie als uitgangspunt in lijn met de Europese kaders. Het gaat vooralsnog niet om bindende standaarden, maar om het voorbereidende werk dat straks kan doorwerken in eisen aan leveranciers van AI-agents en aan organisaties die ze in hun processen inzetten. Wie de ontwikkeling nu volgt, staat straks niet voor verrassingen.
Dat Cognizant via het co-voorzitterschap aan dit werk bijdraagt, betekent dat we de discussie over verantwoorde, controleerbare agentic AI van dichtbij meemaken, en de inzichten daaruit kunnen vertalen naar wat ze concreet betekenen voor Nederlandse overheden. De eerste bijeenkomst van de Focus Group staat gepland voor november 2026 in Parijs, gevolgd door een tweede in januari 2027 in Genève.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.