AP richt directie voor AI-toezicht op, maar er is nog altijd geen bevoegdheid

Opvallend is dat de AP hiervoor nog altijd niet formeel is aangewezen. Nederland heeft de Europese deadline voor het aanwijzen van AI-toezichthouders inmiddels ruim een jaar overschreden. De nieuwe directie Toezicht en Coördinatie AI/Algoritmes (TCA) brengt het bestaande toezicht op AI en algoritmes samen met de voorbereiding op het toekomstige markttoezicht. De AP vervult sinds 2023 een coördinerende rol op dit terrein, maar krijgt naar verwachting ook bevoegdheden om rechtstreeks toezicht te houden op de naleving van de Europese AI-verordening.

Wanneer die bevoegdheden daadwerkelijk ingaan is nog onduidelijk. Daarvoor moet eerst de Nederlandse Uitvoeringswet AI-verordening in werking treden. De Europese deadline voor het aanwijzen van nationale toezichthouders verstreek al op 2 augustus 2025. Ook over de financiering en de benodigde capaciteit worden volgens de AP nog gesprekken gevoerd.

Twee afdelingen voor AI-toezicht

De nieuwe directie bestaat uit twee afdelingen. De afdeling AI/Algoritmes Risicoanalyse & Coördinatie (ARC) richt zich op de maatschappelijke gevolgen van algoritmes en AI-systemen. Daarbij gaat bijzondere aandacht uit naar algoritmeregisters, toezicht op impactvolle algoritmes en de beoordeling van risicoselectie-instrumenten op discriminatie en nauwkeurigheid.

De afdeling Markttoezicht AI (MTA) bereidt zich voor op de daadwerkelijke handhaving van de AI-verordening. Hiervoor bouwt de AP technische expertise op om AI-systemen te kunnen onderzoeken en testen. Ook werkt de toezichthouder samen met het Europese AI Office aan kennis over de veiligheid van geavanceerde AI-modellen. Volgens AP-bestuurslid Katja Mur kan de toezichthouder niet wachten totdat alle wettelijke en organisatorische voorbereidingen zijn afgerond.

‘De 'verkeersregels' voor AI worden steeds concreter en het verkeer wordt iedere dag drukker en sneller. Wij kunnen daarom niet wachten tot het laatste verkeersbord is geplaatst. We zijn 3 jaar geleden gestart en met de nieuwe directie bouwen we verder aan de organisatie, kennis en expertise die nodig zijn om goed toezicht te houden.’

Samenwerking met Rijksinspectie

De AP gaat samen met de Rijksinspectie Digitale Infrastructuur (RDI) ook werken aan een zogenoemde AI-sandbox. Dit is een gecontroleerde omgeving waarin organisaties innovatieve AI-systemen kunnen ontwikkelen en testen, onder begeleiding van toezichthouders. Het doel is om bedrijven en andere organisaties te helpen hun toepassingen in overeenstemming te brengen met de Europese regelgeving. Daarnaast werken beide toezichthouders aan een gezamenlijk AI Coördinatiecentrum.

AI-regels al van kracht

Hoewel het Nederlandse toezicht nog niet volledig is ingericht, zijn onderdelen van de Europese AI-verordening al van toepassing. Zo zijn bepaalde AI-toepassingen verboden en gelden er verplichtingen voor aanbieders en gebruikers van AI-systemen. Volgens de AP neemt de urgentie van toezicht toe door de snelle ontwikkeling van AI-agenten die steeds zelfstandiger taken uitvoeren. De toezichthouder wijst onder meer op incidenten waarbij dergelijke systemen ongeautoriseerd toegang kregen tot digitale omgevingen.

De formele aanwijzing als AI-markttoezichthouder blijft voorlopig afhankelijk van de Nederlandse wetgeving. De AP heeft eerder dit jaar onderzocht welke capaciteit en financiering nodig zijn om de nieuwe taken uit te voeren. Wanneer daarover definitieve besluiten worden genomen, is nog niet bekend.