Toezicht op AI: Hier zijn de bomen, dit is het bos
De Tweede Kamer maakt zich zorgen of het toezicht op AI niet te ingewikkeld is georganiseerd, maar volgens de betrokken toezichthouders wijst het zich in de praktijk wel uit. iBestuur sprak met Angeline van Dijk (RDI), Martijn Snoep (ACM) en Aleid Wolfsen (AP).
AI zit misschien niet in álle producten, maar wel in alle producten met een digitale component, grappen ze graag binnen de Rijksdienst. In 2019 besloot het voormalige Agentschap Telecom om van AI één van de drie strategisch speerpunten te maken. “Er bestaat niet meer zoiets als de digitale economie,” zegt Angeline van Dijk, inspecteur-generaal van de RDI. “Je hebt alleen de economie en daarbinnen is digitalisering het belangrijkste randvoorwaardelijke proces om dingen te realiseren. Dat gegeven vraagt om meer politiek besef.” Of het nu gaat om de medische sector of de glastuinbouw, werknemers krijgen met AI te maken.
Het duizelde de Tweede Kamer, toen demissionair staatssecretaris Alexandra van Huffelen in april van dit jaar uitleg moest geven over het toezicht op algoritmes. Zien we straks door de bomen het bos nog wel, vroeg CDA-kamerlid Harmen Krul zich af.
Volgens Van Dijk hoeft de Tweede Kamer zich geen zorgen te maken. “Laten we in hemelsnaam niet denken dat je met één alomvattende partij het toezicht op AI kunt invullen. Het is juist ongelofelijk belangrijk dat er overal kennis ontstaat van hoe AI werkt en wat de risico’s zijn. Daarom leggen we het toezicht dáár neer waar de kennis van de sector al zit.”
Sectoraal organiseren
Onlangs verscheen het advies over het toezicht op naleving van de AI Act. Het werd opgesteld door de coördinerende toezichthouders AP en de RDI, in opdracht van de ministeries van EZK en BZK.
Het advies luidt dat er zo veel mogelijk sectoraal wordt belegd. Een financiële instelling die AI gebruikt, stapt in eerste instantie naar de AFM of DNB. Een producent van medische toepassingen waarin AI verwerkt zit, zoekt contact met de Inspectie Gezondheid en Jeugd. De AP is de overkoepelende toezichthouder voor nieuwe AI met een hoog risico en verboden AI. Er komt dus geen nieuw loket bíj. Tegelijkertijd wordt er gewerkt aan de opbouw van overkoepelende kennis.
De RDI stelt zich volgens Van Dijk op als een medecoördinator op inhoudsniveau, die de andere toezichthouders waar nodig kan bijstaan. “Anders dan de AVG en NIS2 is de AI Act productregelgeving. Een AI-toepassing mag de markt op als het aan een aantal voorwaarden voldoet. Daarin moeten sommige toezichthouders nog een beetje meegroeien. Daarnaast gaat het om risico-gebaseerd toezicht: bij grote risico’s ben je strenger dan bij kleine. Maar dat is voor alle toezichthouders bekend terrein.”
Pragmatische aanpak
Over de samenwerking is Van Dijk erg te spreken. “Er zit niet zo veel verschil in de perceptie van hoe we het moeten doen.” Met nog een klein jaar te gaan voordat de lidstaten het toezicht definitief vastleggen, vinden er ook in de Europese werkgroep interessante discussies plaats. De posities van Nederland en Spanje liggen het verst uit elkaar. Spanje kiest voor een centralistische aanpak, met één toezichthouder. “Het centralistische model is makkelijker uit te leggen, maar onze aanpak is pragmatischer, omdat de inrichting van het toezicht goed aansluit op de wensen van het bedrijfsleven,” zegt Van Dijk. “De andere lidstaten zijn zeer geïnteresseerd in the Dutch way.”
Ondernemingen krijgen de tijd om aan de nieuwe wetgeving te voldoen. “Wij zeggen altijd: als we een boete opleggen, dan hebben wij gefaald, maar de onder toezichtgestelden ook,” zegt Van Dijk. “De verordening stelt een minimumniveau op van wat betrouwbare AI is. Bedrijven die zich verantwoord gedragen, zullen niet veel last hebben van de AI Act, maar bedrijven die er een zooitje van maken, hebben direct een probleem. Daarmee zorgt de verordening voor een level playing field in Europa voor verantwoord ondernemen. En standaarden stimuleren het bedrijfsleven, dat zagen we eerder bijvoorbeeld bij 5G.” Mochten de humanoids zich de komende jaren echt ontwikkelen tot onmisbare huishoudhulpen, dan komen ze in ieder geval niet op de Europese markt zonder keurmerk.
“Het toezicht op ondernemingen blijft altijd een samenwerking van veel verschillende soorten toezichthouders. Iedere organisatie neigt altijd naar een soort bestuurlijk tribalisme,”zegt Martijn Snoep, bestuursvoorzitter Autoriteit Consument en Markt (ACM). “De taak van de top is om dat te bestrijden. Het is van belang dat er op verschillende niveaus wordt samengewerkt en dat er zeker in de topstructuur een informele verstandhouding ontstaat, waarin men elkaar kan bellen zodra er ergens een gevoel van wrijving ontstaat.”
“We realiseren ons dat het toezicht op het pakket aan Europese digitale wetgeving waaronder AI voor de buitenwacht verwarrend kan zijn. Dat was de reden om in 2021 het Samenwerkingsplatform Digitale Toezichthouders (SDT) op te richten. Daarin werken we op deelterreinen samen, om overlap of gaten in het toezicht op AI te voorkomen en om van elkaar te leren. Onder het SDT hangen kamers, waarin toezichthouders bij elkaar komen die direct betrokken zijn bij een onderwerp. Tot nu toe zijn we het ontzettend met elkaar eens over wat er moet gebeuren. Natuurlijk kunnen er in de toekomst tegenstrijdigheden ontstaan, bijvoorbeeld tussen het bevorderen van innovatie en concurrentie en het bewaken van privacy en de cyberveiligheid, maar tot nu toe komen we er altijd wel uit. AI is voor iedereen nieuw. Er komt een enorme taak op ons af. Iedereen is zich volledig bewust van het feit dat je dit niet alleen kan.”
De RDI ontving onlangs een uitnodiging om aan te sluiten bij het SDT. Angeline van Dijk is binnen de Inspectieraad dossierhouder voor dit onderwerp en laat weten: “Ik ga graag in op de uitnodiging om te verkennen hoe de netwerksamenwerking rond het thema digitalisering en de governance van het toezicht daarop verder vorm kan krijgen.”
“AI is een vorm van automatisering en het toezicht erop moet zo veel mogelijk aansluiten bij bestaande mandaten. In hoofdlijnen komt ons gezamenlijk advies daarop neer. Alleen als het gaat om verboden AI, of AI met een hoog risico die nog niet onder het bestaand producttoezicht valt, komt de kern van het werk bij de AP te liggen, met uitzondering van AI voor de financiële sector en de kritieke infrastructuur,”aldus Aleid Wolfsen, voorzitter Autoriteit Persoonsgegevens (AP).
“Samen met de RDI zijn wij de coördinerende toezichthouders. Ik denk dat het toezicht op AI snel duidelijk is als het operationeel wordt. In beginsel hou je contact met je eigen toezichthouder en als je niet weet waar je terechtkan, kun je altijd terecht bij de RDI of de AP. In de al bestaande overlegstructuren merken we het vrij snel als mensen toch verdwalen.
Doordat de ACM een paar jaar geleden het initiatief heeft genomen om het SDT op te richten, staan alle partijen al met elkaar in verbinding en is er straks sprake van een uniforme normuitleg. Wij zijn voorzitter en coördinator van de AI-kamer van het SDT. Er zijn veel sessies al geweest met alle toezichthouders. We vinden elkaar gemakkelijk. Dat is heel plezierig. We hopen dat de buitenwereld daar straks ook plezier van heeft. Waar een verdedigbare balans moet worden gezocht tussen innovatie en de bescherming van grondrechten, zal dat onmiddellijk worden geagendeerd in de AI-Kamer, waar ook het College voor de Rechten van de Mens aan deelneemt. Samen kunnen we dat eerlijk wegen en goede voorlichting geven aan de buitenwereld.
Bij de introductie van de AVG hebben we met VNO-NCW een roadshow door Nederland georganiseerd om bedrijven actief uitleg te geven. Misschien is dat voor de AI Act ook een goed idee.”
Dit artikel is ook gepubliceerd als column in iBestuur Magazine #51 van juli 2024
Lees ook:
- AI Act treedt vandaag in werking – iBestuur
- Toezichthouders willen toezicht op AI snel geregeld zien – iBestuur
- Kamer bezorgd over toezicht op AI en algoritmes – iBestuur
- Samenwerking Digitale Toezichthouders versterkt met Algoritme & AI-Kamer – iBestuur
- Toezicht op algoritmes moet nog concreet gemaakt worden – iBestuur
