Kamer bezorgd over toezicht op AI en algoritmes
Verschillende toezichthouders houden zich bezig met het toezicht op algoritmes en de AI Act. Waar is het overzicht? Dat vroegen meerdere Kamerleden zich af tijdens een debat over de inzet van AI en data-ethiek in de Kamercommissie Digitale Zaken op 17 april jl. Demissionair staatssecretaris Alexandra van Huffelen meent dat het goedkomt: “Dit wordt geen warrige toestand.”
Meerdere toezichtverbanden
Onder andere Barbara Kathmann (PvdA) en Harmen Krul (CDA) maken zich zorgen over al die verschillende toezichthouders die zullen toezien op de algoritmewetgeving en de afstemming met het kabinet.
“Het kabinet overlegt met zeven toezichthouders. En dan is er ook nog een Werkgroep AI, onder de vlag van de Inspectieraad, waarin meer dan twintig rijksinspecties, colleges en marktoezichthouders zitting hebben,” aldus Krul. Daarnaast is er het Samenwerkingsplatform Digitale Toezichthouders, dat is opgericht om samen in te spelen op alle digitale ontwikkelingen, waaronder kunstmatige intelligentie. In dat verband zijn vier toezichthouders actief. Dat zijn, naast de Autoriteit Persoonsgegevens (AP), de Autoriteit Financiële Markten, Autoriteit Consument & Markt en het Commissariaat voor de Media.
Versnipperd en gefragmenteerd
Toen Krul dat las, schrok hij naar eigen zeggen wel. “Dit is allemaal wel heel versnipperd en gefragmenteerd. De toezichthouders geven dat zelf ook aan. Zien we door de bomen straks het bos nog wel?” Kathmann eist actie: “Ik wil dat de rol van de toezichthouders concreet wordt. Kan de staatssecretaris op papier zetten wie wat doet? Dan kunnen wij als Tweede Kamer daarop sturen.”
Samenwerkingsplatform
Van Huffelen ziet veel heil in het samenwerkingsplatform, dat onlangs nog een Algoritme en AI-Kamer instelde voor het afstemmen van toezicht op kunstmatige intelligentie, met de AP als regisseur. “Ik ben er heel blij mee dat de toezichthouders hierin samenwerken, zeker nu we de AI Act gaan implementeren.” Veel zorgen over de versnippering maakt zij zich overduidelijk niet, laat staan dat er een “warrige toestand” zou ontstaan: “Het is belangrijk dat we het toezicht op al die verschillende algoritmen in al die verschillende domeinen gecoördineerd aanpakken. Dat vindt plaats in dat samenwerkingsplatform.”
Maar op de vraag hoe de coördinatie verloopt met al die andere toezichthouders, ging ze niet in. Vanuit de Kamer werd er verder niet op doorgevraagd. Krul was op dat moment zelf afwezig.
AP voldoende toegerust?
De AP heeft extra geld gekregen voor toezicht op AI en richt zich als coördinerend toezichthouder op algoritmes en AI dit jaar onder meer op transparante AI. In die hoedanigheid heeft de privacywaakhond ook toegang tot complexe algoritmes, zowel bij de ontwikkeling ervan als de toepassing, benadrukte Van Huffelen. Extra parlementaire controle daarop – een suggestie van Jesse Six Dijkstra (NSC) – vindt ze daarom niet nodig. Jan Valize (PVV) vroeg zich wel af of de AP wel voldoende is toegerust op de nieuwe taken. Volgens Van Huffelen is dat op dit moment het geval. “We zien voldoende capaciteit. Maar we moeten kijken hoe dat straks gaat met de AI Act.”
Algoritmeregister compleet maken
Het is wel belangrijk dat overheidsorganisaties, vanuit die wens tot transparantie, algoritmes in het Algoritmeregister toevoegen. Van Huffelen: “Ik doe daarom nog eens de nadrukkelijke oproep dat register compleet te maken.” In het register, dat eind 2022 van start ging, wordt informatie vrijgegeven over algoritmes die Nederlandse overheden gebruiken voor automatische en semiautomatische besluitvormingen. Momenteel zijn er een kleine 350 algoritmen van de overheid in opgenomen. Het kabinet werkt sinds januari aan een traject dat duidelijkheid moet verschaffen over verplicht deelnemen aan het algoritmeregister, meldde Van Huffelen eerder deze week aan de Eerste Kamer. Wanneer die verplichting er is, is nog onbekend.
Mens centraal
In het debat, waarin dus vooral werd gesproken over de rol van de toezichthouders, de implementatie van de AI Act en het Algoritmeregister, werden de risico’s van algoritmes veelvuldig aangestipt – begrijpelijk, met het Toeslagenschandaal nog vers in het geheugen. Tweede Kamerlid Wim Meulenkamp (VVD) wil dat de mens zoveel mogelijk centraal staat in algoritmes. Van Huffelen beriep zich wederom op transparantie. “Zodat het voor iedereen duidelijk is hoe algoritmes tot stand komen. Daar kun je als burger ook beroep tegen aantekenen.”
Positieve kanten van AI
Naast de gevaren was er zijdelings ook aandacht voor de positieve kanten van (generatieve) AI. Die kansen zijn er ook, zowel in de publieke als de private sector en laten we die vruchten dan ook plukken, aldus de staatssecretaris. “Denk bijvoorbeeld aan de inzet van generatieve AI bij het verbeteren van de dienstverlening. Zodat vragen van inwoners sneller worden beantwoord. Maar we zijn daar natuurlijk wel voorzichtig mee.” Het leverde haar een compliment op van PVV’er Valize: “Mooi dat de staatssecretaris deze positieve kanten benoemt.”
Naar alle waarschijnlijkheid komt er nog een technische briefing over de AI Act, gaf Van Huffelen aan. “Dan krijgt ook de Kamer meer inzicht in hoe we dit gaan implementeren.”
Lees ook:
De kunst is hoe je dit SMART maakt. De taken van de verschillende toezichthouders duidelijk op papier zetten is logisch, want dat zou de Tweede Kamer in staat stellen om toezicht en begeleiding te bieden die nodig zijn voor een effectieve implementatie van de wetgeving. Het Samenwerkingsplatform Digitale Toezichthouders lijkt dus een stap in de goede richting. De oprichting van een Algoritme en AI-Kamer onder dit platform kan helpen bij het afstemmen van toezicht op kunstmatige intelligentie en het vermijden van duplicatie van inspanningen, alleen, met de komst van de AI Act en de snelheid van de technologische ontwikkelingen, is het wel kritisch dat de AP continu beoordeeld wordt op hun vaardigheden en middelen om te blijven snappen wat niet veel mensen snappen. Daarbij moeten we niet het kind met het badwater weggooien. Risicobeheersing, ja, maar negeer de kansen die AI biedt niet!
We hebben dus expliciete documentatie van de rollen van elke toezichthouder nodig; periodieke beoordeling van de AP-capaciteit en voltooiing en het ook up-to-date houden van het Algoritmeregister. Daar kan AI overigens uitstekend bij helpen door gebruik te maken van een gecentraliseerd monitoring- en beoordelingssysteem, om hun werking te begrijpen en hun compliance met regelgeving te verzekeren.