Meer inzet van AI vergroot afhankelijkheden, waarschuwt AP
Op het gebied van AI-beleid gaat het niet slecht in Nederland, maar het is wel zaak om het tempo te behouden en waar mogelijk te versnellen. Dat schrijft de Autoriteit Persoonsgegevens (AP) in de vijfde halfjaarlijkse rapportage over AI en algoritmes.
Op de plank
Nu het kabinet demissionair is, bestaat het risico dat AI-beleid op de plank blijft liggen. Gezien het tempo van de technologische ontwikkelingen, de aankomende implementatie van de AI-verordening en de geopolitieke ontwikkelingen kan Nederland zich dat niet veroorloven. het is zaak om het tempo vast te houden of te versnellen, stelt de AP in de nieuwste Rapportage AI & Algoritmes Nederland (RAN).
Het rapport beschrijft hoe algoritmes vaak worden ingezet met de hoge verwachting om schaarste in de samenleving deels op te lossen, bijvoorbeeld in de zorg en de energiesector. Daar is maatschappelijk debat over nodig. Vaker wel dan niet speelt de sociaal-economische positie van inwoners een rol bij de mate waarin ze ervan profiteren of er juist de risico’s van ondervinden.
Strategische autonomie
De inzet van steeds meer AI-toepassingen in de samenleving kan haaks staan op het streven naar Nederlandse strategische autonomie, waarschuwt de toezichthouder. ‘De integratie van AI in maatschappelijk-relevante sectoren en toepassingen vergroot afhankelijkheden’, aldus het rapport. Het verwijst onder meer naar een onderzoek van het Rathenau Instituut, waaruit blijkt dat de integratie van AI in elektriciteitssystemen nieuwe afhankelijkheden kan creëren van grote techbedrijven buiten de EU.
Strategische autonomie is hard nodig als organisaties grip willen houden op de eigen systemen. De Nederlandse Digitaliseringsstrategie (NDS) laat volgens de AP kansen liggen om het Nederlandse en Europese ecosysteem te versterken. ‘Met een enkele AI-fabriek, hoe mooi ook, ben je er niet,’ zegt Gerald Hopster van de AP. ‘Hier ligt een enorme kans om de economie te versterken, bijvoorbeeld door als overheid startups te benaderen en de ontwikkelkracht te vergroten.’
Houding gedraaid
Met de Nederlandse kennis over AI zit het wel goed en ook de houding tegenover de technologie is gedraaid: waren we voorheen nog het meest kritische kind in de klas, tegenwoordig ziet 36 procent van de Nederlandse bevolking meer voordelen dan nadelen in AI, vergelijkbaar met landen als Zweden en het Verenigd Koninkrijk.
Ook zijn Nederlanders zich zeer bewust van de mogelijkheid dat algoritmes discrimineren. De AP is heel positief over een onlangs aangenomen motie van Michiel van Nispen (SP) gericht op het ‘blind’ beoordelen van burgers, bijvoorbeeld bij fraudedetectie. Door structureel steekproeven in te bouwen, komt bias in systemen eerder aan het licht.
Jurisprudentie
Ook is de AP blij met nieuwe Europese jurisprudentie die meer duidelijkheid biedt over ‘betekenisvolle informatieverstrekking bij geautomatiseerde besluitvorming’. Het komt erop neer dat mensen die getroffen worden door een besluit van een hoogrisico AI-systeem, recht hebben op duidelijke en relevante informatie over de rol van het systeem. Dit betekent dat een ontwikkelaar van een algoritme of AI-systeem hier al vooraf rekening mee moet houden. Iemand moet bijvoorbeeld uit de uitleg kunnen snappen hoe andere gegevens tot een andere uitkomst zouden leiden.
Mijlpaal
Een andere belangrijke mijlpaal is de publicatie van de code of practice voor grote taalmodellen vorige week. Zo wordt de AI-verordening langzaam steeds concreter. In augustus 2026 gaan weer een aantal belangrijke bepalingen in. Zo moeten overheidsorganisaties die een hoog risico AI-systeem willen inzetten, vanaf dat moment een grondrechteneffectbeoordeling doen, zoals het IAMA, én hierover rapporteren aan de toezichthouder.
Incidenten melden
Eerder riep de AP overheden al op om meer algoritmes te registeren. Ook het melden van incidenten met AI gebeurt te weinig. Incidenten met AI zijn in dit stadium onvermijdelijk, benadrukt de toezichthouder, maar het zicht erop moet echt beter. De impact op de fysieke werkelijkheid van dergelijke incidenten blijkt bijvoorbeeld uit een recent foutje van de AI in Google Maps. Die gaf op de eerste dag van het Hemelvaartsweekend onterecht aan dat diverse snelwegen in Duitsland, Nederland en België gesloten zouden zijn, met lange files op alternatieve wegen tot gevolg.
Lees ook:
