AI: over het verzilveren van kansen en het verkleinen van risico’s

De Rijksinspectie Digitale Infrastructuur (RDI) verzorgde een interessante breakout-sessie tijdens het iBestuur Congres 2023 over het veilig en betrouwbaar inzetten van AI en de rol die de toezichthouder daarbij speelt.

De essie onder leiding van inspecteur-generaal Angeline van Dijk van RDDI maakte duidelijk dat iedereen zijn oren spitst als de term AI valt. Een mengeling van angst, hoge verwachtingen en gezond wantrouwen beheersen de discussie. Er is heel veel gaande, niet alleen razendsnelle technische ontwikkelingen, maar ook naarstige beleidsvorming en regelgeving. Binnenkort wordt de Europese AI Act van kracht, gericht op innovatie in een duidelijk gereguleerd kader: Europese bedrijven krijgen de kans om in regulatory sanboxes AI-innovaties voor elkaar te krijgen, waardoor de EU minder afhankelijk wordt van wat de VS en China te bieden hebben.

Naast kansen zijn er ook risico’s: “Er is een soort black box: veel is nog onbekend, onbegrepen en ongrijpbaar”, zegt Van Dijk. “Systemen kunnen bijvoorbeeld gaan hallucineren en blijken soms gevoelig voor manipulatie. Zulke high risk systems moet de inspectie heel goed onderzoeken.” De RDI heeft inmiddels een AI-kenniscentrum opgericht en werkt aan een AI-Lab, waar systemen zullen worden getest. Per slot van rekening heeft de inspectie de taak om de digitale infrastructuur te vrijwaren van slechte en of riskante producten.