iBC2023: ‘Ga niet blind experimenteren met generatieve AI’

Generatieve AI is zo’n groot onderwerp, daar moeten we in Nederland en Europa intensief met elkaar over in gesprek. We moeten vaart maken met regels, dat is duidelijk. “Ga niet blind experimenteren,” waarschuwt demissionair staatssecretaris van Huffelen op een drukbezocht iBestuur Congres. “We willen ook geen ongecontroleerde medicijnen voorgeschreven krijgen.”

Volgens Ursula von der Leyen moet er een internationaal panel komen dat de ontwikkelingen bij AI nauwgezet volgt en met aanbevelingen komt, zoals het klimaatpanel van de VN dat voor de klimaatverandering doet. “Zou ze dat idee van mij hebben?”, vroeg Van Huffelen zich met een glimlach vanmiddag af bij het plenaire debat op het iBestuur Congres 2023. Zij pleitte immers vorige week bij de opening van het Academisch Jaar in Tilburg ook al de komst van een internationaal centrum dat het onderzoeken, testen én reguleren van AI op zich kon nemen. Liefst in Nederland uiteraard.

Zorg voor een gecontroleerde omgeving

Generatieve AI is niet meer weg te denken uit de maatschappij, daar is iedereen op het iBestuur Congres het  wel over eens. Maar de vraag is nu: hoe gaan we ermee om? En wat is de rol van de overheid hierin? “Het gaat heel hard,” constateert de staatssecretaris. “Het is nu zaak dat we de regels op orde krijgen.”

Door meer datagedreven te gaan werken als overheid kan er veel meer dan we nu doen is een veelgehoorde stelling. Van Huffelen zou graag een veel proactievere rol vervullen als overheid, bijvoorbeeld als het gaat om schuldsignalering en ondersteuning daarbij. Maar doe het in kleine stappen, waarschuwt ze. “Ga niet blind experimenteren, doe pilots, zorg voor een gecontroleerde omgeving. En wees transparant. Als je AI gebruikt bij het nemen van een besluit, leg dat dan uit.” Ze vergelijkt het met de controle op medicijnen. “Je wilt ook geen ongecontroleerde medicijnen voorgeschreven krijgen.”

Ook banken kunnen proactieve dienstverlening bieden

Ja, en wie gaat wat doen? Ook de banken denken aan de ontwikkeling van proactieve dienstverlening, vertelt Medy van der Laan, voorzitter van de Nederlandse Vereniging van Banken (NVB). Ook van haar horen we “We kunnen veel meer met onze data dan we nu doen”. “We zouden met onze algoritmes mensen kunnen waarschuwen bij schulden en daar dienstverlening op kunnen zetten. Maar we doen het niet.” Het onderwerp ligt gevoelig bij de banken. Eerst moet het maatschappelijk debat hierover gevoerd worden, vindt ze.”

Overheid en/of markt?

Ombudsman Reinier van Zutphen stelt in het debat dat de overheid de laatste decennia veel taken heeft overgedragen aan de markt. “Over een groot aantal zaken gaat de overheid niet eens meer.” Hij zou graag zien dat de overheid AI gaat benutten om het leven van burgers makkelijker te maken. “Maar doe dat wel op een vertrouwenwekkende manier.”

Oprichter van Waag, Marleen Stikker, verzet zich tegen het concept dat de overheid allemaal mooie diensten bedenkt en die vervolgens laat uitvoeren door private partijen. “We hebben onze maatschappelijke instituties volledig uitgekleed.” Van de 2 miljard die geïnvesteerd werd in het ‘programma Werk in uitvoering’ had minstens de helft in de maatschappelijke initiatieven, collectieve burgerinitiatieven, etc.  geïnvesteerd moeten worden. ‘Organiseer collectiviteit en investeer daarin’, is haar advies. Deze woorden raken de staatssecretaris duidelijk: “We hebben teveel naar de markt gebracht”, erkent ze met enige spijt.

Technologie is niet demissionair

Van Huffelen pleit voor regulering van AI, maar dat betekent niet dat ze tegen innovatie is. Zolang het maar in een gecontroleerde omgeving gebeurt. Op de vraag of ze nu achterover kan leunen nu ze demissionair is, zegt ze resoluut: “Technologie is niet demissionair”.