Overheid voorlopig terughoudend met gebruik van generatieve AI

Generatieve AI biedt veelbelovende mogelijkheden om efficiënter te werken en effectiever publieke doelen te behalen, maar er zitten volgens demissionair staatssecretaris Van Huffelen te veel risico’s aan het gebruik ervan. In beginsel wordt het gebruik daarom niet toegestaan, ’tenzij de aanbieder en de gebruiker aantoonbaar voldoen aan de geldende wet- en regelgeving.’ 

In een Kamerbrief zet de staatssecretaris het voorlopige standpunt over generatieve AI door rijksorganisaties uiteen. Hiervoor won ze onder meer advies in bij de Landsadvocaat en de Autoriteit Persoonsgegevens (AP). In het eerst kwartaal van 2024 zal ze een overheidsbrede visie op generatieve AI naar de Kamer sturen.t.

Voorlopig standpunt

• Alle (experimenten met) generatieve AI-toepassingen moeten voldoen aan geldende wet- en regelgeving
• Voorafgaand aan gebruik van generatieve AI moet voor iedere casus een risicoanalyse worden uitgevoerd. Dit zijn een (pre-scan) Data Protection Impact Assessment (DPIA4) en een algoritme impact assessment (zoals een Impact Assessment Mensenrechten en Algoritmes (IAMA5))
• De uitkomsten hiervan moeten voorgelegd worden aan de (departementale) Chief Information Officer en de Functionaris Gegevensbescherming.
• Gebruik van niet-gecontracteerde generatieve AI-toepassingen, zoals ChatGPT, Bard en Midjourney, zijn in beginsel niet toegestaan binnen de overheid. Die voldoen over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving.
• Gecontracteerde generatieve AI-toepassingen dienen te voldoen aan de Algemene Rijksvoorwaarden bij IT-overeenkomsten 20228 en aan departementale inkoopvoorwaarden indien deze prevaleren

Pilots blijven mogelijk

Het gebruik van generatieve AI wordt niet ontzegd, schrift Van Huffelen, maar gekaderd. Zo blijft het mogelijk te experimenteren met de technologie. Deze moeten in veilige en gecontroleerde omgevingen uitgevoerd. Tegelijk verwacht de staatssecretaris dat een  diepgaand ethisch gesprek wordt gevoerd  over proportionaliteit van de middelen. Ook moet de maatschappelijke waarde van de technologie, in samenhang met wet- en regelgeving, nader worden onderzocht.

Markt en Overheid

Er komt er een inventarisatie van de initiatieven en ontwikkelingen op het gebied van generatieve AI binnen de Rijksoverheid. De staatssecretaris wil met aanbieders van generatieve AI om de tafel om de mogelijkheden te onderzoeken om individueel gebruik van generatieve AI in de huidige zakelijke werkomgeving verantwoord aan te bieden. Tegelijk gaat ze de interbestuurlijke inkoopvoorwaarden aanscherpen. Bij gebruik van generatieve AI moeten publieke waarden als veiligheid, transparantie, non-discriminatie, privacy- en gegevensbescherming en duurzaamheid worden geborgd.