ChatGPT niet inzetten bij privacygevoelige, bedrijfskritische of geheime informatie

De interprovinciale ethische commissie maant provincies tot terughoudendheid met de inzet van AI door ambtenaren. ‘Gebruik ChatGPT voorlopig niet wanneer het gaat om privacygevoelige, bedrijfskritische of geheime informatie’, is het advies.

Werk besparen?

De tekstgenerator van OpenAI kan ambtenaren werk besparen door bijvoorbeeld automatische samenvattingen te maken van lange teksten, beleidsstukken te verfijnen of mails op te stellen. Maar is dat ook wenselijk? Nieuw ingevoerde teksten gelden als trainingsdata voor de verdere ontwikkeling van ChatGPT. Dat levert privacy- en copyrightproblemen op.

De werking van de taalmodellen leidt ook tot onbetrouwbare output; teksten die bias bevatten of die totaal uit de lucht gegrepen zijn. Daarnaast wijzen critici op tal van andere nadelen, van mensenrechtenschendingen tot de weerslag op het milieu.

Interprovinciale ethische commissie

Het eerste advies van de interprovinciale ethische commissie, opgericht op 16 januari 2023, gaat over het verantwoord gebruik van ChatGPT in provincies. De commissie roept provincies op om alleen van LLM’s gebruik te maken wanneer een aantal overwegingen in acht zijn genomen.

• Welk probleem lost de inzet van een tekstgenerator op dat niet op een andere manier kan worden opgelost?
• Creëer je geen nieuwe problemen met gebruik ervan?
• Zijn alternatieven met minder impact onderzocht?
• Heb je bedacht hoe je omgaat met de beperkingen van de technologie?
• Is er een duidelijk exit-strategie?

Geheimhoudingsplicht ambtenaar

Het is maar de vraag in hoeverre toepassingen van ChatGPT te verenigen zijn met de plichten waaraan een ambtenaar moet voldoen vanuit de Provinciewet en de ambtseed, schrijft de commissie. Volgens de Provinciewet heeft een ambtenaar een geheimhoudingsplicht en moet zorgvuldig worden omgegaan met informatie. Dat strookt niet erg met de inzet van een systeem dat wordt getraind met ingevoerde tekst en dat via ‘prompt leaks’ per ongeluk input aan anderen kan lekken.

Wettelijke kaders

Binnen de wettelijke kaders is het gebruik van ChatGPT al snel problematisch. De AVG en het auteursrecht worden waarschijnlijk geschonden door LLM-technologie. De Europese AI Verordening (AI Act) is nog niet van kracht, maar zal waarschijnlijk aanvullende transparantie-eisen bevatten voor LLM’s op het gebied van health and safety, democratie en het milieu.

Integratie in software

De commissie wijst op het dilemma dat de Nederlandse overheden nauw verweven zijn met Microsoft. Net als de meeste grote techbedrijven integreert Microsoft AI in de eigen software. Dat maakt het opvolgen van het advies in de toekomst ingewikkeld voor provincies. ‘Wij adviseren de provincies hier niet ‘klakkeloos’ in mee te gaan, maar gezamenlijk op te trekken in de keuzes die ze hierin kunnen en willen maken vanuit de publieke waarden die daarbij in het geding zijn,’ schrijft de commissie.

Dit artikel is eerder verschenen bij onze collega’s van Binnenlands Bestuur