Gemeenten maken zich zorgen over gebruik ChatGPT door ambtenaren
Ambtenaren bij de gemeente gebruiken volop ChatGPT, blijkt uit een rondgang van EenVandaag. 74 procent geeft aan ChatGPT te gebruiken, terwijl het voor rijksambtenaren vanwege de risico’s afgeraden wordt om AI-software te gebruiken. Gemeenten maken zich zorgen.
Klakkeloos doorgestuurd
Ambtenaren gebruiken ChatGPT als informatiebron, sparringpartner of voor het verbeteren van openbaar te publiceren teksten, laten verschillende gemeenten weten. Dat kwam naar voren uit de rondgang van EenVandaag onder 137 gemeenten. Tegelijk weet 39 procent niet op welke manier hun werknemers het AI-programma gebruiken. ‘Dat vind ik een slechte zaak’, zegt expert data-ethiek Iris Muis. ‘Het risico is dat burgers hierdoor verkeerde informatie ontvangen, die klakkeloos uit ChatGPT wordt doorgestuurd. Je weet niet zeker hoe ChatGPT aan zijn antwoord komt en hij heeft het vaak fout’, zegt ze.
Vertrouwelijke informatie
Muis ziet ook risico’s voor de bescherming van gegevens. ChatGPT gebruikt de data die gebruikers erin stoppen namelijk om het systeem te trainen. ‘Als jij er een vertrouwelijk beleidsstuk in gooit en zegt: destilleer de kernboodschap van dit beleidsstuk – en ik kan me voorstellen dat je dat doet, want dat is best handig – dan heb je niet door dat ChatGPT die vertrouwelijke informatie gebruikt om zich te trainen. En dat het op straat kan komen te liggen’, zegt ze. Die gegevens kan ChatGPT ook verkopen aan andere partijen.
Zorgen over privacy
Ruim de helft (53,7 procent) van de gemeenten maakt zich zorgen over of ze op een verantwoorde manier omgaan met ChatGPT en privacygevoelige gegevens. De rest (46,3 procent) maakt zich daar geen zorgen over. Een aantal gemeenten heeft overwogen om een verbod voor ChatGPT in te voeren voor hun medewerkers. 28 procent heeft een verbod overwogen. Dit verbod daadwerkelijk invoeren, heeft slechts een handjevol gemeenten gedaan. De Vereniging van Nederlandse Gemeenten (VNG) laat weten potentie te zien in zogenoemde generatieve AI zoals ChatGPT om de dienstverlening.
Dit artikel werd eerder gepubliceerd bij onze collega’s van Binnenlands Bestuur
Het zou zo mooi zijn als iedereen zich de volgende vraag zou stellen: ” Vindt het bestuur van mijn gemeente/provincie/ministerie het ok als ik deze informatie hardop voorlees in een publieke ruimte?” Als het antwoord “NEE!!” is, geef het dan ook niet aan een AI product.
Een voorbeeld hoe simpel informatie publiek tevoorschijn te toveren is? https://ibestuur.nl/artikel/enable-u/de-ai-act-einde-aan-de-onschuld/
Moeten we echt vrezen dat ambtenaren de antwoorden die ChatGPT genereert klakkeloos doorsturen naar burgers? Zou het echt zo droevig gesteld zijn met het vakmanschap van ambtenaren?