In de iBestuur nieuwbrief van 8 augustus ’23 zag ik de volgende tekst: “De inzet van ChatGPT botst met wetten en waarden van provincies constateert de ethische commissie van het Interprovinciaal Overleg (IPO).” En ik moest even slikken.
“Ik kan alles vragen! En dat doe ik ook!”
Ik zie zo voor me dat iemand een account heeft aangemaakt op chat.openai.com en daar allerlei teksten van de overheid of politieke partijen in giet om daar vervolgens met vragen, stellingen en andere vormen van input zinvolle output uit te krijgen. Helaas zien veel mensen vooral de voordelen, maar niet de nadelen van ChatGPT. Zoals het geven van sociaal wenselijke antwoorden en het tonen van hallucinerend gedrag. Het is per slot van rekening een AI-oplossing speciaal geschreven om sociale interacties met een hoog gehalte aan menselijke trekjes te hebben!
Alleen openbare teksten, natuurlijk
Ik hoop dat de input die aan ChatGPT gegeven wordt uit publieke teksten bestaat, maar grote kans dat dit niet altijd het geval is. Net zoals we absoluut geen zekerheid hebben dat deze input geanonimiseerd is. Dit soort initiatieven is zelden gecoördineerd of gecentraliseerd bij één bepaalde afdeling.
Taak voor de overheid
ChatGPT is een generatieve en adaptieve vorm van AI en hoofdzakelijk ontwikkeld om een zinnig, onderhoudend en menselijk gesprek te begrijpen en te voeren. ChatGPT is getraind door de input van gigantische hoeveelheden informatie van het internet EN (nu komt het) de input die het krijgt van gebruikers. Dat laatste is ook de reden waarom ChatGPT 3.5 in een aantal specifieke gevallen minder foute / sociaal wenselijke antwoorden geeft dan de nieuwere versie 4.0. En dat komt hoofdzakelijk omdat er na het uitbrengen van versie 3.5 heel veel input is gegeven door gebruikers (volgens een rapport van onderzoekers van Stanford en Berkeley) die niet altijd even correct was.
ChatGPT is gratis, dus…
ChatGPT is gratis en voor iedereen beschikbaar. Maar dat betekent niet dat iedereen het overal voor moet gebruiken! Ik stel me zo voor dat de ontwikkelaars van ChatGPT handenwrijvend toekijken hoe de input van al die overheidsmedewerkers en politici door ChatGPT gebruikt wordt om nog meer kennis te vergaren over de Nederlandse overheid. Wat er allemaal met die kennis gebeurt zal helaas nooit helemaal duidelijk worden.
De oplossing: ChatGTP voor gebruik binnen de overheid
Natuurlijk is ChatGPT ook gewoon een commercieel product. Ik zou dan ook aan de Nederlandse overheid willen voorstellen om ChatGPT of een concurrent aan te schaffen voor gebruik binnen de overheid. Om het te trainen met alle data die de overheid tot haar beschikking heeft, van wetten tot Kamerverslagen en van al het papierwerk van onderzoekscommissies, adviescolleges, provincies en gemeenten. Alleen toegankelijk voor overheidsmedewerkers en gecontroleerd en beheerd door de overheid. Want alleen dan hebben we iets meer zekerheid over de manier waarop dit soort nieuwe technologie gebruikt wordt en wat voor informatie het allemaal krijgt voorgeschoteld door goedwillende personen.
