ChatGPT: de issues waar we het met elkaar over moeten hebben
Schrik, enthousiasme en verbazing streden om de voorrang. ChatGPT deed de wereld in november 2022 op zijn grondvesten schudden. Was dit een voorteken van de machtsovername door kunstmatige intelligentie? De gemoederen zijn inmiddels wat bedaard, tijd om een eerste balans op te maken. Wat zijn de kwesties, de issues rondom ChatGPT?
- Een college van het platform Data Science Alkmaar op 28 juni jongstleden.
- Een webinar van het Interprovinciaal Overleg (IPO) een week later. De Interprovinciale Ethische Commissie, een door het IPO in het leven geroepen adviesorgaan, presenteerde hier ook haar verkenning over ChatGPT
Was al die opwinding over ChatGPT niet gewoon terug te voeren op onze eigen kortzichtigheid? Immers, de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) had er in 2021 nog voor gewaarschuwd. Hoewel het woord ChatGPT niet één keer voorkomt in haar advies over kunstmatige intelligentie, liet haar boodschap niets aan duidelijkheid te wensen over. Vrij vertaald luidde die: Beste mensen, kunstmatige intelligentie is nu al onder ons. We hebben hier te maken met een nieuwe systeemtechnologie, die komt maar eens in de honderd jaar voorbij en zet dan de hele wereld op zijn kop. Kennelijk komt zo’n abstracte tekst bij het grote publiek niet echt binnen. Inmiddels weten we beter en hebben we de eerste ervaringen opgedaan en uitgewisseld. Wat zijn de issues waar we het verder met elkaar over moeten hebben?
Issue 1: Waar is ChatGPT eigenlijk goed voor?
Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft en tevens voorzitter van de Interprovinciale Ethische Commissie, bleef nuchter en liet zich niet door alle euforie meeslepen.
Hij stelde misschien wel de meest fundamentele vraag: welk maatschappelijk probleem lossen we met ChatGPT eigenlijk op? Voor een technologie als beeldherkenning is dat evident, namelijk kwaliteitsverbetering van medische operaties. Maar een door ChatGPT herschreven tekst of gegenereerde samenvatting: is dat nu echt waar we op zitten te wachten in deze tijden van grote maatschappelijke vraagstukken?
In Alkmaar was de sfeer optimistischer. Rob Elsinga, National Technology Officer van Microsoft Nederland, liet de aanwezigen weten dat elke toekomstige applicatie van zijn bedrijf een AI-applicatie is. En wat schiet de mensheid daarmee op? Welnu, de bedrijfsprocessen worden versterkt. Het HRM-proces bijvoorbeeld. Het voordeel is dus procesoptimalisatie. Als voorbeeld noemde Elsinga Copilot. Nu nog slechts beschikbaar voor een beperkte groep klanten, in de toekomst een product dat Microsoft breder op de markt wil zetten.
Copilot kan lange mails samenvatten. Maakt daar blijft het niet bij, desgewenst dicht Copilot ook het antwoord op een binnenkomende mail. En bij een overvolle in-box na een zomervakantie kan dit product zelfs prioriteren en die box dus draaglijker maken. Want de software weet op grond van je eerdere mailgedrag wat en wie voor jou belangrijk is. Ook hier trapt de commissie van Van den Hoven op de rem. ‘Waak voor klakkeloosheid met de integratie van Copilot in uw software’, houdt hij provincies voor.
Waar zitten we op te wachten?
De charme van de bijeenkomst in Alkmaar zat in de aandacht voor zowel mondiale als lokale initiatieven. In die laatste categorie viel de startup FreezerData. Een bedrijf dat de temperatuur meet van vriezers, koelcellen en andere koelapparatuur. En dat waarschuwt bij dreigende calamiteiten. Wat schiet dit bedrijf op met ChatGPT? De klant kan praten met een virtuele monteur. Zoals Strabag, een Oostenrijks bouwbedrijf, ChatGPT gebruikt om te leren van in het verleden gemaakte fouten. Oordeelt u zelf. De verbetering van bedrijfsprocessen, communicatie met een virtuele monteur, leren van fouten: zijn dat zaken waar we op zitten te wachten?
Issue 2: Is ChatGPT onvermijdelijk of niet?
Kunnen we er nog van af, als we dat zouden willen? Neen, dat is een achterhoedegevecht, zo stelde Hilary Richters van Deloitte. Zij verwees daarvoor naar wat de geschiedenis ons bij andere technologieën heeft geleerd.
Natuurlijk kunnen we ChatGPT nog bij de schroothoop zetten, zo beweerden Roel Dobbe van de TU Delft en Jeroen van den Hoven. De mens kan te allen tijde keuzes maken. Wat daarvoor nodig is? Beide heren zeiden het niet met zo veel woorden. Maar het komt erop neer dat we de verleiding van het gemak van ChatGPT moeten kunnen weerstaan omwille van een aantal publieke waarden. Zoals de onwenselijkheid om met ondoorzichtige technologieën te werken.
Waarom is regulering nodig?
Er was overigens ook consensus. Over de noodzaak bijvoorbeeld om, onvermijdelijk of niet, de regulering van ChatGPT ‘aan de voorkant’ goed te regelen. We moeten nadenken over inspecties en regelgeving. En graag per direct want de ontwikkeling van ChatGPT gaat razendsnel. ChatGPT is immers de snelst omarmde technologie ever ooit. Waarom is die regulering nodig? Volgens de interprovinciale commissie omdat er een potentiële spanning is met bestaande wet- en regelgeving. Overtredingen liggen dus op de loer. Maar ook omdat er zogeheten ‘verborgen kosten’ zijn. Vooral op het terrein van het exorbitante energieverbruik, de machtsconcentraties van grote tech-bedrijven en de sociale ongelijkheid. Eurocommissaris Vestager schijnt er spijt van te hebben als haren op haar hoofd dat zij die regulering ‘aan de voorkant’ indertijd niet bij de social media heeft opgepakt. Bijvoorbeeld door eisen te stellen aan het ontwerp van deze technologie. Dat had een hoop ellende kunnen besparen.
Issue 3: Wat moet een individuele ambtenaar nu doen?
En daar zit je dan als ambtenaar. Onder hoge tijdsdruk werk je aan een nota voor je bestuurder. Je kunt de verleiding van ChatGPT niet weerstaan. Op hetzelfde moment galmen de waarschuwingen van de interprovinciale commissie na. Welk probleem lost u eigenlijk op? Heeft u ChatGPT echt nodig, kan dat niet anders? Creëert u geen andere problemen? Hoe gaat u om met de beperkingen van deze technologie, bijvoorbeeld haar intransparantie? Weet u wel dat u, elke keer dat u ChatGPT gebruikt, het achterliggende model ook weer traint met uw eigen data? En kunt snel stoppen wanneer zich daadwerkelijk problemen manifesteren?
De ambtenaar zal waarschijnlijk de moed in de schoenen zakken. Waar te beginnen? De oproep tot permanente reflectie voor de individuele ambtenaar is mooi, maar te veel gevraagd. Deze oproep gaat ‘niet vliegen’. De kwestie is hier volgens mij dan ook: hoe organiseren we bij overheden collectieve leerprocessen? Het kunststuk daarbij is om gebruik te maken van de kracht van de variëteit aan inzichten van verschillende medewerkers. En om ondertussen toch voldoende ervaring in het gebruik van ChatGPT op te doen.
Waarheid en relevantie
Van den Hoven haalde Yuval Noah Harari er nog maar eens bij. De auteur van menig bestseller schijnt beweerd te hebben dat ChatGPT een ‘hack’ is op het weefsel van onze beschaving. Waarom? Omdat we waarheid en relevantie steeds moeilijker herkennen. Terwijl deze waarden juist aan de basis liggen van onze transactie-samenleving. Tja, dat is allemaal niet niks, dat is dus kennelijk wat een systeemtechnologie vermag. Des te knapper is het dat de koepel van provincies, het IPO, zich in deze fase van de ontwikkeling van een nieuwe technologie al heeft laten bedienen van een voortreffelijk advies. Want dat moet gezegd, de Interprovinciale Ethische Commissie heeft puik werk geleverd. Dat is een opsteker bij de doorgaans trage reacties van overheden in het digitale geweld.
