Het maakt niet uit of de kantoorchatbot van UWV Frans is

Zo’n 21 duizend mensen werken bij een landelijke administratieve organisatie, goed voor de verdeling van bijna 29 miljard euro’s aan uitkeringen. Geld dat bedoeld is voor mensen die voor het mogen ontvangen van een uitkering gevoelige gegevens hebben afgegeven.

Logisch dat er ophef en politieke onrust is nu dit UWV het Franse Le Chat van Mistral verruilt voor Copilot van Microsoft. Soevereiniteit houdt heel digitaal Nederland bezig. Maar ook vanwege het geld. Microsoft rekent per gebruiker 18,20 euro per persoon, per maand. De belofte: ‘De complete AI-chatoplossing om werk gedaan te krijgen.’

Organisaties noemen hun besluiten in ‘AI’ vaak een experiment of pilot. En zo neemt UWV deze ingebakken kantoorchatbot op proef tot en met het eind van het jaar. Voor Microsoft een potentiële factuur van zo’n 3 miljoen. Goed te weten: tot en met april betaalde UWV niets voor de consumentenversie Le Chat.

Fantasietechnologie

Natuurlijk is soevereiniteit belangrijk, evenals kijken naar kosten. Maar wat vooral opvalt, is de oorverdovende stilte over de vraag of ‘AI’ op kantoor überhaupt een goed idee zou zijn.

UWV houdt trouwens zelf een slag om de arm en zegt in 2025 voorzichtig dat een betere dienstverlening dankzij AI mogelijk zou kúnnen zijn: De toepassing van artificiële intelligentie (AI) binnen UWV kan een grote bijdrage leveren aan de efficiëntie en kwaliteit van dienstverlening. Om deze innovatieve technologie succesvol te integreren, is het belangrijk om de juiste snelheid en benadering aan te houden.

Dit soort ‘AI’ heeft inderdaad invloed op kwaliteit, maar zoals bekend is die bijdrage niet positief. Wetenschapelijk onderzoek heeft dat al lang vastgesteld. Maar ook gebruikers zelf zijn kritisch. Taalmodellen - waar deze chatbots op gebaseerd zijn - zitten vol vooroordelen. Ze zijn bovendien vervuilend en gebaseerd op diefstal en extractie.

‘AI’ op kantoor is helemaal niet nodig, het zit zelfs in de weg. Maar toch kiest UWV bewust voor dure fantasietechnologie. Wat een chatbot produceert is gewoon neptekst. Zo’n machinale neptekst is misleidend omdat deze parasiteert op het effect van tekst en taal: een lezer is geneigd te denken dat er een denkend mens aan te pas is gekomen. Maar machines vatten niets samen, ze leggen geen verbanden, zoeken niets op en leren niet. Ze geven alleen de illusie dat ze dat doen.

Output van taalmodellen is bewust zo gemaakt dat zelfs de grootste onzin nog overtuigend klinkt. Fouten zijn sowieso al moeilijk te vinden, maar controle van inhoud is nog lastiger voor mensen die vaker aan chatbots zijn blootgesteld. Voor de ontvanger is het ook vervelend, die krijgt er denklast bij: is dit authentiek en betrouwbaar is of van een domme pratende machine?

Human-in-the-loop is onzin. Mensen raken juist afgestompt en uitgeput van dit onbegonnen werk. Het uitvlooien van teksten vertraagt en verwart. En dit controleerwerk kun je ook alleen maar doen als je de benodigde inhoudelijke expertise hebt om het onderscheid te zien. Maar die expertise bouw je niet op als je denkwerk op een falende kantoorchatbot afwentelt. Gewoon nadenken is door een chatbot al lastig geworden, laat staan kritisch denken en redeneren.

Microsoft weet heus wel dat hun chatbot faalt: in de kleine lettertjes staat dat Copilot onbetrouwbaar is en niet geschikt voor werk. In een eerdere versie van de disclaimer stond letterlijk: onze software is er louter voor vermaak, for entertainment purposes only. UWV heeft trouwens ook een instructie vol disclaimers, check dit, controleer dat, vertrouw niet op. Eigenlijk gewoon een pleidooi om de kantoorchatbot vooral niet te gebruiken.

Kritisch synthetische tekst inhoudelijk controleren tot ver achter de komma - wat UWV dus adviseert - is verre van productief en klinkt niet als ‘lekker het werk gedaan krijgen’.

Overheid is de te veroveren markt

Pilots op kantoren en al het gepraat erover leveren zo dé ideale lippendienst aan grote techbedrijven die de banen van mensen willen degraderen en elimineren en softwareabonnementen willen verkopen. Op deze hype kunnen techbedrijven miljoenen verdienen aan onwetendheid en geveinsde onnozelheid in ‘AI’.

De overheid is de ideale markt: vol met kantoormensen die allemaal mailen, schrijven, vergaderen, naar deadlines ploeteren. Ze hebben ook allemaal een abonnement op software dat automatisch jaarlijks moet worden verlengd. Hoe handig is dat voor Microsoft.

UWV is dus niet de enige overheidsorganisatie die ten prooi valt of kan vallen aan de aan religiositeit grenzende AI-productiviteitsonzin waarmee we worden bestookt. Maar het verdwijnen van kennis en kunde is verre van besparend. En de kosten en schade worden afgewenteld op de maatschappij en op de generaties na ons.

En met hetzelfde geld kunnen we ook andere dingen betalen zoals een ondersteunende collega op het werk, een redacteur, opleidingen in schrijven en lezen, iemand die dingen helpt opzoeken en archiveren, iemand die de telefoon opneemt.

AI op kantoor is niet nodig

We hebben een ander gesprek nodig. Het moet niet alleen maar gaan over Europese technologie, hoe evident het ook is om niks met tech-fascisten te maken te willen hebben en de data niet op plekken te zetten waar ongenode gasten kunnen meekijken.

Als we ons alleen maar richten op soevereiniteit, normaliseren we de negatieve kant en nutteloosheid van dit soort ‘AI’. We moeten het erover hebben dat generatieve AI op kantoor ter vervanging van mensenwerk helemaal niet kan. En het juist ons werk vertraagt en zorgt voor onherstelbare fouten. ‘AI’ is niets anders dan een slim gekozen marketingterm om falende software beter te laten klinken dan deze daadwerkelijk is.

De verkoop van deze tools is een manier om even nog veel geld te halen uit een neergaande AI-markt bij organisaties die de facturen altijd betalen, de overheid. Er zal immers altijd belastinggeld zijn, wachtend om besteed te worden aan ‘slimme innovatie’ in pilots. Een hoop weggegooid geld.

Praten over Europees versus technologie uit de VS is daarom niets meer dan een slimme afleidingsmanoeuvre om te verhullen wat de op extractie gebaseerde AI-industrie ter vervanging van mensenwerk echt is: de georganiseerde en gesubsidieerde scam van de eeuw.