Zo’n 21 duizend mensen werken bij een landelijke administratieve organisatie, goed voor de verdeling van bijna 29 miljard euro’s aan uitkeringen. Geld dat bedoeld is voor mensen die voor het mogen ontvangen van een uitkering gevoelige gegevens hebben afgegeven.
Het maakt niet uit of de kantoorchatbot van UWV Frans is
Een chatbot is een energieslurpende, pratende illusie, een venstertje op falende technologie. Het maakt niet uit of deze van de Fransen of Amerikanen is.
Logisch dat er ophef en politieke onrust is nu dit UWV het Franse Le Chat van Mistral verruilt voor Copilot van Microsoft. Soevereiniteit houdt heel digitaal Nederland bezig. Maar ook vanwege het geld. Microsoft rekent per gebruiker 18,20 euro per persoon, per maand. De belofte: ‘De complete AI-chatoplossing om werk gedaan te krijgen.’
Organisaties noemen hun besluiten in ‘AI’ vaak een experiment of pilot. En zo neemt UWV deze ingebakken kantoorchatbot op proef tot en met het eind van het jaar. Voor Microsoft een potentiële factuur van zo’n 3 miljoen. Goed te weten: tot en met april betaalde UWV niets voor de consumentenversie Le Chat.
Fantasietechnologie
Natuurlijk is soevereiniteit belangrijk, evenals kijken naar kosten. Maar wat vooral opvalt, is de oorverdovende stilte over de vraag of ‘AI’ op kantoor überhaupt een goed idee zou zijn.
Wat vooral opvalt, is de oorverdovende stilte over de vraag of ‘AI’ op kantoor überhaupt een goed idee zou zijn.
UWV houdt trouwens zelf een slag om de arm en zegt in 2025 voorzichtig dat een betere dienstverlening dankzij AI mogelijk zou kúnnen zijn: De toepassing van artificiële intelligentie (AI) binnen UWV kan een grote bijdrage leveren aan de efficiëntie en kwaliteit van dienstverlening. Om deze innovatieve technologie succesvol te integreren, is het belangrijk om de juiste snelheid en benadering aan te houden.
Dit soort ‘AI’ heeft inderdaad invloed op kwaliteit, maar zoals bekend is die bijdrage niet positief. Wetenschapelijk onderzoek heeft dat al lang vastgesteld. Maar ook gebruikers zelf zijn kritisch. Taalmodellen - waar deze chatbots op gebaseerd zijn - zitten vol vooroordelen. Ze zijn bovendien vervuilend en gebaseerd op diefstal en extractie.
‘AI’ op kantoor is helemaal niet nodig, het zit zelfs in de weg. Maar toch kiest UWV bewust voor dure fantasietechnologie. Wat een chatbot produceert is gewoon neptekst. Zo’n machinale neptekst is misleidend omdat deze parasiteert op het effect van tekst en taal: een lezer is geneigd te denken dat er een denkend mens aan te pas is gekomen. Maar machines vatten niets samen, ze leggen geen verbanden, zoeken niets op en leren niet. Ze geven alleen de illusie dat ze dat doen.
Output van taalmodellen is bewust zo gemaakt dat zelfs de grootste onzin nog overtuigend klinkt. Fouten zijn sowieso al moeilijk te vinden, maar controle van inhoud is nog lastiger voor mensen die vaker aan chatbots zijn blootgesteld. Voor de ontvanger is het ook vervelend, die krijgt er denklast bij: is dit authentiek en betrouwbaar is of van een domme pratende machine?
Human-in-the-loop is onzin. Mensen raken juist afgestompt en uitgeput van dit onbegonnen werk. Het uitvlooien van teksten vertraagt en verwart. En dit controleerwerk kun je ook alleen maar doen als je de benodigde inhoudelijke expertise hebt om het onderscheid te zien. Maar die expertise bouw je niet op als je denkwerk op een falende kantoorchatbot afwentelt. Gewoon nadenken is door een chatbot al lastig geworden, laat staan kritisch denken en redeneren.
Microsoft weet heus wel dat hun chatbot faalt: in de kleine lettertjes staat dat Copilot onbetrouwbaar is en niet geschikt voor werk.
Microsoft weet heus wel dat hun chatbot faalt: in de kleine lettertjes staat dat Copilot onbetrouwbaar is en niet geschikt voor werk. In een eerdere versie van de disclaimer stond letterlijk: onze software is er louter voor vermaak, for entertainment purposes only. UWV heeft trouwens ook een instructie vol disclaimers, check dit, controleer dat, vertrouw niet op. Eigenlijk gewoon een pleidooi om de kantoorchatbot vooral niet te gebruiken.
Kritisch synthetische tekst inhoudelijk controleren tot ver achter de komma - wat UWV dus adviseert - is verre van productief en klinkt niet als ‘lekker het werk gedaan krijgen’.
Overheid is de te veroveren markt
Pilots op kantoren en al het gepraat erover leveren zo dé ideale lippendienst aan grote techbedrijven die de banen van mensen willen degraderen en elimineren en softwareabonnementen willen verkopen. Op deze hype kunnen techbedrijven miljoenen verdienen aan onwetendheid en geveinsde onnozelheid in ‘AI’.
De overheid is de ideale markt: vol met kantoormensen die allemaal mailen, schrijven, vergaderen, naar deadlines ploeteren. Ze hebben ook allemaal een abonnement op software dat automatisch jaarlijks moet worden verlengd. Hoe handig is dat voor Microsoft.
UWV is dus niet de enige overheidsorganisatie die ten prooi valt of kan vallen aan de aan religiositeit grenzende AI-productiviteitsonzin waarmee we worden bestookt. Maar het verdwijnen van kennis en kunde is verre van besparend. En de kosten en schade worden afgewenteld op de maatschappij en op de generaties na ons.
En met hetzelfde geld kunnen we ook andere dingen betalen zoals een ondersteunende collega op het werk, een redacteur, opleidingen in schrijven en lezen, iemand die dingen helpt opzoeken en archiveren, iemand die de telefoon opneemt.
AI op kantoor is niet nodig
We hebben een ander gesprek nodig. Het moet niet alleen maar gaan over Europese technologie, hoe evident het ook is om niks met tech-fascisten te maken te willen hebben en de data niet op plekken te zetten waar ongenode gasten kunnen meekijken.
Als we ons alleen maar richten op soevereiniteit, normaliseren we de negatieve kant en nutteloosheid van dit soort ‘AI’.
Als we ons alleen maar richten op soevereiniteit, normaliseren we de negatieve kant en nutteloosheid van dit soort ‘AI’. We moeten het erover hebben dat generatieve AI op kantoor ter vervanging van mensenwerk helemaal niet kan. En het juist ons werk vertraagt en zorgt voor onherstelbare fouten. ‘AI’ is niets anders dan een slim gekozen marketingterm om falende software beter te laten klinken dan deze daadwerkelijk is.
De verkoop van deze tools is een manier om even nog veel geld te halen uit een neergaande AI-markt bij organisaties die de facturen altijd betalen, de overheid. Er zal immers altijd belastinggeld zijn, wachtend om besteed te worden aan ‘slimme innovatie’ in pilots. Een hoop weggegooid geld.
Praten over Europees versus technologie uit de VS is daarom niets meer dan een slimme afleidingsmanoeuvre om te verhullen wat de op extractie gebaseerde AI-industrie ter vervanging van mensenwerk echt is: de georganiseerde en gesubsidieerde scam van de eeuw.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.
Ik mis de argumenten tussen de polemiek. ('tocht' is ook geen ventilatie)
De stelling "Machines vatten niets samen, ze leggen geen verbanden, zoeken niets op en leren niet" vertoont een fundamenteel misverstand van hoe Large Language Models (LLMs) werken. JUIST LLMs zijn uitstekend in het samenvatten van lange teksten door patronen te herkennen. Ze kunnen juist wèl verbanden leggen, door statistische correlaties in hun trainingsdata (dit is hoe ze "begrip" simuleren) en moderne modellen, zoals Copilot zijn juist gekoppeld aan zoekmachines of databases (RAG - Retrieval Augmented Generation) om actuele informatie op te zoeken. In deze vorm kan AI inderdaad niet "leren" - in real-time tijdens het gesprek - , want ze veranderen hun kernmodel niet. Je kunt dat model wel updaten en fine-tunen, dus de stelling dat ze "niets leren" is technisch onjuist. Microsoft heeft ook nooit expliciet in de algemene voorwaarden van Copilot voor enterprise/bedrijven gesteld dat het "alleen voor vermaak" is. Vanzelfsprekend waarschuwt de disclaimer voor hallucinaties (fouten) en wordt gesteld dat de output niet als juridisch advies mag worden gebruikt, maar de claim dat het uitsluitend voor vermaak is, is onjuist. "Strawman"-argument dus. Of Le Chat zo handig was ... Mistral is al een tijd geleden gehackt door TeamPCP en het is sowieso niet handig voor een organisatie om gevoelige data te verwerken zonder te weten hoe en waar dat gebeurt. Het échte probleem is dus gebrek aan Data Governance en gebrek aan kennis. De vergelijking tussen "gratis consumentenversie" en "betaalde enterprise-versie" is een appels-peren-vergelijking die de kostenstructuur vertekent. Dan de "Human-in-the-loop is onzin" alsof mensen afgestompt zouden raken ... raakt een goede timmerman afgestompt als je zijn hamer vervangt door een spijkerpistool? Het hele concept "Human-in-the-loop" (HITL) is juist een gevestigde wetenschappelijke en industriële standaard. Het is expliciet bedoeld om de fouten van AI te corrigeren, maar dat moet je dan wel zelf kunnen. Je moet een AI nooit iets vragen wat je zelf niet al weet. De businesscase is tijdverdichting en multidisciplinair cohesie behoud, geen luiheid. Zonder aantoonbare kennis moet je geen AI willen gebruiken, net zomin je een peuter een differentiaalrekenmachine geeft. Je AI controleren is dus geen "onzin"; het is vaak de enige manier om AI veilig te gebruiken in kritieke domeinen. Als de eindgebruiker niet kan overzien of de gegenereerde tekst een implementatiefout bevat (te weinig training, slechte workflow) ... kan hij er maar beter vanaf blijven. AI is geen zoekmachine, maar ook zeker geen fantasietechnologie. Hoe kun je complexe probabilistische modellen reduceren tot "neptekst" en "illusie"? De voordelen zijn enorm en verschrikkelijk nodig. In een dataficerende samenleving ontstaan allerlei laterale en daarmee multidisciplinaire verbanden en die samenleving vergrijst significant. We hebben die tijdverdichting door code-generatie, data-analyse, vertaling en creativiteit keihard nodig. Hierbij hebben we meer nodig dan een nihilistische houding, maar nuance. Een nuance die ook niet terug te vinden is in emotioneel politieke bewoordingen als tech-fascisten en georganiseerde scam. Het mist kritische analyse en demoniseert de AI ontwikkeling waar onze economie enorm afhankelijk van is. Er is geen samenzwering, hooguit snelle transnationale multidisciplinaire ontwikkeling in een snel veranderend geopolitiek landschap. Daarom moeten we ons inhoudelijk verdiepen om te kunnen nuanceren en niet de Luddiet uit gaan hangen (die verloren overigens van de Vooruitgang. Dezelfde Vooruitgang die de levensverwachting van mensen van 35 naar 75 bracht). AI is juist geen "vervanging" voor mensenwerk, maar wel voor sommige mensen. AI kan repetitief werk automatiseren, zodat mensen zich juist op de complexere taken kunnen richten. Dit gaat veel verder dan efficiency-winst, maar biedt juist weer ruimte voor meer menselijke interactie. Kortom, een polemiek is geen argumentatie. Zonde om op basis van simplisme het kind met het badwater weg te gooien!
Hartelijk dank voor de uitgebreide reactie. Zo'n column is altijd kort en daarom heb ik links toegevoegd met bewijsvoering. Ik schrijf ook langere artikelen, dit is een opiniestuk.