Eva van Kruchten, werkzaam bij de Dienst Publiek en Communicatie (DPC) van het ministerie van Algemene Zaken, constateert dat het AI het informatiegedrag van burgers verandert. Haar afdeling binnen DPC onderzoekt de impact en de gevolgen ervan. Ook zorgt DPC voor het beter vindbaar maken van overheidsinformatie door content en techniek aan te passen. ‘Het Platform Rijksoverheid Online (PRO), een omgeving voor websites van de Rijksoverheid, telt zo’n vierhonderd websites. We nemen diverse maatregelen om ervoor te zorgen dat onze informatie in AI beter wordt gevonden.’
Hoe AI zorgt voor dalend websiteverkeer van de rijksoverheid
De opkomst van AI-gestuurde zoekresultaten heeft grote gevolgen voor de manier waarop burgers informatie vinden. Waar mensen voorheen via zoekmachines doorklikten naar officiële websites, krijgen ze nu steeds vaker direct een antwoord voorgeschoteld. Dat leidt tot een forse daling in websitebezoek van de overheid en roept tegelijkertijd nieuwe vragen op over de betrouwbaarheid van informatie.
Dat er iets moet gebeuren om overheidsinformatie online goed zichtbaar te houden staat vast: de impact van AI is namelijk duidelijk zichtbaar in de cijfers. ‘Sinds de introductie van AI-antwoorden in zoekmachines is het bezoek aan rijksoverheid.nl aanzienlijk afgenomen’, zo vertelt Van Kruchten. ‘Het gaat het om een daling van ongeveer 35 procent ten opzichte van een jaar eerder. Voor sommige onderwerpen, bijvoorbeeld over ontslag of AOW, loopt dat zelfs op tot 60 à 70 procent minder bezoek.’
Opvallend daarbij is dat het aantal zoekopdrachten niet is gedaald. ‘Mensen blijven dus evenveel vragen stellen, maar krijgen hun antwoorden steeds vaker direct via AI. Daardoor vervalt de noodzaak om door te klikken naar de oorspronkelijke bron.’ Die ontwikkeling zorgt voor een belangrijke verschuiving in zoekgedrag: van zelf informatie verzamelen via verschillende websites naar het ontvangen van een kant-en-klaar antwoord.
Betrouwbaarheid onder druk
Hoewel AI-antwoorden het zoeken makkelijker maken, brengen ze ook risico’s met zich mee. Een belangrijk probleem is dat deze antwoorden vaak worden samengesteld uit meerdere bronnen, zonder dat duidelijk is hoe die selectie tot stand komt. Van Kruchten wijst erop dat AI-systemen informatie van overheidswebsites combineren met andere, bijvoorbeeld commerciële, bronnen. Dat kan leiden tot ongewenste of onjuiste aanvullingen. ‘In een experiment rond informatie over noodpakketten bleek bijvoorbeeld dat AI-antwoorden ook producten bevatten die niet door de overheid worden geadviseerd.’ Een ander voorbeeld betreft informatie over coronavaccinaties voor zwangeren. ‘Daarbij kwam in AI-antwoorden verouderde informatie naar voren, terwijl het officiële advies inmiddels was aangepast.’
Waar AI-antwoorden vaak mee te maken hebben, is dat verouderde informatie nog steeds invloed kunnen hebben op de antwoorden die gebruikers krijgen, zo licht van Kruchten toe. Het probleem wordt versterkt doordat AI-systemen functioneren als een ‘black box’: het is niet inzichtelijk hoe antwoorden precies tot stand komen. ‘Daardoor is het moeilijk om controle te houden over de inhoud en betrouwbaarheid’, zegt Van Kruchten.
Nieuwe strategie: inspelen op AI
De overheid werkt aan diverse nieuwe manieren om informatie beter vindbaar en bruikbaar te maken voor AI-systemen. Deze aanpak wordt aangeduid als ‘generative engine optimization’ (GEO), een relatief nieuw vakgebied wat deels overeenkomt met Search Engine Optimization (SEO), maar toch net een andere aanpak vergt. Een belangrijk onderdeel daarvan is het aanpassen van de manier waarop content wordt geschreven. In plaats van lange teksten waarin het antwoord ergens halverwege staat, wordt informatie opgesplitst in korte, duidelijke alinea’s die direct antwoord geven op een specifieke vraag. ‘Het maakt het voor AI eenvoudiger om relevante informatie te herkennen en over te nemen’, zegt van Kruchten.
Ook wordt er actief gekeken naar technische verbeteringen. Zo kan met zogenoemde ‘structured data’ extra context worden meegegeven aan webpagina’s, zoals de bron van de informatie, het onderwerp en de actualiteit. ‘Dit helpt AI-systemen om beter te beoordelen welke informatie betrouwbaar en relevant is’, zo legt Van Kruchten uit. Ook wordt geëxperimenteerd met nieuwe technieken zoals een zogenoemd ‘llms.txt’-bestand, waarmee instructies kunnen worden gegeven over hoe AI-modellen de inhoud van een website zouden moeten gebruiken. De effectiviteit hiervan is nog onderwerp van onderzoek.
Zoektocht naar wat werkt
De ontwikkeling van GEO staat nu nog in de kinderschoenen. Binnen de overheid wordt daarom momenteel veel geëxperimenteerd en geleerd via pilots. Opgedane kennis wordt toegepast op de teksten en techniek van de overheidswebsite Rijksoverheid.nl. Maar of het ook daadwerkelijk zorgt voor een betere vindbaarheid van overheidsinformatie in AI-systemen, is voorlopig nog de vraag. ‘Het is lastig om direct te meten wat het effect van deze aanpassingen is. De technologie ontwikkelt zich snel en er is nog weinig bekend over wat precies invloed heeft op hoe AI-systemen informatie selecteren en presenteren’, aldus Van Kruchten.
Binnen DPC wordt het onderwerp opgepakt door een klein team van specialisten, dat samenwerkt met redacteuren en technische experts. In totaal zijn tientallen mensen betrokken, onder meer via trainingen en workshops. Daarnaast wordt gewerkt aan samenwerking met andere overheidsorganisaties, zodat kennis kan worden gedeeld en een gezamenlijke aanpak kan ontstaan.
Beperkte controle
Ondanks de inspanningen blijft de invloed van de overheid op AI-antwoorden beperkt. Zelfs als informatie technisch en inhoudelijk optimaal wordt aangeboden, bepalen AI-systemen uiteindelijk zelf hoe die informatie wordt gebruikt en gecombineerd met andere bronnen. De uitdaging is bovendien niet alleen de techniek, maar ook gebruik. Volgens Van Kruchten is het belangrijk dat gebruikers zich beter bewust worden van de beperkingen van AI-antwoorden en niet blind vertrouwen op de eerste uitkomst.
Tegelijkertijd wordt ook erkend dat AI diverse voordelen biedt. Het kan mensen helpen om sneller informatie te vinden en beter aan te sluiten bij hun specifieke vraag. Dat maakt het gebruiksvriendelijker dan traditionele zoekmethoden. ‘De informatie die AI voor je presenteert is helemaal op maat gemaakt naar aanleiding van een vraag. Het voorkomt dat je allerlei linkjes door moet klikken, op zoek naar een antwoord.’
Blijvende verandering
‘De verwachting is dat de rol van AI in informatievoorziening alleen maar groter wordt’, zegt van Kruchten. Het betekent volgens haar dat overheden zich moeten blijven aanpassen aan een veranderend speelveld waarin ze minder directe controle hebben over hoe hun informatie wordt gepresenteerd. Binnen de overheid wordt deze ontwikkeling inmiddels breed erkend. Er is dan ook steeds meer interesse in het onderwerp van andere overheden, die graag meekijken met de ervaringen van DPC om er zelf mee aan de slag te gaan.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.
De meeste mensen hebben geen enkel begrip van AI en maken zelden expliciet onderscheid tussen AGI (hypothetisch) en narrow/generatieve AI (daadwerkelijk bestaande systemen). Het gaat de meeste meer om de toepassing: ik wil makkelijk tekst of plaatjes. Zeker binnen de Staat is het daarom zaak om echt bewust te onderkennen dat het niet om één AI-discussie gaat, maar meerdere gemeenschappen. Er zijn andere invalshoeken als je het hebt over commercie, over de onderliggende technologie, over Data Science, AI Art, NSFW of Crypto/Web3 Het hangt er maar net vanaf waarover je met wie spreekt. Het label “AI” betekent echt iets anders per community (ChatGPT/LLM’s vs. beeldgeneratoren vs. ML-techniek vs. crypto-promotie). Het gevolg is dat mensen langs elkaar heen gaan praten op een gevaarlijke manier. Het sentiment over AI is gemiddeld licht positief, want de boel is nieuw en lekker makkelijk ... maar als we meer in de buurt komen van desinformatie en AI Art (en dus ook NSFW/pornografie) wordt het al wat minder gezellig met de duidelijke bedreiging inkomen/auteursrecht vs. creatieve ondernemersgeest en de gepercipieerde vrije meningsuiting. Verdiep je erin! Het MAG moeite kosten. Het is doodeng dat reguliere mainstream/massamedia (die waar nog enigszins media getrainde journalisten met iets van algemene ontwikkeling nog iets van duiding kunnen geven) een opvallend kleine rol spelen in het Twitter-AI-discours. Ze zijn nauwelijks zichtbaar in de top gedeelde domeinen of centrale retweet-posities. Daardoor krijgen “niet-traditionele” actoren (influencers, niche-accounts, trollen) alle ruimte om het narratief te bepalen. Als je diarree gorgelt ...
Uiteindelijk leidt het gebrek aan gedeeld begrip tot ondermijning van de publieke besluitvorming en het risicodebat. Zonder gemeenschappelijke definities wordt debat vatbaar voor misverstanden, hype/marketingclaims en moeilijker te vertalen naar politieke regulering of maatschappelijke controle. Zo krijg je besluitverlamming.
Dat de meeste mensen geen clou hebben waar ze het over hebben kun je gewoon meten: de hashtag “AGI” komt nauwelijks voor, ondanks dat veel mensen "denken" dat AI allang de kracht van AGI heeft. Die AI-ongeletterdheid tref je dus ook aan bij de Bestuurders, die AI zien als de Silver Bullet voor de problemen die al jarenlang sudderen onder de dictatuur van bounded rationality: de versnippering waarbij elke directie het zo goed mogelijk probeert te doen ... zonder dat iemand nog beeld heeft van het geheel. Als je daar 'AI' op los laat, zonder modellen, zonder notie van data kwaliteit of zonder notie van architectuur ... dan gaat de boel alleen maar sneller, maar strakker geformuleerd naar de vaantjes. AI omvat technologieën met maatschappelijk risico, net als fracking en kernenergie. Mensen hebben hier emoties bij. Je praat hier ook over technologieën die publiek moreel/praktisch worden beoordeeld dus die raken aan sentimenten van legitimatie. Hoe kun je nu verwachten dat mensen die hier niet de moeite van diep begrip in willen steken, iets zinnigs kunnen zeggen over de impact van (het gebrek van) AI-geletterdheid op maatschappelijk relevante vraagstukken als werkloosheid, desinformatie, reputatieschade of democratische bedreigingen?
Tijd voor wat basale checklists om in elk geval een beetje doordacht voorover te struikelen. Laten we om te beginnen AI COMBINEREN met de andere vakgebieden, zoals machine learning en procesautomatisering. Ze worden meestal door elkaar gehaald, maar zijn grotendeels onafhankelijk van elkaar geëvolueerd. (RPA is GEEN AI)
Als we het dan toch hebben over intelligente automatisering, doe het dan vanuit architectuur om gedisciplineerd en gestructureerd de verschillende ecosystemen en de bijbehorende kernvaardigheden te doordenken in end-to-end concepten die ten minste samenhangen met het vastleggen of detecteren van nieuwe data (bijv. sensoren ingebed in IoT, natuurlijke taalverwerking, data van web- en mobiele apps, RPA, data); het analyseren en begrijpen van deze informatie (bijv. natuurlijke taalbegrip, beschrijvende en voorspellende analyse, expertsystemen); het handelen en reageren op basis van de betekenis ervan (bijv. natuurlijke taalgeneratie, RPA, blockchain) en het ervan leren in de loop van de tijd (bijvoorbeeld met machine learning).