AI gebruiken om vakkennis te vinden? Hier moet je op letten
De Adviesfunctie Verantwoord Datagebruik publiceert een handreiking voor overheidsorganisaties die generatieve AI willen inzetten om vakkennis te ontsluiten. De handreiking gaat onder meer in op kwesties rond goed bestuur en ambtelijk vakmanschap.
Vakkennis staat vaak op allerlei verschillende plekken. Er zijn interne bronnen, platforms van uitgevers waarmee de organisatie een licentie heeft afgesloten en je checkt natuurlijk ook altijd wat iBestuur over het onderwerp heeft geschreven. Het scheelt nogal als je niet zelf op al die plekken op zoek moet naar het antwoord op je vraag, omdat een Large Language Model (LLM’s) die verschillende bronnen aanboort om te vinden wat je zoekt. De Adviesfunctie Verantwoord Datagebruik, onderdeel van de Interbestuurlijke Datastrategie (IBDS), dook in de juridische en ethische vraagstukken die hierbij spelen.
Het scheelt nogal als je niet zelf op al die plekken op zoek moet naar het antwoord op je vraag.
De Adviesfunctie Verantwoord Datagebruik kreeg in 2024 de vraag om zich over een specifieke use case te buigen, waarin het ministerie van Financiën, gebruikmaakt van een minimal viable product (MVP) van een AI-toepassing om snel en slim grote hoeveelheden informatie te doorzoeken, samenvattingen te genereren en vragen van ambtenaren te beantwoorden met bronverwijzing. Hiervoor werd gebruikgemaakt van Azure OpenAI. In samenwerking met Pels Rijcken en Highberg zet de Adviesfunctie de juridische en ethische aandachtpunten in deze casus op een rij.
Juridische en ethische aandachtspunten
De Handreiking Inzet van Large Language Models om vakkennis te ontsluiten helpt alle overheidsorganisaties die een dergelijke toepassing willen gebruiken op weg. Er is aandacht voor privacy, intellectueel eigendom, AI-regelgeving, goed bestuur en ambtelijk vakmanschap.
Een paar aandachtspunten zijn interessant om uit te lichten. Vanuit juridisch perspectief is het gebruik van taalmodellen zoals die van OpenAI best problematisch, aangezien de deze modellen zijn getraind op data zonder dat hiervoor toestemming is gevraagd aan de eigenaren. Dat maakt het eerste aandachtspunt paradoxaal: Verkrijg de garantie van de aanbieder van het generatieve AI-model dat door het gebruik van het generatieve AI-model geen inbreuk wordt gemaakt op het privacyrecht en de auteursrechten van derden.
Menselijke maat
Ook de ethische aandachtspunten met betrekking tot ambtelijk vakmanschap verdienen het om door veel overheidsorganisaties te worden bekeken. Zo ligt er veel nadruk op het bewaken van de menselijke maat. De Adviesfunctie waarschuwt dat naarmate dit soort technologie dominanter wordt op de werkvloer, het risico groter wordt dat ambtenaren zich hierdoor laten leiden. De gevoelde vrijheid om af te wijken van wat de AI-toepassing zegt en maatwerk te leveren, neemt af.
De gevoelde vrijheid om af te wijken van wat de AI-toepassing zegt en maatwerk te leveren, neemt af.
Dat leidt tot dit aandachtspunt: Leg de verantwoordelijkheid voor het gebruik van het MVP en de acceptatie van uitkomsten expliciet bij de gebruikers. Het advies is daarnaast om periodiek te evalueren welke effecten het gebruik van de AI-toepassing heeft, zowel voor het werkproces als het effect op de ambtenaren.
Angst voor tweedeling
De Adviesfunctie waarschuwt dat er een tweedeling op de werkvloer kan ontstaan tussen medewerkers die met generatieve AI overweg kunnen gaan en zij die dat niet kunnen. Er zijn onder meer duidelijke richtlijnen nodig voor het gebruik ervan en de toepassing moet zo worden ontworpen dat hij makkelijk te gebruiken is. Neem de nieuwe manier van werken mee in het profiel van de ambtenaar van de toekomst is het laatste advies.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.
Goed zeg. Hier komen twee dromen samen: betere toegankelijkheid van kennis, snellere processen en ondersteuning bij complexe werkzaamheden. (dat zijn er 3) Alleen, 'AI' is een van de weinige productiemiddelen die DUURDER worden naarmate je het intensiever gebruikt. Die dingen moeten tenslotte harder rekenen. De vraag is ook maar helemaal waar je de boel mee traint. Dus verantwoord datagebruik vraagt echt méér dan aandacht voor juridische en ethische principes. Ook veiligheid, beheersbaarheid en kosten moeten expliciet worden meegewogen. Zonder duidelijke kaders kan generatieve AI veel te snel en te breed worden ingezet, terwijl de achterliggende organisaties nog onvoldoende zicht hebben op de risico’s, zoals informatiebeveiliging, auteursrechtelijke vragen en operationele gevolgen. Daarom zou juist sterk beperkte toegang tot AI geen rem zijn op innovatie, maar een noodzakelijke waarborg. Waarom geen gefaseerde aanpak? Met getrainde gebruikers en duidelijke afspraken over welke gegevens wel en niet mogen worden ingevoerd. Dat vraagt dus ook om concrete eisen aan leveranciers, logging, monitoring, incidentmanagement en periodieke evaluatie van toepassingen. Goed dus om juist AI-inzet te koppelen aan duidelijke use-cases en meetbare doelen. AI kan efficiëntie opleveren, maar brengt ook serieuze kosten met zich mee voor licenties, beveiliging, training, beheer en controle. Goed zo'n handreiking.
Vooraf aan het gebruik van AI zou de discussie moeten gaan over wat kennis is, in de zin van "welke kennis heeft de organisatie nodig voor de uitvoering van de wettelijke opdracht". Kennis samengesteld uit diverse bronnen levert niet zomaar toepasbare kennis op. Met name procedureel herkent AI te weinig de alternatieve routes, daar moet de AI op geïnstrueerd worden.
AI kan zoeken in bronnen, maar wie bepaalt of die zoektocht volledig is ?. In de tussentijd worden AI-initiatieven ondergebracht bij afdelingen als bedrijfsvoering, zonder de directe relatie met de Bestuursrechtelijke bevoegdheid. Die laatste is maatgevend voor verantwoordelijkheid en verantwoording en daarmee voor de externe effecten.
De uitvoering is gebaat bij AI die bruikbaar is in de rechtstoepassing en daarvoor in feite op het niveau van (formeel juridisch) beleid is genormeerd, ingericht, wordt gebruikt en uitlegbaar is. Dat vergt niet alleen de domeinspecifieke kennis van het bestuursorgaan, maar ook kennis over andere disciplines en rechtsgebieden die ingrijpen op het functioneren.