‘Generatieve AI vraagt om aanpak waarin we de krachten bundelen’

Hoe kan Generatieve AI je als gemeente helpen in je dienstverlening? Hoe zit het met auteursrecht? Bijna 500 deelnemers deden op woensdag 28 februari mee aan de Meetup over generatieve AI, georganiseerd door het Kennisnetwerk Data en Samenleving.

Geen enkele technologie staat zo in de schijnwerpers als Generatieve AI. Dat het ook onder gemeenten enorm leeft, blijkt wel uit de Mentimeter die aan het begin van de MeetUp werd gehouden. Tweederde van de deelnemers aan de peiling zegt dat hun gemeente al beleid heeft over GenAI, of ermee bezig is. Zo heeft de gemeente Maastricht wel beleid, maar dat is echter erg summier namelijk dat AI verboden is tot nader order, aldus een van de deelnemers. Van degenen die nog geen beleid hebben daarover, zegt de meerderheid het wel te willen. Meer dan de helft van de deelnemers zegt al gebruik te maken van GenAI, zoals ChatGPT in hun werk. De meeste zijn daar dan ook transparant over. En de meerderheid (78 procent) van de deelnemers is het dan ook eens dat investeren in generatieve AI is essentieel voor de dienstverlening aan inwoners ondanks de financiële en juridische uitdagingen die dit meebrengt.

Gelukkig zijn we als overheden er op tijd bij, stelt Dirk van Brederode, manager Digitale Samenleving van VNG, die de MeetUp aftrapt. “We zijn erin geslaagd om met al onze interbestuurlijke partners al een gezamenlijke visie te maken over wat wij van de technologie vinden, waar we nerveus over worden, hoe we de technologie willen inzetten en ook wat voor soort activiteiten, experimenten, focusgebieden we willen aanpakken. Dat is iets wat we lang niet altijd zo vroeg in de cyclus bij een nieuwe technologie al voor elkaar hebben. Dit is een hele goede ontwikkeling en volgens mij een indicatie van hoe we hiermee verder willen met elkaar.”

Gezamenlijke aanpak

Want Artificial Intelligence leent zich volgens Brederode heel goed voor een gezamenlijke aanpak, zoals bijvoorbeeld bij gezamenlijke inkoop. “De markt wordt op dit moment door grote bedrijven gedomineerd. “We moeten, misschien zelfs in Europees verband, tegenmachten organiseren om die grote bedrijven te krijgen tot een punt dat zij AI inzetten en ontwikkelen wat voor ons als maatschappij wenselijk is. Zelfs de grootste gemeenten van Nederland of het Rijk kunnen dat niet alleen. Daarom is het nodig om met elkaar samen hand in hand te staan en te kijken hoe we dan ook die kracht kunnen maken. Dat zie je heel erg sterk in de visie terug.”

Brederode roept dan ook gemeenten op om samen te werken. “Denk als je bijvoorbeeld met een taalmodel aan de slag bent gegaan of het iets is wat andere gemeenten kunnen gebruiken? Kunnen we het rijksbreed inzetten? Ben je bezig om met AI een lokaal vergunningsproces te optimaliseren? Misschien kunnen jouw aanpak en geleerde lessen ons allemaal verder helpen? Kom bij ons op de lijn, dan gaan we eens even kijken of we dat in een grotere, interbestuurlijke kerstboom kunnen optuigen.” De VNG ondersteunt gemeenten daarbij. Niet alleen is er een netwerk van enthousiastelingen, die samen willen door ontwikkelen, maar ze kijkt ook naar gezamenlijke financiering van goede ideeën. “We willen toe naar een aanpak waarin we de krachten bundelen. En goed werk in het zonnetje zetten. We zijn daarvoor op dit moment bezig om allerlei netwerken, van de NL AI coalitie tot de Interbestuurlijke Datastrategie (IBDS), goed met elkaar te verbinden.”

Hoe kunnen gemeenten aan de slag met AI?

Maar wat heeft Generatieve AI gemeenten nu allemaal te bieden? Hoe werkt de technologie? Giulia Bössenecker, Adviseur Data en AI, en technisch consultant Ruth Koole van het Rijks ICT Gilde (RIG) van het Ministerie van Binnenlandse Zaken bespreken de meer technische en praktische aspecten. “De bekendste vorm van generatieve AI is waarschijnlijk op dit moment ChatGPT”, vertelt Bössenecker. “Dat is het afgelopen jaar steeds meer verweven geraakt met onze maatschappij. We zien het gebruik terug in onderwijs, gezondheidszorg, wetenschap en ook de overheid. Het draagt onder meer bij aan productiviteitsgroei, nieuwe werkgelegenheid en medicijnontwikkeling. Aangezien generatieve AI al in zoveel domeinen wordt gebruikt en zo breed toegankelijk is voor burgers, raakt het ook bijna alle beleidsterreinen van de overheid.”

Maar de ontwikkeling, productie en monitoring van state-of-the-art generatieve AI tools ligt voor een groot deel bij grote Amerikaanse bedrijven, gaat ze verder. “Daarom is kennis van deze technologie zo belangrijk. Dat stelt ons in staat om kritische vragen te stellen, onze burgers te beschermen en tegelijkertijd ervoor te zorgen dat de technologie de Nederlandse maatschappij daadwerkelijk ten goede komt.”

Hoe effectief ChatGPT kan zijn, laat Bössenecker zien aan de hand van een voorbeeld. Ze heeft ChatGPT een gedicht laten schrijven van vier zinnen over het belang van het begrijpen van AI. Binnen één seconde kreeg ze een gedicht terug, die ze zelf niet beter had kunnen maken. De basis van de tool is het Large Language Model GPT-4. GPT staat voor Generative Pre-trained Transformer, en is een soort algoritme. “Je kunt niet altijd er vanuit gaan dat je uit zo’n generatieve AI tool ook daadwerkelijk iets krijgt wat je nodig hebt”, waarschuwt Bössenecker. “Daarom moet je daar wel kritisch bij blijven.”

Voorbeelden van Generatieve AI

Er zijn veel voorbeelden van hoe de overheid Generatieve AI kan toepassen, vertelt Bössenecker. Denk aan het samenvatten van overheidsdocumenten, zoals Kamerbrieven of rapporten, en hoe dat medewerkers kan ondersteunen in hun tijdsmanagement. Ook het beantwoorden van vragen van inwoners zou door Generatieve AI gedaan kunnen worden in een vergelijkbare vorm als ChatGPT.

Inwoners zouden via deze weg sneller kunnen worden geholpen, wat de dienstverlening van de overheid mogelijk weer kan verbeteren. Generatieve AI biedt verder kansen bij het invullen van standaard documentaties en rapportages. Dat helpt medewerkers op administratief vlak te ontlasten.

Momenteel doet de rijksoverheid onderzoek naar al deze voorbeelden. Hoe kunnen ze het best worden geïmplementeerd? Bössenecker: “Het is daarbij van belang dat alle overheidsmedewerkers aan het onderzoek kunnen meedenken en meewerken. Daarom wil ik bij deze ook de oproep doen om aan te sluiten bij de community of practice van generatieve AI.”

Use cases

Het Rijks ICT Gilde werkt zelf ook aan verschillende projecten rond Generatieve AI, vult Koole aan. “We hebben meegeschreven aan de overheidsbrede visie op Generatieve AI, en werken mee aan het Algoritmekader. Met dit kader willen we overheidsorganisaties helpen om algoritmes en AI op een verantwoorde manier in te brengen. We willen de minimale vereisten op een rij zetten. Die willen we vertalen naar een praktische toepassing. Daarnaast volgen we de Europese AI Act en helpen we die te vertalen naar technische standaarden om het zo concreter te maken. Als laatste werken we aan AI-Validatie, waarin we taalmodellen evalueren, bijvoorbeeld op eventuele discriminerende effecten. Het kan voorkomen dat bepaalde vooroordelen in de data zitten waarop die modellen getraind zijn.” Als voorbeeld verwijst ze naar onderzoek van de Amerikaanse startup Anthropic, die zo een eigen taalmodel heeft ontwikkeld Claude 2. “We doen al onze evaluaties open source en zullen de resultaten delen”, legt Koole uit. “We zijn nog op zoek naar geschikte use cases. Dus als je aan het experimenteren bent met een taalmodel, horen we graag van je.”

Privacy recht

Naast kennis van de technologie is het ook belangrijk om oog te hebben voor de juridische dilemma’s rond Generatieve AI. Advocaten Jordi Bierens, Lars  Groeneveld en Jeroen Naves van Pels Rijcken gaven eerder al juridisch advies bij het standpunt van de staatssecretaris naar de Kamer over generatieve AI, en vertellen over de verschillende aspecten rond AI. Hoe zit het bijvoorbeeld met privacy recht? Bij gebruik van AI worden immers vaak persoonsgegevens verwerkt. Bij gebruik van een AI-tool heb je dan ook te maken met het AVG-recht, vertelt Groeneveld. En dat betekent dat je aan tenminste een zeven vragen moet beantwoorden voor de privacy recht. Is er een verwerkingsgrondslag? Is er een doorbrekingsgrond op het verbod van de verwerking van bijzondere persoonsgegevens? Worden burgers voldoende geïnformeerd over de verwerking van hun persoonsgegevens? Is dataminimalisatie toegepast? Is de juistheid van persoonsgegevens gewaarborgd? Kunnen de rechten van betrokkenen worden uitgevoerd? Is er sprake van doorgifte naar de VS?

Deze vragen moeten vooral worden beantwoord in de inputfase, dus de fase waar de ontwikkelaar van de AI Tool verantwoordelijk voor is. “In deze fase worden er grote hoeveelheden data gescraped van het internet. Mag je als ontwikkelaar wel gebruik maken van al die gegevens van het internet? In veel gevallen is dit een heel ingewikkelde kwestie voor dat soort ontwikkelaars.” Voor de andere fasen in Generatieve AI, de gebruikersfase en de outputfase geldt dat je zelf heel erg moet opletten wat je als opdracht invoert, wanneer je de AI Tool voor je laat werken. “Als je persoonsgegevens invoert moet je zelf ook daar een verwerkingsgrondslag voor hebben. Je moet maatregelen treffen om ervoor te zorgen dat er geen onjuiste gegevens worden verwerkt.”

Auteursrecht

Een andere juridische uitdaging ligt bij het auteursrecht, neemt Bierens het over. Auteursrecht is een vorm van intellectuele eigendom, het exclusieve recht van de maker van een werk van letterkunde, wetenschap of kunst. Je hebt toestemming van de maker nodig om het creatieve werk openbaar te maken of te verveelvoudigen. “Om een AI Tool uiteindelijk te trainen en hem functioneel te krijgen heb je dus als ontwikkelaar ook toestemming van de rechthebbende”, stelt Bierens. “Het algemene beeld is echter dat er onvoldoende met die auteursrechten rekening wordt gehouden bij AI Tools. Als eindgebruiker kun je eigenlijk niet heel goed achterhalen of dat rechtenbeheer van die tool een beetje op orde is.”

Volgens Bierens worden alle juridische risico’s dan ook vooral contractueel doodgelegd op de eindgebruiker. Dat zie je bijvoorbeeld bij OpenAI (de ontwikkelaar achter ChatGPT), waar in een aantal citaatjes de eindgebruiker verantwoordelijk wordt gehouden voor de content die deze met de tool ontwikkelt. Dat concludeerde eerder ook professor Natali Helberger van de UvA. “Je zit eigenlijk met een juridische onduidelijkheid”, aldus Bierens. “Het stinkt aan alle kanten, zullen we maar zeggen. Gelukkig is er wel een kentering gaande hierin.”

Inwoners informeren

Jeroen Naves besluit de MeetUp met juridische adviezen voor gemeenten. Er is namelijk ook zoiets als bestuursrecht. Als je als gemeente Generatieve AI inzet bij de uitvoering van je publieke taak, moet je wel je inwoners kunnen informeren over hoe je met het systeem tot een bepaalde output bent gekomen. “Naarmate je een AI-systeem in grotere mate gaat inzetten wordt dat juridisch gezien steeds complexer”, aldus Naves. “Wees terughoudend met het gebruik van Generatieve AI bij de publieksrechtelijke besluitvorming.”

Daarom is het belangrijk dat organisaties er beleid op maken, gaat hij verder. “De Europese Commissie heeft voor intern gebruik al vrij snel eigen beleid opgesteld.”

Ondanks alle juridische bezwaren heeft Pels Rijcken de staatssecretaris niet  geadviseerd om maar geen Generatieve AI te gebruiken. Naves: “We hebben gewezen op de inherente uitdagingen die er liggen. Die zullen uiteindelijk weggepoetst moeten worden om systemen te ontwikkelen. De oplossing ligt bij de ontwikkelaars.”

Wat kun je als gemeente doen om de risico’s te verkleinen? Gebruik geen gratis versies, maar betaalde AI-systemen, raadt Naves verder aan. “Of schaf zo’n systeem aan, plaats het in een lokale omgeving om op basis daarvan vervolgens je lokale toepassing te creëren. En als je een systeem gebruikt, vraag dan naar de garanties van de leverancier op het gebied van AI en privacy. Dat wanneer je als gebruiker een auteursrechtclaim aan je broek krijgt, zij die voor je oplossen, en de kosten op zich nemen.”

Tekst: Pieter Verbeek

De opname van de meetup, het verslag en de overige bestanden komen HIER beschikbaar. Wilt u samen optrekken met andere gemeenten op dit onderwerp? Word dan lid van onze themagroep AI en Algoritmen.