'Zeg niet: Ik wil een chatbot'

Er is geen ontkomen meer aan; digitalisering en AI moeten vandaag de dag vaste onderdelen zijn van het ambtelijk vakmanschap. Digitaal vakmanschap is ook een van de prioriteiten in de Nederlandse Digitaliseringsstrategie (NDS): ‘We kunnen onze digitale ambities alleen waarmaken als we beschikken over voldoende digitaliseringskennis binnen de overheid’.

Om de basiskennis over Generatieve AI op niveau te krijgen, organiseerden RADIO en DGABD de afgelopen periode vier keer een vier uur durende stoomcursus voor topambtenaren met Jurriaan Raaijmakers, AI team Lead bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. De belangstelling was groot; in totaal volgden 355 topambtenaren de cursus. De laatste keer kon de cursus ook via livestream gevolgd worden.

In hoog tempo neemt Raaijmakers zijn toehoorders mee in de ontwikkeling die AI doormaakt deze jaren. Met de komst van ChatGPT is een AI-explosie op gang gekomen, vertelt hij. Ondertussen ontwikkelen de taalmodellen zich tot AI-agents die als digitale collega’s ingezet kunnen worden. Een volgende stap ligt ook al in het verschiet, namelijk dat die digitale collega’s met elkaar gaan communiceren en samenwerken. Zijn presentatie gaat gepaard met diverse complexe schema’s over hoe zaken gefaseerd moeten worden of met elkaar samenhangen, volwassenheidsmodellen en toekomstverwachtingen, die het bestuderen absoluut waard zijn, maar in het korte tijdsbestek van deze cursus waarschijnlijk over de hoofden heen gaan. Of zoals een van de cursisten na afloop reageert: ‘Dieper begrip is wel nodig om de kansen en risico’s van beleidstoepassingen in te kunnen schatten en een goede strategie hierop te ontwikkelen.’

Generatieve AI

Generatieve AI kan tekst en afbeeldingen genereren, maar ook video’s maken, spraak imiteren, vertelt Raaijmakers. Dat biedt enorme kansen, maar brengt ook veel risico’s met zich mee. Wie zich daar niet van bewust is, kan flink de mist ingaan. Hij citeert een uitspraak van Eliezer Yudkowsky, een Amerikaanse auteur over beslissingstheorie en ethiek: ‘Verreweg het grootste gevaar van kunstmatige intelligentie is dat mensen te vroeg besluiten dat ze het begrijpen’. In ieder geval is het van belang te weten dat verschillende LLM’s ook verschillend getraind zijn. In het taalmodel van Copilot en ChatGPT bijvoorbeeld zijn Nederlandse waarden en informatie niet verwerkt. ‘Kun je dan wel Nederlands beleid ontwikkelen op basis van een LLM?’, vraagt Raaijmakers zich hardop af. ‘Daarvoor zul je je eigen expertsystemen moeten bouwen; de basis moet goed zijn.’

Samenwerken met digitale collega’s

Zeg niet: ik wil een chatbot, maar richt je op de werkprocessen die gaan veranderen. ‘In de nabije toekomst gaan mensen samenwerken met digitale collega’s.’ Met de technologie van vandaag hoeven organisaties niet zomaar meer nieuwe fte’s aan te trekken als het werk te veel wordt. De nadruk komt te liggen op de efficiëntie van werkprocessen en de mogelijkheden die AI biedt om het proces te ondersteunen.

Er kan al veel…

Er kan al veel, heel veel. Hij laat zien hoe met AI andere vormen van communicatie ingezet kunnen worden om een 120 pagina’s tellend rapport te presenteren. Bijvoorbeeld als stripverhaal. ‘Er zitten nog spelfoutjes in’, geeft hij toe, ‘maar het is al een mooi, begrijpelijk beeld.’

… maar de risico’s zijn groot

LLM’s kunnen hallucineren. Met SORA van OpenAI kun je met een foto van je gezicht deepfake-porno-video’s maken. Met drie seconden audio kun je iemand alles laten zeggen. Hoe gaan we hiermee om? Raaijmakers laat een korte video zien waarin de secretaris-generaal van BZK zijn CIO 10 miljoen euro belooft. Hilariteit alom.

Vergaderingen opnemen in Microsoft Teams en meteen laten transcriberen. Handig, maar moet je dat wel willen voor bepaalde vergaderingen? Tolken via AI bij de IND? Hier hangt de toekomst van een mensenleven vanaf, dus dat zou je liever toch door een mens laten checken…

Over ethische vraagstukken gesproken. Moeten we het willen dat een chip in het menselijk brein geplaatst wordt om gedachten te besturen? Als het aan Elon Musk ligt, is niks te gek. Zou handig zijn bij verhoren, lacht Raaijmakers, maar daar moeten we nog maar eens goed over doorpraten.

Agent management

Alexander Klöpping vertelde begin dit jaar bij Eva Jinek over zijn AI-gedreven marketingbureau EVA, waarbij verschillende AI-agents een publiciteitscampagne van een boek van Carry Slee opstelden. Raaijmakers laat een stukje van de video zien. Klöpping vertelt hoe elke AI-agent een herkenbare rol vervult: accountmanager, strateeg, copywriter, ontwerper. Ze overlegden, analyseerden en kwamen in recordtempo tot een gezamenlijk resultaat. Wat normaal weken kost, werd nu in enkele minuten gegenereerd.

Indrukwekkend, een mooi voorbeeld van hoe AI ‘mensenwerk’ kan overnemen. Natuurlijk niet helemaal, ‘de kwaliteit is misschien 70 procent’, zegt Raaijmakers, ‘maar het biedt een prima basis om verder uit te werken.’ Wil de overheid iets dergelijks doen, dan heeft ze echter nog een lange weg te gaan, denkt hij. ‘Je moet je data op orde hebben, expertmodellen bouwen en weten hoe je dergelijke agents moet managen.’

1 miljoen

Raaijmakers zelf is bezig met een AI-agent die een Kamerdebat live kan transcriberen, vragen van Kamerleden kan destilleren en conceptantwoorden kan opstellen. ‘Daar zijn nu soms 150 ambtenaren voor nodig.’ Hij heeft al pilots gedaan bij verschillende ministeries (o.a. bij VWS). ‘Geef me 1 miljoen en ik kan het doorontwikkelen tot een betrouwbare digitale collega.’