Negen tips om veilig en bewust het AI-tijdperk in te gaan

‘Digital transformation requires a governmental transformation’. Deze boodschap resoneerde op het recente Gartner IT-congres in Barcelona. Waarin zit die digitale transformatie? In de definitieve doorbraak van Artificial Intelligence (AI). Elke overheidsorganisatie moet ermee aan de slag, AI is niet langer ‘iets van Europa’. In dit artikel negen tips.

Op 2 november 2023 werd Max Welling, een autoriteit op het terrein van kunstmatige intelligentie, geïnterviewd in het FD. De kop van het artikel loog er niet om: ‘AI streeft mens voorbij qua intelligentie’. Een dag later luidde het hoofdredactioneel commentaar van NRC: ‘Omgang met AI zal toekomst extreem beïnvloeden.’ Om drie dagen later in NRC te lezen dat één van de prominentste AI-experts ter wereld, Stuart Russell, overheden nog twaalf maanden geeft. Als zij zich dan niet gewapend hebben tegen AI, dan dreigt het totale verlies aan controle over onze financiële systemen.

De hype voorbij

De moraal van deze artikelen? We zijn de hype voorbij. Of we nu willen of niet, AI is here to stay. We voelen inmiddels aan den lijve dat AI een, zoals de WRR het noemde, ‘systeemtechnologie’ is. Een technologie die maar eens in de honderd jaar voorkomt en dan de hele wereld op zijn kop zet. En juist deze gedachte verlamt. Oók overheden. Daarin schuilt een groot risico.

AI is groot en ongrijpbaar. En is daarmee voor veel overheden een ver-van-mijn-bed-show. Zij vragen zich af: wat nu? Desinformatie, deep-fakes, vergroting van de ongelijkheid, de grip op de grote tech-bedrijven, het vervalsen van de verkiezingen, het namaken van stemmen: dat is toch allemaal iets voor Europa? Jazeker, gelukkig hebben we de Europese Commissie met haar AI-Act. En gelukkig zijn sommige handhavingsorganisaties zoals de politie, een aantal grote gemeenten, de waterschappen en een handjevol provincies ook actief. Maar de overgrote meerderheid van overheidsorganisaties staat erbij en kijkt ernaar. Deze groep kent een collectieve handelingsverlegenheid. Deze moet omgezet worden in een positieve houding.

Negen tips

Daarom hierbij negen tips. Niet om een filosofische discussie te starten over de toekomst van de mensheid. Maar gewoon praktisch. Voor overheidsorganisaties die zich het hoofd buigen over de vraag wat ze met AI ‘moeten’. Of die zich dat hoofd niet buigen, maar gewoon wakker geschud moeten worden.

Misschien overbodig maar toch: zorg dat uw beveiliging op orde is. Bedenk daarbij dat technologieën zelden alléén komen. We hebben het over AI, maar op dit moment klopt ook de kwantumtechnologie al aan de poort. Naar verwachting zijn kwantumcomputers over vijf tot tien jaar in voldoende mate beschikbaar. Zij zorgen voor een ongekende vergroting van de rekenkracht. En zijn dan in staat tot het kraken van veel encryptietechnologie die nu beschikbaar is.

Moet u nu in één keer voor 100 procent op AI overstappen? Door voor al uw maatschappelijke opgaven alle heil in AI te zoeken? Nee, dat moet u vooral niet doen. Daar zijn twee redenen voor. In de eerste plaats omdat niet alle overheidsorganisaties daarvoor de noodzakelijke datapositie innemen. Voor toepassing van AI moet je over grote hoeveelheden data beschikken die ook nog eens van voldoende kwaliteit is. Maar zelfs als u wel aan die voorwaarde zou voldoen, dan nog zou zo’n 100 procent draai niet wenselijk zijn. U moet vooral die datatechnologieën inzetten die uw maatschappelijke opgaven verder brengen. Dat kunnen in voorkomende gevallen ook klassieke monitoringstechnieken zijn. Beetje saai misschien, maar vele malen verstandiger dan dat u krampachtig op zoek gaat naar een probleem dat zich leent voor AI. Blijf dus redeneren vanuit de opgaven, niet vanuit de technologie.

Maar als u dan toch met AI aan de slag gaat: houd dan vooral uw externe omgeving in de gaten. Deze verandert namelijk óók onder invloed van AI. En u heeft die omgeving nodig! Waarom? Omdat u alléén kunt veranderen in en met de context. Een context-loze veranderstrategie bestaat niet. De veranderingen die AI in gang zet, zijn zogezegd eco-systemisch. Welke impact heeft AI op bijvoorbeeld de energietransitie, de mobiliteit en de landbouw? En wat betekent dat voor de rol en werkwijze van overheden? Veel van die veranderingen zijn nu nog nauwelijks voor te stellen. Een scenario-aanpak met veel ruimte voor verbeelding, in koepel- dan wel interbestuurlijk verband, ligt hier voor de hand.

Er wordt al vele decennia gespeculeerd over de impact van technologie op de werkgelegenheid. Staat ons een toekomst te wachten waarin we ons allemaal vervelen? Russell sluit dat scenario niet uit. ‘Uiteindelijk kan, verwacht ik, AI alles wat wij mensen nu kunnen.’ Dit zwarte scenario ontslaat overheden niet van de verantwoordelijkheid om nu in actie te komen. Door vanuit haar rol als goed werkgever de consequenties voor diezelfde werkgelegenheid te doordenken. Deze exercitie hebben we tot dusver altijd voor ons uit geschoven. Dat kan nu niet langer. Bij wijze van vingeroefening kan de suggestie van Brynjollfson, geopperd tijdens het genoemde Gartner Congres, opgepakt worden. Splits alle functies uit naar taken. En bekijk per taak waar AI waarde kan toevoegen. Dat geeft een eerste beeld van de taken die zullen verdwijnen. Misschien valt een groot verlies aan overheidsbanen op enig moment niet te voorkomen. Maar het zou een bloody shame zijn als overheden zo’n verlies zou ‘overkomen’.

Nadat u zich dat eerste beeld van de werkgelegenheidsconsequenties heeft gevormd, ligt meteen een nieuwe opdracht op tafel. Dat is de noodzaak om uw mensen te gaan om-, her- en bijscholen. Dat is natuurlijk razend ingewikkeld. Want welke functies hebben straks nog toegevoegde waarde als AI uiteindelijk alle werk kan overnemen? Wie moet dan nog waarvoor worden omgeschoold? Maar zo ver is het nog niet, als dit scenario überhaupt al ooit bewaarheid wordt. Dat neemt niet weg dat banenverlies dreigt voor zowel de administratieve als adviserende functies. Voor de administratieve functies is dat niet zo’n verrassing. Er wordt al langer rekening mee gehouden dat die op enig moment verdwijnen. Maar de snelle opkomst van de taalmodellen heeft nu ook de beleidswereld wakker geschud. Zijn beleidsadviseurs nog wel zeker van hun baan als je ziet wat ChatGPT nu al vermag? Wat kunnen de taalmodellen over vijf jaar wel niet allemaal? Dezelfde Brynjolffson had daar wel ideeën over. Het gebruik van taalmodellen vereist dat we nieuwe vragen leren stellen. En ons op die manier op een intelligente manier tot de computer verhouden. Met andere woorden: beleidsmedewerkers moeten worden geprikkeld om niet slaafs te volgen wat de computer uitspuugt.

De afgelopen maanden heeft menigeen al geëxperimenteerd met ChatGPT. De koudwatervrees lijkt kleiner dan verwacht, de nodige ambtenaren doen er al ervaring mee op. Overheden doen er goed aan om deze experimenten vrijmoedig te stimuleren. Zoals de provincie Noord-Brabant doet met Sammie: een digitale assistent die medewerkers ondersteunt bij het stikstofvraagstuk. Sammie wordt getraind op de eigen stikstofdata. En Sammie vermeldt ook welke regels en data aan zijn antwoorden ten grondslag liggen.

Het gebruik van AI heeft ook keerzijden. Zo heeft de Interprovinciale Ethische Commissie onlangs een uitstekend advies uitgebracht uitgebracht over het gebruik van ChatGPT. Daarbij wees de commissie bijvoorbeeld op het belang van duurzaamheid. AI slurpt grote hoeveelheden energie. Vroeg of laat zal elke organisatie moeten aangeven waar voor haar de grenzen liggen. Dat type afwegingen kan niet aan individuele medewerkers overgelaten worden. Experimenteren is dus mooi, maar moet op enig moment stollen in ethische kaders. Het is aan besturen om deze vast te stellen.

‘Ik kan me voorstellen dat AI een zetel krijgt in de raad van bestuur van bedrijven. Om vragen aan te stellen, om advies van te krijgen.’ Een suggestie van Max Welling. Deze suggestie is uiteraard niet voorbehouden aan het bedrijfsleven. Waarom kan AI geen zetel krijgen in de ministerraad? En bij colleges, besturen en directies van waterschappen, gemeenten en provincies? De secretaris van deze organen kan ervoor zorgen dat de computer bij elk punt van de agenda advies geeft. Wat een symboliek zou hiervan uitgaan!

Ook als u zelf geen datascientists in dienst heeft die actief met AI aan de slag gaan, komt AI bij elke overheidsorganisatie binnen. Via de veelheid aan tools en applicaties. Zo heeft Microsoft aangegeven dat al haar toekomstige diensten op AI gebaseerd zullen zijn. Te beginnen over een paar jaar met Copilot. Een softwareprogramma dat lange mails kan samenvatten. En desgewenst het antwoord op een binnenkomende mail kan dichten. Bedenk dat u de software van de grote tech-bedrijven niet hoeft te gebruiken. Weeg dat af! Als u de afhankelijkheid van grote aanbieders wilt verminderen, dan kunt u zich oriënteren op alternatieven. Zoals die van de Public Spaces en de Pub Hubs van José van Dijck. Of de op open source gerichte benaderingen.

Tot slot: Transformeer tot in de wortel!

Weleens van het Latijnse woord radix gehoord? Radix betekent wortel. Radicaal is daarvan afgeleid en staat voor ‘tot in de wortel’. Overheden moeten zich openstellen voor een radicaal veranderingsproces. Een transitie zogezegd. Waarom? Omdat de omgeving van overheden inmiddels al vergaand digitaal getransformeerd is. De legitimatie, het bestaansrecht van overheden blijft alléén overeind als zij zelf de vorm van die omgeving aannemen. Dat wil zeggen: als zij zelf ook transformeren. We moeten af van het frame dat we ons verhouden tot AI of, beter, dat we AI adopteren. Neen, we zullen bij het herontwerp van de overheid uit moeten gaan van de enkelvoudige logica van AI en data. In termen van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR): overheden zullen een op publieke waarden gebaseerde AI-identiteit moeten aannemen. Met een daarbij horende AI-wijsheid. Daarin is de dialoog met de samenleving essentieel. Die wijsheid is de bron voor de maatschappelijke meerwaarde.