AI ontwikkelt zich snel en biedt kansen voor de publieke sector. Met welke taken, voorwaarden, eisen en gevolgen moeten bestuurders rekening houden wanneer ze artificiële technologie willen aanschaffen? Zo’n 50 deelnemers werden tijdens een bus-expeditie van PIANOo Expertisecentrum Aanbesteden aan het denken gezet.
Als we het falen van een constructie beter kunnen voorspellen kunnen we ook meer hinder op de weg voorkomen. | Beeld: Barry Hage
Over vijf jaar is er voor overheden allerlei nieuwe technologie op de markt om aanleg en het onderhoud van de buitenruimte – wegen, bruggen, groenvoorziening, riolering – beter en slimmer te maken. Zo’n vijftig projectleiders, beheerders, beleidsmedewerkers, innovatiemanagers en hun inkoopadviseurs namen deel aan de expeditie ‘Buying the Future: AI in de buitenruimte’ voor een inkijkje in de toekomst.
Startup Village Amsterdam
In Startup Village Amsterdam wordt gewerkt aan toepassingen van nieuwe technologie en technologie die zich al aan het bewijzen is in experimenten. Maarten Sukel van gemeente Amsterdam vertelde hoe AI en camera-technologie gebruikt kunnen worden bij beeldherkenning in de openbare ruimte. Jaarlijks komen er bij gemeenten miljoenen meldingen binnen over kapotte stoeptegels, verkeerd geplaatst afval of scheve straatlantaarns. Met AI kan technologie het herkennen van dit soort situaties uit handen nemen, waardoor meldingen voorkomen worden. Het principe kan ook werken bij identificeren van plekken die bijvoorbeeld rolstoeltoegankelijk moeten worden.
Er lopen al pilots met het geautomatiseerd herkennen van beelden.
Zo’n proactieve werkwijze met meldingen op basis van AI is geen toekomstmuziek. Er lopen al pilots met het geautomatiseerd herkennen van beelden. De jonge bedrijven in Startup Village, waaronder Braincreators en Oddity, onderstreepten dat. Zij lichtten toepassingen voor beeldherkenning toe zoals ‘digitale inspecteurs’ die menselijke toezichthouders assisteren met het vastleggen van gewelddadige incidenten. Ook vertelden ze over hulpmiddelen die automatisch de status en kwaliteit van elk oppervlak kunnen beoordelen, herkennen en classificeren. Dat zou in de toekomst bij onder meer de inspectie van wegen en bruggen in te zetten zijn.
Digital twins
In Den Haag bevindt zich de 3600 medewerkers tellende TNO-locatie op de Waalsdorpervlakte. Daar lichtte Chief Scientific Officer Peter Werkhoven een aantal AI-onderzoeken toe. “Fundamentele kennis over AI is gruwelijk hard nodig, maar het toepasbaar maken ervan ook. En dat gebeurt bij TNO.” De toonaangevende organisatie werkt aan robots, maar ook aan de ontwikkeling van digital twins; de digitale weergave van objecten als gebouwen, wegen of zelfs complete steden.
Digitale representaties van objecten worden steeds nauwkeuriger.
“Met digital twins kunnen we simulaties maken en daardoor voorspellen welke acties er in de toekomst nodig zijn voor bijvoorbeeld onderhoud”, aldus Werkhoven. De ‘predictive digital twin’ is zich als een olievlek aan het verspreiden in organisaties, vertelde TNO-professor Arjen Adriaanse, die de deelnemers bijpraatte over de impact ervan op de gebouwde omgeving. Digitale representaties van objecten worden steeds nauwkeuriger, omdat er steeds meer informatie over levenscyclussen van materialen en constructies wordt toegevoegd. “Dankzij het voorspellende vermogen van AI weten we beter wanneer bruggen of viaducten gerepareerd moeten worden of zelfs vervangen. En als we het falen van een constructie beter kunnen voorspellen kunnen we ook meer hinder op de weg voorkomen.”
Zelfrijdende auto bestaat niet
Maar bij acties op basis van betrouwbare voorspellingen komen nogal wat uitdagingen kijken. De technologie is niet zomaar klaar voor gebruik. Dat werd duidelijk uit de presentatie van TNO-professor Automated Vehicles and Human Interaction Marieke Martens over zelfrijdende auto’s. “Door zelfrijdende voertuigen wordt alles beter: ongevallen worden vermeden, het milieu wordt gespaard, er zijn geen parkeerplaatsen meer nodig”, schetste Martens de belofte. Waarna ze een kaart van de stad Amsterdam toonde die helemaal vastloopt door falende zelfrijdende auto’s. “We zijn dus nog lang niet bij het punt dat alles beter is. Om de zelfrijdende auto mogelijk te maken zal alle infrastructuur op de schop moeten en wetgeving moeten worden aanpast, waardoor een mens als back-up operator niet meer nodig is.” En intussen wordt ook gekeken naar wat het betekent voor de maatschappij. “We moeten nadenken over wat we willen dat de voertuigen kunnen en mogen. En hoe we dat doen. Moeten we programmeurs opdragen om ethische keuzes te programmeren? Moeten wij eerst voldoende menselijke data verzamelen waarmee we uiteindelijk ethische systemen kunnen ontwikkelen, zoals Elon Musk oppert?”
Overheidstaken zullen grotendeels worden overgenomen door andere partijen.
Volgens Martens is het zaak om nieuwe samenwerkingen op te zetten tussen industrie, overheid en ICT-serviceproviders. “Er gaat een enorme verandering plaatsvinden voor de overheid; taken zullen grotendeels worden overgenomen door andere partijen. Of en hoe we dit willen, daarover moeten we nu al goed nadenken. Ontwikkelingen gaan steeds sneller, waardoor plannen een korte cyclus hebben. Werken met een visie op infrastructuur voor de komende dertig jaar is niet meer van deze tijd.”
Confrontatie met ethiek
Nieuwe technologie kan levens gaan redden, zo bleek bij een tentoonstelling van een drietal drones in de buitenruimte. De KNRM (Koninklijke Nederlandse Redding Maatschappij) hoopt in 2025 al een drone in te kunnen zetten die met behulp van kunstmatige intelligentie drenkelingen op zeer grote afstand kan opsporen. AI ziet immers meer dan een mens. “Men vraagt altijd: kan het snel, slim én goedkoop?”, aldus een betrokken TNO-onderzoeker. “En dat kan. Maar de weg daar naartoe is lang.” De software van een drone die zelf drenkelingen opspoort moet eerst getraind worden om ‘slim’ genoeg te zijn. Vervolgens moet de mechaniek van het apparaat zelf goed werken, ook daarvoor moet uitgebreid getest worden. Uiteindelijk moet het zelfs in barre weersomstandigheden met grote windkrachten in de lucht blijven hangen. Het is met name belangrijk dat wetgeving genoeg meebeweegt met de ontwikkelingen. “Op dit moment is het nog niet toegestaan om te testen zonder een piloot die toezicht houdt, maar ook dat moment gaat komen.”
“We moeten definiëren waar de systemen aan moeten bijdragen en die systemen ook daarop kunnen afrekenen.”
Er ligt momenteel een Europees voorstel voor AI-regelgeving op tafel, maar veel is nog onduidelijk. Met name over de ethische aspecten van de inzet van AI. Marieke Martens gaf aan dat bij het gebruik van AI alle scenario’s moeten worden vastgelegd. “We moeten definiëren waar de systemen aan moeten bijdragen en die systemen ook kunnen afrekenen daarop, in plaats van dat we programmeurs ontslaan die in opdracht van hun baas programmeren. Je moet als overheid zélf je verantwoordelijkheid nemen.” Werkhoven benadrukte dat technologie de samenleving dwingt om ethiek kwantificeerbaar te maken. “En die confrontatie hebben wij nooit eerder in de geschiedenis meegemaakt.”
Pas op
Op de Haagse campus van Universiteit Leiden neemt Tycho de Graaf, universitair hoofddocent gespecialiseerd in e-law, de deelnemers mee in het aanbesteden van AI en de regels die daar nu voor gelden. In Europa wordt nog hard gewerkt aan een nieuwe set eisen en regels voor AI. Gemeente Amsterdam is één van de eerste organisaties die al eigen contractvoorwaarden heeft opgesteld voor algoritmes.
Hoogleraar Matt Young, gespecialiseerd in AI, besprak hoe dataverzamelingen van burgers om bijvoorbeeld fraude te ontdekken in elkaar zitten. “De technisch moeilijkste algoritmes werken vaak het slecht. En de simpelste algoritmes blijken vaak juist heel goed en betrouwbaar te werken. Young raadt aan: “Ga in gesprek met gebruikers, help problemen identificeren voor een institutionele context en onderneem proactief actie.”
Wanneer uitkomsten van computerbesluiten niet kloppen moeten deze problemen niet worden wegstopt, maar juist worden gecentreerd. “Identificeer waar het misgaat, erken problemen en documenteer deze”, aldus Young. “Neem fouten mee als afweging bij gevallen in de toekomst waarin mogelijk ook iets verkeerd gaat. Als mens kunnen wij immers de ethische impact van een computersysteem reduceren.”
“Technologie is niet goed, niet slecht en ook niet neutraal.”
In de afsluitende presentatie gaf emeritus hoogleraar Informatica en Recht Jaap van den Herik nog een belangrijke waarschuwing mee. “Pas op wanneer u technologie inkoopt.” Daarbij refereerde hij aan één van de zes wetten van Melvin Kranzberg: “Technologie is niet goed, niet slecht en ook niet neutraal. Het kan zowel in positieve als in negatieve zin gebruikt worden en onbedoelde gevolgen hebben. Technologie is een hulpmiddel, en de mens heeft aandeel in hoe het gebruikt wordt en hoe het uitpakt.” Juristen en IT’ers begrijpen elkaar volgens Van den Herik niet altijd. “De komende jaren moeten we samen de brug op om het gesprek te voeren.”
Dit artikel werd gepubliceerd in iBestuur #43 van juli 2022
Community of Practice
Op 13 september start PIANOo een Community of Practice over de inkoop van digitale innovaties. In een eerste online sessie gaat het over de drijfveren voor digitale innovaties, met presentaties van de WRR en Gemeente Rotterdam. Eén van de sprekers is Haroon Sheikh, projectcoördinator WRR-rapport ‘AI als de nieuwe systeemtechnologie’
