Kunstmatige intelligentie (AI) gaat ons leven fundamenteel veranderen. 'Keer op keer blijkt dat de digitalisering van onze samenleving niet of onvoldoende politiek wordt gemaakt. De overheid laat het op zijn beloop', stelt WRR-voorzitter Corien Prins in de Volkskrant. Vanmiddag presenteert ze het nieuwste rapport over AI op het ECP Jaarfestival. Minister Stef Blok van EZK neemt het rapport in ontvangst.
Beeld: Shutterstock
AI wordt gebruikt in uiteenlopende toepassingen: van gezichtsherkenning tot vertaalapps, van medische diagnoses tot anticiperen op criminaliteit, en van fraudebestrijding tot het beïnvloeden van wat we kopen, lezen en stemmen. En dat is nog maar het begin. Als Nederland zich op deze fundamentele verandering niet goed voorbereidt, is er niet alleen het risico dat kansen worden gemist, maar ook dat de samenleving opgescheept wordt met een technologie die onze belangen niet dient.
AI moet worden begrepen als een nieuwe systeemtechnologie
AI kan als technologie door de hele economie en samenleving voor allerlei doelen gebruikt worden. Dergelijke technologieën hebben een grote impact, die bovendien uiterst onvoorspelbaar is, stelt de WRR. ‘Hoe groot mag de rol van AI zijn? Daar moet je strategisch over nadenken’, zegt Corien Prins. ‘De overheid moet zich niet alleen richten op acute vraagstukken, maar een strategische langetermijnvisie ontwikkelen. Het gaat er namelijk om hoe we onze samenleving willen inrichten.’
Vijf opgaven
Demystificatie: waar gaat het over?
De beeldvorming over AI is vertekend door misplaatste angsten en overspannen verwachtingen. AI is geen kwaadaardige robot maar ook geen oplossing voor alles. Een realistische beeldvorming (demystificatie) helpt teleurstellingen voorkomen en kan ervoor zorgen dat burgers de goede kanten van de technologie durven omarmen. Algoritmeregisters kunnen bijvoorbeeld het brede publiek inzage geven in AI-gebruik en daarmee het debat over AI stimuleren.
Contextualisering: hoe gaat het werken?
AI vereist aanzienlijke veranderingen op de werkvloer, in de vaardigheden van werknemers en de bredere technische omgeving. Op dergelijke aanpassingen moet dus ook voldoende worden ingezet om te zorgen dat de technologie in de praktijk gaat werken. Daarbij is het belangrijk dat Nederland inzet op een eigen ‘AI-identiteit’, bijvoorbeeld op het terrein van logistiek en landbouw.
Engagement: wie moeten er betrokken zijn?
|Er is maatschappelijk tegenspel nodig om te voorkomen dat de belangen van grote bedrijven dominant zijn bij de ontwikkeling van AI en sommige bevolkingsgroepen worden uitgesloten. Het maatschappelijk middenveld moet daarom worden betrokken (engagement). De overheid kan hieraan bijdragen door een goede terugkoppeling te organiseren tussen de ontwikkelaars van AI, de gebruikers en burgers die er de effecten van ondervinden.
Regulering: wat voor kaders zijn nodig?
De overheid moet de kaders scheppen waarbinnen AI zich ten goede kan ontwikkelen (regulering). Regulering van AI is nodig om te verhinderen dat de gevaren van massasurveillance en machtsconcentratie de positieve bijdrage van AI gaan overschaduwen. Het is urgent dat de overheid een visie ontwikkelt op onze digitale leefwereld.
Positionering: hoe verhouden we ons internationaal?
Ten slotte is ook de internationale positie van Nederland in het geding. Het is nodig om het verdienvermogen en de veiligheid van ons land te garanderen, in een wereld waarin AI steeds belangrijker gaat worden (positionering). Nederland moet in samenwerking met andere Europese landen AI-toepassingen en een goede infrastructuur voor AI ontwikkelen en zich inzetten voor wereldwijde regels en standaarden vanuit een geïntegreerde ‘AI-diplomatie’.
.
AI coördinatiecentrum
Elke systeemtechnologie vergt van de overheid op een breed terrein een grote en langdurige inspanning. Om dit goed te laten verlopen is een bijbehorende, nieuwe beleidsinfrastructuur noodzakelijk, die niet alleen ambtelijk maar vooral ook politiek is verankerd. Een belangrijke eerste stap daartoe is het opzetten van een ai-coördinatiecentrum. Dat is belangrijk als platform voor kennis uit de overheid en daarbuiten, om nieuwe vraagstukken te signaleren en om bij te dragen aan het uitwerken van de andere aanbevelingen. Politiek dient er een ministeriële onderraad te komen waarin het coördinatiecentrum is opgenomen.
In haar artikel in de Volkskrant en ook in dit artikel legt Corien Prins een gevoelig punt bloot in de benadering van ICT door de overheid. Die is vooral korte termijn en ad hoc gedreven. Althans zo lijkt het voor mij als relatief onbevangen toeschouwer.
ICT zit inmiddels in de haarvaten van onze maatschappij. Vrijwel geen proces wordt er niet door geraakt of is er niet van afhankelijk. Tegelijkertijd ontwikkelt de ICT zich autonoom en kiest telkens weer nieuwe toepassings- en verschijningsvormen: soms duidelijk zichtbaar maar steeds vaker ook ‘embedded’. Het overzien van dit geheel is een vrijwel onmogelijke opgave. Dat geldt nog meer voor het beheersen ervan. Met iedere nieuwe toepassing groeit de complexiteit. Laat je dat ongefilterd toe in je processen, dat is de indruk die ik steeds meer krijg, dan worden ook die processen steeds complexer. En waar dat toe leidt is dagelijks te zien in de verschillende affaires waarmee nieuwsrubrieken, kranten en talkshows worden gevuld.
AI is een bijzondere verschijningsvorm van ICT doordat het tegelijk omvattend en qua impact ingrijpend is. Omvattend omdat het van veel data en feiten gebruik maakt, die combineert en interpreteert en verwerkt tot nieuwe informatie. En ingrijpend doordat het vanuit die zo gegenereerde informatie nieuwe en tot dan toe ongekende interventies mogelijk maakt.
Alleen al daarom is het van belang om de aanbevelingen van WRR uit haar jongste rapport goed ter harte te nemen. Maar of dat ook gebeurt? Vanaf 1998 waarschuwt de WRR nadrukkelijk voor de effecten van verdergaande digitalisering. Het zijn stuk voor stuk interessante en lezenswaardige rapporten. Veel is er niet mee gedaan. De complexiteit in het ICT landschap groeit steeds verder en daarmee neemt ook de onbestuurbaarheid van veel van de processen, die ervan afhankelijk zijn, toe.
De overheid heeft op dit punt een voortrekkersrol. Zij zou mij als burger het referentiekader moeten bieden om te bepalen wat ik wel en niet moet doen als het gaat om zaken als het delen van mijn persoonlijke informatie, het gebruik van internet, het uitwisselen van berichten.
Om die rol te kunnen waarmaken mag ik van mijn overheid verwachten dat zij een op de langere termijn gerichte ICT visie heeft, niet versnipperd per rijksdienst of decentrale overheid, maar integraal. Vandaar uit kan dan beleid worden gemaakt en wordt het mogelijk om nieuwe ontwikkelingen te toetsen op impact en bruikbaarheid. Zo kan ook de samenhang tussen de verschillende toepassingen van ICT worden bepaald.
Daarmee krijg je zeker geen absolute controle over al die ontwikkelingen zoals AI, die continu verder ontwikkelen, maar je creëert wel meer ruimte om ze te positioneren en qua effecten te duiden. Op basis daarvan kan zij dan beleid maken en de toepassing in de verschillende werkprocessen invullen. Dat vraagt om minder laissez faire en meer actief handelen van onze bestuurders en topmanagers. Dat kan dan ook doorklinken in de toepassing van ICT. De complexiteit van veel processen kan zo worden gereduceerd en er ontstaan nieuwe kansen voor een rijkere en meer inclusieve maatschappij.
Beste Hans,
Je hartenkreet is, net als de repeterende waarschuwingen van de WRR, begrijpelijk. De werkelijkheid anno 2021 is echter dat degenen van wie die, ook naar mijn mening absoluut noodzakelijke, duidelijke lange termijn ict-visie zou moeten komen, nog niet in staat zijn daarover een visie te ontwikkelen die reikt t/m de volgende week. Politiek en overheid hebben nauwelijks benul van de potentiële verworvenheden en bedreigingen van kunstmatige intelligentie en de wetenschap ontbeert het aan geld en (dus) onafhankelijkheid om daar zinnige dingen over te zeggen. Onvermijdelijk gevolg daarvan is dat momenteel vooral grote techbedrijven met de (door)ontwikkelingen van kunstmatige intelligentie bezig zijn. Dat kunnen ze bovendien vrijelijk doen omdat het vooralsnog ontbreekt aan regelgeving en een onafhankelijke controle van buitenaf. Het zal ook niet helemaal voor niets geweest zijn dat kenners als Hawking, Gates en Musk al veel eerder op de grote risico’s van een ongecontroleerde ontwikkeling van kunstmatige intelligentie hebben gewezen (zie mijn blog op iBestuur van 22 december 2016). Daar is, hun expliciete waarschuwingen en die van de WRR ten spijt, veel te weinig mee gedaan. Van de (te grote) speelruimte die daardoor kon ontstaan wordt bovendien regelmatig dankbaar gebruikt door wetenschappers die tal van nieuwe onderwerpen aandragen die zich “goed zouden lenen” voor het gebruik van kunstmatige intelligentie. Mijn specifieke belangstelling daarvoor en zorg daarover gaan qualitate qua met name uit naar onze rechtspraak die, mogen we sommige bèta-wetenschappers geloven, ook eenvoudig volledig zou kunnen worden geautomatiseerd. Een om meer dan een reden buitengewoon slecht idee dat niet in de laatste plaats lijkt te zijn ingegeven door een overduidelijk gebrek aan kennis van wat rechtspraak inhoudt. Desalniettemin kan zo’n idee gemakkelijk in vruchtbare aarde vallen bij politici die per definitie eerst en vooral geïnteresseerd zijn in gesuggereerde kostenbesparingen en efficiencywinsten. Om ongelukken en onherstelbare maatschappelijke schade te voorkomen is die door de WRR bepleite lange termijn ict-visie, met daarin dan wel ook graag ruime aandacht voor sociale en ethische aspecten, van kunstmatige intelligentie inderdaad hard nodig. Rest de prangende vraag wie daarvoor dan (wel) gaat zorgen…..