Rathenau Instituut: “Kabinet: stop met het overschatten van de kansen van digitalisering”
Ondanks tal van initiatieven slaagt de overheid er niet in om de uitdagingen van de digitale samenleving voldoende het hoofd te bieden. Het komende kabinet moet het tij keren. Hoe? Stop met het overschatten van de kansen van digitalisering, en het onderschatten van de risico’s, betoogt het Rathenau Instituut.
Beeld: Shutterstock
Dat digitale technologie de samenleving voor enorme uitdagingen stelt, erkennen politici en beleidsmakers inmiddels wel. Maar het is tot dusver niet gelukt om deze dreigingen voldoende het hoofd te bieden. Het thema cyberveiligheid staat al jaren op de agenda, maar onze digitale netwerken zijn er niet veiliger op geworden. Of neem duurzaamheid: het kabinet streeft al jaren naar een samenleving die zowel duurzaam als digitaal geavanceerd is. Hoe die twee moeten samengaan, is nog steeds onduidelijk. Er ligt dus een urgente vraag op de formatietafel: hoe zorgen we ervoor dat de digitale samenleving over vier jaar écht veiliger, duurzamer, gezonder en menselijker is?
Computers zijn goed in het beheersen van de regels van een spel als Go, maar niet in het voorspellen van sociale uitkomsten.
Allereerst zal een nieuw kabinet gebaat zijn bij wat Hollandse nuchterheid over de mogelijkheden van digitale technologie. Sommige digitale technologieën, zoals de analyse van medische scans en spraakherkenning, boeken onmiskenbaar vooruitgang. Maar die successen zijn doorgaans in helder afgebakende omgevingen. Computers zijn goed in het beheersen van de regels van een spel als Go, maar niet in het voorspellen van sociale uitkomsten, zoals wie succesvol wordt in een nieuwe baan. Juist in zo’n dynamische sociale omgeving vallen de prestaties van digitale technologie keer op keer tegen.
Daarnaast moet een nieuw kabinet niet in de val trappen om digitale technologie naar voren te schuiven als dé oplossing voor bepaalde problemen. Het enthousiasme waarmee de corona-app vorig jaar werd aangekondigd was onterecht, omdat het contactonderzoek en vervolgacties niet op orde waren. Een app zonder context is nooit de silver bullet voor het tegengaan van een epidemie. Digitale technologie is pas deel van de oplossing als deze verstandig ingebed wordt in complexe praktijken als de zorg en het onderwijs. De overheid moet hier de criteria formuleren. Te meer omdat digitale innovaties niet zonder risico’s zijn.
Een nieuw kabinet moet dan ook meer oog hebben voor de ingrijpende manier waarop digitale technologie onze levens verandert.
Helaas worden die risico’s nog vaak onderschat. De afgelopen jaren is er gelukkig meer aandacht gekomen voor privacy, veiligheid en non-discriminatie. Maar voor de verdergaande effecten van digitale innovaties is nog steeds te weinig oog. Digitale sollicitatiesystemen beïnvloeden de relatie tussen werknemers en werkgevers, en de inzet van slimme leermiddelen verandert de manier van lesgeven en de interactie in de klas. Over dit soort wezenlijke effecten is veel te weinig discussie. Systemen die veilig en privacy vriendelijk zijn, kunnen immers nog altijd leiden tot een onwenselijk aannamebeleid, of een verstoorde relatie tussen leerling en leraar.
Een nieuw kabinet moet dan ook meer oog hebben voor de ingrijpende manier waarop digitale technologie onze levens verandert. Dat betekent ook: op tijd durven regels en randvoorwaarden op te stellen om digitale technologie in goede banen te leiden. Overheden op verschillende niveaus hebben de afgelopen jaren vaak te laat ingegrepen. Laten we eerlijk zijn: de ondermijnende invloed van de grote platformbedrijven op de democratie en de economie, is te lang op zijn beloop gelaten. Ook de komende jaren krijgt de samenleving te maken met digitale toepassingen die op gespannen voet staan met mensenrechten – zoals AI-systemen die proberen onze emoties uit te lezen of ons op afstand identificeren.
Verantwoorde innovaties vragen om het tijdig innemen van stevige, heldere posities – door een nieuw kabinet én door volksvertegenwoordigers. Waar nodig zullen ze ook de uitrol van ongewenste toepassingen moeten stoppen. Anders blijven we in de digitale samenleving dweilen met de kraan open.
Jurriën Hamer en Linda Kool werken als onderzoeker bij het Rathenau Instituut, Melanie Peters is er directeur. Het Rathenau Instituut publiceert binnenkort een rapport met een visie op digitalisering voor het kabinet.
Dit doet mij denken aan een hoofdstuk dat ik ca. 40 jaar geleden in de afscheidsbundel voor mijn toenmalige hoogleraar bij het mathematische Centrum (nu CWI) heb geschreven en waarin de stelling werd geponeerd dat de ontwikkeling en toepassing van mathematische beslissingsmodellen alleen gerechtvaardigd is wanneer die gesteund worden door de sociale werkelijkheid. Niet andersom. Toen een reactionair standpunt.
Alle technologie is politiek (Marshall McLuhan), dus de belangrijkste opgave voor de Politiek wordt: beken kleur! Wees duidelijk! Komt de digitalisering ten goede aan de Staat of aan de Natie? De juridische, uitkerings- en bedrijfsmodellen zijn namelijk heel verschillend, al naar gelang de gemaakte keuze. Niets doen is nl. ook kiezen. De maatschappelijke realiteit is dat data snel te combineren is geworden, dus top down aansturing is niet echt realistisch meer. Vooralsnog is alle IHH per Ministerie nog bedoeld BINNEN de organisaties van elke Minister, terwijl de maatschappelijke realiteit is dat de data stroomt TUSSEN organisaties en de meeste data niet eens van de Staat zijn, terwijl de Bestuurder dankzij GDPR/AVG al wel datavoortbrengingsketen verantwoordelijkheid draagt (zonder dat Data Governance is ingericht).
Motor rijden met een blinddoek om. Verantwoordelijk zijn voor een lekke emmer.
Neem nou een door de Staat uitgegeven identiteit. Dat moet een hoge acceptatie en gebruikspercentage hebben, anders heeft het token weinig waarde, vergeten mensen waar ze zijn en hoe ze ze moeten gebruiken. (vb DigID voor de DigID app) Zo kan een Staat alsnog geen grote besparingen realiseren en moet er nog steeds veel handmatig om nog enige acceptatie te behouden. IDs echter die commerciële processen ondersteunen (bijv. KYC, AML, bedrijfsbeheer, contractondertekening, volmacht) worden juist zeer gewaardeerd en gebruikt, helemaal als ze ook grensoverschrijdend kunnen worden gebruikt. (vb Estlandse e-Residency ID) Mobiele IDs leveren nog meer mogelijkheden, verlagen de bedrijfskosten en zijn nog veiliger, maar dat krijgt geen Staat van de grond (corona app, EU corona paspoort app). Bottom line: overheden MOGEN vaak digitale zaken die ze niet goed kunnen en commerciële platforms KUNNEN allang digitale kunstjes die ze (juridisch/ethisch) niet mogen. Tel daarbij dat mandaat/budget gestuurde inkoop vrijwel automatisch tot puntoplossingen voor deelvraagstukken leidt en de boel blijft suboptimaal zonder integrale Visie. Het beste wat de overheid daarom kan doen is minimale architectuurprincipes en industriebrede compliance frameworks onder Staatsbrede Data Governance afdwingen, al was het maar ISO 8000 voor data kwaliteit en het borgen van elke dienst met een duidelijke eigenaar. Keep it simpel en loop vooral niet in de weg. Wat het Rathenau Instituut niet benoemt maar wel impliceert is een integrale Systeemverandering van Panoptisme naar Holoptisme. Onontkoombaar met de doorbraak van de 4e 4n 5e Industriële Revolutie, maar niet zonder groeipijnen. Interessante tijd!
Mooi verhaal. Krachtig.
Bij Dragon1 Education zijn we bezig met het ontwikkelen van een digitale basisschool voor alle kinderen in de wereld, om te beginnen in Suriname, daarna in Indonesie en daarna in Nederland. Pilot website: http://www.schooltv.sr
Ook zijn we bezig met het ontwikkelen van een open opleidingenplatform gericht op mensen wereldwijd leren hoe ze ziekenhuizen en zorginstellingen moeten schoonmaken (ter voorkoming van infectie enzo).
Overal maken we gebruik van wetenschappelijke micro learning principles die we zelf hebben ontwikkeld. We verenigen zo educatieve kennis, kennis over het menselijk brein en kennis over internet. Het resultaat is dat we kansongelijkheid gaan opheffen.
De mogelijkheden van technologie zijn mega krachtig, maar het gaat om de praktische toepassing: het hoe.
Een les die wij geleerd hebben is: denk groot maar begin klein. Werk iteratief en gooi af en toe een idee dat niet blijkt werken voor even in de prullenbak tot dat je verder bent gekomen. Maar ook: durf alles wat je nu normaal vindt los te laten en echt grenzen over te gaan. En: test,test,test,test! De product/market fit bijft heel belangrijk.
Groet, Mark Paauwe, +31 6 284 17 269
Mooi gezegd: “…..Een app zonder context is nooit de silver bullet voor het tegengaan van een epidemie. Digitale technologie is pas deel van de oplossing als deze verstandig ingebed wordt in complexe praktijken als de zorg en het onderwijs…..”
In mijn promotie onderzoek in 2007 met als thema “Governance in de praktijk van de CIO” heb ik precies dit in beeld gebracht. Wat is de samenhang van sociale processen, technologie, culturele waarden, de operationele spelregels (organisatie) en de context. Succes van een app is pas gerealiseerd als de operatie daaromheen overeenkomstig werkt, de spelregels de ruimte bieden en de maatschappelijke context er rijp voor is. Helaas is dit mensenwerk, en individuele voorkeuren of culturele groepen zullen veel wat achter een bureau verzonnen is in de war sturen. Spelregels zullen vaak achter lopen en een beperking vormen.
De zorg sector (en met name VWS, NzA en ZI) ) zou ook goed naar dit rapport moeten kijken. Bestaande spelregels kunnen effectiviteit van heel waardevolle apps volledig blokkeren, en tegen beter weten in hopen op sociale processen die het wel oplossen is toch wel beetje naïef. Helaas is dit nu wel de dagelijkse praktijk. Als structuren niet de ruimte aan sociale processen geven, zal ook in de zorg effectieve digitalisering op schaal nooit van de grond komen. De overheid en de politiek kan daar zelf wat aan doen! Dit uitvoerbaar maken vraagt om vaardigheid om de bottlenecks op te zoeken, en de transformatie in uitvoerbare plannen aan te pakken. Dit vraagt om transformatie op verschillende niveaus – politiek; strategie; structuur en operatie. In de afgelopen decennia zijn voldoende effectieve methodes ontwikkeld om dit uitvoerbaar te maken. Helaas, is de complexiteit in de besluitvorming op bestuurlijke niveaus groot en de risico’s en beperkingen inzichtelijk maken heel lastig. Het levert echt op om hier transformatie adviseurs en enterprise architecten bij te halen die dit ondersteunen. Ik hoop dat het kabinet het Rathenau advies heel serieus neemt, en omzet in enkele principes waarlangs de transformatie in de zorg ingezet zal worden.
Het leven is analoog, niet digitaal. Verbazend dat er mensen zijn die denken dat het anders is. De natuurkunde is veranderd van weten hoe het zit op basis van enkele wetten in een probabilistische benadering vol met onzekerheden en nuancen. Zie bijvoorbeeld ‘Probabilities in Physics’ van Claus Beisbart and Stephan Hartmann.
Programmeurs zijn er inmiddels wel achter dat niet alle data zijn zoals een simpel telefoonboek en dat goede IT ‘linked data’ vereist en meer dan platte anthologieën. Bioportal heeft meer dan 800 daarvan verzameld voor de geneeskunde en biologie. Er is meer dan 80 jaar aan de Oxford dictionaire gewerkt, Snomed-CT bevat inmiddels meer dan 1.500.000 geneeskundige termen, die met heel veel pijn en moeite vertaald kunnen worden in de andere 130 talen op de wereld. Alles begint met taal en we zijn nog maar net begonnen met de 130 talen in kaart te brengen om goed te kunnen communiceren, laat staan dat we alles kunnen ‘digitaliseren’.
In de zorg hebben wij ervaren dat de imperfecties van de IT ernstig zijn en dat de zorgmedewerkers verslaven als datapluggers met zeer ernstige gevolgen. Immers, de cognitieve belasting veroorzaakt cognitieve defecten die leiden tot ongevallen, slechte relatie met de patiënten en medewerkers, en burn-out. Het boek ‘Emotional and cognitive Overload. The Dark Side of Information Technology’ van Rutkowski en Saunders bespreekt wat het probleem met de IT nu is. Het probleem is niet de digitalisering maar het amateurisme van beleidsmakers met ervaring en beperkte kennis.
Er is gelukkig een oplossing, nl. laat de echt-deskundigen de beslissingen nemen, niet de, zoals Remkes dat noemt ‘Als er aan een bestuurstafel een zonnekoning gesignaleerd wordt, dienen er alarmbellen af te gaan.’ (NRC). Dan is er hoop op goede dijken, goede pandemiecontrole, goed onderwijs en een betere wereld. Goed besturen is ook net zo min digitaal als geneeskunde, onderwijs en waterbeheersing.