‘Mag ik daar een schepje pessimisme bij?’

Ruben Boyd

door: Ruben Boyd, 12 juli 2018

Niet een nucleaire aanval – maar een leger gehackte toasters – zijn volgens Michiel van Eeten, hoogleraar Cybersecurity aan de TU Delft het grootste gevaar voor het welzijn en de toekomst van het internet – en daarmee van de mensheid. Zo wist hij te vertellen op de derde editie van het iBestuur Mobility Congres, waar het ondanks de vele utopische vergezichten, langzaamaan duidelijk werd dat moderne technologie vaak complexer is dan we hadden gehoopt.

Het evenement opende met zeer hoopvolle en optimistische woorden van Ger Baron, de huidige Chief Technology Officer van Amsterdam, die vervolgens het woord gaf aan de bevlogen spreker en technologiejurist Arthur van der Wees. Hij hield een vurig pleidooi over de voordelen van smart cities, digitalisering en the internet of things (IoT) en opperde dat we in de EU het voortouw moesten nemen om de transitie naar de toekomst zo snel mogelijk op gang te brengen. Ons kleine landje met uitstekende infrastructuur leent zich daar namelijk uitstekend voor. Als de plannen goed gaan zijn er in 2022 al grote stappen gezet om al onze gemeenten smart te maken. Als toetje bracht staatssecretaris van Binnenlandse Zaken Raymond Knops via Skype een bezoekje om ons op het hart te drukken dat ‘niemand achter gelaten gaat worden’ in deze transitie. We gaan er, hoe dan ook, allemaal op vooruit. ‘You win some, you learn some’, kopte Knops.

De mobiliteit van inwoners verhogen door te investeren in nieuwe technologieën en de stad slimmer en efficiënter maken door alles aan het internet aansluiten – wie kan daar nou op tegen zijn? Zelfrijdende elektrische auto’s, slimme en duurzame energienetwerken – en vooral: alles aan het internet aansluiten. Maar met dat laatste zijn we volgens Van Eeten gevaarlijk terrein aan het betreden. We zijn bezig een globale robot te bouwen, die alles en iedereen met een immense hoeveelheid sensoren waarneemt. Dat kan inderdaad wonderbaarlijk positieve inzichten opleveren en de samenleving efficiënter maken, maar we moeten niet vergeten dat het IoT – de globale robot – nu al zo lek is als een mandje. Zo is de grootste DDoS-aanval ooit, uitgevoerd door een botnetwerk van gehackte IoT-apparaten (denk aan koelkasten, wekkers, stofzuigers en koffiezetapparaten). Alles moet tegenwoordig slim, maar fabrikanten willen doorgaans niet garant staan voor de beveiliging van deze dingen (en consumenten weten niet beter), waardoor ze bijzonder makkelijk te hacken zijn en enorme schade kunnen aanrichten. Er zijn er nu al zo’n 10 miljard aan het internet aangesloten. In 2025 zouden dat er 75 miljard moeten zijn. Maar naast gehackt worden kan het simpelweg vervelend zijn dat je apparaat een internetverbinding heeft, omdat het bijvoorbeeld een automatische update uitvoert waardoor je drone uit de lucht valt of je slimme kolfmachine het een dag niet meer doet.

Goede bedoelingen met gevaarlijke of onvoorziene uitkomsten. Het is daarom goed dat de zevenhonderd medewerkers uit de gelederen van diverse overheidsorganisaties op het congres bij elkaar kwamen om de moeilijke vraagstukken van het digitale tijdperk te bespreken. Zou vaker mogen gebeuren. We weten immers allemaal dat de overheid en IT geen gelukkig huwelijk kennen. Het is altijd een beetje achter de feiten aanhollen, vergelijkbaar met hoe de cybersecurity zich nooit volledig kan wapenen tegen malafide hackers. Dat werd mij voornamelijk duidelijk toen ik de dag daarna de A.I Expo bezocht in de RAI Amsterdam, een groot event waar alles draaide om kunstmatige intelligentie, blockchain en IoT. Het verschil was ontluisterend. Waar de industrie mee bezig is en toe in staat is lijkt ver voor te lopen op de inspanningen van de overheid. Ik had me best aardig ingelezen, maar ik zag ook door de buzzwords het bos niet meer.

De hoop en het haast militante geloof in een betere en perfecte toekomst, teweeggebracht door digitalisering, deelde ik ooit met de duizenden aanwezigen van deze expo. De Director of Engineering van Google Ray Kurzweil en ondernemer Peter Diamandis wisten mij al vroeg ervan te overtuigen dat de digitale toekomst beter, voorspoediger, mooier, en vooral onomkeerbaar zal zijn – voor iedereen. Die exponentiele trends die zij beschrijven, daar gaan we simpelweg niet meer aan ontsnappen. Maar nu, een aantal jaren later, begin ik steeds meer tekenen van apostasie te vertonen. Want wie zijn nou eigenlijk de korte en lange termijn winnaars en verliezers van deze transhumanistische transitie? Bovendien: die exponentiële trend kan nog wel eens een logistische functie in vermomming zijn.

Kurzweil droomt er onder meer van om iedereens hersenen aan te sluiten op het internet. Dat leek voor mij ooit een fantastisch idee, maar nergens rept hij een woord over hoe slecht zo’n IoT 2.0 kan uitpakken (gehackte hersenen klinken niet bijzonder aantrekkelijk). Het Abundance principe van Diamandis (geloof ons, alles wordt in de toekomst beter voor iedereen, mits we van alles een informatiedienst maken) lijkt in theorie mogelijk, maar houdt absoluut geen rekening met economische, politieke en technologische beren op de weg (of een superbeer bestaande uit een combinatie van de drie). In de media geldt de onuitgesproken regel dat pessimisme en ellende verkoopt (elke crash van een zelfrijdende auto wordt uitvoerig beschreven). In de sectoren die op dit moment de koers van de wereld bepalen lijkt precies het tegenovergestelde het geval. Het zou beter zijn als men elkaar in het midden treft.

Aan het einde van de A.I Expo leek opnieuw een stukje hoop van mij te vervliegen toen ik de speech bijwoonde van Irakli Beridze, het hoofd van de UN Centre on A.I and Robotics. Het center, dat sinds 2015 in Den Haag is gevestigd, heeft als doel om de relatie tussen de risico’s en voordelen van AI te onderzoeken en nieuwe ontwikkelingen te monitoren. A.I zou volgens Beridze een van de belangrijkste middelen zijn om de zeer ambitieuze Sustainable Development Goals 2030 van de UN te halen. Niets mis mee, positief denken. Doelen stellen die hoger zijn dan dat je weet dat je ze kunt halen zullen immers nog steeds resulteren in meer succes. Maar ook hier was de balans weer ver te zoeken. Eerst dertig slides over hoe A.I – potentieel – elk wereldprobleem kan oplossen, zonder maar iets te noemen hoe. Als tegenhanger kregen we vijf slides met de boodschap: ‘oh, het kan natuurlijk misschien ook verschrikkelijk uit de klauwen lopen, iedereen zonder werk achterlaten en moordlustige drones op inwoners loslaten, maar dat zien we dan wel weer’ voor de kiezen. Het is wedden op één paard, zonder van tevoren te informeren of het paard überhaupt kan rennen.

Optimisme is fijn, maar pessimisme zou een grotere plek moeten krijgen in het debat dat onze toekomst bepaalt. Momenteel lijkt het gedomineerd te worden door tech-utopisten, dromers en ondernemers aan de ene kant, zij die de nieuwe ontwikkelingen gewoon niet zoveel lijken te boeien, en de massa die er eigenlijk allang niets meer van begrijpt. Onlangs woonde ik bijvoorbeeld een discussie bij aan de Vrije Universiteit van Amsterdam over het aankomende jaarthema connected world. Iemand die bij de Amsterdamse gemeente werkte vertelde met enige wanhoop over het gapende gat dat door digitalisering ontstaat tussen tientallenduizenden Amsterdammers en de gemeente en overheid. Ze snappen er niets meer van, die technologie, terwijl alle belangrijke en noodzakelijke overheidsdiensten doodleuk op de vele slecht-navigeerbare websites zijn geplaatst. Dit lijkt voor de top van de samenleving misschien geen probleem, maar op globaal niveau betekent connected voor de overgrote meerderheid disconnected.

‘You win some, you learn some, you lose some’, zou eerlijker zijn geweest van staatssecretaris Knops. Dat is natuurlijk geen leuke boodschap om als politici, ondernemer of tech-enthousiast te brengen, maar het zou het debat wel genuanceerder maken. En dat is nodig. Want ook al hebben we het in Nederland over een kleine miljoen inwoners die niet meekomen, de grote ontwikkelingen die men voor ogen ziet zijn gericht op internationaal of zelfs globaal niveau. Als we iets leren uit de loop der geschiedenis, is dat het onmogelijk is om iedereen op gelijke pas mee te nemen. Het zal dus niet per definitie de stijging van de inclusiviteit zijn in de 21ste-eeuw door de digitalisering, die almaar wordt geprezen, maar die van ongelijkheid die helaas maar weinigen lijken te vrezen.

Ruben Boyd is wetenschapsjournalist en gespecialiseerd in het onderwerp kunstmatige intelligentie

tags: ,

- - - - -

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie.