Recensie: ‘Technologie in de tussentijd. AI, publieke waarde en democratie’
Quo vadis? Met deze twee woorden kan het essay van Martijn van der Steen worden samengevat. Waar gaat u heen, kunstmatige intelligentie? Dat is voor de auteur de kernvraag. Radicale handelingsperspectieven voor de overheid sluit hij niet uit. Dit essay is fascinerend en beklemmend tegelijk. En roept vragen op die voelen als een kiezel in de schoen.
De lezer van dit essay zij gewaarschuwd. De schrijver doet een groot beroep op uw voorstellingsvermogen. Dat is meteen de kracht van het essay. De kunst als lezer is om die toekomstbeelden toe te laten. Van der Steen dwingt je om het onvoorstelbare als reële optie onder ogen te zien. Dat kost enige moeite. Maar de volhouder wordt beloond. Hoe luidt de redenering van de auteur in de kern?
Niet gerust
Van der Steen is er niet bepaald gerust op. Mens en machine voeren al eeuwenlang een machtsstrijd. Wie is de baas? Om deze strijd te illustreren bedient de auteur zich van een krachtige metafoor. De mensen, die noemt hij carbons. Wezens van vlees en bloed, die -geheel in de geest van de onlangs overleden Daniel Kahneman– lang niet altijd rationeel handelen. En de machines, dat zijn de silicons. Chips die uitmuntend kunnen rekenen.
De zorg van Van der Steen zit in zijn observatie dat de silicons zich steeds minder gebonden voelen aan de democratische orde. Op dit moment zijn de carbons nog de baas. Maar dat zal niet lang meer lang duren, want de tegenpartij neemt steeds meer politieke ruimte in. Bovendien heeft technologie een eigen dynamiek met grote gevolgen voor democratie en politiek. Zie bijvoorbeeld de ravage die social media hebben aangericht met de beïnvloeding van verkiezingen.
Boeven vangen en angst zaaien
Vervolgens plaatst Van der Steen de technologische ontwikkelingen, soms met gebruikmaking van theoretische inzichten zoals die van Moore over publieke waarden, meesterlijk in een breder perspectief. Zo laat hij zien hoe de instrumentele voordelen van algoritmen lang niet altijd opwegen tegen de maatschappelijke effecten. Algoritmen zorgen ervoor dat de politie meer boeven kan vangen, maar leiden ook tot angst bij mensen voor de gevolgen van een onbedoeld verkeerd gebruik van regelingen. In die gevallen is legitimiteit als belangrijke democratische waarde in het geding. En dan de zelfrijdende auto, ook zo’n fenomeen. Dat is niet alleen een leuk hebbedingetje voor de happy few, maar dat kan uiteindelijk het hele mobiliteitssysteem op zijn kop zetten.
En denk niet dat hij een techno-optimist is. Van der Steen benoemt de kansen en mogelijkheden, maar wijst ook op de keerzijde van technologie. Die keerzijde kan ‘…een bestaande balans in de waardenafweging en institutionele structuren obsoleet maken.’ Uiteindelijk komt hij tot drie scenario’s. Het reeds aangehaalde waarbij de overheid het stuur overgeeft aan de markt, een ander waarbij zij ervoor kiest om de silicons de baas te blijven en eentje waarbij de overheid de ontwikkelingen aanziet en per opgave bekijkt wat wijsheid is. Van der Steen serveert ook nog een smakelijk toetje in de vorm van een handelingsperspectief. De essentie daarvan? De oproep aan overheden om democratische en rechtsstatelijke kwaliteit alsmede publieke waarde altijd centraal te stellen. En om te investeren. Vooral in kennis van AI en in allianties met universiteiten en kennisinstellingen.
Essay zoals Montaigne dat bedoeld heeft
Essays zijn aan inflatie onderhevig. Het regent tegenwoordig essays, maar veel essays zijn helemaal geen essays maar opiniërende bijdragen. Voor de grondlegger van het essay, Michel de Montaigne, had dit genre tot doel om iets te proberen. Om vragen te stellen en om de stroom aan gedachten die bij de schrijver opkomt, vast te leggen. Dat is precies wat Van der Steen doet. Hij strooit kwistig met vragen. Als lezer heb je soms het gevoel alle hoeken van de kamer te zien. Maar in werkelijkheid onderga je een verrijkende strategische ervaring.
Wat het essay charmant maakt, is dat de auteur een enkele keer zijn eigen mening of verwachting niet kan onderdrukken. Waar hij als hoogleraar Strategie en Toekomst grossiert in onzekerheden, laat hij die professionele attitude soms varen en stelt dan: én zo zal het gaan! Zoals de verwachting dat de grote tech-bedrijven uit de bestaande orde van staten zullen treden. Oh ja, hoezo? De carbons in de Brusselse burelen zitten niet stil. Zij schuwen de machtsstrijd niet en slaan die bedrijven om de oren met wetgeving en torenhoge boetes. Het effect van die Brusselse tegenkracht lijkt mij een onzekerheid. Zou het ook niet zo kunnen gaan dat die bedrijven op termijn een toontje lager zingen? En maar al te blij zijn nog deel te mogen uitmaken van het internationale stelsel van naties?
Machtsconcentratie als prijs?
Zo roept het essay nog meer vragen op, precies wat een essay moet doen. Van der Steen is kritisch over de machtsconcentratie, de oligopolievorming die inherent is aan de technologische ontwikkelingen. Hij heeft er zelfs een speciale metafoor voor bedacht: silikolonisering. Het proces waarbij de tech-bedrijven onze wereld veroveren, bezetten en hun invloed doen gelden. Dat gaat volgens hem gepaard met uitbuiting van de massa, die daar bij alle door de bezetter geboden comfort overigens geen traan om laat. Niettemin, zware woorden van de auteur.
De vraag rijst dan ook hoe Van der Steen aankijkt tegen de onvermijdelijke oligopolievorming die zal optreden in het scenario waarbij de overheid het stuur overgeeft aan de markt. Dat scenario positioneert hij als legitiem en zelfs als wenselijk voor die gevallen waarin Google en Meta toekomstige perfectie kunnen leveren. Maar reken maar, dat de machtsconcentratie zich dan versterkt voortzet. Neemt Van der Steen dat voor lief? Weegt hij het feit dat die bedrijven kunnen zorgen voor een optimaal democratisch verdelingsproces, zwaarder? Is de uitbuiting door Meta, Google en anderen die onderling de markt verdelen, de prijs die we moeten betalen voor het uitbesteden van de democratie?
En toen, opdrachtgever?
Minstens zo interessant als de inhoud van het essay is de vraag wat de opdrachtgever, de provincie Zuid-Holland, ermee gaat doen. Je zult er maar mee zitten, met zo’n hoogwaardige bijdrage die de grenzen van je eigen bestuursniveau vele malen te boven gaat. En die ook nog eens geen beleidsactoren aanspreekt. Het is alsof Van der Steen naast de internationale beleidsarena staat, zijn essay naar binnen werpt en roept: nou, jullie zoeken het maar uit! De opdrachtgever valt niet te benijden.
De provincie Zuid-Holland doet er goed aan om de bredere dynamiek rondom het vraagstuk AI, publieke waarde en democratie te duiden. En wat blijkt dan? De risico’s van AI voor democratie en rechtsstaat staan in Nederland niet op de politieke agenda. De Staatscommissie Parlementair Stelsel wijdde er welgeteld vijf pagina’s aan in een vuistdik rapport, de tien voorstellen van de Staatscommissie Rechtsstaat gaan hier evenmin over. Terwijl het Hoofdlijnenakkoord en het Regeerprogramma van het kabinet-Schoof wel tal van digitale prioriteiten aankondigen, maar deze hebben lang niet altijd met de ondertitel van het essay te maken. Ondertussen verschijnt er zo af en toe een hoogwaardige bijdrage over dit vraagstuk. Zoals nu die van Van der Steen. En de afgelopen jaren van het Rathenau, Verhoeven en Van Belkom.
Brede coalitie
Dat alles tekent de – wat ik zou willen noemen- dynamiek van de acupunctuur. Zo af en toe een speldenprikje. Terwijl AI, publieke waarde en democratie zich moeiteloos leent voor een staatscommissie of een brede maatschappelijke discussie. Maar die gaan er niet komen. Daarvoor is de politieke belangstelling te lauw en het maatschappelijk onbehagen van de massa ontoereikend. De massa zwelgt in het verlangen naar de volgende versie van de iPhone.
De opdrachtgever zou een poging kunnen doen om deze lacune te vullen. Hoe? Door een brede coalitie te vormen. Van bezorgde overheden, bedrijven, maatschappelijke organisaties en universiteiten. Deze kan zich allereerst buigen over de quo vadis-kwestie. Vormt deze inderdaad de kernvraag, zoals Van der Steen oppert. Of is een alternatieve route zinvoller, zoals de randvoorwaarden die Verhoeven voorstelde. En de coalitie doet er verstandig aan om de Europese Commissie erbij te betrekken.
De provincie Zuid-Holland kan daarmee een uitstekende verbindende rol spelen.
Lees HIER het essay van Martijn van der Steen
Lees ook:
@Paul Strijp Waar is de wet en regelgeving voor AI? Apple, Google, OpenAI en alle andere techbedrijven gaan nooit regels invoeren die AI aan banden leggen. Vergelijk het met de automobielindustrie en de Europese regels voor de CO2-uitstoot. Geen enkel bedrijf dacht: ‘Laat ik eens goed zijn voor het milieu en zorgen dat ik minder CO2 uitstoot, waardoor de motor slechtere prestaties geeft.’
De techbedrijven in Amerika hebben zelfs gevraagd: ‘Geef ons regelgeving.’ De EU is bezig om AI-wetgeving te realiseren voor alle lidstaten.
PROBLEEM:
Het probleem is dat er nog geen wet- en regelgeving is, en dit duurt te lang, aangezien de AI-ontwikkeling niet stilstaat en met grote stappen vooruitgang boekt.
Meanwhile, AI is capable of doing amazing but also crazy things!
The genie (AI) is out of the bottle..