Klimaatverandering, digitalisering, wonen, arbeid, zorg; het zijn stuk voor stuk maatschappelijke opgaven die om innovatiekracht bij uitvoeringsorganisaties vragen. Als we het over die innovatiekracht hebben, denken we vooral aan technologische innovatie. Veel minder vaak denken we aan de innovatieve kracht van verbeelding en het weerstaan van AI-hypes.
We dreigen als samenleving opgesloten te raken in AI-hypes, dataïsme en een robotisch zelfbeeld. | Beeld: Shutterstock
Andere beelden leiden tot ander soort vragen, die weer tot andere oplossingen kunnen leiden. Daarom is het belangrijk om de creatieve industrie te betrekken bij maatschappelijke opgaven. Dat geldt zeker voor digitalisering. Al decennialang zitten we gevangen in het vooruitgangsgeloof dat we met digitale technologie onze omgeving steeds meer onder controle krijgen en daar als samenleving beter van worden. Technologische vooruitgang wordt gelijkgesteld aan maatschappelijke vooruitgang, terwijl de praktijk nogal eens het tegendeel laat zien.
Voorbeelden zijn de Toeslagenaffaire, Systeem Risico Indicatie en meer recentelijk de algoritmisch opgestelde risicolijst met potentiële Amsterdamse probleemjongeren. In alle gevallen worden minderheidsgroepen benadeeld op basis van data-gedreven gedragsvoorspellingen. De lessen die hieruit worden getrokken beperken zich tot privacy, transparantie en algoritmische bias. Wanneer ontwikkelaars hier rekening mee houden in hun technologie-ontwerp, kunnen we onbekommerd door digitaliseren, lijkt de heersende gedachtegang.
Onze relatie met technologie
Maar de onwenselijke effecten van digitalisering zijn geen kwestie van privacy, transparantie en een beter technologie-ontwerp. Er gaat nog een stap aan vooraf, namelijk de relatie die wij als mensheid met technologie zijn aangegaan en het mensbeeld van waaruit wij onze technologieën ontwerpen en gebruiken. Veel belangrijker dan een beter technologie-ontwerp, is een betere relatie met technologie. Maar dat lukt niet zolang we onze beeldvorming over technologie niet grondig herzien.
Witte glanzende humanoid robots, hersenen met nullen enen, een robothand die naar een mensenhand uitreikt, blauwe achtergronden en printplaten; dat is hoe technologie vaak verbeeld wordt. Vanuit ontzag en verwondering zien we de computer als neutraal, intelligent, en autonoom, en de mens als een onhandige zak organen met wat verouderde hardware in zijn hoofd, klaar om vervangen te worden door de nieuwste AI-robot.
Het probleem met dit beeld is niet alleen dat het niet klopt, maar ook dat het een selffulfilling prophecy kan worden omdat we ernaar handelen. Zo weten we dat het beeld van technologie als neutraal fenomeen niet klopt, maar blijven we maatschappelijke ongelijkheden met algoritmen reproduceren, omdat we handelen naar de misvatting dat consistentie gelijkstaat aan neutraliteit.
Kunstmatige intelligentie is een selffulfilling prophecy.
Ook kunstmatige intelligentie is een selffulfilling prophecy. Niet alles wat ertoe doet kan vertaald worden in data en gerepresenteerd worden in een AI-model. Een belangrijke beperking van kunstmatige intelligentie is dat het afhankelijk is van inflexibele wiskundige modellen die gevoed worden met data uit het verleden. Conservatief in plaats van innovatief dus. AI-systemen kunnen op bovenmenselijk niveau schaken en Go spelen, maar zodra ze worden losgelaten in een dynamische omgeving zonder strak afgebakende regels – lees: de echte wereld – gebeuren er vervelende dingen voor mensen die niet tot een statistische meerderheid behoren. In plaats van kunstmatige intelligentie kunnen we dan ook beter spreken over dynamische statistiek of “statistics on steroids”. Toch kunnen computers wel degelijk intelligent worden. Niet zozeer vanwege fundamentele vooruitgang in AI-onderzoek, maar omdat we intelligentie gaan reduceren tot datgene waar computers goed in zijn: rekenkracht en patroonherkenning.
Kunstmatige intelligentie is niet alleen niet slim, het is ook nog eens niet kunstmatig. De grondstoffen die nodig zijn om een AI-systeem te bouwen zijn levensecht, net als de miljoenen arbeiders die de systemen ontwikkelen, trainen en draaiende moeten houden. Ghostwork heet deze vorm van arbeid, omdat het veelal onzichtbaar is. Platformen zoals Amazon Mechanical Turk koppelen klikwerkers aan klikwerktaken zodat bedrijven tegen lage tarieven hun AI-systemen kunnen laten trainen en draaiende kunnen houden. In de beeldvorming rondom AI zie je daar weinig van terug. Het past niet in ons beeld van de intelligente, autonoom functionerende robot.
Misleidend mantra
Voor “autonome” robots hoeven we niet bang te zijn. Veel problematischer is het misleidende mantra dat AI-systemen ons “beter kennen dan we onszelf kennen”. Het gevaar van grote techbedrijven met grote AI-modellen is niet zozeer dat ze ons te goed kennen, maar juist dat ze ons niet kennen en claimen ons wel te kennen op basis van onze data. Dat geldt ook voor data-verzamelende overheden. De miljoenen datapunten en correlaties waarmee bedrijven en overheden voorspellingen doen over ons gedrag kloppen vaak niet en werken discriminatie in de hand. En als de voorspellingen wel kloppen dan komt dat niet doordat bedrijven en overheden ons ten diepste kennen, maar doordat ze bij voorbaat onze keuzes, klikopties en gedragslijnen bepalen waardoor onze onvoorspelbaarheid afneemt.
De natte droom dat we met technologie de wereld volledig naar de hand kunnen zetten is hardnekkig.
Deze inzichten beginnen langzaam door te sijpelen, maar ze worden niet naar de praktijk vertaald. De natte droom dat we met technologie de wereld volledig naar de hand kunnen zetten is hardnekkig. Ook al piept en kraakt deze droom aan alle kanten, we blijven erin geloven. Misschien is dat omdat we geen prikkelende beelden hebben die ons een andere toekomst met technologie laten zien. En als we het ons niet kunnen voorstellen, kunnen we er ook niet naar handelen.
Als we kijken naar de huidige beeldvorming rondom AI, dan zien we dat het ons dwingt om op een bepaalde manier te denken en handelen: kunstmatige intelligentie gaat over mensachtige robots, de cloud over een zwevend wolkje, en privacy gaat over een schild waarachter je iets te verbergen hebt. Zo wordt een rookgordijn opgeworpen dat afleidt van de fysieke realiteit achter deze concepten. Denk aan de energieslurpende datacenters en menselijke arbeid die schuilgaan achter AI, maar ook het feit dat privacy niet gaat over afscherming, maar over bewegingsvrijheid in het echte leven.
Nieuwe beelden voor technologie
Dit jaar nodigt SETUP kunstenaars, illustratoren en ontwerpers uit om de eenzijdige beeldvorming rondom digitale technologie te doorbreken. In de media barst het van de stereotype AI-beelden die uiting geven aan onrealistische verwachtingen, angsten en wensen. Techbedrijven zijn erbij gebaat de verantwoordelijkheid van de mens en het tastbare aspect van technologie buiten beeld te houden. Een alternatieve verbeelding kan deze mystificatie doorbreken. Voorbeeld: cloud-computing kun je verbeelden als data-gletsjer om de klimaatimpact van AI tastbaar te maken.
Maximale controle en beheersbaarheid
Hoewel de berichtgeving over kunstmatige intelligentie zich niet langer beperkt tot jubel- dan wel doomsday verhalen, blijft de visuele portrettering nog altijd eenzijdig. Dat is problematisch want als er maar één beeld is, is er ook maar één verhaal en één oplossingsrichting.
Die oplossingsrichting beperkt zich in tijden van existentiële crises voornamelijk tot de belofte van maximale controle en beheersbaarheid. Door complexe realiteiten te reduceren tot eenvoudige data-modellen, en volop in te zetten op symptoombestrijding en data-gedreven gedragssturing, hopen bedrijven en bestuurders grip te krijgen op de samenleving. Recente voorbeelden daarvan zijn de “Intelligent Speed Assistent” die sinds kort in alle nieuwe auto’s zit om “afwijkend” rijgedrag bij te houden, en het onlangs verschenen conceptwetsvoorstel “Plan van aanpak witwassen” wat banken de bevoegdheid moet geven om alle banktransacties in één gecentraliseerde database te monitoren met behulp van algoritmen.
Er is een belangrijk taak voor de creatieve industrie weggelegd.
Volgens de Duitse socioloog Hartmut Rosa zijn we met deze controle-insteek compleet de verkeerde weg ingeslagen. In The Uncontrollability of the World (2021) beschrijft hij hoe we als mensheid juist steeds minder controle over onze omgeving hebben gekregen omdat we de capaciteit zijn verloren om ermee in verbinding staan. Het programma om de wereld met technologie controleerbaar te maken leidt volgens Rosa tot een radicale vorm van onbeheersbaarheid die erger is dan het type onbeheersbaarheid waar we vandaan komen.
Door de wereld te behandelen als een reeks data-objecten die we moeten veroveren, beheersen en exploiteren, ontgaan ons de momenten waarop we de wereld kunnen ontmoeten en het leven daadwerkelijk kunnen ervaren. Dat leidt tot burn-out, frustratie, politieke agressie en vervreemding. Een wereld die volledig gekend is en waar alles op basis van data rationeel wordt gepland, voorspeld en beheerst, is een dode wereld. Resonantie; het vermogen om echt contact met de wereld te ervaren en een relatie aan te gaan waarin individu en wereld antwoordend tegenover elkaar kunnen staan; is volgens Rosa een belangrijk medicijn tegen vervreemding.
De vervreemding die Rosa beschrijft zien we ook terug in de relatie tussen burger en overheid. Met resonantie als medicijn in het achterhoofd, kunnen we de vraag waarom die relatie tegenwoordig zo slecht is omkeren. In plaats van je als overheid af te vragen waarom burgers niet kunnen meekomen in de samenleving, kun je je als overheid ook afvragen of je met al die data-gedreven hoogmoed wel emotioneel kunt meekomen met je burgers.
SETUP en de gemeente Rotterdam
In 2022 deed SETUP in opdracht van de gemeente Rotterdam een artistiek ontwerpend onderzoek naar de vraag hoe Rotterdam een voorbeeldstad kan worden in een digitale wereld. Veel van de spanningen die in deze vraag besloten lagen, kwamen neer op de zorg dat bepaalde Rotterdammers die als kwetsbaar worden gezien ‘niet kunnen meekomen’. In het uitgevoerde onderzoek werd dit perspectief omgedraaid. Kan de gemeente op emotioneel gebied eigenlijk wel meekomen met haar inwoners? Is het niet eens tijd dat de gemeente Rotterdam emotioneel volwassen wordt? Samen met de gemeente ontwikkelde SETUP een provocatieve denk- en gesprekstool in de vorm van een Rotterdamse kristallenset, die helpt om onze relatie met digitale technologie op een andere manier te bevragen.
Innovatie gaat niet zozeer over betere algoritmen of modieuzere AI-systemen, maar over verbeeldingskracht en de mogelijkheid om met nieuwe beelden en woorden ander soort vragen te stellen die tot andere oplossingsrichtingen kunnen leiden. Daarvoor is een belangrijk taak voor de creatieve industrie weggelegd.
Zolang overheden binnen de contouren van het dataïstische mensbeeld blijven bewegen en wij deze beelden niet kunnen uitdagen, riskeren we als samenleving opgesloten te raken in AI-hypes, dataïsme en een robotisch zelfbeeld. Iemand moet in dat beeld porren, om te voorkomen dat we elke dag hetzelfde blijven zien en hetzelfde blijven doen en tegelijkertijd een beter resultaat verwachten. Zonder ander perspectief geen ander resultaat.
Siri Beerends is cultuursocioloog en werkzaam bij SETUP Media Lab. Daarnaast doet ze promotieonderzoek aan de Universiteit Twente naar authenticiteit en de manier waarop kunstmatige intelligentie de afstand tussen mensen en machines verkleint.
Dat innovatie gaat over verbeeldingskracht is een waarheid als een koe. Ik vind de ontwerpen van Leonardo Davicy (helikopter, hijskraan, katapult) daar zulke mooie voorbeelden van. Kunst die als het ware samensmelt met radicale innovatie. Verbeeldingskracht als kunstvorm. Hoe armoedig dreigt ons leven te worden tussen de scheve ICT die onze samenleving zo vaak domineert. De relatie met (overheids) systemen die mensen valselijk van fraude beschuldigen zoals de toeslagenaffaire, en RyRI (Systeem Risico Indicatie) hebben daar in de verte misschien een relatie mee, maar zijn dat niet gewoon voorbeelden van lamlendige ICT-beleidsmakers, wegduikende ICT-project managers en neuspeuterende ICT-testers?
Het is Niet de technologie die verwijten te maken is.
De technologie is tot heel veel in staat, maar het gaat er om wat de gebruiker van de technologie verwacht. De Input van de gebruiker om tot ‘AI’ te komen is de oorsprong, de technologie voert alleen uit.
Daarnaast zijn er manieren waarop men technologie ontwerpt, dit is ook gebaseerd op de wens van de gebruiker.
Het is veel te gemakkelijk om de technologie de schuld van de uitkomsten te geven. De uitkomsten zijn een resultante van de wens van de gebruiker.
‘AI’ bestaat al heel erg lang, echter door gebruik te maken van nieuwe technologie zijn de uitkomsten veel sneller beschikbaar, dat komt vaak heel goed uit. Alleen degene die tegendraads staat ten opzichte van de uitkomst geeft de techniek de schuld en niet degene die de technologie voedt.
Dit is ook de oorzaak van de toeslag affaire. Als men al die bedachte (verkeerde) lijstjes met de hand zou moeten bijhouden duurt het veel te lang om tot het gewenste resultaat te komen. De techniek zorgt er alleen voor dat men de lijstjes veel en veel sneller ter beschikking heeft. Men kan anderen de schuld geven voor het ontstaan van de lijsten, maar ze zijn door medewerkers opgesteld en ICT-ers hebben deze ingebracht, zij staan helemaal los van het resultaat.
Alle techniek is politiek; The Medium is the Message … allemaal bekend.
Wat lastiger is, is de wezenlijke betwistheid van het containerbegrip innovatie.
De culturele bias spreekt ook impliciet uit dit artikel: techniek als wenkend perspectief (lineair). Innovatie als deel activiteit. Uiteindelijk laat de 4e Generatie Innovatie Theorie zien dat innovatie het aanpassen van een bestaande organisatie aan veranderende omstandigheden is, waarvoor de harde en zachte wetenschap in evenwicht zal moeten zijn met de productie en markt cyclus in in elkaar grijpende, nooit stoppende valorisatie feedbackloops. Dit maakt AI tot een (zeer breed) gebied waarvoor hoe dan ook geldt Garbadge in/Garbadge out als je geen architectuur principes afspreekt rond data kwaliteit en procesmodellering. In feite is AI niet veel meer dan een wat slimmere beslisboom die je of zelf aanscherpt, of die je zichzelf aan laat scherpen. Innovatie draait niet om technologie, noch om verbeeldingskracht, maar om context, begrip, inzicht, overzicht en gezonde businessmodellen. Je hebt niets aan een paperclip als je niet weet waarvoor je hem moet gebruiken of welk probleem hij oplost, hoe ethisch hij ook ontworpen is.
http://www.toolshero.com/innovation/berkhout