Kan AI de ‘magische belofte’ inlossen en daadwerkelijk meerwaarde leveren voor overheid en samenleving? Of zijn het ‘de nieuwe kleren van de keizer’: hype, marketing, en het nieuwste verdienmodel van Big Tech.
En daar komt hij het bordes af gelopen. De keizer die een fortuin betaald heeft om van de beste, mooiste, meest bijzondere stoffen een prachtig nieuw gewaad te laten maken. Een stof die, zo is hem door de rondreizende kleermakers verteld, alleen zichtbaar is voor echt intelligente mensen. Pas wanneer een kind in de menigte roept “de keizer is bloot” durft het volk hem toe (uit) te lachen en moet de keizer erkennen dat hij bedrogen is.
De parabel in dit sprookje van Hans Christian Andersen is even actueel in onze tijd, als toen het geschreven werd. Het verhaalt over eeuwenoude menselijke denkfouten, zoals kuddegedrag, het automatisch volgen van “autoriteit”, zoeken naar bevestiging van dat wat je al weet, en uiteraard FOMO, the fear of missing out.
In het sprookje gooit de keizer bakken met (belasting)geld over de balk, om maar het gevoel te hebben dat hij voorop loopt, een pionier is en een echte leider. Hij heeft geen verstand van gewaden, patronen, stiksel of textiel. Maar de kleermakers stellen hem gerust en weten hem mee te nemen in het mythe van de ongekende schoonheid van het onzichtbare gewaad.
Mythologische schoonheid van AI
Er gaat momenteel geen dag voorbij in mijn werk als strateeg digitale transformatie bij de provincie Zuid-Holland, zonder dat mensen mij proberen te overtuigen van de mythologische schoonheid van AI. Vol trots worden linkjes gedeeld naar artikelen waarin kleermaker Sam Altman vertelt over alle verbazingwekkende kwaliteiten die de nieuwste (vaak niet openbare) taalmodellen laten zien. De vraag of zo’n website directe banden heeft met OpenAI (en dus belangen in de aandelenkoers), valt buiten de confirmation bias, en wordt niet onderzocht.
“Wat is er nodig om jou te overtuigen van het ongelofelijke potentieel van AI”, vroeg laatst een collega. “Meer dan alleen verkooppraatjes” is daarop mijn antwoord. Je hoeft mij niet te vertéllen hoe prachtig het gewaad is, ik wil het graag met mijn eigen ogen zien. En tot nu toe zie ik vooral Amerikaans durfkapitaal astronomische bedragen investeren. En enkele techmiljardairs die zich boven de wet wanen.
Mocht u het overigens gemist hebben, de investeringen van Microsoft in OpenAI worden momenteel in rap tempo terugverdiend. Niet door de winsten van OpenAI (die verliezen even astronomische bedragen op dit moment), maar via de circa 30 euro per persoon per maand Co-Pilot licentie die wij als overheden schijnbaar met liefde willen betalen.
Kwaliteit
De mensen die zich ‘verbazen over de kwaliteit’ die AI modellen leveren, wil ik vragen welke maatstaf zij hanteren voor deze kwaliteit. Mijn ervaring is namelijk dat wat er uit befaamde taalmodellen komt, het allemaal ‘net niet’ is. Of gewoon helemaal niet. Het is leuk dat er een leuke samenvatting gemaakt kan worden (vaak zonder de kern echt te vatten), of een mooi opzet voor een tekst (zonder relaties tot een lokale context die een tekst nuttig maakt). Maar dat zou ik geen kwaliteit noemen.
Kleermaker Altman daarentegen schroomt niet om AI allerlei ‘kwaliteit’ toe te bedelen. Zoals bijvoorbeeld creatieve schrijfvaardigheid. Blijkbaar vindt hij dat de maatstaf voor het beoordelen van schrijfvaardigheid bij kleermakers ligt.
De kwakzalverij van Altman en consorten gaat nog veel verder. Als een ware goochelaar gebruik hij afleidingsmanoeuvres om de kijker te misleiden. Bezwaren over het energieverbruik van OpenAI? Kernfusie staat op het punt onze energieproblemen op te lossen! Gebrek aan dataopslagcapaciteit? Nog maar heel even en we hebben datacenters op de maan! De problemen die ze veroorzaken in het hier en nu zijn slechts tijdelijk, want kijk hier: prachtige nieuwe kleren, van een ongekende schoonheid!
Klimaat
De problemen die bedrijven als OpenAI in het hier en nu veroorzaken zijn echter enorm en raken ons allemaal. Er is hocus-pocus van het hoogste niveau voor nodig de aandacht daar vanaf te leiden. Want de exorbitante hoeveelheden energie en water die er nodig zijn voor AI, gaan lijnrecht in tegen onze klimaatdoelen. En ondanks alle beloftes over een beter leven voor iedereen, raken gewone mensen massaal hun banen kwijt.
Maar misschien nog wel veel erger, we worden als mensen dommer, luier en lakser door het gebruik van AI. Naast de dubieuze moraliteit om het onderwijzen van onze kinderen over te laten aan systemen, en daarmee het toelaten van surveillance in de klas, voelen we allemaal op onze klompen aan, dat AI gebruiken om je huiswerk te maken, je echt niet slimmer maakt!
Laat ik dan toch één zin de tijd nemen, om u te verzekeren dat ik echt de meerwaarde van AI heus wel zie. Net zoals een hamer een ongekend nuttige uitvinding is geweest. Maar een hamer heeft weinig nut wanneer je een plank wilt zagen. En de AI saus die momenteel over onze plannen, strategieën, en systemen wordt gegoten, voelt als een excuus om de de complexiteit van echte problemen niet onder ogen te zien.
De energie, aandacht en hoop die we in AI stoppen, ondermijnt op dit moment het investeren in samenwerking, lokaliteit en verbondenheid. Onze gezamenlijke problemen in de fysieke wereld hebben het meer dan ooit het nodig dat we onze tijd, aandacht en geld investeren in wederzijds gevoelde en gedragen gemeenschappelijkheid. De afstandelijke illusie dat onze problemen met techniek opgelost kunnen worden, gaat hier lijnrecht tegenin.
Ik roep alle ambtenaren en bestuurders op zich niet de wol over de ogen te laten trekken door de pendelaars van AI. Geloof niet in het fabuleuze verhaal dat technologie onze problemen oplost. Maar ga samen het moeilijke, menselijke werk aan, dat in deze tijd nodig is om tot oplossingen te komen.
Links uit dit artikel komen (deels) uit de shownotes van de podcast Mystery AI Hype Theater 3000, met o.a. professor computational linguistics Emily Bender. Haar boek “The AI Con” komt 13 mei uit, en is nu al te bestellen.
