Siri Beerends: “AI kan beloften niet waarmaken”

AI zou mensen tijd besparen door repetitieve taken over te nemen. Dat blijkt nogal eens tegen te vallen. “Veel mensen weten niet hoe veel onzichtbare menselijke arbeid schuilgaat achter het trainen van computersystemen. Het is naïef om te denken dat er een soort magisch punt in de toekomst is waarop de computer het allemaal zelf kan,” stelt cultuursocioloog Siri Beerends.

“In synthetische biologielabs bleek de tijdsbesparing voor wetenschappers niet op te gaan, omdat ze meer tijd kwijt waren aan het machine-leesbaar maken van informatie, die uiteindelijk weinig opleverde. Het ging ten koste van het ontwikkelen van nieuwe hypotheses, terwijl daar de echte innovatie zit,” vertelt Siri Beerends aan journalist Marjolein van Trigt van Binnenlands Bestuur.

“Veel werk wordt onder invloed van AI juist repetitiever, omdat mensen het werk van machines moeten trainen, voeden of controleren. Bovendien zijn we als mensen geneigd om de vrijgekomen tijd te vullen met het volgende dat geautomatiseerd moet worden. Zo blijven we het eeuwige hulpje van AI.”

Daar komt bij dat we de werkelijke gevaren van AI saai vinden, schreef Beerends eerder op iBestuur.nl. Niet robots die de mensheid uitroeien vormen een gevaar, maar een toename in sociale ongelijkheid, desinformatie en verwarring, een grote ecologisch impact en culturele homogenisering: dat wat mensen met AI maken, gaat steeds meer op elkaar lijken. ‘Dat zijn geen nieuwe problemen, krijg ik vaak te horen als ik deze bezwaren opsom. Dat klopt, maar dat maakt ze niet minder relevant.’

Al met al genoeg redenen om al die miljarden die in kunstmatige intelligentie worden gestoken elders in te investeren, vindt ze. ‘Wat levert AI concreet op voor mens en samenleving? De winst is mager. Het is treurig dat er zo veel geld omgaat in een technologie die zich zo slecht heeft bewezen.’

AI wordt er doorheen geduwd

Beïnvloed door big tech gaat de discussie niet zozeer over wat kunstmatige intelligentie nu kan, maar vooral over de angst voor een kunstmatige superintelligentie die zich tegen de mensheid keert. De open brief waarin een groot aantal techprominenten pleit voor een pauze in de ontwikkeling van AI, omdat het allemaal wel erg snel zou gaan, heeft veel invloed op de toon van het debat. Beerends: ‘Met het idee dat AI er is om de mens te verslaan of te vervangen zitten we echt op het verkeerde pad. Het betere alternatief, waar men op hoopt en waar ook met de AI Act op wordt ingezet, is een goede samenwerking met AI. Maar ik denk dat we ook daar veel te rooskleurig naar kijken. Alsnog wordt AI erdoorheen geduwd, terwijl het in de praktijk helemaal niet kan voldoen aan de hoge beloften.

Wat moeten ambtenaren met AI?

Ze kan zich voorstellen dat ambtenaren doodgegooid worden met adviezen over wat ze al dan en niet moeten doen met technologie. “Maak in ieder geval onderscheid tussen AI-marketing en concrete meerwaarde,” zegt ze. “De samenleving heeft behoefte aan de menselijke maat. Je zit als overheid niet op de goede weg als je je in de luren laat leggen door de AI-industrie, die voor elk probleem een AI-systeem blijft aansmeren. Als ambtenaar mag je best vaker vragen stellen. Moeten we dit überhaupt wel gebruiken? Wat levert het op? Wie worden er beter van? En onderzoek vooral wat het systeem doet met de mens en de taakopvatting van de mens. Wordt die taakopvatting uitgehold en verschraald, zodat we makkelijker kunnen roepen dat een robot het ook wel kan doen? Dan ben je volgens mij verkeerd bezig.”