Automatisering is in veel gevallen noodzakelijk en aantrekkelijk, maar we moeten ons ervoor hoeden onze menselijkheid niet uit het oog te verliezen in de race naar meer efficiëntie.
Automatisering: voor velen een vies woord, voor anderen de heilige graal. Zo ook voor de Zuid-Afrikaanse ondernemer Elon Musk, die in 2016 stelde dat robots en kunstmatige intelligentie (K.I) ons werk volledig gaan overnemen. Hij zei dat er een vrij grote kans is dat we richting een universeel basisinkomen gaan, of iets in die richting, veroorzaakt door automatisering. Hij zou niet weten wat we anders zouden kunnen doen.
Goed, critici wijzen er terecht op dat Musk niet bepaald een expert is op het gebied van kunstmatige intelligentie. Maar hij is niet de enige die het einde der tijden van werk voorspelt. Zo stelt Andrew Ng, een van de meest vooraanstaande onderzoekers in K.I: ‘Net zoals elektriciteit 100 jaar geleden ongeveer alles veranderde, kan ik me vandaag de dag eigenlijk geen industrie bedenken die niet door K.I zal worden getransformeerd in de aankomende jaren.’
En zo vallen nog honderden andere onderzoekers, trendwatchers en beleidsmakers hen bij: K.I gaat de wereld veranderen en sneller dan we denken. Onze banen gaan vervangen worden door de K.I in de clouds van kolossale datacenters. Robots vullen onze fabrieken, coördineren de pakhuizen en bezorgen de post. De rekening van deze voorgestelde algoritmische arbeidsgenocide? Die komt gemakshalve op de mat van de overheid te liggen. Want wie anders dan overheid zal moeten opdraaien voor dat universele basisinkomen? Dat gaat nog een lastig verhaal worden, gezien de winstgevende banen-etende multinationals allen verwikkeld zijn in een wedstrijd belastingontduiking.
Mensen onderschat
Musk stelt ook dat ‘mensen de tijd zullen krijgen om andere dingen te doen. Meer complexe en interessante dingen – ze zullen in ieder geval meer vrije tijd hebben’. Nogal vaag gezwets, als je het mij vraagt. Musk vergeet dat veel vrije hebben tijd niet per definitie goed is en dat het gros van de mensen zich het leplazarus zal vervelen. Vrije tijd met veel financiële middelen, status en macht kan misschien plezierig zijn – vrije tijd met een basisinkomen zal mensen veranderen in doelloze dierentuindieren. Net genoeg bewegingsvrijheid, maar eigenlijk kun je niets.
Ik moest daarom gnuiven toen Musk onlangs tweette dat hij vond dat de excessieve automatisering van Tesla een foute beslissing was. Om precies te zijn, zijn foute beslissing. Ineens waren mensen ondergewaardeerd. Hij deed publiekelijk boete omdat het controversiële autobedrijf tegen vele productieproblemen aanliep in haar sterk geautomatiseerde fabriek.
De fabriek staat tjokvol dure hightech robots, maar die maakten het productieproces in sommige gevallen langzamer dan sneller. Lang probeerde Musk dit op te lossen door simpelweg nog meer robots toe te voegen. ‘Het is opmerkelijk hoeveel je gedaan kan krijgen door robots het harde werk te laten doen’, stelde hij. ‘Door extra robots te plaatsen op hachelijke punten wordt de productielijn snel. Heel snel.’
Niet dus. De kluwen aan ijskoud metaal blijken niet altijd even flexibel. En ze worden dan wel niet ziek, zoals mensen, maar hebben desalniettemin onderhoud nodig. Ik kan me nog goed herinneren hoe tergend vaak de flessenbandautomaat vastliep in de supermarkt waar ik als tiener werkte. Een persoon die handmatig bonnetjes telde was wellicht beter dan de monteur die elke week langskwam. Automatisering werkt, maar niet overal en niet altijd.
Fysieke grenzen
De Tesla fabriek verloor aan efficiëntie door te veel complexiteit als gevolg van automatisering. Ik vermoed dat K.I op den duur ook tegen dit soort grenzen gaat aanlopen. Wat we tegenwoordig met K.I kunnen is fantastisch, maar veel laaghangend fruit is geplukt. Machine learning, deep learning en gigantische datasets hebben ons diensten en applicaties gebracht die voorheen niet mogelijk waren. Maar echt revolutionair zijn de computercode en visie van vele bedrijven niet. We zien voornamelijk smalle K.I-applicaties die maar in één afgebakende (digitale) omgeving iets goed kunnen, maar ons niet duidelijk kunnen maken hoe ze tot hun conclusies komen. We hebben het wel over neurale netwerken in K.I, als verwijzing naar hun gelijkheid met het brein, maar niets van wat we op dit moment hebben gebouwd lijkt in de verste verte op de manier waarop onze hersenen werken. Dat is juist een van de handigste dingen van hersenen: ze kunnen ons vertellen waarom ze iets doen en waarom iets fout is gegaan – iets dat bij huidige K.I vrijwel onmogelijk te achterhalen is. Een handicap die niet onderschat moet worden.
Echte sterke K.I die dit wel kan zal door het grote verschil tussen mensenhersen en kunstmatige hersenen nog lang op zich wachten. Daarom probeert men nu de grenzen op te rekken door zoveel mogelijk nieuwe data te bemachtigen en te gebruiken voor veel verschillende smalle K.I’s. Dat is deels wat de automatiseringsdrift drijft. Automatisering en digitalisering creëren data, dat weer gebruikt kan worden voor verdere automatisering. Het liefst weten bedrijven en overheden daarom zoveel mogelijk van jou en de wereld waarin je je beweegt. Het maakt daardoor niet meer uit dat door vergaande automatisering mensen buiten spel worden zet of de privacy wordt geschonden. Alleen met gigantische hoeveelheden data over ons gedrag in de fysieke en digitale wereld kunnen de grenzen van automatisering worden opgerekt. Daarom wil datakoning Google nu de hele wereld in kaart brengen door gebruikers Google Lens te laten gebruiken.
Morele grenzen
Een ander voorbeeld is de nieuwe K.I Duplex van Google. Duplex kan op basis van een stemverzoek, autonoom en op de achtergrond van je smartphone, een kappersafspraak voor je maken. De K.I belt zelf op, weet op natuurlijke en flexibele wijze om te gaan met het gesprek, en plaatst zelfs mh-mh’tjes op gepaste plekken. Hoe dit kan? Door de K.I te laten luisteren naar de stemverzoeken van gebruikers die Google via zijn diensten en telefoons al jaren opslaat. De K.I werd dus slimmer door de data die Google verzamelt, maar Google kan Duplex nu ook zelf in gaan zetten om massaal restaurants, kappers en bedrijven te bellen om de data van deze telefoongesprekken te gebruiken.
Dat Google altijd meeluistert is één ding. Enger is dat de K.I op geen enkel moment aankondigt dat de kapper niet met een mens, maar met een programma spreekt en dat de mensen dat ook niet door hebben. In feite is dan de Turing Test al op kleine schaal geslaagd. Combineer dit met Lyrebird, de K.I die elke stem kan kopiëren, om vervolgens nieuwe levensechte spraak te genereren en je hebt een potentiele cocktail van maatschappelijke verwarring. Moeten we dit aspect van ons leven dus wel geautomatiseerd willen hebben? We kunnen volgens mij best zelf een belletje naar de kapper maken.
Facebook ligt nu onder vuur voor het doorverkopen van persoonlijke data voor politieke manipulatie, maar wat Google probeert is veel griezeliger. Het automatiseert langzaamaan onze levens, met Google in plaats van wijzelf aan het roer. Gaat Google straks onze vrije tijd indelen wanneer we allemaal zonder baan zitten? Dat kan net als in de Tesla fabriek maar tot een zeker punt wenselijk verlopen.
Het is maar goed dat er morele en fysieke grenzen in het vooruitzicht liggen. Automatisering is in veel gevallen noodzakelijk en aantrekkelijk, maar we moeten ons ervoor hoeden onze menselijkheid niet uit het oog te verliezen in de race naar meer efficiëntie. Uiteindelijk moet het doel altijd zijn of de samenleving erdoor wel of niet op vooruitgaat. De overheid zou in die race niet per se mee moeten willen hollen. Ze zou eerder paaltjes moeten neerzetten om de wedloop in goede banen te leiden, want een bedrijf als Google gaat dat zeker niet doen.
Ruben Boyd is wetenschapsjournalist en gespecialiseerd in het onderwerp kunstmatige intelligentie
