Overheidsregulering en wetgeving hobbelen achter de markt aan, er moet ook geïnvesteerd worden in bewustwording over de manier waarop we zelf vormgeven aan digitale technologieën.
Beeld: ev on Unsplash
De roep om ethische en juridische kaders voor digitale technologieën klinkt steeds luider. Op 10 april ondertekenden vierentwintig EU lidstaten de Declaration of cooperation on Artificial Intelligence. Daarmee wil Europa zijn concurrentiepositie versterken ten opzichte van Big Tech China (Alibaba, Tencent, Baidu, Didi) en Big Tech Amerika (Google, Facebook, Apple, Microsoft, Amazon). In de verklaring staat dat fundamentele waarden en rechten in de EU het uitgangspunt moeten vormen. Een van die waarden is dat de samenleving als geheel moet kunnen profiteren van de ontwikkelingen en toepassingen van kunstmatige intelligentie.
Dat is een forse uitdaging in een mondiale internet economie die gedomineerd wordt door commerciële datamonopolies. Technologieën laten zich immers niet sturen door wetten die achter de markt aan hobbelen.
Oosterse en Westerse data dictaturen
In de Westerse wereld kijken we met argusogen naar China waar de overheid een sociaal krediet systeem bouwt. Iedere inwoner krijgt een gedragsscore die op basis van online surfgedrag, uitgavenpatroon, sociale interactie en stiptheid van betaling aangeeft hoe betrouwbaar je bent. Wie luiers koopt krijgt pluspunten, wie videogames aanschaft krijgt minpunten. Op basis van persoonlijke scores wordt met algoritmen bepaald wat voor baan of hypotheek de inwoners krijgen en naar welke scholen hun kinderen mogen gaan.
Wie denkt dat alleen de levens van Chinese burgers worden bepaald door big data en algoritmen zit ernaast. Waar in China de staat aan de knoppen draait, gebeurt dat bij ons door de markt.
Zodra wij online gaan bepalen de algoritmen van Google, Facebook, Apple, Microsoft en Amazon wat wij doen: data genereren en onze gedragingen, voorkeuren en verlangens commercieel laten uitbaten en bijsturen. De sporen die we daarbij achterlaten worden door steeds meer bedrijven gebruikt om onze reputatie als klant of potentiële nieuwe klant te achterhalen. Zo zijn er bijvoorbeeld financiële instellingen die bij een hypotheekaanvraag je online reputatie meewegen. Als je dubieuze contacten hebt op Facebook, kun je daardoor misschien minder snel een lening krijgen.
Door de opkomst van deelplatformen als Facebook en Airbnb zijn onze online reputaties steeds belangrijker geworden. Voor het delen van huizen, auto’s, boten, kennis en geld kun je in Nederland bij ruim 250 verschillende online platformen terecht. Het bedrijf Deemly ontwikkelde een scoresysteem dat verschillende review websites doorzoekt om zo een algemeen beeld van jouw reputatie te vormen. Het systeem kijkt of jij bijvoorbeeld een goede host bent op Airbnb en je afspraken netjes nakomt op SnappCar.
Deze voorbeelden laten zien dat het Westen zijn eigen varianten op het Chinese sociale kredietsysteem kent. We leven in een reputatie economie waarbij ons online gedrag en de digitale diensten van Big Tech in toenemende mate onze kansen in het leven bepalen.
Het antwoord van Europa
Met de Declaration of cooperation on Artificial Intelligence wil Europa een ethisch antwoord formuleren op de macht van Big tech China en Big Tech Amerika. Maar hoe realistisch is dat?
Europa heeft van oudsher meer aandacht voor het publieke domein, de civiele samenleving en een sturende overheid. Hoogleraar mediawetenschappen José van Dijck onderzocht hoe we publieke belangen zoals autonomie, inclusiviteit en democratische controle kunnen waarborgen in een wereld die wordt gedomineerd door online platformen. Van Dijck laat zien dat de digitale diensten van Google, Facebook, Apple, Microsoft en Amazon steeds meer verweven zijn geraakt met publieke diensten zoals stedelijk transport, nieuws, gezondheidszorg en onderwijs.
Omdat grote techbedrijven zich onttrekken aan publieke waarden en de big data schandalen bij Facebook zich ophopen, klinkt de roep om overheidsregulering steeds harder. In Europa wordt daar langzaam gehoor aan gegeven. Bijvoorbeeld door lokale overheden die kritisch onderhandelen met mondiale platformen om publieke belangen te waarborgen. Zo werd Uber in een aantal Londense wijken verboden, en gaf Airbnb na onderhandeling met de gemeente Amsterdam zijn data vrij om gebiedsoverlast in te perken met een 30 dagen verhuurders maatregel. Een ander voorbeeld is Google, dat van de Europese Commissie een boete van 2,4 miljard euro kreeg opgelegd vanwege machtsmisbruik met zijn zoekmachine.
Het zijn sprekende voorbeelden, maar ze wegen niet op tegen een meer ingrijpende trend: Europese bedrijven die massaal worden overgenomen door Amerikaanse en Chinese concurrenten. Een bekend voorbeeld is het Britse AI bedrijf DeepMind, dat de beste Go speler van de wereld wist te verslaan. Het bedrijf werd overgenomen door Google.
Amerikaanse en Chinese bedrijven hebben een voorsprong omdat ze meer data ter beschikking hebben. De Europese ambitie om te concurreren met Amerika en China, gaat misschien niet zo goed samen met de Europese ambitie om ethisch verantwoord met big data om te gaan.
Op 25 mei treedt in de Europese Unie de General Data Protection Regulation (ook wel de Algemene Verordening Gegevensbescherming genoemd) in werking. Deze wet, die ons moet beschermen tegen onwenselijke besluiten van algoritmen, blijft vaag over bedrijven en overheden die beslissingen maken op basis van afgeleide data. Wat we daar precies aan hebben is dus nog onduidelijk.
Big data evangelie
Door alle aandacht voor Europese regelgeving zouden we bijna vergeten dat Big Tech zijn overmatige macht helemaal niet alleen te danken heeft aan leemtes in onze wetgeving. Vooral ons heilige geloof in big data en algoritmen dragen daar aan bij. Dat laat historicus Yuval Noah Harari zien in zijn bestseller Homo Deus. Harari beschrijft op welke manier ons wereldbeeld door de geschiedenis heen is veranderd. In de achttiende eeuw maakte het religieuze wereldbeeld steeds meer plaats voor een humanistisch wereldbeeld waarbij niet God, maar de mens centraal kwam te staan.
Volgens Harari bevinden we ons nu in een overgangsfase van een humanistisch naar een datacentristisch wereldbeeld. De mens wordt beschouwd als een datapakket en laat zich op steeds meer levensterreinen bijsturen door algoritmen. Om te bepalen wat we willen eten, lezen, kopen, kijken, verzekeren, genezen, beluisteren en beminnen hoeven we niet meer zelf na te denken of een beroep te doen op onze zintuigen, we besteden het uit aan algoritmen. Op zoek naar een levenspartner of nieuwe collega? Vertrouw niet op je ratio of gevoel, maar op een algoritme.
Harari noemt het heilige geloof in big data en algoritmen ‘dataïsme’. Het data evangelie verklaart de hele wereld met datastromen die menselijk gedrag moeten voorspellen en bijsturen. Deskundigen zoals de wiskundigen Cathy O’Neil en Edward Frenkel ageren tegen het dataïsme. Door steeds meer problemen te kwantificeren en alleen het meetbare prioriteit te geven, verliezen we menselijke waarden en onderlinge verschillen uit het oog. Algoritmen wekken de suggestie dat zij het meest nauwkeurige advies geven terwijl veel aspecten van menselijk gedrag niet in cijfers zijn uit te drukken. We gaan er ten onrechte vanuit dat algoritmen betere beslissingen maken en vertrouwen minder op onszelf.
Iedereen die met big data werkt moet zich afvragen welke menselijke aspecten en contexten we daarmee over het hoofd kunnen zien. Meten staat gelijk aan vergeten. Data zijn immers geen feiten en vormen slechts een versimpelde, door algoritmen bewerkte weergave van de werkelijkheid.
Empowerment van onderop
Om meer handelingsperspectieven te creëren moeten we loskomen van de dominante big data evangelie zoals deze aan ons gepredikt wordt vanuit Silicon Valley. De macht van Big Tech en aantasting van publieke waarden moeten we niet alleen van bovenaf met wetten inperken, maar ook van onderop.
Bijvoorbeeld door alternatieve online platformen en algoritmen te ontwikkelen waarbij publieke waarden het uitgangspunt vormen. Vanuit de samenleving ontstaan langzaam aan steeds meer initiatieven en bewegingen die zich verzetten tegen Big Tech en algoritmen die democratische waarden aantasten. Bijvoorbeeld de Algorithmic Justice League, DataCommons, Facebook Tracking Exposed en natuurlijk onze Civil Weapons of Math Retaliation waarmee we algoritmen kunnen inzetten voor eigen empowerment.
Zin om zelf in actie te komen?
Gebruik alternatieve sociale media en zoekmachines, bekijk je eigen Facebook filterbubbel, installeer extensies die algoritmen in de war sturen, laat je inspireren door deze machines, en kom op vrijdag 25 mei naar het Utrechts Centrum voor de Kunsten om mee te praten over Leven met algoritmen.
Dit verhaal is eerder geplaatst op de website van SETUP. SETUP wil een breed maatschappelijk debat stimuleren over de vraag hoeveel en welke besluitvorming we bereid zijn om van algoritmen te accepteren.
