‘Garbage in garbage out doesn’t just apply to code. It applies to documentaries as well.’ Aldus gebruiker rcnmxgzbv in een recensie op IMDb over de Netflix-documentaire Coded Bias. De documentaire is na The social dilemma de tweede in korte tijd over ‘evil tech’ en ook deze neemt het helaas niet al te nauw met de feiten. Ze krijgen dan ook ongezouten kritiek van inhoudelijke experts.
Daarmee is het ook een ‘sign of the times’. De ethiek rond het gebruik van data – denk onder meer aan discriminerende algoritmes – is mainstream gegaan. Dat is niet alleen geweldig nieuws voor alle voorvechters van dit thema, maar het is ook een mooi steuntje in de rug voor nieuwe Europese regelgeving. Nadat Brussel al vooropliep met privacywetgeving toont men zich opnieuw trendsetter door met nieuwe regels te voorkomen dat kunstmatige intelligentie dingen doet die niet deugen.
Gaat dit helpen? Zeker. Maar mijn voorspelling is dat het nog wel een jaar of vijftien duurt voordat de ethiek van data echt keuzes gaat beïnvloeden bij overheid en bedrijfsleven. Het zal voorlopig nog vallen in het bakje “wat voor organisatie wil je zijn?”, gezien worden als hobby van stafafdelingen en als prima thema voor interessante rondetafelsessies.
Dat pessimisme baseer ik op historische parallellen met een ander thema: duurzaamheid. Ook daar trok een bevlogen gemeenschap er jaren hard aan om bedrijven echt te verduurzamen. Maar lange tijd deed ook dat thema het vooral goed in de congreswereld. De analogie gaat verder: ook op dit vlak kwam er allerlei regelgeving die stimuleerde tot verduurzaming. Toch bleef het aanvankelijk vooral een randverschijnsel. Anno 2021 is er een kantelpunt te zien. Het is de financiële gemeenschap die ziet dat duurzaamheid ook gewoon financieel aantrekkelijk wordt en bedrijven tot echte verandering dwingt. Money moves everything. Mede veroorzaakt door de keuzes van de consument, dat wel.
Maar die investeerders horen we vooralsnog niet echt op het vlak van data-ethiek. Als er wat misgaat is er veel ophef maar die ebt ook weer snel weg. Ook hier zullen de keuzes van de consument het kantelpunt mede bepalen. Ik vraag me bijvoorbeeld af of de nieuwe privacyvoorwaarden van WhatsApp dit keer wel leiden tot een grootschalige verschuiving naar één van de alternatieven. Dat alles is een ongemakkelijke waarheid maar het is niet anders.
Over ongemakkelijke waarheden gesproken. Ook op het vlak van duurzaamheid werd de publieke opinie bewerkt met een documentaire. Juist: An inconvenient truth, de beroemde documentaire waar voormalig vicepresident van de Verenigde Staten Al Gore zich achter zette. En ook die documentaire nam het niet al te nauw met de feiten maar ging vooral voor de beeldvorming. Oh, en weet u wanneer deze film werd gemaakt? In 2006. Juist, dat is inmiddels 15 jaar geleden…
Sander Klous is hoogleraar Big Data Ecosystems, UVA en partner bij KPMG
Deze blog is gepubliceerd als column in iBestuur Magazine #39
