Het gebruik van AI gaat in toenemende mate door alle lagen en haarvaten van de samenleving, maar tegen welke prijs?
In NRC vergeleek Wouter van Noort de bekering van Facebook tot privacyvolgeling met de verklaring van de beroemdste slager ter wereld die zegt van nu af vegetariër te worden [1].
Het lijkt onwaarschijnlijk dat het verdienmodel van Facebook ineens ter zijde wordt geschoven. Het profiel exploitatiesysteem kan volgens Mark Zuckerberg veel privacyvriendelijker doordat meer gebruik zal worden gemaakt van versleutelingtechnieken. Deze techniek zal worden gebruikt in de samenwerking tussen de diensten van Facebook, WhatsApp en Instagram. Het wekt echt vertrouwen dat zorgvuldig zal worden omgegaan met onze persoonsgegevens; alle sociale media met elkaar verbonden onder één dak! Gelukkig zal analyse met AI-technieken van de metadata meer dan voldoende profielinformatie opleveren om, naast gepersonificeerde advertenties voor de persoonlijke gebruikers, ook andere groot-zakelijke gebruikers van de internetruif te bedienen.
Het aardige zal zijn dat die techniek waarschijnlijk net binnen de grenzen van de Algemene Verordening Gegevensbescherming (AVG) lijkt te vallen omdat het dan ‘geanonimiseerde’ gegevens betreft. Die metadata zijn niet direct te herleiden tot de natuurlijke personen. Dat komt Zuckerberg erg goed uit. Met een aantal dreigende onderzoeken en boetes als zwaarden van Damocles boven zijn Facebookhoofd is zijn belijdenis tot privacy op AVG-niveau te verwachten. De samenvoeging van meerdere diensten en het waarschijnlijke aanbod tot nieuwe diensten zouden toch wat vraagtekens kunnen oproepen.
De angst voor toelating van het staats geïnvolveerde Huawei tot de infrastructuur van internet der dingen en het 5G-netwerk kan worden vergeleken met het vanuit Facebook gedomineerde internet en evenzeer met wantrouwen worden bekeken. Zeker als de diensten worden gekoppeld met slimme meters en onze mobiele apparaten, personal computers en steeds slimmere voertuigen, gevoed met onze persoonlijke informatie. Ook deze informatie wordt gedeeld met een groot aantal externe partijen die het mogelijk maken om de gespecificeerde informatie te retourneren die wij willen hebben van slimme assistenten en voertuigen. Zijn dit soort verbindingen en dataverwerkingen hackfree? Wie krijgt legaal of illegaal allemaal toegang tot onze persoonlijke gegevens?
Deze vraag wordt nijpend, ervan uitgaande dat steeds meer AI-gegenereerde systemen en robots, van zorgrobots tot velerlei chat-bots, deel uitmaken van ons dagelijks leven. Maar dat is nog niet alles. Er lopen in verschillende onderzoeksinstellingen diverse experimenten om te komen tot Brain Computer Interfaces (BCI). Onder andere Elon Musk heeft een bedrijf opgezet met de naam Neuralink, dat brein en computer en daarmee het internet koppelt. De volgende versie van Tesla heeft geen stuur meer, maar een BCI-headset.
Ook in andere sectoren zal AI steeds vaker zijn intrede doen. De nijpende tekorten in de zorg zullen, zoals reeds in Japan het geval is, naar alle waarschijnlijkheid worden opgevangen door zorgrobots die pas echt goed functioneren door verwerking van gegevens over onze dagelijkse behoeften, leefomgeving en onze persoonlijke en medische gegevens. En waar worden die gegevens opgeslagen? In het hoofd van de robot of ergens in de cloud? En zijn de gegevens toegankelijk voor de dienstenleveranciers in de zorg, de verzekeraars, de overheid of misschien Mark Zuckerberg? Zal het niet leiden tot een kapitalistische pendant van het vermaledijde Chinese social credit systeem? De hamvraag is: hoe zit het met onze privacy?
Bestaat privacy nog steeds of betalen wij met onze persoonlijke data voor allerlei meer en minder noodzakelijke diensten en producten? Is de AVG een waardevol instrument om onze persoonlijke gegevens en privacy te beschermen, of zal het een ‘papieren tijger’ blijken te zijn? Het is altijd moeilijk om voorspellingen te doen, maar we kunnen er zeker van zijn dat het gebruik van AI in toenemende mate door alle lagen en haarvaten van de samenleving zal gaan. Zeker als het zogenaamde zelflerende AI-toepassingen zijn is het maar de vraag waar die autodidactie toe zal leiden en of de resultaten niet met derde partijen worden gedeeld zonder dat we daar controle over hebben. De vraag is of de AVG eisen van transparantie van de verwerkingen en informatieverplichtingen aan de betrokkenen, de burgers, wel realistisch en handhaafbaar zullen blijken te zijn.
Rob van den Hoven van Genderen is voorzitter van de Nederlandse Vereniging voor Artificiële Intelligentie en Robotrecht (NVAIR)
[1] NRC, 9 maart 2019
