eerder verschenen nummers

zoeken binnen de website

Marietje Schaake: ‘Europa wordt hier niet eens genoemd’

door: Rineke van Houten | 22 oktober 2020

De privacywet AVG heeft de grote techbedrijven feitelijk machtiger gemaakt, zegt Marietje Schaake, die het Europees Parlement een jaar geleden verruilde voor Stanford University. Op het gebied van kunstmatige intelligentie doet Europa te weinig mee, constateert ze. Een gesprek over de Amerikaanse verkiezingen en Facebook, multigetalenteerde studenten en werken in het hol van de leeuw.

Marietje Schaake

Beeld: Lex Draijer/De Beeldredaktie

Of het interview zo dicht mogelijk op de deadline zou kunnen plaatsvinden, vroeg Marietje Schaake. Zodat ze zoveel mogelijk op de actualiteit kon inspelen. “De ontwikkelingen volgen elkaar zo snel op”, licht ze toe in haar appartement in de Amsterdamse Jordaan. Sinds de uitbraak van de coronacrisis werkt ze voorlopig vanuit Nederland voor Stanford University, het gerenommeerde instituut in Sillicon Valley dat haar een jaar geleden binnenhaalde. Ze werd er directeur internationaal beleid van het Cyber Policy Center, fellow bij het Institute for Human- Centered AI en docent kunstmatige intelligentie en de rechtstaat, een nieuw vak. Online contact met haar studenten en collega’s is er door het tijdsverschil van ’s middags tot middernacht. De uren daarvoor vullen zich makkelijk met interviews, webinars en andere werkzaamheden, glimlacht ze terwijl ze een kop koffie op de lange houten tafel zet. “Ik werk van 9 tot middernacht.”

De ochtend van het interview werd bekend dat Facebook een week voor de Amerikaanse presidentsverkiezingen van 3 november politieke advertenties in de VS zal weren om ‘verwarring’ over de stemming te voorkomen. Het is goed dat Facebook verantwoordelijkheid neemt voor de enorme macht die het heeft, zo reageert Schaake. “Ik vind niet dat elke interventie een inbreuk is op de meningsuiting, zoals Zuckerberg lang heeft beweerd. Maar de vraag is natuurlijk wel of deze maatregel het bedoelde effect zal hebben.”

Het doel is onbedoelde manipulatie van de verkiezingen tegen te gaan.

“Ja, hij zal bang zijn om aangewezen te worden als dader in een heel ingewikkelde verkiezing. Ik had het erover met een collega van Stanford die bij Facebook heeft gewerkt. Hij relativeerde het effect van de maatregel voor kapitaalkrachtige presidentskandidaten. Zij kunnen hun boodschap op andere manieren onder de aandacht brengen, voor kleinere partijen is dat moeilijk. Met duizend dollar kom je niet zover. Als je miljoenen te besteden hebt, kun je televisiezendtijd kopen. Ik vind het problematisch dat we op een punt zijn beland waar een Facebook meer kan doen om verkiezingen te maken of breken dan de toezichthouder of wetgever. Deze hebben die rol niet gepakt. Het gaat om fundamentele rechten van burgers en het democratisch proces. Het is ook kwalijk dat Facebook geen prioriteit geeft aan het echt wieden van de meest kwalijke content. Het lukt Facebook niet genoeg zijn eigen beleid door te voeren.”

Is dat niet angstaanjagend? Facebook heeft zelf een vliegwiel gecreëerd dat niet meer in de hand is te houden.

“Zeker.”

Het bewijst ook hoe invloedrijk Facebook is. Dat een democratisch proces voor een deel afhankelijk is van een monopolist.

“Klopt. Wat ik bijna onbegrijpelijk vind is waarom er zoveel macht zonder tegenmacht is. Mededinging, publiek belang versus private bedrijven, discriminatie: vanuit allerlei perspectieven kun je besluiten nu echt te gaan kijken wat er in het geding is. Er zijn voortdurend incidenten en schandalen, wereldwijd, waarop telkens een reactie volgt. Maar dat is de verkeerde weg. Democratische regeringen moeten veel fundamenteler ingrijpen. Haat zaaien is bijvoorbeeld niet toegestaan in de meeste landen van Europa, dat is een van de weinige uitzonderingen van de vrijheid van meningsuiting. Daar is al wetgeving voor. Die moet je handhaven.”

Moet je monopolisten als Google en Facebook niet bij de wortel aanpakken en openbreken?

“Ja, maar het is evengoed een aanklacht tegen democratische wetgevers dat het zover is gekomen. Ik ben niet verbaasd dat een bedrijf zijn kansen maximaal benut. Daarom is het des te belangrijker dat democratische regeringen in samenwerking daar iets tegenoverstellen. Zij zouden regels moeten opstellen voor politieke campagnes, voor financiering van reclames, voorwaarden waaronder reclames onder de aandacht gebracht mogen worden.”

Schaake heft haar handen. “Helaas is het Amerikaanse Congres ernstig gepolariseerd, daar komt weinig van de grond voorlopig.” Al put ze hoop uit het onderzoek naar schending van mededingingsregels door de openbare aanklagers van 47 staten gezamenlijk. “Die zaak is nu aangemeld om voor te komen. Die bundeling van krachten is belangrijk en bewijst dat er ook in de Verenigde Staten zorgen leven. Het wordt spannend of bepaalde functies van de techbedrijven gesplitst zullen worden. Dat zal een effect hebben, maar is geen toverstaf waarmee je alle problemen oplost.”

De voormalig europarlementariër voor D66 maakt zich “heel veel zorgen” over de Amerikaanse presidentsverkiezingen. “Ik las net dat er vannacht weer mensen op elkaar hebben geschoten. Burgers tegen burgers, dat is het laatste dat je wilt.”

Hol van de leeuw

In haar nieuwe functie in Sillicon Valley is Schaake betrokken bij het ontwikkelen van beleid voor kunstmatige intelligentie (KI). Doel is beleidsmakers op de hoogte te houden van de laatste technologische ontwikkelingen op het gebied van veiligheid, desinformatie en democratische processen. Hoe technologie en verkiezingen op elkaar inwerken is het onderwerp van een nieuwe reeks colleges die dit najaar is gestart. Schaake: “We willen inzichtelijk maken welke rol technologie speelt als het gaat om bijvoorbeeld buitenlandse inmenging en desinformatie. En onderzoeken welke agenda we kunnen verwachten van de nieuwe regering, op het gebied van mededinging bijvoorbeeld.” Zij en haar collega’s hebben “de meest vooraanstaande sprekers” kunnen interesseren. Een van hen is Roger McNamee, een van de eerste investeerders in Facebook en nu de scherpste criticus van “de Facebook catastrofe”.   Met open inschrijving en een voor Amerikaanse begrippen laag inschrijfgeld van omgerekend 275 euro voor negen weken hopen Schaake en haar collega’s “een maatschappelijk doel te dienen”. Na afloop worden de lessen online geplaatst.

Facebook kan meer doen om verkiezingen te maken of breken dan de toezichthouder of wetgever

Als europarlementariër stond ze aan de wieg van net­neutraliteit en de afschaffing van roamingtarieven in Europa en maakte ze zich sterk voor de veiligheid op internet. Toen ze in 2019 besloot Brussel na tien jaar te verlaten, kwam het aanbod van Stanford. Dat zag haar graag komen vanwege haar Europese achtergrond en visie op het gebied van technologie en veiligheid. Ja, beaamt ze niet voor de eerste keer sinds haar aanstelling, ze werkt in het hol van de leeuw. “Dat is juist de uitdaging. Mijn studenten hebben nog nooit over universele mensenrechten, Europees recht en multilateralisme nagedacht. En ik wilde in de eerste plaats leren. Ik wilde graag dichter bij de plek zijn waar technologie zich ontwikkelt. De mix van mensen uit het bedrijfsleven, de politiek en de wetenschap is verfrissend. Veel van die mensen hebben kijk op verdienmodellen, algoritmes en bedrijven, zij delen hun kennis met mij. En ik leer hoe ingenieurs denken over mogelijkheden, uit welke cultuur ze komen.”

Over haar studenten, uit allerlei studierichtingen, is ze laaiend enthousiast. “Je kunt je niet voorstellen hoe gemotiveerd, divers en getalenteerd ze zijn. In het Europees Parlement heb ik met heel goede mensen gewerkt, maar dit is de overtreffende trap. Die mensen zijn zo ja, eh, multigetalenteerd.”

Is dit de generatie die ons de grip op onze digitale omgeving moet terugbezorgen?

“Dat hoop ik natuurlijk, maar zie daarvan ook tekenen. Een student van mij, begin twintig, kon bij de grootste bedrijven een half miljoen per jaar verdienen. In plaats daarvan gaat hij nu rechten studeren omdat hij gegrepen is door het idee dat de wetten die komende tien jaar worden vormgegeven bepalend zullen zijn. Hij heeft al een studie filosofie en kunstmatige intelligentie achter de rug en een journal opgezet over dit soort thema’s.” Met glinsterende ogen: “Dit soort mensen bewandelen een pad dat meerderen hopelijk zullen kiezen.”

Ze tikt even het scherm van haar smartphone aan om te kijken of de fotograaf zich al heeft gemeld.

Signal of WhatsApp?

Ze aarzelt een seconde. “Beide. Ik zou het liefst alleen het privacyveilige Signal gebruiken, maar daarmee zou ik niet iedereen kunnen bereiken. Het schaalvoordeel is gigantisch voor de grote spelers, en wordt alleen maar groter. Kijk hoeveel de waarde van Amazon gestegen is tijdens de coronacrisis. Met kleine marges veel geld verdienen lukt alleen als je zo
groot bent. Kleine bedrijven moeten omschakelen van restaurant naar afhaal, een buurtsuper kan zijn klanten helemaal niet meer bereiken als ze niet langskomen. De concurrentie is oneerlijk.”

Europa-brede analyse

De Europese Unie introduceerde twee jaar geleden tot grote eigen tevredenheid de privacywet AVG (Algemene verordening gegevensbescherming). Het Financieele Dagblad schreef afgelopen voorjaar: ‘Technologiebedrijven hebben het verkrijgen van toestemming tot kunst verheven’. Wat is het werkelijke effect van de wet, behalve dat consumenten gek worden van het aan- en afvinken van cookies?

“De wet stelt grenzen aan de manier waarop data verzameld en bewerkt mogen worden. Dat heeft voor bewustwording gezorgd. Maar de uitvoering laat echt te wensen over. Het onbedoelde effect is inderdaad dat het voor de platforms eenvoudig is er met legers advocaten een mouw aan te passen, knoppen zo te ontwerpen dat ze gebruikers krijgen waar ze ze hebben willen. Daar hebben kleinere bedrijven geen middelen en mensen voor. De AVG heeft de grote techbedrijven feitelijk machtiger gemaakt. Ook media worstelen met de nieuwe wet. De LA Times, geen kleine krant, koos ervoor om niet in Europa te verschijnen omdat ze het niet redden voor die relatief kleine markt aan de AVG te voldoen. Heel jammer voor het media-aanbod. Daarnaast is er een gebrek aan goed toegeruste toezichthouders.”

Het bedrijfsmodel van de techbedrijven is ongemoeid gelaten. Data worden nog steeds verzameld en verkocht.

“Dat klopt.”

Wat moet er gebeuren?

“Er moet een overheidsbrede en Europees-brede analyse komen over wat je geoorloofd vindt om aan bedrijven over te laten en wat niet. Is het principieel oké dat een bedrijf zoveel data verzamelt? Dat de informatie vrijwel alleen via één of twee reclameplatforms gaat voor grote delen van de bevolking? Ik vind van niet. In Brussel wordt gewerkt aan de Digital Service Act, die digitale platforms moet reguleren. Maar de bedrijven groeien zo snel. Elke dag dat ze door kunnen zonder beperkingen verdienen ze zo ontzettend veel dat ze daarmee weer nieuwe lobbyisten kunnen aantrekken, nieuwe overnames kunnen doen en nieuwe producten in de markt kunnen zetten.”   

Valkuil

Intussen heeft Europa een achterstand op het gebied van KI. Is de ‘drive’ wel aanwezig?

“Dat denk ik wel, dat is het probleem niet. De Europese Commissie heeft een white paper geschreven om input te genereren. Maar visies moeten worden omgezet in wetgeving, en dat moeten afzonderlijke regeringen doen. We kijken op dit gebied nog steeds te veel naar binnen. Ik vind het zorgwekkend dat het in discussies over AI op Stanford alleen gaat over Amerika en China. Europa wordt niet eens meer genoemd.”

Europa is geen speler.

“Nee. Europa is trots op haar regelgevingsrol, maar dat is een valkuil. Regelgeving is geen doel op zich, die is er om principes te ankeren. Ik zie veel steun voor de ambitie van de EU om waarden voorop te stellen, maar er wordt ook wel wat honend gedaan over het feit dat we in Europa weinig schaal en businesssucces kunnen laten zien op basis van die waarden. Ik denk dat veel mensen best willen meedenken over regulering en bescherming van privacy, maar wel in combinatie met een product, een markt, innovatie. Het kan niet alleen een papieren werkelijkheid zijn. Het vieren van de AVG heeft ook een verblinding voor andere problemen teweeggebracht. Alleen omdat je een stap in de goede richting hebt gezet, ben je er
nog niet. Dat irriteert me wel eens. Het is de eerste stap van vele. Je mag niet zelfgenoegzaam achteroverleunen.”

Maart volgend jaar zijn er verkiezingen voor de Tweede Kamer. Wat zou er in het regeerprogramma moeten worden opgenomen over internettechnologie en kunstmatige intelligentie?

“Ik hoop dat het politiek nog meer prioriteit krijgt. Nederland heeft heel goede kaarten, niet alleen door start-ups en universiteiten. Denk aan de gerechtshoven in Den Haag, een wereldwijde reputatie voor vrede en gerechtigheid, het afleggen van verantwoording. Internationaal recht toepassen in de digitale wereld, daar kan Nederland een heel belangrijke rol in spelen. Het moet een echt speerpunt zijn, als lid van de Europese unie, ingebed in Europees beleid.” Na een korte stilte: “Er is een machtsstrijd gaande in de absolute geopolitieke zin van het woord. Dat mogen we niet onderschatten.”

Dit artikel staat ook in iBestuur magazine 36

reacties: 1

tags: , , , ,

  • Hans IJsselstein #

    22 oktober 2020, 12:21

    AVG was een stap in de goede richting, maar ondanks enkele gewonnen rechtszaken wordt het massaal ontdoken, door het min of meer afdwingen van toestemming voor het gebruik van persoonsgegevens. Ligt het probleem niet veel meer op het ontwikkelen van regels voor het gebruik van algoritmes. En is de AVG soms niet een rem voor het ontwikkelen van nuttige en betrouwbare algoritmes?
    Als ik kijk naar het belang van IT in het D66 verkiezingsprogramma ben ik eerlijk gezegd niet hoopvol gestemd.

Reactieformulier

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie. U kunt bij de vormgeving van uw reactie gebruik maken van textile en er is beperkt gebruik van html mogelijk.