Technologie, ook digitale, is niets minder of meer dan een verlengstuk van onze fysieke en mentale mogelijkheden. De meeste technologie is dual use: het geeft ons de mogelijkheden om de impact van onze goede, maar ook onze slechte eigenschappen te vergroten.
“X” bijvoorbeeld, is in feite niets anders dan enorme megafoon. Met een geluidssterkte die de andere kant van de wereld kan bereiken. Daar kan je vriendelijke dingen doorheen roepen, maar ook oproepen tot geweld. Als je slim gebruik maakt van de algoritmen die gebruik maken van menselijke zwakheden kun je er mensen zaken mee laten geloven op een schaal die de katholieke kerk jaloers zou maken.
Ook voor de overheid die technologische oplossingen wil inzetten voor mobiliteit, verlagen van kosten in de zorg, tekorten op de arbeidsmarkt, transparantie, is die technologie zowel een zegen als een vloek. Goede digitale infrastructuur, data, algoritmen, robots, smart grids, videoconferencing en meer, helpen ontegenzeggelijk bij de oplossingen voor die grote maatschappelijke problemen.
Maar een overheid die haar burgers als potentiële fraudeurs en profiteurs ziet, krijgt met precies dezelfde technologie de middelen in handen om bij iedereen te kijken of er een tweede tandenborstel in de badkamer staat. En doodnormale patronen in datgene wat we fotograferen en naar elkaar schrijven kunnen als signalen van criminaliteit worden gezien waarmee we kunnen worden vervolgd.
Het is dus keer op keer niet de technologie zelf, maar de intenties waarmee die wordt gebruikt wat bepaalt hoe goed of hoe schadelijk het effect is.
Naïviteit
Het idee dat technologie zonder enig voorbehoud toegankelijk moet zijn voor iedereen en dat de producent die dan maar zo moet maken dat er niets slechts mee kan gebeuren, is dus tamelijk naïef. Zeggen dat “algoritmen veilig en getest op bias moeten zijn” komt op hetzelfde neer als iedereen zonder rijbewijs in een auto laten rijden en van de producenten eisen dat er geen ongelukken mogen gebeuren. En die producent een forse boete geven als het toch mis gaat.
Toch richt de huidige reguleringsgolf zich primair op de technologie. De AI Act, de NIS2, de DSA, de Data Act, de CRA, richten zich op aanbieders of exploitanten. Over de restricties en condities voor gebruik lees je in de AI Act en de AVG eigenlijk alleen dat de gebruiker zich rekenschap moet geven van risico’s, en dan maatregelen moet nemen om die te beheersen, Hoe dat precies moet, wat ‘hoog risico’ is en hoe je dat bepaalt, daar laat die regulering open.
De conclusie moet zjjn dat ook in de digitale wereld veel meer gewicht komen moet worden toegekend aan de toegang tot- en het gebruik van technologie die risico’s heeft voor onze veiligheid of persoonlijke levenssfeer. Niet in de eerste plaats de AI, maar het beruik ervan moet worden gereguleerd en gecontroleerd. En net als met auto’s, of wapens, moet je soms het gebruik in bepaalde situaties simpelweg verbieden, tenzij je een vergunning hebt, die je pas krijgt na checks en bewezen competenties, en alleen kan behouden na periodieke herkeuring.
‘Regulatory toolbox’
Dat is naar mijn stellige overtuiging wat de WRR in haar rapport over AI met Systeemtechnologie bedoelt. Vliegtuigen moeten veiligheidsfuncties bieden, maar zonder getrainde piloot, luchtverkeersleiding, regels voor gebruik en continue inspecties heb je daar weinig aan.
De kern van effectieve regulering van technologie is dus niet de wet, die zet alleen de kaders. Effectieve regulering heeft ook een stelsel nodig : de zogenaamde ‘regulatory toolbox‘, Die moet er nu gaan komen voor situaties waar technologie intenties van gebruik die gevolgen voor ons hebben, kan versterken.
De EU is vrijwel klaar met een dik pakket van techregulering, de juridische teksten worden afgerond. Om te zorgen dat die teksten worden omgezet in handelingsperspectief voor organisaties moet in de komende kabinetsperiode de focus sterk gaan verschuiven. De herhaalde agendering van risico’s en vervolgens de oproepen om de private markt en technologie te reguleren moeten nu plaats gaan maken voor oproepen om het gebruik van die technologie te gaan regelen.
Techregulering
In plaats van vertaling van juridische teksten naar contracten en verklaringen, dat we zo goed kennen van de AVG, moeten er voor de nieuwe techregulering stelsels komen met heldere normen, certificeringen, vergunningen, trainingen, periodieke audits en inspecties,. Dat alles geregisseerd en ondersteund door toezichthouders en organisaties met kennis van zaken. Organisaties en coalities zoals de OTC richten zich op het realiseren van zulke stelsels.
Impliciet veilige digitale technologie zoals AI is een illusie. Met alleen juridische teksten, onderbezette toezichthouders die zich alleen op incidenten kunnen richten, en af en toe een boete, zullen we geen grip krijgen op gebruik van technologie die ons kan schaden. Het wordt tijd om serieus werk te gaan maken van beheersen van de systeemtechnologie
Eens met deze aanbevelingen, maar wel met de kanttekening dat er ook wel wat meer waarderend over het juiste gebruik van AI gesproken mag worden. Dus: (overheids)organisaties die met data en AI aan de slag gegaan zijn en maatschappelijke uitdagingen daarmee effectief hebben aangepakt- op een zorgvuldige manier uiteraard- in het zonnetje zetten.
Goed toezicht op AI gebruik moet m.i. niet leiden tot een soort betweterigheid of zelfs ‘gebruikskoudwatervrees’ (als je niets doet, doe je ook niets fout), maar tot een gezamenlijk leerproces, van organisatie tot burger.
Een rijbewijs voor Data Scientists die met privacy gevoelige data werke… klinkt als een interessante optie. Wellicht ook voor managers en bestuurders en andere betrokkenen passend. Digitalisering doen we immers met zijn allen.