Onze opvatting is dat digitalisering, en ook het verantwoord toepassen van AI, kan bijdragen tot grote maatschappelijke waarden. Maar dan moeten we het wel goed (blijven) doen. Laten we helder communiceren, laten we ook duidelijk aangeven waar een technologie wel en niet toe in staat is, en laten we dat doen om niet in zwart-wit denken te vervallen
Er is al veel bereikt. En veel daarvan zijn we vanzelfsprekend gaan vinden. Algemene informatieverzoeken worden ‘realtime’ beantwoord, het afhandelen van transacties (van wat voor aard dan ook, van het aanvragen van paspoorten tot het betalen van verkeersboetes) verloopt vlot, zonder onnodig wachten; waar vroeger wachtrijen voor overheidsloketten stonden wordt de burger nu sneller en binnen ruimere ‘openingstijden’ bediend. Met veel daarvan zijn we al zo vertrouwd dat we het niet meer vergelijken met de niet-digitale wereld van hiervoor.
Het zorgt er ook voor dat we meer oog hebben voor de nadelen van digitalisering dan voor de voordelen. Die aandacht is natuurlijk terecht, waarbij een onderscheid gemaakt kan worden in twee soorten nadelen: die de individuele burger treffen, en die ons allemaal, of grote categorieën treffen. Helaas zijn van beide categorieën ruimschoots voorbeelden aan te dragen. Verkeerd ontworpen of toegepaste algoritmes hebben een rol gespeeld bij de uiterst schrijnende kindertoeslagaffaire. En een overheid die alleen digitaal bereikbaar is zal voor het grootste deel van de burgers de gewoonste zaak van de wereld zijn; voor minder digitaal vaardigen moet er ook een niet-digitale optie zijn.
Rechtstaat
We hebben het ondertussen over het centraal stellen van publieke waarden. Waarden en uitgangspunten die (letterlijk) de burger in zijn waarde laten en de democratische rechtstaat ondersteunen. Non-discriminatie, het kunnen afleggen van verantwoording, eerlijkheid, uitlegbaarheid, inclusie en het vermogen om rechten op de eigen data te kunnen uitoefenen zijn een aantal voorbeelden.
Het centraal stellen van (publieke) waarden en uitgangspunten dient actief uitgedragen te worden.
De Wetenschappelijke Raad voor het Regeringsbeleid heeft onlangs aandacht gevraagd voor deze onderwerpen in het rapport ‘Opgave AI – De nieuwe systeemtechnologie’. Gericht op het ontwikkelen en toepassen van artificiële intelligentie, maar wat betreft een aantal van de aanbevelingen breder toepasbaar. Dat wil zeggen op digitalisering voor en in het publieke domein.
Demystificatie
Het is interessant dat een van de thema’s die de WRR centraal stelt het begrip ‘demystificatie’ is. Het is nodig om helder te begrijpen wat een technologie – in dit geval AI – inhoudt, voordat je er verder beleid op kan voeren, en afspraken over kan maken. Dat opvallende schuilt hem in het feit dat het begrip een viertal jaar geleden veel gebruikt werd door IBM, en in andere delen van de ICT-wereld. Laten we helder communiceren, laten we ook duidelijk aangeven waar een technologie wel en niet toe in staat is, en laten we dat doen om niet in zwart-wit denken te vervallen (iets is ‘goed’ of iets is ‘fout’, we gebruiken een bepaalde technologie wel of niet), maar laten we veel meer de nuance zoeken, en zorgen voor middelen en instrumenten om tot een maatschappelijke verantwoorde omgang te komen met, in dit geval, AI.
Aan dat laatste is de afgelopen jaren hard gewekt. Op een aantal niveaus die we kunnen indelen in de categorieën Aandacht, Aanpak en Technologie (zie kader). Deze ontwikkelingen dragen bij aan het bewust en verantwoord kunnen benutten van maatschappelijke en economische kansen. Vanuit de gedachte dat het onnodig niet-benutten daarvan net zo (ethisch) bediscussieerbaar is als het onverantwoord en ondoordacht toepassen van technologie.
Maatschappelijke verantwoord omgaan met AI
Aandacht
Het centraal stellen van (publieke) waarden en uitgangspunten dient actief uitgedragen te worden. Niet iedereen die zich bezighoudt met het ontwikkelen, implementeren en beheren van applicaties is zich bewust van de mogelijke risico’s ten aanzien van belangrijke verworvenheden die bewaakt moeten worden. IBM publiceert hierover veel via diverse media en is actief participant binnen de ICT-branche op het terrein van ethiek en publieke waarden.
Aanpak
Het uitwerken van een praktische aanpak bij het ontwerpen en ontwikkelen van digitale oplossingen, helemaal als dat samen met overheidsorganisaties gebeurt, ten behoeve van interacties met de burger en het bedrijfsleven. IBM’s Everyday Ethics for Artificial Intelligence (eenvoudig terug te vinden op internet) geeft op hoog niveau een aanpak aan waar een aantal (benoemde) publieke waarden centraal staan. Veel meer gedetailleerde en toegespitste protocollen en werkvormen worden toegepast bij het werken met Nederlandse overheidsorganisaties. Daarnaast participeerde IBM, samen met andere ICT-bedrijven, ook actief bij het tot stand brengen van een gedragscode voor het ICT-bedrijfsleven via brancheorganisatie NLdigital.
Technologie
Nieuw ontwikkelde technologie (tools), veelal vrijgegeven aan de open source community, kan onder andere bijdragen aan het analyseren van datasets op onbedoelde bias, en het uitlegbaar maken van algoritmes die adviseren bij het uitvoeren van (publieke) taken. IBM’s OpenScale-initiatief (waar ook veel informatie over te vinden is) en IBM’s Explainabilty 360° Tookit zijn direct toepasbare instrumenten bij het bewaken en incorporeren van publieke waarden in door AI ondersteunde applicaties.
Rob Nijman is Directeur Centrale Overheid bij IBM
Bram Havers is Client Architect Overheid bij IBM
