Algoritmes zijn geen hocus-pocus. Algoritmes bieden kansen. Aandacht is en blijft nodig om die kansen te pakken.
In de zoektocht naar eerlijke algoritmes wordt vooral gekeken naar de menselijk maat. Het is echter nu juist die menselijke maat die kan leiden tot oneerlijke beslissingen. Het gebruik van algoritmes in de publieke sector is dan ook meer kans dan risico.
Het gebruik van algoritmes in de publieke sector is niet nieuw, maar de mogelijkheden worden steeds groter. Dit leidt logischerwijs tot vragen over wat algoritmes betekenen, hoe ze werken en welke waarde de uitkomsten hebben. Die vragen worden nu echter vooral gedreven door een ongefundeerde angst voor een dystopie waar algoritmes regeren. Er wordt een Orwelliaans toekomstbeeld geschetst waarin algoritmes het verlengstuk zijn van de overheid en de democratische rechtsstaat ondermijnen. Algoritmes worden daarbij niet meer gezien als de wiskundige formules die het zijn, maar als politiek-maatschappelijke constructen.
Een goed begrip van wat een algoritme is, is echter noodzakelijk om een oordeel te kunnen vellen over het gebruik van algoritmes. Aan dit begrip ontbreekt het nu nog vaak. Zo worden algoritmes en artificiële intelligentie nog vaak als synoniem gebruikt. Algoritmes zijn er echter in allerlei vormen en gradaties, waarvan sommige zelflerend. Soms zijn deze complex en is de werking een black box. Wanneer zo’n algoritme wordt gebruikt om longkanker op te sporen op CT-scans is dat niet zo erg. Maar bij het opsporen van mogelijke fraude moet het algoritme transparant zijn, ongeacht de effectiviteit. Ook moeilijk uitlegbare algoritmes kunnen echter eerlijk zijn.
Die eerlijkheid is bovendien toetsbaar en afdwingbaar. Ook algoritmes zijn immers gebonden aan wet- en regelgeving. Zo spanden burgers en belangengroepen eerder dit jaar succesvol een zaak aan tegen het gebruik van SyRI (Systeem Risico Indicatie van het ministerie van Sociale Zaken), waarna het gebruik is verboden op basis van het Europees Verdrag voor de Rechten van de Mens.
Algoritmes worden wel steeds geavanceerder. De mogelijkheden nemen daardoor toe, maar het wordt ook lastiger om de werking te doorgronden. Toen in 2016 de menselijke Go-kampioen Lee Sedol verloor van het computerprogramma AlphaGo was dat het gevolg van een aantal onnavolgbare en voor ons ook onlogisch lijkende zetten van de computer. Het onderliggende algoritme optimaliseerde de winkans op basis van historische spellen, maar ook scenario’s die de computer zelf had bedacht. Het is niet enkel rekenkracht waardoor de mens verloor, maar ook intelligentie. Dit tornt aan ons superioriteitsdenken waarin de mens de beste garantie is voor het nemen van de juiste beslissing.
Net zoals algoritmes zijn mensen echter ook niet onfeilbaar. Toch accepteren we fouten bij mensen eerder dan bij algoritmes. We laten de mens prevaleren boven het algoritme, omdat de afwegingen van de mens empathie en menselijkheid kennen. De keerzijde daarvan is dat juist die menselijkheid een bron kan zijn voor oneerlijke beslissingen en willekeur. Zo bleek recent nog dat rechters in verschillende regio’s in gelijksoortige zaken anders oordelen. Een algoritme biedt juist objectiviteit en kan daarmee bijdragen aan rechtsgelijkheid en -zekerheid.
Algoritmes bieden kansen. Aandacht is en blijft nodig om die kansen te pakken. Daarbij is het belangrijk om algoritmes niet continu weg te zetten als potentieel gevaarlijk of oneerlijk. Algoritmes zijn geen hocus-pocus. Ze zijn gereguleerd, toetsbaar en bovendien in staat om rechtszekerheid en transparantie van overheidshandelen te garanderen.
Christian Verhagen is senior adviseur bij Verdonck, Klooster & Associates en publiceert regelmatig over data en technologie in de publieke sector.
