Droomwereld
Fouten maken is heel menselijk. En het is sociaal volstrekt geaccepteerd om de oorzaak buiten jezelf te leggen. Wie te laat op een vergadering komt, hoeft alleen maar iets te mompelen over een flinke file. Maar computers zijn geen mensen en we verwachten dan ook dat zij geen fouten maken. Als ze dat wel doen is de schok groot: als de radarcontroles van de KLPD verkeerd zijn afgesteld is dat voorpaginanieuws.
Ook rondom cyber security hing lange tijd de teneur dat we moesten streven naar 100 procent zekerheid. Onze data mogen onder geen beding op straat komen te liggen en de beveiliging moest dat garanderen. Dat leidde tot steeds verdergaande beveiligingsmaatregelen. Inmiddels draait de wind en beseft men steeds beter dat 100 procent zekerheid niet haalbaar is en dat pogingen om dat toch te halen waarschijnlijk te kostbaar en gebruiksonvriendelijk zijn. Veel organisaties realiseren zich inmiddels dat ze gehackt kunnen worden of dat misschien ongemerkt al zijn. Het is business as usual geworden. Precies daarom focussen ze zich met gezond boerenverstand op het beheersen van de risico’s. Net zoals een juwelier bewust keuzes maakt over inbraakbeveiliging en accepteert dat bepaalde risico’s niet uit te sluiten zijn.
Nu algoritmes steeds meer taken van de mens overnemen ontstaan ook op dat gebied verwachtingen ten aanzien van de prestaties van die algoritmes. Men beseft dat het essentieel is voor het maatschappelijk vertrouwen dat algoritmes deugdelijk zijn. Want als een stukje computercode voortaan gaat bepalen of je kind op een bepaalde school wordt geplaatst of dat je wel of niet een uitkering krijgt, dan is de hoogste zorgvuldigheid geboden.
Echter, net zomin als dat bij cyber security het geval is, zullen ook algoritmes ons geen droomwereld met absolute zekerheid binnen leiden. Zelfrijdende auto’s zullen soms crashen, wervingsalgoritmes zullen kandidaten niet altijd eerlijk behandelen. Ook nu zullen we weer uitkomen op het beheersen van risico’s. Vragen die daarbij essentieel zijn: welke algoritmes zijn echt impactvol? Hoe kunnen we de schade beperken bij ongewenste uitkomsten? Welke beheersingsmaatregelen hebben we nodig en wat mogen die kosten? Precies zoals die juwelier zijn afwegingen maakt.
Als we dat goed doen kunnen algoritmes op tal van vlakken verbetering brengen. Maar ze zullen niet foutloos zijn. Het is zaak dat we ons dat tijdig realiseren, zeker nu er ook wordt gewerkt aan wet- en regelgeving voor toezicht op algoritmes. We kunnen niet vroeg genoeg beginnen met het managen van verwachtingen ten aanzien van de prestaties van algoritmes. Nu dus.
Sander Klous is hoogleraar Big Data Ecosystems, UvA en partner bij KPMG
Deze bijdrage is te vinden in iBestuur magazine 30
