SOS Tech Awards 2021

De awards werden uitgereikt in een livestream vanuit de Bibliotheek Utrecht. De winnaars zullen wij uitgebreid toelichten, maar ook de genomineerden zijn van belang. Zij zijn onze (on)eervolle vermeldingen die zich gesteund kunnen voelen in hun aanpak of aangemoedigd tot verbetering.

Alle genomineerden

Black Box
– Kamer van Koophandel
– Ministerie LNV
– Ministerie VWS
Glass Box
– Gemeente Amsterdam
– RIVM
– Bart Snels & Steven Weyenberg
Dode Mussen
– Nationale Politie
– Ministerie V&J
– GGD
Levende Mussen
– Ministerie VWS
– IBM
– KPN

Glass Box Award moedigt open overheid aan

Digitale transparantie door middel van open data creëert maatschappelijke en economische waarde. Met de Glass Box Award spreekt Open State Foundation haar waardering uit voor partijen die in het afgelopen jaar voor meer digitale transparantie hebben gezorgd. S. van Weyenberg en B. Snels waren de gelukkige winnaars van deze mooie award. Hun inzet voor de Wet open overheid, een wetsvoorstel dat transparantie vanuit de overheid bevordert, is van essentieel belang voor een goed functionerende democratie. In de nasleep van de toeslagen affaire, die het desastreuze effect van het gebrek aan openheid aantoont, vond de jury dat de maatschappelijke impact van een transparante overheid benadrukt moet worden. Jurylid Alex Brenninkmeijer, Nederlands lid van de Europese Rekenkamer, benadrukte: “een Open Overheid is essentieel in onze samenleving, in onze democratie en ook voor het vertrouwen van de burger in de overheid”. De jury benadrukte dat het een zware klus is om een wet door de Kamers te loodsen, daarnaast is het een aanmoediging voor andere Tweede Kamerleden om het systeem te corrigeren. De laatste horde is nu weer de Eerste Kamer, dus hun inzet gaat door.

Black Box Award stelt afgedekte agenda’s van bewindslieden aan de kaak

Omdat er nog volop ruimte is voor verbetering op het gebied van open data en digitale transparantie, werd ook een Black Box Award uitgereikt. Deze ging naar het Ministerie van Landbouw, Natuur en Voedselkwaliteit vanwege het onvolledig openbaar maken van de agenda van haar bewindslieden. Het ministerie van LNV laat zien niet structureel agenda-afspraken vast te leggen en bij te werken, ondanks dat de verantwoordelijkheid hiervoor bij het ministerie ligt. Volgens de jury is de mate van gebrek aan openheid bij het ministerie LNV duidelijk afgebakend: er is een duidelijke regel over het openen van de agenda’s van bewindspersonen sinds 2018 en uit het kleine aantal geregistreerde afspraken met externe partijen zag de jury een ministerie met weinig transparantie. “Het is van belang voor burgers, journalisten en andere partijen om te weten wie er mogelijk invloed hebben op het beleid van het ministerie”, onderbouwd Piek Visser-Knijff, onafhankelijk data-ethicus en filosoof deze keuze. Het ministerie reageerde verbaasd omdat zij zich open dachten op te stellen. We kunnen dus wel stellen dat het hier ging om een blinde vlek waar nu gelukkig aan gewerkt gaat worden om dit te verbeteren.

Hoe teleurstellender de aangeboden excuses en vervolgstappen, hoe meer de samenleving blij wordt gemaakt met een dode mus

Dode Mussen Award stimuleert organisaties om meer tech-verantwoordelijkheid te nemen

Organisaties wapperen graag met hun PR-vlag als technologische misstappen aan het licht komen. Maar leiden hun excuses en beloften ook tot de nodige verandering? Of wordt de samenleving blij gemaakt met een dode mus? Om dat te bepalen ontwierp SETUP de dode-mussen-index. Hoe teleurstellender de aangeboden excuses en vervolgstappen, hoe meer de samenleving blij wordt gemaakt met een dode mus. De index kan oplopen van vijf dode mussen: totale ontkenning van het probleem, tot vijf levende mussen: erkenning van het probleem, maatregelen én compensatie.

De Nationale Politie maakte kans op de Dode Mussen Award vanwege haar gebrek aan voortschrijdend inzicht met proeftuinproject Sensing. In dit Roermondse proeftuinproject deed de politie aan etnisch profileren met behulp van algoritmen. Camera’s met kentekenherkenning registreerden auto’s op weg naar het winkelcentrum, wifi-trackers detecteerden telefoons van eerder betrapte zakkenrollers en met objectherkenning werd vastgesteld hoeveel mensen in een auto zitten. Algoritmische systemen waarschuwden de politie: signaleerde het systeem een Roemeense nummerplaat? Dan kreeg de auto extra verdachtsheidspunten. Amnesty International deed onderzoek naar het project en noemde het “de automatisering van etnisch profileren”. Begin dit jaar werd het project stopgezet. Niet vanwege voortschrijdend inzicht, maar omdat de politie te weinig capaciteit had om de algoritmische uitkomsten te interpreteren en op te volgen. Door het probleem van geautomatiseerd etnisch profileren niet te erkennen, neemt de Nationale Politie geen verantwoordelijkheid voor de maatschappelijke impact van hun opsporingssysteem.

De GGD werd genomineerd vanwege haar reactie op de datalekken van afgelopen januari. De exportfunctie in hun systeem maakte het bijna een jaar lang mogelijk om lijsten met geteste personen te downloaden en door te sturen. Daardoor lagen de coronatest gegevens en bron- en contactonderzoek gegevens van ruim 5 miljoen Nederlanders op straat. Medewerkers hadden de GGD meermaals gewaarschuwd voor de fraudegevoelige exportfunctie. Maar in plaats van verantwoordelijkheid te nemen voor de falende ICT-beveiliging en alle genegeerde waarschuwingen, probeerden de GGD zich te verschuilen achter het excuus dat tegen een datamisdrijf geen enkel kruid gewassen is. Een dag voor de award-uitreiking werd bekend dat de GGD inmiddels persoonlijke brieven met excuses had verzonden en tips om te voorkomen dat mensen slachtoffer worden van identiteitsfraude. Probeerde de GGD aanvankelijk nog haar fouten goed te praten, inmiddels nemen zij verantwoordelijkheid voor de impact van hun fout. Daarmee heeft de GGD zichzelf gevrijwaard van de Dode Mussen Award en zijn ze gestegen op de levende mussen index.

Omdat de fouten in het Roermondse Sensing project niet op zichzelf staan maar deel uitmaken van een groter, meer structureel probleem, ging de Dode Mussen Award naar Het Ministerie van Justitie en Veiligheid. Zij ontvangen de award vanwege de Wet Gegevensverwerking Samenwerkingsverbanden (WGS) waarmee overheden en private partijen op nog grotere schaal data kunnen delen en ingrijpende risico-indicatie systemen kunnen optuigen. De wet krijgt de bijnaam Super SyRI. Vorig jaar sprak de rechtbank een verbod uit op Systeem Risico Indicatie (SyRI). Het systeem koppelde duizenden gegevens aan elkaar om te bepalen of jij een “risicoburger” bent die mogelijk fraude gaat plegen. Burgers werden ten onrechte als potentiële criminelen aangemerkt, en het systeem discrimineerde omdat alleen armere wijken gescreend werden.
De Kamer beloofde lering te trekken uit het instrument SyRI. Maar omdat minister Grapperhaus het wetsvoorstel voor Super SyRI heeft verdedigd in de Tweede Kamer en geen lering heeft getrokken uit het SyRI debacle, ontvangt zijn ministerie de Dode Mussen Award. Het Ministerie van Justitie en Veiligheid reageerde op de award met een schriftelijk verklaring waarin zij verklaarden zich niet te herkennen in de vergelijking met Systeem Risico Indicatie.

Sorry zeggen, heldere communicatie, anticiperen op voortschrijdend inzicht en compensatie; dat levert een topscore van vijf levende mussen op.

Levende Mussen Award beloont effectieve bijsturing van technologische misstappen

Organisaties die wèl leren van hun fouten en gaandeweg meer verantwoordelijkheid nemen voor de impact van hun eigen technologie, verdienen een Levende Mussen Award. IBM maakte kans op deze award vanwege haar besluit om gezichtsherkenningssoftware (een ingrijpende technologie waarmee mensenrechten geschonden worden) niet langer aan te bieden. Het ministerie van Volksgezondheid, Welzijn en Sport was kanshebber vanwege hun befaamde corona-appathon.

Als een naïeve tech-solutionist, zette VWS begin dit jaar al haar kaarten in op een corona-app die ons uit de Lockdown moest halen. Deze wereldvreemde houding was minstens vijf dode mussen waard. Maar al snel kwam VWS met een verrassende stap voorwaarts. Minister Hugo de Jonge riep bedrijven op om mee te denken over het ontwerp van de app. In een heuse appathon presenteerden zeven teams hun corona-app aan experts en publiek. Toen geen van de apps door de KPMG security-check heen kwamen, was de kritiek niet mals. Volgens VWS topambtenaar Erik Gerritsen werd de overheid in de pers “wekenlang voor gekke Henkie uitgemaakt”. In het FD uitte hij zijn zorg over het effect van de genadeloze kritiek die zij hebben ontvangen: “We hebben het nooit als een fiasco ervaren, maar zijn tot onze enkels afgebrand. Terwijl het waanzinnig gaaf was om de appathon te houden. Pas op en wees milder in je oordelen, anders dwing je ons terug in onze schulp.”
In de appathon zijn inderdaad fouten gemaakt. Maar de lessen die de overheid daarbij leerde hebben wel degelijk bijgedragen aan het resultaat. Zo werden privacy- en burgerrechtenorganisaties gehoord en is bij het uiteindelijke ontwerp in ieder geval rekening gehouden met privacy. Toch wint VWS de Levende Mussen Award niet. Hun democratische ontwikkelingsproces is een goede stap voorwaarts, maar geen structurele verbetering. Zo blijkt bij de nieuwe corona-app; de corona check-app, een dergelijk inspraakproces waarbij burgerrechten organisaties gehoord worden afwezig.
Hoewel IBM en VWS waardevolle stappen hebben gezet, vond SETUP een organisatie die nog beter heeft laten zien wat het betekent om verantwoordelijkheid te nemen voor je eigen technologie en effectief te reageren op fouten. In de zomer van 2019 was de meldkamer van 112 drie uur lang niet bereikbaar door een fout bij KPN. Drie mensen kwamen tijdens deze storing om het leven. Daar kwam later nog een storing bij NL-Alert bovenop, waardoor bij veel KPN-klanten de meldingen niet aankwamen. Naast oprechte excuses en inzicht in de gemaakte fout, heeft KPN effectieve vervolgstappen genomen door alle aanbevelingen uit het onderzoeksrapport over te nemen en verhoogde bewaking in te stellen om een herhaling van misstappen te voorkomen. Ook werd een tegemoetkomingsregeling opgezet voor iedereen die de bewuste dag schade heeft geleden.
Sorry zeggen, heldere communicatie, anticiperen op voortschrijdend inzicht en compensatie; dat levert een topscore van vijf levende mussen op. Daarmee werd KPN de gelukkige winnaar van de Levende Mussen Award.

Ook het komende jaar blijven SETUP en Open State Foundation positieve en negatieve ontwikkelingen op het gebied van transparantie en tech-verantwoordelijkheid volgen. Maar vrees niet, u kunt ons altijd contacten om hulp in te schakelen. Wie weet is uw organisatie volgend jaar de winnaar? Meer informatie over de SOS Tech Awards of de uitreiking terugkijken: sostechawards.nl