Algoritmeregister kan vorm van schijnveiligheid creëren
De Toekomst Kamer, een onafhankelijke denktank, heeft een eerste publicatie over het algoritmeregister aangeboden aan de Kamercommissie voor Digitale Zaken. “Zelfs met de beste intenties kan het algoritmeregister een vorm van schijnveiligheid creëren,” stelt initiatiefnemer Rudy van Belkom. Commissievoorzitter Barbara Kathmann nam de publicatie in ontvangst. Op 17 april wordt over algoritmes en data-ethiek gedebatteerd in De Tweede Kamer.
De toeslagenaffaire was een belangrijke drijfveer voor de ontwikkeling van het algoritmeregister; het was immers een algoritme dat mensen onterecht als fraudeur aanwees. In de politiek wordt het volgens Kathman ondertussen een beetje gezien als ‘de heilige graal’: “Het antwoord op het toeslagenschandaal en een oplossing dat dit niet nog een keer kan gebeuren. Daar moeten we voorzichtig mee zijn.”
Initiatiefnemer Rudy van Belkom: “De aanname is dat meer transparantie tot meer inzicht leidt en daarmee tot meer autonomie.” Hij noemde het een vorm van schijnveiligheid. “De informatie is lang niet altijd volledig en is niet door iedereen te begrijpen. Dit kan onbedoeld de bestaande digitale kloof versterken.”
Vier scenario’s
Hoe kan het algoritmeregister zich in de toekomst ontwikkelen? Welke alternatieve toepassingen en scenario’s zijn er denkbaar voor zo’n register? Over deze vragen heeft De Toekomst Kamer zich de afgelopen maanden gebogen. Een belangrijke conclusie is dat algoritmeregisters zowel kunnen bijdragen aan meer transparantie, als aan meer complexiteit. Dit kan leiden tot meer vertrouwen in algoritmen, maar ook tot meer wantrouwen.
De Toekomst Kamer werkte vier scenario’s uit. In één scenario is het register slechts een registratietool. In een ander scenario kunnen algoritmes pas worden toegepast nadat een burgerberaad toestemming geeft. In ieder scenario liggen andere accenten die uiteindelijk consequenties kunnen hebben voor beleidskeuzes.
Mogelijke scenario's voor de toekomst
- Algoritme Database: registratietool
De Algoritme Database bevat enkel informatie over de technische werking van algoritmen die door de overheid worden ingezet. Het is een registratietool: de algoritmen worden bij ingebruikname geregistreerd. De database wordt vooral gebruikt als naslagwerk door journalisten, wetenschappers en studenten. - Algoritme Postbus 51: algoritmechecker
Algoritme Postbus 51 is een informatievoorziening van de overheid om burgers te informeren over de maatschappelijke implicaties van de inzet van algoritmen. Naast een online algoritmechecker kunnen burgers en maatschappelijke organisaties op het platform terecht met vragen over algoritmen. - Algoritme Kadaster: gecontroleerd register
Het Algoritme Kadaster is een rechtsgeldig registratiesysteem voor algoritmen van de overheid, geleid door een onafhankelijke autoriteit die overheden controleert en reguleert. De classificering en indexering van de algoritmen vindt plaats op basis van functionaliteit en toepassing. Alle toepassingen zijn overzichtelijk weergegeven in de AlgoritmeKaart, een landkaart waar eenvoudig te zien is in welke gemeenten het algoritme wordt ingezet. - Algoritme Burgerberaad: mandaat bij de burger
Het Algoritme Burgerberaad ziet toe op het gebruik van algoritmen door de overheid. De classificering en indexering van de algoritmen vindt plaats op basis van maatschappelijke implicaties. In Burgerberaden worden de algoritmen onder de loep genomen voordat deze in gebruik worden genomen. Het Burgerberaad heeft mandaat: wanneer het oordeelt dat het algoritme niet voldoet aan de gestelde voorwaarden dan wordt het niet in gebruik genomen.
Handvatten voor beleid
De Toekomst Kamer wil met deze scenario’s politici opties en handvatten bieden om beleid te ontwikkelen. Barbara Kathmann: “Goed dat er nu meerdere scenario’s voorliggen vanuit experts, zodat we straks met de minister in debat kunnen gaan over de hamvraag: op welk scenario is het huidige beleid gebaseerd? Daar wordt onze besluitvorming en dus de noodzakelijke transparantie over de inzet van algoritmen door de overheid alleen maar beter van.”
Vragen aan de politiek
Op 17 april debatteert de Tweede Kamer over algoritmes. De Toekomst Kamer legt de politici ter voorbereiding van het debat alvast een paar vragen voor:
- Kunt u expliciet maken op welk toekomstscenario het huidige beleid is gebaseerd?
- Op welke wijze houdt u in het huidige beleid rekening met afwijkende toekomstscenario’s?
- Welke aanvullende acties kunt u ondernemen om beter voorbereid te zijn op alternatieve toekomstscenario’s?
Toekomst Kamer
De Toekomst Kamer is een onafhankelijke denktank van meer dan 50 organisaties vanuit de overheid, wetenschap, markt en maatschappij. Zij geeft geen adviezen, maar stelt vragen. De inzichten worden belangeloos aan Tweede Kamercommissies aangeboden ter ondersteuning bij hun voorbereidend onderzoekswerk. Het doel is niet om meningen te beïnvloeden, maar om expertise te bevorderen en zo de langetermijnimplicaties van technologie structureler mee te wegen in besluitvorming.
Lees ook:
