Gezond verstand wijkt steeds meer voor computermodellen. Waarom gaan we zo makkelijk mee met domme algoritmen?
“Als knappe Haagse koppen dat bedenken, wie ben ik dan….” Aldus een echt intelligente burgemeester, naar aanleiding van kritiek op de kunstmatig intelligente uitkomsten van het model van de NAM waarmee ‘berekend’ wordt in welke volgorde van ‘onveiligheid’ beschadigde huizen in Groningen geïnspecteerd zouden moeten worden.
Gezond verstand lijkt steeds meer te wijken voor computermodellen. Hoe komt het toch dat slimme mensen zo gemakkelijk meegaan met domme algoritmen? Aan resultaten en ervaringen kan het niet liggen, want die zijn over het algemeen matig en heel betrekkelijk.
Neem bijvoorbeeld de rel die recentelijk ontstond over het model waarmee subsidies voor elektrische Tesla’s werden verstrekt. Dat blijkt honderden miljoenen op te leveren voor mensen die het meestal ook wel zonder kunnen. Het model blijkt geheim, verkeerd en te duur aanbesteed en eigendom van een privé-persoon. Ook zijn er twijfels over de data waarmee ‘gerekend’ wordt. Ik zet rekenen maar tussen aanhalingstekens, want als je data niet kloppen, slaat de som ook nergens op. Een oud automatiserings-adagium gaat nog steeds op: ‘garbage-in-garbage-out’. Het wordt bovendien tijd de overdreven status voor techneuten en rekenaars wat te relativeren.
Het Tesla-model is kennelijk in gebruikgenomen door de Belastingdienst, ten tijde van staatssecretaris Wiebes; dezelfde die destijds zorgde voor een model-vertrekregeling waar de verkeerden gebruik van maakten. Het is natuurlijk toeval dat het waarschijnlijk vooral VVD-stemmers zijn die er in beide voorbeelden beter van zijn geworden.
In het programma Zomergasten voorzag minister Wiebes zich zelf van het predikaat ‘hoofd op pootjes met beta-power’. Prompt volgden de rekenfouten elkaar in hoog tempo op. De klimaatmodellen van de Planbureaus bleken niet te kloppen en Groningen werd opnieuw opgeschrikt door fouten in het aardbevingsmodel van het KNMI. En nu lijkt het er op dat Groningen een complete ‘catwalk’ van graatmagere modellen gaat mee maken.
Risico-model
In de eerste plaats het bovengenoemde risicoanalysemodel van de NAM. Net als bij het Teslamodel doen zich ook hier vragen voor met betrekking tot eigendom, opdrachtverstrekking en data. Het seismische deel van het model zal wetenschappelijk wel kloppen, maar zodra er gegevens van een bepaald huis(type) in gestopt worden, gaat het fout: niemand weet welke gegevens dat zijn en er lijkt een goede kans dat daar ook privacygevoelige bestanden voor worden gebruikt. De bewoner weet het niet, maar wordt voorlopig wel geparkeerd met een meer of minder hoog risico. En juist de bewoner is de enige gekwalificeerde bron van de gegevens!
Bouwmodel
Na de risico-inschatting wordt er met behulp van de bouwpraktijkrichtlijn en haar model(len) bekeken of het huis echt (on)veilig is. Omdat het seismische model steeds optimistischer wordt naarmate de gaswinning omlaag gaat (overigens geen hard bewezen causaal verband dat bestuurders niet over zouden moeten nemen), kan een huis dankzij het bouwmodel opeens veilig genoeg verklaard worden en wordt uitstel afstel. Daar heb je dan jaren geduldig op gewacht, terwijl je onderhoud steeds achterstalliger is geworden. Er zijn veel Groninger tongen die beweren dat de minister het ‘er om doet’.
Schademodel
Het volgende model op de Groninger catwalk is dat van de commissie die de schades beoordeelt (Tijdelijke Commissie Mijnbouwschade Groningen – TCMG). Die werkt onafhankelijk en dus (?) geheel los van alle andere modelbeheerders. Hier worden de gegevens wel aangeleverd door de bron: de bewoner meldt zelf zijn schade. Maar deze meldingen worden beoordeeld door een legertje adviseurs en vaak leidt dat tot onbegrijpelijke conclusies. Zij hebben het stuwmeer aan meldingen nog lang niet drooggelegd en kampen met tekortschietende ICT.
Waardedalingsmodel
Desalniettemin krijgt de schadecommissie er een klus bij: het inschatten en toekennen van de waardedaling van de huizen. En, je raadt het al: ze doet dat met weer een ander model. Dit keer van de ‘Atlas voor Gemeenten’. En hoe zou het daar zijn met het geld, het eigendom en de datakwaliteit ?
Al die modellen gaan tegen elkaar in gebruikt worden met iedere keer verschillende uitkomsten en procedures voor bewoners. En die mogen hun dossiers niet in zien vanwege ….de privacy! Wat is het perspectief, de vluchtweg van de minister? Er komt een nieuwe organisatie! Met behulp van nieuwe wetgeving gaat het Instituut Mijnbouwschade Groningen alles oplossen. Waarschijnlijk in één keer.
Geen Groninger die het gelooft. De echt intelligente Groningse bestuurders zouden er goed aan doen altijd door te vragen naar de gegevens: welke zijn er gebruikt, waar komen ze vandaan en wat vindt de bewoner/eigenaar er van? Kritische vragen over data (bron, geld, eigendom, privacy) krijgen elk nepmodel plat.
Het wachten is op een nieuw fenomeen: de algoritme-audit. Een Amerikaanse senator heeft al voorstellen in die richting gedaan. En het Tweede Kamerlid Kees Verhoeven van D66 doet in een bijzonder nuttige Techvisie 2.0 ook vele voorstellen om te voorkomen dat ons bestuur wordt overgenomen door modellen en algoritmen.
Daarover volgende keer meer.
Henk Bos is raadslid voor GroenLinks in de gemeente Midden-Groningen
