zoeken binnen de website

De Nationale AI-cursus: grote stappen, snel thuis

door: Ruud Leether | 23 februari 2021

Ruud Leether


Een oproep aan de politiek om met een brede maatschappelijke discussie over KI het initiatief (deels) naar zich toe te trekken.

En toen was er de Nationale AI-Cursus. Een gratis online programma dat “op een toegankelijke manier de basisprincipes van AI uitlegt door middel van uitlegvideo’s van professoren, prikkelende stellingen en educatieve animaties.” Goed is dat de cursus op een begrijpelijke wijze inzicht geeft in een complex fenomeen als KI. Basaal inzicht vanzelfsprekend maar wel inzicht waaraan het politiek en overheid nog volledig ontbreekt. Ook de vormgeving en presentatie zal veel kijkers aanspreken, al blijft het jammer dat ook de samenstellers van deze cursus zich schuldig maken aan het onjuiste gebruik van “data” als enkelvoudsvorm. Minder goed is dat de cursus, tussen alle opwinding over AI en ontwikkelingen als deep learning door, veel te weinig aandacht schenkt aan de vele ethische en juridische vragen over KI. Zeker, enkele geïnterviewden vermelden dat wel maar hun zorgen vernevelen te gemakkelijk in een algemene KI-euforie.

Wat in datzelfde verband opvalt is dat veel geïnterviewden een vergelijkbare wetenschappelijk achtergrond hebben. Enige bescheidenheid bij het oordelen over onderwerpen buiten het eigen vakgebied kan sowieso nooit kwaad maar ik kreeg bij het bekijken van in de cursus verwerkte video’s niet de indruk dat dat standpunt breed wordt gedeeld. Zo vertelt Jaap van den Herik, hoogleraar informatica en recht aan de universiteit Leiden enthousiast over de inzet van KI in de rechtspraak. Is die nu nog beperkt tot het analyseren van teksten en jurisprudentie en, in de advocatuur het taxeren van proceskansen, ooit zal onze rechtspraak, aldus Van den Herik, volledig zijn geautomatiseerd. Daarvoor moet, orakelt hij verder, nog wel een belief system worden ingebouwd want je hebt nu eenmaal verschillende standpunten en dus moeten we nog wel even kijken of we daarin harmonie kunnen krijgen”. Maar het gaat ontzettend snel en in ieder geval voor het eind van deze eeuw is het volgens Van den Herik zover. Nu duurt dat gelukkig nog even maar toch. Dat rechtspraak maatwerk vereist en rechtspreken ook een gevoelskwestie is die meer omvat dan het louter toepassen van regeltjes en kennen van jurisprudentie, lijkt Van den Herik onbekend. Net trouwens als dat een juridisch fenomeen als “omgaan”, waarbij de Hoge Raad besluit af te wijken van eerdere jurisprudentie, zich lastig in algoritmes zal laten vatten. Van den Herik is dan ook wiskundige, geen jurist.

Even illustratief voor een tekort aan bescheidenheid bij het innemen van standpunten buiten het eigen vakgebied, zijn enkele uitspraken van Max Welling, hoogleraar wiskunde en informatica aan de Universiteit van Amsterdam. Op de vraag of ook creativiteit in algoritmen te vatten is, antwoordt hij dat creativiteit minder mysterieus is dan wij denken. Vaak is het, aldus Welling, niet meer dan het combineren van een heleboel ideeën uit ons onderbewuste. Ook creativiteit, voorspelt Welling, kan daarom ooit begrepen en nagebootst worden middels algoritmen. De veronderstelling dat misschien niet alle menselijke kwaliteiten te kopiëren zijn, lijkt aan Welling niet besteed. Het besef dat creëren iets maken uit niets is, evenmin. Wie vindt dat de KI-composities die op YouTube te vinden zijn meer zijn dan karakterloze namaak en smakeloze kitsch, zal het ongetwijfeld met Welling eens zijn. Wie zich ooit heeft laten onderdompelen in de onpeilbare mystieke diepten en klankrijkdom van grote componisten, weet hoe die steeds op zoek waren en zijn naar nieuwe uitdrukkingsvormen en stijlen, zal met mij vinden dat Welling tenminste van creatieve kunst weinig begrepen heeft. Max Welling is dan ook gespecialiseerd in machine learning, geen scheppend kunstenaar.
Die eenzijdige bèta-focus, waarbij de mens meestal niet centraal staat, is misschien wel de grootste makke van deze cursus. Kijkers worden daardoor constant geconfronteerd met de aanstormende kilte van een wereld waarin het leven voornamelijk uit data bestaat en biologie alleen nog als informatieproces kan overleven. Een wereld waarin de mens in termen van hard- en software wordt beschreven en technologie tot nieuwe zingeving is verheven. Een wereld tenslotte waarin van alles de data bekend zullen zijn maar van niets nog de menselijke waarde.
Kunstmatige intelligentie kan ongetwijfeld een belangrijke bijdrage leveren bij het zoeken naar oplossingen voor tal van grote maatschappelijke vraagstukken. Maar KI kent ook risicovolle ontwikkelingen die tal van ethische en juridische vragen oproepen (zie mijn weblog “Technologie: overkomt het ons weer ?” van 22 december 2016 op iBestuur.nl). Zoals Neuralink, een start up van Musk, waar wordt gepoogd om met in het brein geïmplanteerde chips real time hersendata uit te lezen. Hoopgevend misschien voor de behandeling van zintuigelijke mankementen maar wie controleert of het onderzoek daartoe beperkt blijft ? Aan Musk zal het tegenovergestelde niet liggen. Of minduploading, een proces bedoeld om de menselijke geest over te brengen naar een computersimulatie. Digitale reconstructies met “onsterfelijkheid” als lonkend perspectief. En natuurlijk ook deep learning, een volgende stap op weg naar ware KI waarbij de computer met behulp van kunstmatige neurale netwerken leert om zonder verdere aanwijzingen van buitenaf op zoek te gaan naar patronen in massale hoeveelheden ongestructureerde data.

Maar ook een opkomende filosofische stroming als “Dataïsme”, door de Israëlische futuroloog Harari getypeerd als een nieuwe religie waarin het toenemende belang van data centraal staat en de allerhoogste waarde toekomt aan vrije informatiestromen, verdient aandacht.
Ontwikkelingen die al lang aanleiding hadden moeten zijn voor meer politieke aandacht en kennis. Ontwikkelingen waarvoor deskundigen als Gates en Hawking niet voor niets al veel eerder hebben gewaarschuwd en reden waarom zij aandrongen op meer overheidscontrole. Voor dat laatste bestaat temeer aanleiding aangezien veel AI-onderzoek plaatsvindt binnen de hoge muren van de grote Techbedrijven, bedrijven die die extra overheidsaandacht sowieso al ruimschoots verdienen.

De ontwikkeling van kunstmatige intelligentie volledig aan markt en wetenschap overlaten is vragen om grote problemen. Daarom een nadrukkelijke oproep aan de politiek om met een brede maatschappelijke discussie over KI het initiatief (deels) naar zich toe te trekken. Een discussie die niet alleen kan gaan over technische vergezichten en futuristische mogelijkheden maar evenzeer over inherente risico’s en maatschappelijk onwenselijke consequenties. En gaan we daarmee dan toch aan de slag betrek dan gelijk meer alfa’s en gamma’s in de discussie. Bij alle kritiek op het klimaatakkoord valt steeds vaker te horen dat te weinig bèta’s bij die discussie betrokken zijn. Hoog tijd om hier nu eens het tegenovergestelde geluid te laten horen!

Ruud Leether is voormalig legal counsel bedrijfsvoering van het ministerie van JenV en tegenwoordig zelfstandig legal counsel gespecialiseerd in IT-recht, IE-recht, privacy en aanbestedingsrecht

reacties: 3

  • Hans Mulder #

    27 februari 2021, 11:35

    Eens met Ruud Leether dat AI vanuit diverse disciplines dient te worden begrepen, waaronder de juridische aspecten.
    De Raad van State heeft in 2018 in dat kader een ongevraagd advies uitgebracht over de gevaren van ‘zelflerende systemen die zonder menselijke tussenkomst via algoritmes beslissingen nemen’. Ook emeritus hoogleraar Informatica Jan Dietz benadrukt dat AI-producten “alleen kunnen rekenen. Punt uit. (…) Beslissen is een exclusief menselijke kwaliteit.”
    Dus eens dat ‘de discussie niet alleen kan gaan over technische vergezichten en futuristische mogelijkheden maar evenzeer over inherente risico’s en maatschappelijk onwenselijke consequenties.’

  • Bram Lamens #

    5 maart 2021, 17:38

    Beste Ruud,
    Ik herinner mij dat jij vergelijkbare kritiek had op de blockchainbelofte. Een belofte die ondanks een Nationale Blockchain Coalitie en een Nationale Blockchain Cursus in de verste verte niet is waargemaakt (misschien omdat de techniek maar een hulpmiddel is en niet een doel op zich?).

    Intussen heeft ook AI een eigen Nationale Coalitie, een Nationale Cursus en jouw kritische aandacht. Ik zie daarin een patroon en ben ineens minder bezorgd om de snelheid waarmee AI “een steeds belangrijkere plek in het dagelijks leven inneemt” zoals de cursuswebsite meldt.

    Los van of AI een superspreader zal blijken, wijs jij terecht op de risico’s van AI. Van overheidszijde (Europees en nationaal) is daar overigens wel aandacht voor. Al was het maar omdat de Kamer de overheid op dit punt kritisch volgt. Het punt is alleen dat de informatieuitwisseling met de Kamer erg ver af staat van de ‘zwitsers zakmes’-benadering in de Nationale AI cursus.

    Een belangrijke vraag lijkt mij dan ook hoe zo’n brede maatschappelijke discussie er uit moet zien en wat wij moeten doen om die van de grond te krijgen.

  • Ruud Leether #

    7 maart 2021, 16:22

    Hans en Bram, Dank voor jullie reacties. Een enkele opmerking nog naar aanleiding daarvan. AI zal op enig moment onvermijdelijk meer kunnen dan rekenen zo dat niet al zo is. De prangende vraag nu is hoe wij daar straks mee om willen gaan. Is en blijft het “human-in-the-loop” of zijn ook andere ontwikkelingen voorstelbaar en volgens sommigen zelfs wenselijk. Daar zou een brede maatschappelijke discussie over moeten worden gevoerd. Het filosofisch getinte artikel (uit 2015 al weer) van Kees de Vey Mestdagh & Jeroen Lubbers in Ars Aequi genaamd “Nee hoor, u wilt helemaal niet naar Den Haag..” over de zelfrijdende auto kan daarvoor een leuke opmaat zijn. Overigens ben ik het met Jan Dietz eens dat beslissen een exclusief menselijke kwaliteit is (en zou moeten blijven !) maar daar wordt in wetenschappelijke kringen tenminste verschillend over gedacht. Beluister o.a. Van den Herik in de Nationale AI-cursus maar eens in zijn betoog over de z.i. nakende automatisering van onze rechtspraak. Dat de Kamer de overheid op dit onderwerp kritisch volgt wil ik graag geloven maar eerdere ervaringen opgedaan met diezelfde kritische instelling geven niet heel veel reden voor gemoedsrust.

Reactieformulier

De met een * gemarkeerde velden zijn verplicht. U ziet eerst een voorbeeld en daarna kunt u uw bijdrage definitief plaatsen. Uw e-mailadres wordt niet op de site getoond. Reacties zonder achternaam worden verwijderd. Anoniem reageren alleen in uitzonderlijke gevallen in overleg met de redactie. U kunt bij de vormgeving van uw reactie gebruik maken van textile en er is beperkt gebruik van html mogelijk.