De afgelopen dagen heb ik mij flink geërgerd aan een aantal misvattingen over de verboden praktijken en AI-geletterdheid uit de AI Act.
We publiceren massaal het rijtje met verboden praktijken, maar we snappen eigenlijk niet dat er juist veel om dat rijtje te doen is. Er gelden duidelijke nuances bij gezichtsherkenning, emotieherkenning, social scoring en bredere uitleg voor manipulatieve of misleidende AI-systemen (‘oneerlijke praktijken’ of zgn. zwarte, grijze en blauwe praktijken).
Het is dan ook niets voor niets dat er toezichthouders, zoals de Autoriteit Persoonsgegevens (AP) of Rijksinspectie Digitale Infrastructuur (RDI) met bijvoorbeeld de marktconsultatie over de onderwijsbepaling en -publicatie van een verkennend onderzoek naar de strafrechtketen op zoek zijn naar technische en juridische input. Daarbij roept men ook om guidelines. Die guidelines zijn overigens onlangs (in draft) gepubliceerd.
De waarde van guidelines zal onder de AI Act overigens minder groot zijn. AI-systemen zullen case-by-case bekeken moeten worden en niet bij voorbaat al worden uitgesloten. De registraties, casuïstiek, politieke gevoeligheid en ‘AI-rampen’ zullen straks leidend zijn.
De ‘wat mag niet-lobbyclub’ is weer van stal gehaald. Ze staan alweer klaar om de A12 te bezetten… We zagen dat ook met de AVG, waarbij er op een gegeven moment zelfs smileys op de klassenfoto’s werden geplakt. De angst of kramp rondom AI-gebruik gaat weer eens regeren.
Een algoritme (AVG) en AI-systeem met persoonsgegevens (AVG+AI Act) zijn echter twee verschillende zaken. De toeslagenaffaire en Bulgarenfraude hebben niks met de AI Act te maken. Wel met de AVG, grondrechten en bepalingen over geautomatiseerde besluitvorming.
AI-geletterdheid is geen training voor een klas van 12 tot 30 personen, maar een ingewikkeld didactisch traject of proces van 3-5 jaar dat de aandacht van de organisatie op verschillende niveaus (strategisch, tactisch en operationeel) vraagt.
