De afgelopen dagen heb ik mij groen en blauw geërgerd aan misvattingen over de verboden praktijken en AI-geletterdheid uit de AI Act (ook: Verordening Artificiele Intelligentie of VAI). Mijn conclusie? De AI Act wordt onvoldoende begrepen of nu al verkeerd uitgelegd. Hieronder volgen de vijf misvattingen die ik op 4 februari op mijn LinkedIn-tijdlijn heb gelezen.
Misvatting 1. ‘De AI Act is sinds 2 februari nu echt van kracht.’’ Foei! Sinds 2 augustus 2024 is de AI Act geruisloos in werking getreden. Dat wil zeggen de tekst is definitief en hier moeten ‘we’ het ermee doen. Vanaf deze datum hebben we twee jaar de tijd om de bepalingen na te leven. Daarna zal er gehandhaafd gaan worden.
Tussentijds zullen ook verschillende bepalingen uit de AI Act van kracht gaan. En dat gebeurde dus op 2 februari. Toen werden o.a. de bepalingen over AI-geletterdheid (artikel 4 VAI) en verboden bepalingen (artikel 5 VAI) van kracht. Maar de meest belangrijkste bepalingen treden per 2 augustus 2026 in werking. Vanaf dat moment worden er allemaal eisen aan AI-gebruikers en/of makers van AI-systemen opgelegd.
Hierbij kan je denken aan risico-analyses, grondrecht-impactassessments (ook wel FRIA’s of Fundamental Rights Impact Assessments genoemd), verplichtingen over transparantie, risicobeheersysteem, registraties, technische documentatie, enzovoorts. Omdat AI-ontwikkelingen snel gaan, adviseer ik bestuurders om alvast te beginnen.
Misvatting 2. We publiceren massaal het rijtje met verboden praktijken. Maar snappen totaal niet dat er juist veel om dat rijtje te doen is. Er gelden duidelijke nuances bij gezichtsherkenning, emotieherkenning, social scoring en bredere uitleg voor manipulatieve of misleidende AI-systemen (‘oneerlijke praktijken’ of zgn. zwarte, grijze en blauwe praktijken). Het is dan ook niets voor niets dat er toezichthouders (zoals de AP of RDI) met ‘ bijvoorbeeld de marktconsultatie over de onderwijs-bepaling en publicatie van een verkennend onderzoek naar de strafrechtketen” vooral op zoek zijn naar technische en juridische input.
Misvatting 3. Daarbij roept men ook om guidelines. De richtlijnen met de nadere uitleg over verboden bepalingen zijn op 4 februari jl. door de Europese Commissie (in draft) gepubliceerd. Echter, de waarde van guidelines zal onder de AI Act minder groot zijn. AI-systemen zullen case-by-case bekeken moeten worden en absoluut niet bijvoorbaat al worden uitgesloten. De registraties, casuïstiek, politieke gevoeligheid en ‘AI-rampen’ zullen straks leidend zijn.
Misvatting 4. De ‘wat mag niet-lobbyclub’ is weer van stal gehaald. Ze staan alweer met ‘kan niet, mag niet’-borden klaar om de A12 te bezetten.
We zagen dat het ook met de AVG gebeurde, waarbij er op een gegeven moment zelfs smileys op de klassenfoto’s werden geplakt. De angst of kramp rondom AI-gebruik gaat weer eens regeren.
In een artikel van een gerespecteerde krant wordt met voorbeelden heuse flauwekul verkondigd. Steeds worden de Toeslagenaffaire en Bulgarenfraude in 1 zin met de AI Act genoemd. Fout! Een algoritme (AVG) en AI-systeem met persoonsgegevens (AVG+AI Act) zijn twee verschillende zaken. Het verschil zit in de toepassing. De rekenregel was ongenuanceerd: Bulgaar + toeslag = fraudeur. Er was geen interface, inputdata of een lerend feedbackloop. De toeslagenaffaire en Bulgarenfraude hebben dan ook niks met de AI Act te maken. Wel met de AVG, grondrechten en bepalingen over geautomatiseerde besluitvorming.
Misvatting 5. AI-geletterdheid is geen training voor een klas van 8, 12 tot 30 personen, maar een ingewikkeld didactisch concept, traject of proces van 3-5 jaar. Het gaat om het creëren van aandacht van op verschillende niveaus (strategisch, tactisch en operationeel) binnen jouw organisatie. En vanaf 2 augustus a.s. kan het door verschillende Nederlandse toezichthouders als extra handhavingsmiddel worden gebruikt.
Kortom, wees heel kritisch op alles wat je over AI leest. Er gelden belangrijke nuances die niet in een rij van acht verbodsbepalingen of training van een dagdeel zijn te vatten. Daarnaast bevat de AI Act ontzettend veel ruimte om te innoveren. Laten we dan ook stoppen met de focus op verboden. En laten we ons vooral richten op ‘kunnen en mogen’!
