Nog veel discussie over AI Act in Europa

In het Europees overleg is nog veel discussie gaande over de regulering van AI-modellen, blijkt uit de voorbereidingen van het overleg van deze week in de EU-Raad in Brussel. Het is daarmee nog de vraag of het vaststellen van de AI Act nog dit jaar kan plaatsvinden.

EU-wetgevers hebben moeite om overeenstemming te bereiken over AI-regels, schrijven Reuters en Biometric. De ontwerp-AI-regels moeten worden goedgekeurd door het Europees Parlement en de lidstaten van de Europese Unie. Nu de wetgeving dichter bij afronding komt, komen er diverse eisen op tafel, zowel vanuit de politiek als vanuit het bedrijfsleven. Als er de komende dagen dan geen akkoord wordt bereikt, kunnen de onderhandelingen naar begin volgend jaar worden doorgezet. De discussies kunnen dan eventueel verder uitgesteld worden in verband met de Europese parlementsverkiezingen in juni.

Meerlaags reguleringsmodel

Hoe specifiek moeten AI foundation-modellen. zoals ChatGPT en OpenAI, worden gereguleerd? Dat is een van de vragen die centraal staan in de discussies. De huidige EU-voorzitter Spanje wil dat AI-modellen nog meer moeten worden getest op kwetsbaarheden. Ook zou er een meerlaags reguleringsmodel moeten komen dat is gebaseerd op het aantal gebruikers dat een AI-model heeft. Hoe meer gebruikers, hoe meer regulering vanuit de EU AI Act.

Gezichtsherkenning

Sommige lidstaten willen het recht op het gebruik van AI-aangedreven live gezichtsherkenning behouden, met het argument dat het van cruciaal belang is voor de veiligheid aan de grenzen, maar ook om openbare wanorde te voorkomen. De EU-Raad wil uitzonderingen maken voor politie en inlichtingendiensten. Maar de leden van het Europees Parlement waren echter van mening dat real-time gezichtsherkenningscamera’s op straat en in openbare ruimtes een inbreuk op de privacy waren, en stemden ervoor om deze clausules te schrappen.

Digital Europe

Digital Europe, de brancheorganisatie van IT-bedrijven in Europa, pleit in een position paper voor een meer genuanceerde afbakening van de reikwijdte van het ‘verbod op biometrische categorisering en identificatie’. Een verantwoord gebruik van biometrische herkenningssystemen kan de burgerrechten van een individu in evenwicht brengen en tegelijkertijd de openbare veiligheid verbeteren. En praten over een verbod op emotieherkenning is volgens de organisatie roekeloos. Waar sommigen een verontrustende poging tot gedachtenlezen zien, ziet DigitalEurope effectief toezicht op slaperige piloten, machinisten en treinbestuurders naast andere veiligheidsgerelateerde taken. Deze techniek wordt in China al gebruikt.

AI Act

De EU is in 2021 begonnen met het opstellen van de ontwerp-AI-wet. In mei van dit jaar stemde het Europees Parlement in met ontwerpwetgeving met nieuwe regels rond het gebruik van gezichtsherkenning, biometrische surveillance en andere AI-toepassingen.

Volgens de voorstellen worden AI-instrumenten ingedeeld op basis van hun risiconiveau, van laag tot onaanvaardbaar. Overheden en bedrijven die deze tools gebruiken, hebben verschillende verplichtingen, afhankelijk van de classificatie.