Europa pakt met AI Act de regie over kunstmatige intelligentie terug
In de EU ontwikkelde en gebruikte artificiële intelligentie (AI), moet worden afgestemd op de waarden en grondrechten van de EU. Ook moet er een verbod komen op AI voor emotieherkenning en biometrische surveillance. Verder komen er regels voor AI-systemen zoals ChatGPT.
Het parlement stemde met overgrote meerderheid (499 stemmen voor, 28 tegen en 93 onthoudingen) in met het AI-wetsvoorstel dat de Europese Commissie in 2021 presenteerde, maar diende wel veel amendementen in voor deze eerste AI-wet ter wereld.
Eurocommissaris Thierry Breton liet eerder weten zo snel mogelijk te willen beginnen met de zogeheten triloog, de onderhandelingen met de lidstaten en het parlement over de definitieve AI-wet. Naar verwachting kunnen de regels voor hoge-risico AI-toepassingen begin 2024 al in werking treden en overige bepalingen in 2026. Staatssecretaris Van Huffelen heeft gisteren al aangegeven dat ze inzet op snelle invoering van de AI Act in Nederlandse wetgeving.
Menselijk toezicht nodig op AI
De wet moet zorgen voor kaders waarbinnen AI ontwikkeld en gebruikt kan worden, zonder dat de waarden en rechten van de EU in het geding komen. Dit betekent dat menselijk toezicht op AI nodig is. Verder moeten zaken als veiligheid, privacy, transparantie, non-discriminatie en sociaal en ecologisch welzijn binnen kunstmatige intelligentie door de wet gewaarborgd worden.
Verplichte mensenrechtentoets
Het parlement wil onder meer regels en standaarden met ontwerp-, data-, veiligheids-, transparantie- en milieuverplichtingen. Ook komt er een verplichte mensenrechtentoets voorafgaand aan de inzet van AI en een sterk recht op uitleg voor mensen die benadeeld zijn door AI, als het aan het parlement ligt.
Volgens Europarlementariër Paul Tang (PvdA) betekent de AI-wet “een kentering in de ethische benadering van technologie”. “Gevaarlijke AI-toepassingen, zoals emotionele herkenning en voorspellend politiewerk op basis van AI zijn uit den boze. Deze wet is als een betrouwbare verkeersagent die ervoor zorgt dat AI niet als een ongeleid projectiel door onze samenleving raast.” Beeld: De Beeldredaktie
GroenLinks-collega Kim van Sparrentak vindt dat Europa wereldwijd voorop loopt. “We zien wat er gebeurt als we het aan bedrijven overlaten: een ChatGPT dat complottheorieën uitspuwt, onze privacy schendt, lak heeft aan intellectuele eigendomsrechten en ontzettend veel energie slurpt. Europa pakt de regie over AI terug met sterke regels die mensen, maatschappij en milieu centraal zetten.”
Bron: ANP
Het is onmiskenbaar dat de recent aangenomen AI-wetgeving door het Europese Parlement een mijlpaal is in de regulering van kunstmatige intelligentie. Het streven om AI-technologieën in lijn te brengen met de waarden en grondrechten van de EU is prijzenswaardig, en de intentie om specifieke AI-praktijken zoals emotieherkenning en biometrische surveillance te verbieden, is een krachtige stap in de richting van het beschermen van de privacy en autonomie van individuen.
Echter, zoals bij elke vorm van regulering, zijn er economische implicaties die moeten worden overwogen. Het is belangrijk om een evenwicht te vinden tussen de noodzaak van regulering om misbruik te voorkomen en de potentie van AI om economische groei te stimuleren.
Eén aspect dat aandacht verdient, is de mogelijke vertraging van innovatie en ontwikkeling in de AI-sector. Door strengere regels en normen op te leggen, zoals verplichtingen met betrekking tot ontwerp, data, veiligheid, transparantie en milieu, kunnen bedrijven worden ontmoedigd om te investeren in AI-onderzoek en ontwikkeling. Bovendien kunnen kleinere bedrijven en start-ups, die wellicht niet over de middelen beschikken om aan dergelijke verplichtingen te voldoen, uit de markt worden gedrukt, waardoor de concurrentie wordt beperkt en monopolies worden versterkt.
Daarnaast kunnen de kosten voor het voldoen aan deze regelgeving ook hoger zijn voor bedrijven, wat kan leiden tot hogere prijzen voor consumenten. Dit kan een negatieve impact hebben op de beschikbaarheid en toegankelijkheid van AI-producten en -diensten voor de gewone burger.
Daarom is het essentieel om een evenwichtige aanpak te hanteren bij de regulering van AI. Terwijl we streven naar de bescherming van individuele rechten en waarden, moeten we ook de economische voordelen van AI erkennen en ervoor zorgen dat regulering de groei en innovatie in deze sector niet onnodig belemmert. Het zal belangrijk zijn om de implementatie van deze regels nauwlettend in de gaten te houden om eventuele negatieve economische effecten op te vangen en indien nodig bij te sturen. Ik ben dan ook erg benieuwd naar de effecten van deze regulering…
Ik kan mij wel vinden in de reactie van Igor. Nieuwe techniek vraagt vanzelfsprekend regulering maar de ontwikkeling ervan drijft op innovatie. Overheden kunnen prima reguleren maar innoveren niet of nauwelijks, dat moet de industrie doen. Te enthousiaste regulering zal zeker negatieve impact hebben op nieuwe innovatie en dus vooruitgang, zeker al dat van kleinere bedrijven en start-ups moet komen.
Ik voorstander van regulering – en de EU doet dat tot nog toe prima – maar we moeten oppassen niet in onze eigen staart te bijten of eigen voet te schieten . . .
Techniek beperken om dat ‘ze complottheorieën uitspuwt’ lijkt mij een wat doorgeschoten argument. Een chirurg kan met een mes een leven redden, een moordenaar een leven nemen. Dan moet je niet het mes – de techniek – inperken maar chirurgen toestemming geven in mensen te mogen snijden en anderen die dat doen, bestraffen (zoals we inderdaad doen).