De oproep is relevant voor gemeenten en andere overheidsorganisaties die worstelen met de opkomst van camerabrillen. De gemeente Utrecht maakte onlangs bekendte onderzoeken of het gebruik van dergelijke brillen in gemeentelijke gebouwen kan worden beperkt. Ook onderzoekt Utrecht een mogelijk verbod op heimelijk filmen via de Algemene Plaatselijke Verordening (APV). De Vereniging van Nederlandse Gemeenten (VNG) zag eerder geen noodzaak voor aanvullende regels.
Privacywaakhond adviseert verbod op camerabrillen in gebouwen
De Autoriteit Persoonsgegevens (AP) adviseert beheerders van gebouwen en andere locaties om camerabrillen via hun huisregels te verbieden. De oproep volgt op onderzoek naar zes AI-camerabrillen, waarbij de toezichthouder ernstige privacy- en veiligheidsrisico's ontdekte. Consumenten krijgen het advies voorlopig helemaal geen AI-camerabril aan te schaffen.
De AP onderzocht zes AI-camerabrillen die in Nederland verkrijgbaar zijn. Twee daarvan werden uitgebreid getest in nagebootste praktijksituaties. Daarbij bleek dat de risico's verder gaan dan het ongemerkt filmen van omstanders.
'Een bril die je ongemerkt filmt, is al zorgelijk. Een bril die je ook nog eens verkeerd adviseert wanneer iemands leven op het spel staat, gaat een stap te ver'
Monique Verdier
Tijdens een nagebootste reanimatie beweerde een van de brillen herhaaldelijk dat er al een ambulance onderweg was, terwijl helemaal geen hulpdiensten waren ingeschakeld. Ook gaven de brillen onveilige adviezen over medicijngebruik, extreem weer en de omgang met minderjarigen. 'Een bril die je ongemerkt filmt, is al zorgelijk. Een bril die je ook nog eens verkeerd adviseert wanneer iemands leven op het spel staat, gaat een stap te ver', zegt AP-vicevoorzitter Monique Verdier.
Waarschuwing gaat niet ver genoeg
Burgerrechtenorganisatie Bits of Freedom (BoF), die opkomt voor digitale burgerrechten, noemt de waarschuwing van de Autoriteit Persoonsgegevens (AP) over camerabrillen met kunstmatige intelligentie (AI) niet toereikend. 'Het is een beetje als wanneer de Nederlandse Voedsel- en Warenautoriteit, in plaats van besmet etenswaar uit de schappen te halen, mensen zou afraden het gevaarlijke product te nuttigen', zegt Evelyn Austin, algemeen directeur van Bits of Freedom. 'De omgekeerde wereld. De AP heeft één heldere taak: het beschermen van burgers door onze privacywetgeving te handhaven. Dat vertikt ze. De gluurbril moet van de markt gehaald worden.'
Opnamelampjes afplakken
De privacyrisico's zijn volgens de toezichthouder eveneens aanzienlijk. Bij vrijwel alle onderzochte brillen waren de opnamelampjes slecht zichtbaar en eenvoudig af te plakken. De meeste apparaten bleven vervolgens gewoon filmen, ook wanneer fabrikanten beweerden dat dit onmogelijk was.
Daarnaast is vaak onduidelijk waar beeld- en geluidsopnames terechtkomen. De AI-functies verwerken gegevens via externe servers, veelal buiten de Europese Unie. Bij meerdere brillen ontdekte de AP bovendien ernstige beveiligingsproblemen, waardoor onbevoegden in de omgeving mogelijk toegang konden krijgen tot opnames of de camera konden bedienen.
De AP waarschuwde eerder al dat het filmen van omstanders met camerabrillen vrijwel altijd verboden is. Nu adviseert de toezichthouder eigenaren en beheerders van locaties om het dragen én gebruiken van camerabrillen in hun huisregels te verbieden. De toezichthouder erkent dat de technologie nuttig kan zijn voor bijvoorbeeld slechtzienden en laaggeletterden. Volgens de AP moeten fabrikanten echter eerst aantonen dat hun producten voldoende veilig zijn en voldoen aan de toepasselijke Europese regelgeving, waaronder de AI-verordening.
Tweede Kamer
De Tweede Kamer buigt zich de komende periode ook over de AI-brillen. Afgelopen woensdag werd op initiatief van Henk Vermeer (BBB) besloten om een rondetafelgesprek te organiseren. Eerder al werd plenair debat over dit onderwerp aangevraagd.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.