Orwells 1984 nabij

Systemen die onze gezichten herkennen, dat was tot voor kort ondenkbaar. Sinds de komst van deep learning algoritmen kunnen computers gezichten soms al beter herkennen dan mensen dat kunnen. Gezichtsherkenningstechnologie biedt allerlei praktische nieuwe toepassingen. We kunnen ons in de toekomst identificeren met ons gezicht en daardoor afscheid nemen van vele irritante wachtwoorden en pincodes. Het roept ook vragen op ten aanzien van onze privacy, omdat wij voortaan overal gevolgd kunnen worden.

De artificiële intelligentie voor gezichtsherkenning is afgelopen jaren steeds verder geperfectioneerd op basis van patroonherkenning van miljarden foto’s die op het web aanwezig zijn. Facebook is de absolute uitblinker in het herkennen van gezichten. Het bedrijf beschikt over een database met 1,4 miljard gescande gezichten, gekoppeld aan hun werkelijke identiteit. Facebook zegt de identiteit van personen op basis van foto’s in 97 procent van de gevallen correct te kunnen voorspellen. Op basis van hun zogenaamde DeepFace technologie claimt Facebook zelfs mensen te kunnen herkennen zonder dat hun gezicht op de foto staat.

Artificiële intelligentie is tot veel meer in staat dan het vaststellen van de juiste identiteit. Op basis een foto kan zelfs redelijk nauwkeurig de seksuele geaardheid worden ingeschat. Het aflezen van emoties op basis van gelaatsuitdrukking op een foto behoort al langer tot de mogelijkheden. Op basis van camerabeelden kunnen gedragingen van voorbijgangers tot in het kleinste detail worden geanalyseerd. Tegen die achtergrond is het opmerkelijk dat Facebook foto’s beschouwt als publiekelijk beschikbare informatie die niet onder de privacy settings valt. Een onderzoek van Radar wees uit dat 61,1 procent van de ondervraagden gezichtsherkenning van sociale media niet op prijs stelt. Die meerderheid zou de daad bij het woord kunnen voegen door het aanpassen van hun privacy settings of het verwijderen van hun account.

De politie zet met succes gezichtsherkenning in voor het opsporen van verdachten. Informatie van beveiligingscamera’s, mobiele telefoons, pinautomaten en sociale media wordt gekoppeld aan een strafrechtdatabase met gezichten van personen die ooit een strafbaar feit hebben gepleegd. Vorig jaar heeft de politie bijna honderd verdachten geïdentificeerd met nieuwe gezichtsherkenningssoftware. Op termijn wil de politie met real-time gezichtsherkenning gaan werken. Daardoor kan een voortvluchtige terrorist makkelijker worden opgespoord. Real-time gezichtsherkenning opent ook de weg naar de mogelijkheid om mensen die bijvoorbeeld nog een boete hebben uitstaan automatisch te herkennen in de openbare ruimte.

In China is dat al lang geen toekomstmuziek meer. Ruben Terlou laat in de serie ‘door het hart van China’ zien hoe in miljoenenstad Shenzhen gezichtsherkenning wordt toegepast voor signalering van voetgangers die door rood lopen. Als ze door rood lopen dan worden ze geflitst. Worden ze vijf keer geflitst dan wordt hun identiteit opgezocht in de bevolkingsdatabase en komen ze op een zwarte lijst. Als ze een huis of een auto willen kopen krijgen ze geen lening meer. Dat is onderdeel van het plan van president Xi Jinping dat voorziet in een sociaal kredietsysteem voor iedere burger in China. In de plannen van de partij gaat het er niet alleen om of je door rood loopt. Ook het online gedrag telt mee: wat je op internet of in e-mails zegt en wat je leest of kijkt. Je betaalgedrag, waar je bent, wanneer en met wie. Alles wordt geregistreerd en opgeslagen door de staat. Met een slechte score kom je op een zwarte lijst en dan kun je het helemaal vergeten in China. Ruben Terlou ontlokt een Chinees politicus de uitspraak dat Orwells 1984 nabij is.

Jan Willem Boissevain is Senior Account Executive bij Pegasystems