Gezichtsherkenningstechnologie wordt steeds vaker toegepast en modeontwerpers zijn een van de eersten die hier de strijd tegen aanbinden.
- Nieuwe kledinglijn zet camera’s op een dwaalspoor
- Het Hyperface-project ontwerpt kleding waarmee je je gezicht voor KI kunt verbergen
- Phantom-brillen blokkeren gezichtsherkenningstechnologie
- Het minimalistische Incognitio-masker helpt gezichtsherkenning te voorkomen
- De modesector is koploper in de strijd tegen massasurveillance
We leven in een tijdperk van massasurveillance, waarin bijna alles wat we in het openbaar doen of zeggen wordt gemonitord en vastgelegd, vaak zonder dat we er iets van weten, laat staan dat we er toestemming voor hebben gegeven. Gezichtsherkenningstech is de laatste jaren enorm populair geworden – mede door het toenemende gebruik ervan door wetshandhavingsinstanties – en de verwachting is dat de populariteit ervan in de toekomst alleen maar zal toenemen. Volgens een recent rapport van MarketsandMarkets groeit de wereldwijde markt voor gezichtsherkenningstech van $3,2 miljard in 2019 naar $7 miljard in 2024. Inmiddels begint het erop te lijken dat we overal waar we ons bevinden door camera’s bespied worden. Ze hangen op straat, in bars, restaurants en winkelcentra maar ook op luchthavens, op ons werk en zelfs thuis. En het lijkt erop dat we hier niets tegen kunnen doen. Of toch wel?
De technologie voor gezichtsherkenning is de afgelopen jaren steeds meer onder de loep genomen. Hoewel het ongetwijfeld verschillende potentiële voordelen biedt, met name als het gaat om het voorkomen en oplossen van criminaliteit, zijn er veel meer privacy-, veiligheids- en wetgevingskwesties verbonden aan het gebruik van deze technologie. Naast een gebrek aan regelgeving is gezichtsherkenningstechnologie herhaaldelijk onnauwkeurig en bevooroordeeld gebleken met betrekking tot gekleurde mensen. Als gevolg hiervan hebben een aantal privacy- en burgerrechtenorganisaties regeringen opgeroepen om de technologie volledig te verbieden. “Gezichtsherkenning hoort echt niet thuis in de samenleving”, vindt Evan Greer, adjunct-directeur van de digitale rechtengroep Fight for the Future. “Het is enorm invasieve technologie en vanuit ons perspectief wegen de potentiële nadelige gevolgen voor de samenleving en menselijke vrijheden veel zwaarder dan de potentiële voordelen”. In plaats van te wachten tot regeringen op deze oproepen ingaan, hebben kunstenaars, ontwerpers en onderzoekers uit de hele wereld besloten om alvast het heft in eigen hand te nemen. Dit doen zij onder andere door kleding en accessoires te ontwerpen die gezichtsherkenningstechnologie kunnen blokkeren of om de tuin kunnen leiden.
Nieuwe kledinglijn zet camera’s op een dwaalspoor
De kledinglijn Adversarial Fashion is ontworpen door computerbeveiligingsprofessional en amateur-modeontwerpster Kate Rose. De collectie werd voor het eerst onthuld op de DefCon cybersecurity-conferentie in Las Vegas en bestaat uit hele bijzondere ontwerpen die gekenmerkt worden door afbeeldingen van kentekenplaten. Het hoofddoel van de onorthodoxe designs is niet om een fashion statement te maken, maar om de geautomatiseerde kentekenplaatlezers die in de VS de laatste jaren steeds vaker worden gebruikt om de tuin te leiden.
Deze kentekenlezers zijn meestal gemonteerd op straatpalen, straatlantaarns, snelwegviaducten of mobiele aanhangwagens en maken gebruik van netwerkbewakingscamera’s en beeldherkenningstechnologie om mensen te volgen. Dit doen ze door kentekennummers te koppelen aan specifieke GPS-locaties, datums en tijden. Deze technologie werkt echter niet altijd even nauwkeurig. Zo wordt er met regelmaat per ongeluk informatie van billboards of hekken gelezen en gebruikt. Dit inspireerde Rose om kleding te ontwerpen die deze technologie op eenzelfde soort manier om de tuin kan leiden – door de indruk te wekken dat het systeem een kenteken ziet, in plaats van een persoon.
De Adversarial Fashion-lijn bestaat uit shirts, hoodies, jassen, rokken en jurken, met prijzen die variëren van $25 tot $55. De website bevat ook DIY-bronnen, zoals API’s en beeldbewerkingshulpmiddelen, waarmee iedereen zijn eigen anti-surveillancekleding kan ontwerpen. Rose hoopt dat ze met haar creaties meer bewustzijn kan creëren over de invasiviteit van gezichtsherkenningstechnologie en mensen zelfs kan inspireren om zich ertegen te verzetten. “Deels wil ik mensen hiermee leren hoe deze technologie werkt en hoe deze surveillancestaat in elkaar zit”, vertelt Rose. “En het werkt echt. Zelfs al draagt maar één persoon deze kleding zodat de camera’s 10 tot 50 kentekenplaten registreren die niet bestaan, dan doen we in ieder geval íets. Dit is namelijk allemaal informatie die opgeslagen en geanalyseerd moet worden en dat kost allemaal geld. En het maakt het systeem ietsje minder efficiënt. Ik zou graag manieren bedenken waarop dit door hele gemeenschappen overgenomen zou kunnen worden – op deze manier zeggen we dat we hier niet van gediend zijn”.
Het Hyperface-project ontwerpt kleding waarmee je je gezicht voor KI kunt verbergen
Het Hyperface-project, het resultaat van een samenwerking tussen de Berlijnse kunstenaar en technoloog Adam Harvey en de internationale interactiestudio Hyphen-Labs, benadert gezichtsherkenningstechnologie op een soortgelijke manier als Adversarial Fashion. Maar in plaats van afbeeldingen van kentekenplaten gaat het hier om kleding of textiel met patronen en designs die lijken op ogen, monden en neuzen. Het doel is om gezichtsherkenningstech te laten ‘denken’ dat het een gezicht registreert en daarmee de aandacht van het werkelijke gezicht af te leiden. Hierdoor wordt het systeem overspoeld met duizenden valse ‘gezichten’ waardoor het deze niet van echte weet te onderscheiden.
Een kledingstuk of textiel dat met deze afbeeldingen bedrukt is kan worden gedragen of gebruikt “om de omgeving om je heen aan te passen, of je het nu zelf bent of iemand die naast je zit of loopt maar ook de manier waarop je het draagt – bijvoorbeeld als een sjaal rond je hoofd”, vertelt Harvey. De patronen zijn gebaseerd op ideale algoritmische representaties van een menselijk gezicht en ontworpen om zich op specifieke algoritmen te richten, waaronder het standaard frontale gezichtsprofiel van OpenCV, op HoG/SVM gebaseerde detectors en convolutionele neurale netwerken.
Phantom-brillen blokkeren gezichtsherkenningstechnologie
De Phantom-brillen van designer Scott Urban vormen een nieuwe lijn privacybrillen die zijn ontworpen om verschillende vormen van gezichtsherkenningstechnologie te blokkeren – of eigenlijk om 3D dot matrix face-mapping-systemen te misleiden. Dat zijn systemen die onder andere in Apple’s Face ID worden gebruikt en infraroodlicht als het ware terugreflecteren naar de bron. Met deze speciale brillen kun je voorkomen dat IR-videocamera’s een duidelijk beeld van je gezicht registreren. “Het tijdperk van de privacy ligt al ver achter ons. Bedrijven en overheden gebruiken je gezicht om alles over jou te weten te komen en verzamelen al je gegevens netjes in één profiel. Ik – en vele anderen met mij – zouden gewoon liever niet in hun systeem willen staan”, aldus Urban.
Naast gezichtsherkenningstechnologie in smartphones maken ook de steeds populairder wordende infrarood-beveiligingscamera’s gebruik van 3D dot matrix mapping. Deze camera’s worden meestal geïnstalleerd in bars en restaurants en op parkeerplaatsen en straathoeken. Met de IR-LEDs verlichten deze camera’s een donkere hoek en tegelijkertijd leggen ze het resulterende beeld vast. Dit systeem wordt beschouwd als een van de meest nauwkeurige vormen van gezichtsherkenningstechnologie en zou in de nabije toekomst ook een van de meest gebruikte kunnen worden. Dankzij de Phantom-brillen hoef je je daar echter geen zorgen over te maken en kun je je privacy overal waar je maar bent, overdag of ’s avonds, waarborgen. “Ik bied een opt-out omdat het systeem geen opt-in is”, zegt Urban. “Het is overal en niet gereguleerd”.
De Phantom-bril ziet eruit als een gewone bril, zij het met een iets breder montuur. Ze zijn op sterkte verkrijgbaar of met getinte glazen. Bovendien kun je ervoor kiezen om IR-glazen te nemen die IR-eye-tracking blokkeren – een surveillancemethode die door privacygroepen als zeer invasief wordt beschouwd. Phantom-brillen werken door het gedeelte rond de ogen te verlichten. Dit voorkomt dat IR-bewakingscamera’s biometrische data verzamelen die ze nodig hebben om een positieve match te maken. Tegelijkertijd vervormen de gereflecteerde IR-stralen je gezichtsdata waardoor je de 3D-infrarood face mapping-technologie als het ware op een dwaalspoor zet. De brillen zijn al verkrijgbaar voor $142 en de verzending start naar verwachting in 2020.
https://www.youtube.com/watch?v=giK6mEc667k
Het minimalistische Incognitio-masker helpt gezichtsherkenning te voorkomen
De Poolse ontwerper Ewa Nowak heeft een minimalistisch metalen masker met de naam Incognitio ontwikkeld. Met dit masker – of eigenlijk, gezichtssieraad – word je door de algoritmen van gezichtsherkenningstechnologie niet herkend. Het is gemaakt van messing en heeft drie prominente stukken: een langwerpige soort driehoek die zich over het voorhoofd van de drager uitstrekt en twee cirkels die net onder de ogen komen. De metalen delen zijn via metaaldraad met elkaar verbonden en je kunt het masker-sieraad als een soort bril opzetten.
“Het project gaat over sociale surveillance en bescherming van het eigen imago op openbare plaatsen. Het object is ontworpen om jouw beeld te beschermen tegen de gezichtsherkenningsalgoritmen in camera’s die in openbare ruimten hangen”, vertelt Nowak. Het masker verdoezelt in feite de belangrijkste delen van het gezicht, wat voorkomt dat de algoritmen de drager identificeren. Nowak heeft het masker op het DeepFace-algoritme van Facebook getest door verschillende afbeeldingen te uploaden van modellen die het masker dragen. Het algoritme wist geen van deze modellen te herkennen. Hoewel er veel belangstelling is voor het Incognitio-masker is het sieraad nog een concept. Het is niet bekend of en wanneer het commercieel verkrijgbaar zal zijn.
De modesector is koploper in het verzet tegen massasurveillance
Gezichtsherkenningstechnologie heeft bijna elk aspect van onze samenleving doordrongen, waardoor het bijna onmogelijk is om eraan te ontsnappen. Hoewel er geen twijfel bestaat dat deze tech verschillende belangrijke voordelen biedt, zoals het identificeren van criminelen, het opsporen van vermiste personen of de beveiliging van (overheids)gebouwen, zijn er ook legio privacy-, veiligheids- en wetgevingsuitdagingen. Ondanks herhaalde oproepen van diverse privacy- en burgerrechtenorganisaties om gezichtsherkenningstechnologie te verbieden, blijft de markt voor deze technologie groeien. Als reactie hierop hebben een aantal kunstenaars en modeontwerpers kleding en accessoires ontworpen om mensen te helpen identificatie door gezichtsherkenningsalgoritmen te voorkomen.
De meeste voorbeelden die we hier hebben genoemd zijn ontworpen om slim gebruik te maken van een bekende fout in de huidige massasurveillancesystemen. Maar naarmate de technologie verder ontwikkelt, zullen deze fouten ook worden opgelost, waardoor deze ‘verwarrings’producten nutteloos worden. De ontwikkelaars zijn zich hier uiteraard van bewust. Hun creaties zijn dan ook niet bedoeld om het massasurveillanceprobleem op te lossen, maar meer om mensen erop te wijzen hoe deze technologie werkt en wat ze er nu eventueel nog tegen kunnen doen. “De systemen die hiervoor worden gebruikt worden elke dag beter. Computer vision-tech wordt steeds geavanceerder. Ik weet dat mijn shirts over een paar jaar misschien niet meer werken. Ik heb ook al projecten van andere anti-surveillance-artiesten gezien die niet meer werken”, zegt Rose. “Maar ik vind het belangrijk om me op welke kleine manier dan ook te verzetten, zelfs als dat betekent dat ik het alleen moet doen”.
Van kleding met ingewikkelde patronen tot brillen en maskers die gezichtsherkenningssystemen verwarren, anti-surveillancemode is de laatste jaren steeds populairder geworden en sommige van deze ontwerpen zijn enorm effectief gebleken. Wel is het belangrijk om te vermelden dat deze niet moeten worden beschouwd als de ultieme oplossing voor het massasurveillanceprobleem, maar eerder als een manier om de dialoog erover aan te zwengelen. Het ziet er niet naar uit dat gezichtsherkenningstechnologie (ooit) van het toneel zal verdwijnen. Overheden moeten echter manieren vinden om de toenemende privacy- en veiligheidskwesties ervan aan te pakken. Tot die tijd kunnen we met deze anti-surveillancemode zelf proberen onze privacy in het openbaar zoveel mogelijk te beschermen.
