De politieke, ethische en commerciële controverse van gezichtsherkenning

San Francisco (S.) is de eerste stad in het land geworden die zijn overheid verbiedt gezichtsherkenning te gebruiken. Maar terwijl privacy voorstanders vieren, de verordening niet stoppen met particuliere bedrijven van het gebruik van deze technologie die veel mensen vinden koelen.

Toch is het besluit van de stad een eerste stap. Het gebruik van gezichtsherkenningstechnologie komt steeds vaker voor, hoewel is bevestigd dat het mensen van kleur vaak verkeerd identificeert. Activisten waarschuwen dat het gebruik ervan kan leiden tot valse arrestaties, de verblijfplaats van mensen kan traceren en op zoek gaan naar dissidenten die niets verkeerds hebben gedaan.

In de afgelopen jaren, San Francisco ambtenaren zijn gedwongen om hun gebruik van high-tech surveillance tools vraag. In 2009 arresteerde de politie een bestuurder, Denise Green, die onder schot werd gehouden tijdens het doorzoeken van hun auto, allemaal omdat een kentekenlezer ten onrechte dicteerde dat het voertuig was gestolen. Green klaagde hen aan en de stad betaalde hem uiteindelijk bijna 450.000 euro. Er is geen twijfel dat deze afleveringen hebben de druk om het gebruik ervan te verbieden toegenomen, hoewel op dit moment San Francisco politie geen gebruik maken van gezichtsherkenning technologie.

Het is niet verwonderlijk dat een tech-geobsedeerde stad is de eerste om het te beperken. “[Het is net als] ouders in Silicon Valley (USA) die de tijd die hun kinderen doorbrengen voor een scherm te beperken,” zegt data ethiek specialist en vice-president van Privacy and Trust bij Obsidian Security, Laura Noren. En hij ziet het waarschijnlijk dat andere zeer technologische steden dit voorbeeld zullen volgen. Nabijgelegen Oakland en Somerville in Massachusetts (beide in de VS) hebben al voorgesteld soortgelijke verboden. Hij is echter van mening dat een federaal verbod onder de regering-Trump onwaarschijnlijk is.

Publiek is niet hetzelfde als particuliere
De ervaring van de meeste mensen met gezichtsherkenning en herkenning zal niets te maken hebben met politiecontrole. Integendeel, het zal optreden als gevolg van niet-gouvernementele initiatieven, zoals beveiligingscamera’s in scholen en winkels die consumenten gerichte advertenties tonen. Deze toepassingen vormen dezelfde risico’s van verkeerde identificatie en discriminatie, maar initiatieven zoals die van San Francisco zullen ze niet verbieden.

Een voorbeeld van de problemen die zich kunnen voordoen is die van een 18-jarige die vorige maand Apple aangeklaagd omdat, volgens hem, een gezichtsherkenning systeem van een van zijn winkels ten onrechte gekoppeld hem aan diefstal. (Volgens Apple gebruiken ze dergelijke systemen niet in hun winkels.) In een ander geval vechten huurders van de Atlantic Plaza Towers, een appartementencomplex in New York City, VS, tegen het plan van de eigenaar om het toegangssysteem te vervangen door afstandsbediening door een gezichtsherkenningssysteem. Zij geloven dat de technologie discriminerend is omdat de meeste bewoners van het gebouw mensen van kleur zijn. Huurder Icemae Downes vraagt: “Waarom heeft [de eigenaar] ons gebouw gekozen om dit systeem te testen? En niet een van de 11 andere gebouwen die een andere samenstelling hebben?”

Een totaal verbod op de particuliere sector is echter onwaarschijnlijk. Veel gebruikers gebruiken FaceID al om hun iPhones te ontgrendelen of video-intercoms te kopen, zoals de Nest Hello van Google, die bekende mensen identificeren. “Als je ‘overheidstoezicht’ zegt, klinkt het meestal luid. Maar als het gaat om de particuliere sector, ontstaan er discussies over wat een nuttige innovatie vertegenwoordigt”, zegt de beleidsadviseur voor het Privacy and Data Project van het Joseph Jerome Center for Democracy and Technology.

Dat soort debatten worden snel ingewikkeld. Als bedrijven gezichtsherkenningstechnologie gebruiken, hoe moeten ze klanten daarover informeren? Welke rechten moeten mensen niet hebben om het te accepteren? Zou dat proces gemakkelijk zijn? Moeten de gegevens worden overgedragen of verkocht aan derden? Dit waren enkele van de problemen die ontstonden tijdens de bespreking van een Washington State (US) privacy wetsvoorstel dat eerder dit jaar niet, volgens de Washington University of Washington technologie beleid onderzoeker Jevan Hutson. De twee partijen waren niet in staat om het eens te worden over hoe sterk de privacy beperking zou moeten zijn.

 

Leave a Comment