We moeten dringend het debat voeren over camera’s met gezichtsherkenning, voor ze overal hangen, vindt Rosamunde Van Brakel in De Standaard.
Dit opiniestuk werd gepubliceerd in De Standaard.
Volgens de net door de Europese Commissie gepubliceerde richtlijnen over de verboden op ongewenste AI-toepassingen komen de camera’s met gezichtsherkenning er. Realtime biometrische identificatie (zoals gezichtsherkenning) mag dan gebruikt worden als ordediensten op zoek zijn naar een terrorist – na een aanslag op een kerstmarkt of op een muziekfestival, bijvoorbeeld – of naar iemand tegen wie een aanhoudingsbevel is uitgevaardigd voor drugshandel. Dat wil niet zeggen dat die camera’s altijd zullen mogen werken, wel dat vanaf het moment dat er nationale wetgeving is, de infrastructuur op grote schaal in de publieke ruimte mag worden geïnstalleerd en gebruikt onder bepaalde voorwaarden.
Beleidsmakers moeten daar toch twee keer over nadenken. Wetenschappers hebben vastgesteld dat realtime gezichtsherkenning niet zo betrouwbaar is. Daardoor zijn er veel valse positieven, waarbij het systeem dus een verkeerde identificatie maakt. Er sluipen fouten in de AI doordat de algoritmen getraind worden op gezichten die niet representatief zijn voor de bevolking. Onderzoek heeft aangetoond dat die fouten leiden tot discriminatie van vrouwen en van mensen met een donkere huidskleur.
"We hebben in België nog niet grondig gedebatteerd over of en hoe we gezichtsherkenning willen inzetten voor onze veiligheid. Het wordt hoog tijd"
Bovendien gaat de politie ook na een overduidelijk foute identificatie vaak toch over tot een interventie. Ook dat is wetenschappelijk bewezen. In de Verenigde Staten heeft dat al geleid tot onterechte arrestaties, waardoor onschuldige mensen in de gevangenis zijn beland. Zeker in het geval van de zoektocht naar een terrorist kan dat dramatische gevolgen hebben, denk maar aan Jean Charles de Menezes, een Braziliaan die in Londen door de politie verkeerdelijk geïdentificeerd werd als een terrorist en doodgeschoten werd.
Er is ook het gevaar van function creep. Wie kan garanderen dat de camera’s niet voor andere dan de beoogde doeleinden worden gebruikt? Dat is al meermaals gebeurd in België. Zulke grootschalige surveillance-infrastructuur kan in de toekomst mogelijk gebruikt worden door politici die het niet zo nauw nemen met de mensenrechten en de democratie. De camera’s kunnen ook gehackt worden door andere regimes.
De Europese Unie verwacht dat er voldoende waarborgen zullen zijn om de fundamentele mensenrechten te vrijwaren. De vraag is hoe overheden dat zullen beoordelen en of die beoordelingen verder zullen gaan dan het aanvinken van enkele vakjes over abstracte rechten. Zullen ze ook rekening houden met automation bias en mogelijk toekomstig misbruik? We hebben in België nog niet grondig gedebatteerd over of en hoe we gezichtsherkenning en andere AI willen inzetten voor onze veiligheid. Het wordt hoog tijd.
Gefascineerd door technologie en programmeertalen? Houd je van abstract en logisch redeneren?
Ontdek VUB's opleidingen:
Artificiële IntelligentieComputerwetenschappenWiskunde en Data Science
