Motherboard

Gezichtsherkenning op de Nederlandse straten: moeten we dat willen?

Het gezichtsherkenningsnetwerk van de Nederlandse recherche ontwikkelt zich razendsnel, maar burgers worden daar nauwelijks bij betrokken.

door Wester van Gaal
18 juli 2019, 11:31am

Foto door auteur

Tegenover mijn kantoor op de Reguliersdwarsstraat hangt een flinke tros camera’s. Ik drink soms een kopje koffie in het tentje er direct onder.

Stel je nou voor de lol eens voor dat een passant me op gruwelijke wijze neerknuppelt. Agenten kunnen dan achteraf de videobeelden naast een database van misdadigers houden, om dan hopelijk zijn identiteit te achterhalen. Ik vind dat prettig.

Maar in de 10 miljard scenario’s waarin er niks gebeurt, geeft die mate van toezicht me vooral het gevoel een doelwit te zijn. Dit gevoel heet in de theorie het ‘chilling effect’: mensen gaan zich anders gedragen als ze zich bekeken voelen. Dat kan er zelfs in resulteren dat mensen bijvoorbeeld gaan vermijden om te demonstreren – een belangrijk burgerrecht in een democratie.

Volgens de persvoorlichter van de politie schuilt er achter die camera’s een strafrechtdatabase van 2,2 miljoen afbeeldingen van in totaal 1,3 miljoen mensen die “verdacht worden van een feit waar een strafdreiging van 4 jaar of meer voor staat.”

“Bizar veel,” in de woorden van Lotte Houwing van burgerrechtenorganisatie Bits of Freedom. “Ik snap dat aantal niet,” zegt Frederik Zuiderveen Borgesius, hoogleraar ICT en Privaatrecht aan het Radboud door de telefoon. Een deel van de verklaring is dat het bestand vol zit met verdachten – mensen die misschien wel niets hebben gedaan. Het is niet duidelijk hoelang deze mensen vervolgens op de lijst blijven staan.

De programma’s in China vallen op door hun ingrijpende schaal, maar ook in Europa en de VS worden proeven gedaan met real-time gezichtsherkenning.

Vroeger moesten agenten de gezichten zelf met de database vergelijken, maar sinds 2016 kan dit proces ook met het algoritme van gezichtsherkenningssoftware CATCH. Als het systeem een match vindt, kunnen agenten de match controleren. Dat scheelt een hoop grasduinen. In 2017 zijn met dit systeem duizenden foto’s gecheckt, wat 93 matches opleverde.

Zolang er nog mensen in het proces betrokken zijn, verandert het feit dat een computer supersnel door foto’s zoekt fundamenteel nog niet zo heel veel. Maar zoals het zo vaak gaat met technologie is er altijd de kans dat het zich verder ontwikkelt en er nieuwe mogelijkheden ontstaan.

Het griezelige eindstation lijkt op dit moment het real-time analyseren van videobeelden. Uit een lek eerder dit jaar blijkt dat camera’s in China op sommige plekken continu beelden matchen aan een politiedatabase. Uit een ander lek blijkt dat het ook gebruikt wordt om miljoenen Oeigoeren, een Chinese moslimpopulatie in de provincie Xinjiang, real-time te tracken.

Het is een van de grofste voorbeelden dat ooit aan het licht is gekomen van etnisch profileren met als doel te onderdrukken. Vice News-collega Isobel Yeung slaagde er onlangs in om het extreme surveillancesysteem binnen te glippen:

De programma’s in China vallen op door hun ingrijpende schaal, maar ook in Europa en de VS worden proeven gedaan met real-time gezichtsherkenning. In Londen bleek de Metropolitan Police een proef te hebben gedaan met automatische gezichtsherkenning (zonder dat de bewoners daar iets van wisten).

Het systeem produceerde 104 hits, waarvan er uiteindelijk maar twee bleken te kloppen. “Real-time gezichtsherkenning is nog niet klaar voor gebruik,” concludeerde de toezichthouder.

“Het grote gevaar dat het systeem de verkeerde eruit pikt, en de kans dat overheden er misbruik van maken is te groot,” zegt Lotte Houwing van Bits of Freedom. “En zelfs al zou het wel werken, dan nog durf ik de stelling wel aan dat het geen goed idee is.”

“Waar ik me zorgen over maak is dat mensen zich anders gaan gedragen. Als je overal gevolgd en geïdentificeerd wordt, kan je je afvragen of mensen nog gaan demonstreren of ongeregistreerde asielzoekers nog naar het ziekenhuis durven. Ze refereert naar het ‘chilling effect’ – “als individuen zich collectief anders gaan gedragen, verandert een maatschappij.”

Het debat over gezichtsherkenning is in de VS ondertussen definitief losgebarsten. In San Francisco is een wet doorgevoerd die gezichtsherkenning in de publieke ruimte verbiedt voor de overheid. En er zijn inmiddels tientallen burgerrechtenorganisaties die voor een federaal verbod op gezichtsherkenning pleiten.

Lees meer: Deze burgerrechtenorganisatie wil een verbod op gezichtsherkenning

Maar in Nederland is er eigenlijk niet echt een debat, en dat is best vreemd. “De discussie gebeurt nog grotendeels achter de schermen,” zegt Houwing. “Gemeenten praten wel over smart cities, en tracking in het algemeen, maar er is hier nog geen sterke lobby geweest tegen gezichtsherkenning. Dat begint nu wel meer op gang te komen.”

Hoewel ze het over gezichtsherkenning in het algemeen heeft, merk ik dat het schrikbeeld vooral de real-time gezichtsherkenning is: het beeld van de rijen camera’s in het Chinese model doemt op.

“Dat is niet hoe gezichtsherkenning in Nederland werkt,” zegt John Riemen. Als manager van het Centrum voor Biometrie van de Dienst Landelijke Operationele Samenwerking (DLOS) is hij als geen ander verantwoordelijk voor de totstandkoming van CATCH.

“De software die de politie nu in gebruik heeft kan geen real-time live beelden analyseren. Voor CATCH wordt een still of een foto aangeleverd waarmee onderzoek wordt gedaan. En er moet altijd een aanleiding zijn voor het doen van onderzoek.” Maar dit zijn niet de enige toepassingen van de software. De Volkskrant schreef een paar jaar geleden over een smartphone app waarmee agenten foto’s naar CATCH konden sturen.

In het NRC vertelde Riemen vorig jaar dat hij een proef deed met gezichtsherkenningssoftware van de Franse gendarmerie die gezichten in een video van mensenmassa’s herkent.

“Camerabeelden die al zijn vastgelegd werden achteraf onderzocht. Het gaat dan dus niet om het real-time scannen van een menigte in de openbare ruimte, maar om gericht onderzoek achteraf in beelden die al zijn vastgelegd.”

Ik vraag hem per telefoon wat er technisch nog moet gebeuren voordat het mogelijk is om in Nederland live registratie toe te passen? “Dat bestaat al,” antwoordt hij.

Het artikel sluit af met de opmerking dat Riemen “niet uitsluit” dat de politie ooit met real-time gezichtsherkenning gaat werken. “Als een terrorist na een aanslag ontkomt, wil je hem zo snel mogelijk vinden,” concludeert hij. In een mail vertelt hij Motherboard dat er “tests worden gedaan met software van verschillende bedrijven om te bepalen hoe ver de techniek is”. Wat dat precies betekent licht hij niet toe.

Maar het is een belangrijke vraag: hoe ver is de techniek in Nederland? Daarvoor contacteer ik Luuk Spreeuwers, universitair hoofddocent Biometrie verbonden aan de Universiteit van Twente. Hij adviseert politie over gezichtsherkenning, en hij onderzoekt en ontwikkelt ook gezichtsherkennende software die weer worden gebruikt door de private instellingen waar de politie mee werken.

Ik vraag hem per telefoon wat er technisch nog moet gebeuren voordat het mogelijk is om in Nederland live registratie toe te passen?

“Dat bestaat al,” antwoordt hij. “Er worden al proeven gedaan met bodycams met gezichtsherkenning erop. Zo’n cameraatje kan met een beetje processing power beelden vergelijken met een lokale lijst mensen die geweerd moeten worden. Die bodycam kan dan een seintje geven aan de agent. Nu moet een persoon nog controleren of de match klopt.”

Hij heeft het over netwerksysteem Tec4se, dat een aantal jaar geleden in opdracht van een aantal verschillende overheden is ontwikkeld. De enthousiaste innovatiemanager zei destijds tegen Tubantia dat hierdoor “betere besluiten kunnen worden genomen over de inzet van politie”.

Het is een onschuldig voorbeeld, maar dit is hoe technologie zich kan verspreiden: stapsgewijs. Het kan onderdeel zijn van grote stoere top-down programma’s zoals CATCH. Maar het sijpelt ook naar boven vanuit provinciale innovatiecentra, aangemoedigd door enthousiaste managers en ambitieuze burgemeesters.

Foto door auteur
foto door auteur

Spreeuwers vertelt me ondertussen nog dat er ook draagbare systemen zijn die werken met de cloud, waardoor agenten op straat met grotere databases kunnen werken. “Er wordt mee geëxperimenteerd in Nederland, maar in sommige landen wordt het al veel breder toegepast. In China neemt het big brother-achtige proporties aan. Dat begint echt tegen het onacceptabele aan te schuren. Daarom hebben ze in San Francisco ook besloten dat de politie het niet meer mag gebruiken op straat.”

Of hij voor zo’n verbod is, houdt hem desgevraagd bezig: “Als je willekeurige personen gaat herkennen zonder enige verdachtmaking, en die data wordt opgeslagen, dan ga je te ver. Dat mag ook niet van de AVG [de Europese privacywet, red]. “Ik vraag me ook weleens af wat er met de data gebeurt. En je moet de politie maar op hun blauwe ogen geloven dat er niets mee wordt gedaan”… “aan de andere kant zeg ik ook: stel je voor dat je een terrorist kan detecteren.”

Een valide argument, dat mij als onbezorgde burger toch niet helemaal overreed. Welke terrorist? Hoeveel zijn er? Ik ben er nog niet helemaal van overtuigd dat de uitzondering van een terroristische aanslag zwaarder moet wegen, dan de regel dat 1,3 miljoen mensen in Nederland, en in het bijzonder asielzoekers, een potentieel doelwit zijn van zo’n systeem. En ik zeg bewust 'doelwit', want als ik een koffie drink onder een tros camera’s voel ik me zo: een potentieel doelwit.

Daar komt nog bij dat uit buitenlandse proeven blijkt dat real-time gezichtsherkenning niet werkt, en bovendien dat vooral niet-witte mensen slecht herkend worden.

Op de vraag of ik voor een verbod ben, moet ik het antwoord schuldig blijven. Ik heb de vraag een aantal mensen voorgelegd. Bits of Freedom is voor een verbod, maar Frederik Zuiderveen Borgesius van de Radboud Universiteit, die ik ook voor dit stuk heb gesproken, “kan zich wel voorstellen dat je CCTV bij een juwelier hebt”.

Uit een rapport blijkt dat burgers keer op keer niet zijn ingelicht door hun overheid over de installatie van een gezichtsherkenningssysteem.

Maar hij vindt het gevaar voor overreach in Nederland enorm. “De privacywet in Europa is beter geregeld dan in de VS, maar we hebben hier soms last van de remmende voorsprong: we hebben het over details van de wet – bewaren we de gegevens wel volgens de regels, etc. – in plaats van dat we ons afvragen of we dit überhaupt wel moeten willen.”

Het gaat erom dat de maatschappij de juiste keuzes maakt over deze nieuwe technologie. En hoewel een debat niet altijd tot zuivere wetgeving leidt, helpt de afwezigheid ervan ook niet.

Het werkelijke probleem zoals ik het zie, is dat er geen burgers aan tafel zitten. Uit een rapport dat de Rand Corp, een Amerikaanse denktank, in 2014 aanbood aan de Europese Commissie blijkt dat burgers keer op keer niet zijn ingelicht door hun overheid over de installatie van een gezichtsherkenningssysteem.

Representatieve overheden werken op dit gebied niet altijd even goed, want politici willen nu eenmaal scoren en spijkerharde aanpak van criminaliteit scoort sinds 9/11 beter dan privacy.

De recherche wordt als gevolg van dit politieke klimaat keihard afgerekend op de opsporingscijfers. Een logische redenering voor de chefs van John Riemen is om een biometrisch systeem dat aantoonbaar tot opsporingen leidt te omarmen. De politie kampt al jaren met belabberde opsporingscijfers; zo erg dat de organisatie ook wel de ‘Slappe Arm’ wordt genoemd, en deze technologie is een welkom wapen in de strijd. Het risico is dat het systeem wordt uitgebouwd tot een real-timesysteem als er een keer een bom afgaat. Want, ik laat het Riemen nog een keer zeggen: “Als een terrorist na een aanslag ontkomt, wil je hem zo snel mogelijk vinden.”

Maar je kan je afvragen of het opsporen van terroristen of asielzoekers in de toekomst een real-time cameranetwerk legitimeert. Dat lijkt me een beslissing waar burgers op wat voor manier dan ook direct bij betrokken zouden moeten zijn, en niet iets dat John Riemen min of meer zonder tegenwerping zou mogen beslissen.

Een eerdere versie van dit artikel is bewerkt omdat er de suggestie werd gewekt dat asielzoekers ook onderdeel zijn van de 1,3 miljoen mensen in de database. Dit is niet het geval.