Vragen van het lid Buitenweg (GroenLinks) aan de Minister van Justitie en Veiligheid over het rapport van Amnesty International rapport «We sense trouble: Automated discrimination and mass surveillance in predictive policing in the Netherlands» (ingezonden 2 oktober 2020).

Antwoord van Minister Grapperhaus (Justitie en Veiligheid) (ontvangen 11 december 2020). Zie ook Aanhangsel Handelingen, vergaderjaar 2020–2021, nr. 496.

Vraag 1

Kent u het rapport van Amnesty International «We sense trouble: Automated discrimination and mass surveillance in predictive policing in the Netherlands»?1

Antwoord 1

Ja

Vraag 2

Waarop zijn de zeer generieke criteria (zoals de grootte van de auto) die leiden tot de risicoscore op basis waarvan de inzittenden van een auto al dan niet worden aangehouden gebaseerd? Hoe schat u de effectiviteit van dergelijke generieke criteria in?

Antwoord 2

De werkwijze van mobiel banditisme onderscheidt zich van die van andere groepen die zich schuldig maken aan zakkenrollerij en winkeldiefstal. Zo onderscheidt mobiel banditisme zich o.a. in mobiliteit, de mate van georganiseerdheid en professionaliteit, het al dan niet in opdracht van derden stelen, de modus operandi, mobiliteit en doelwitten (van slachtoffers). De werkwijze van deze groepen, zoals die in Roermond wordt waargenomen, is nader beschreven in het onderzoeksrapport «Mobiele Bendes aan het Roer»2.

Het merk en model van het gebruikte voertuig is een van de onderscheidende kenmerken, naast vele andere kenmerken. Een voertuig zal nooit stil worden gehouden op basis van één (generiek) kenmerk. Er moet sprake zijn van een combinatie van kenmerken voordat er sprake is van een zogenoemde «hit». Zodra de politie opvolging geeft aan een hit en het voertuig wordt aangetroffen, dan bepaalt een politieagent zelf of het voertuig zal worden stilgehouden. Op basis van de verkregen informatie, en zijn of haar waarneming en ervaring, kan een agent ook besluiten het voertuig door te laten. Het besluit om een voertuig stil te houden is dus gebaseerd op meer factoren dan alleen de risicoscore uit een daderprofiel.

In mijn antwoord op vraag 4 van de leden Van Beukering-Huijbregts en Verhoeven gaf ik aan dat de werkwijze een zogenaamde leerlus omvat. Een kenmerk, zoals een bepaald type voertuig, dat in de praktijk niet of nauwelijks wordt aangetroffen of een kenmerk dat wel wordt aangetroffen, maar na analyse geen onderscheidend kenmerk blijkt te zijn voor de dadersgroep, wordt verwijderd uit het profiel. Een voorbeeld hiervan is een Duitse huurauto. Dit kenmerk had geen onderscheidend vermogen.

Vraag 3

Kunt u een volledige lijst verschaffen van de criteria die door het project Sensing worden gebruikt om de risico-score van een auto of inzittenden te bepalen? Zo nee, waarom niet?

Antwoord 3

Nee. Ik heb inzage gehad in de lijst, maar ik kan deze informatie niet openbaar maken. Dit zou het opsporings- en handhavingsbelang doorkruizen.

Vraag 4

Kunt u toelichten in hoeverre de gebruikte criteria worden aangepast en verbeterd op basis van daadwerkelijk verrichtte aanhoudingen door de politie en de bevindingen hieromtrent?

Antwoord 4

Ik verwijs u hiervoor naar mijn antwoord op vraag 2. De Operationele Proeftuin Roermond (OPTR) richt zich op het voorkomen van mobiel banditisme. Kennis die wordt vergaard bij ontdekkingen op heterdaad wordt daarbij ook gebruikt om dit specifieke daderprofiel te toetsen.

Vraag 5

Klopt het dat als inzittenden van een auto worden aangehouden en in de politiedatabase worden verwerkt, zij in het vervolg een hogere kans hebben om weer aangehouden te worden, zelfs als zij bij de eerste aanhouding compleet onschuldig bleken te zijn? Zo ja, kunt u uitleggen waarom het project Sensing op deze manier ontworpen is? Hoe denkt u dat deze «feedback loop» de effectiviteit van het project Sensing beïnvloedt?

Antwoord 5

Nee, dat klopt niet. Het project kent juist een «feedback loop». Wanneer uit de controle geen feiten worden vastgesteld die leiden tot een dergelijk vermoeden, dan zal dat voertuig op een lijst worden geplaatst die voorkomt dat het voertuig nog een keer in de aandacht komt. Dat voertuig zal dan juist geen hit meer genereren.

Omgekeerd geldt dat natuurlijk ook. Als een voertuig wordt gecontroleerd en uit die controle blijken aanvullende feiten die leiden tot een vermoeden van betrokkenheid bij enig strafbaar feit, dan zal dit voertuig worden toegevoegd aan de referentielijst. De kans dat dat voertuig in het vervolg weer wordt stil gehouden is dan inderdaad groter.

Vraag 6

Klopt het dat mensen met een Roma of Oost-Europese achtergrond gezien worden als extra risico en daarmee meer kans hebben om door de politie aangehouden te worden? Kunt u zich voorstellen dat dit niet rijmt met artikel 1 van de Grondwet?

Antwoord 6

In mijn antwoord op vraag 6 van de leden Beukering-Huijbregts en Verhoeven gaf ik aan dat het kenteken (land van herkomst van het voertuig) één van de kenmerken is in het profiel. Een bijzonder persoonsgegeven als etniciteit (zoals een Roma of Oost-Europese achtergrond) maakt geen onderdeel uit van het profiel.

In hetzelfde antwoord gaf ik aan dat het aan de betrokken officier van justitie is om te bepalen of de opname van het land van herkomst van het voertuig in de profielregel in combinatie met de andere selectiecriteria passend en noodzakelijk is voor de aanpak van deze criminaliteitsvorm. Het is aan de rechter om er een oordeel over te vellen indien een betrokken burger dit wil aanvechten.

Vraag 7, 8

Kunt u kwantitatief aantonen in hoeverre het project Sensing in Roermond effectief is in het tegengaan van zakkenrollers en winkeldieven? Zo nee, waarom niet?

Klopt het dat de resultaten van het Sensing project niet systematisch worden bijgehouden en de effectiviteit van dit project daarom niet goed geëvalueerd kan worden? Zo nee, kunt u de Kamer informeren over de evaluaties van dit project? Zo ja, waarom wordt project gecontinueerd?

Antwoord 7, 8

Een kwalitatief of kwantitatief oordeel over de effectiviteit van het project Sensing in Roermond is nu nog niet mogelijk.

De OPTR richt zich op het voorkomen van mobiel banditisme door potentiele daders buiten het winkelgebied van Roermond tegen te houden. In het winkelgebied en het Outlet Center zelf zijn ook maatregelen getroffen. Door de winkeliers zelf en door de aanwezigheid van politie en bewakingspersoneel. Deze optelsom van maatregelen moet de hoeveelheid zakkenrollerij en winkeldiefstal terugdringen. Het aandeel van de OPTR in die optelsom is nog niet te bepalen.

In 2019 is in eerste aanleg gewerkt aan het cijfermatig valideren van de profielregels en het op orde krijgen van het systeem. In de tweede helft van 2019 zijn de eerste hits aan politiemedewerkers uitgegeven, waarna bleek dat het uitgifteproces moest worden aangepast. Er lag te veel tijd tussen hit en opvolging. Het voertuig werd daardoor vaak niet aangetroffen. In het vierde kwartaal van 2019 werden er op basis van het profiel 199 hits gegenereerd, waarvan er 20 leiden tot een controle.

Begin 2020 is het proces zodanig aangepast dat er sneller opvolging kan worden gegeven aan een hit. Sinds dit voorjaar is vanwege de coronamaatregelen de capaciteit die nodig is voor verdere opvolging anders geprioriteerd. De uitvoering van de proeftuin ligt daardoor in 2020 feitelijk stil, waardoor er geen nieuw inzicht wordt opgebouwd op de effectiviteit van de OPTR.

Alle politieagenten in de operationele proeftuin beschikken sinds eind 2019 over een app op hun mobiele telefoon waarmee direct het resultaat van een opvolging wordt teruggekoppeld. Dit zorgt ervoor dat alle resultaten worden vastgelegd.

In 2019 bleek circa 50% van de daadwerkelijk gecontroleerde voertuigen correct te zijn geselecteerd op basis van het profiel. Om een definitieve uitspraak te kunnen doen over de effectiviteit hiervan is een hoger aantal feitelijk gecontroleerde voertuigen nodig.

Vraag 9

Hoe beoordeelt u de claim van Amnesty International dat het project Sensing het recht op privacy op ingrijpende wijze aantast? Op welke manier is het recht op privacy volgens u gewaarborgd in het project Sensing en wordt een eventuele inbreuk hierop gerechtvaardigd door het beschermen van andere belangen?

Antwoord 9

Ik verwijs u hiervoor mijn antwoord op de vragen 3, 5 en 6 van de leden Van Beukering-Huijbregts en Verhoeven. Op verzoek van uw Commissie heb ik daarnaast nog een algemene reactie op dit rapport gegeven. Die reactie doe ik u tegelijkertijd met de beantwoording van deze vragen toekomen. Voor het antwoord op deze vraag kan ik u verder ook nog naar die brief verwijzen.

Vraag 10

Acht u de effectiviteit van het project Sensing voldoende om dit project voort te zetten, daarbij het risico in acht nemend dat dit project de privacy van burgers op ingrijpende wijze aantast?

Antwoord 10

Ik mijn antwoord op vraag 7 ga ik in op de effectiviteit van het project.

In verschillende publicaties over de OPTR wordt de indruk gewekt dat er zeer veel sensoren worden ingezet en dat het effect en het risico van die sensoren onvoldoende worden getoetst.

In de OPTR is de ANPR3-camera de enige sensor die wordt toegepast. Andere sensortechnieken zijn wel overwogen, maar bleken na uitvoering van een technische-, juridische- en ethische toets niet bruikbaar.

Vraag 11

Kunt u toelichten wat de juridische basis is voor het poject Sensing? Hoe beoordeelt u de claim van Amnesty International dat artikel 3 van de Politiewet en artikel 160 van de Wegenverkeerswet geen goede juridische basis bieden voor het project Sensing?

Antwoord 11

De eisen op het gebied van privacy die hier van toepassing zijn staan in de Politiewet 2012 (Pw) en de Wet Politiegegevens (Wpg).

De verkrijging van gegevens vindt plaats op grond van artikel 3 Pw.

In de OPTR worden alleen ANPR-camera’s ingezet voor het verkrijgen van data. Deze ANPR-camera’s worden op de reguliere manier ingezet. Dat wil zeggen dat de kentekens van passerende voertuigen worden vergeleken met het profiel en lokale en relevante landelijke referentielijsten. De afbeeldingen van de voertuigen die op deze lijsten voorkomen (de «hits») worden bewaard. In het kader van een lopend politieonderzoek kunnen ook de «no hits» worden opgeslagen.

De wettelijke bepaling voor het op deze wijze verwerken van ANPR-gegevens wordt gevonden in de Wpg. In het IJssellandarrest4 wordt geconcludeerd dat de aldaar genoemde bepalingen van de Wpg een grondslag bieden voor het verwerken van uit ANPR verkregen gegevens.

De «no-hits» worden opgeslagen en verwerkt in een omgeving conform artikel 9 Wpg. Dit is een afgeschermde omgeving waar alleen geautoriseerde medewerkers bij kunnen. De «hits» worden opgeslagen en verwerkt in een omgeving conform artikel 8 Wpg. Aan een artikel 8-omgeving worden minder strenge eisen gesteld, omdat hier opvolging plaats vindt en meer medewerkers toegang moeten kunnen hebben tot de gegevens.

In het kader van de OPTR worden er geen gevoelige gegevens5 verzameld, die op grond van artikel 5 Wpg moeten worden verwerkt.

In mijn antwoord op vraag 3 van de leden Van Beukering-Huijbregts en Verhoeven omschrijf ik hoe de politie het project Sensing heeft getoetst aan de wettelijke eisen.

Amnesty International stelt dat de politie haar bevoegdheden onder de Wegenverkeerswet misbruikt om voertuigen stil te houden. Dat is niet juist. In de OPTR kan de politie een voertuig stil houden om de identiteit van de inzittende te kunnen vaststellen. De politie ontleent deze bevoegdheid aan de Algemene wet Bestuursrecht6. Een eventuele opvolghandeling, zoals het doorzoeken van het voertuig, geschiedt op grond van artikel 2.44 van de APV van de gemeente Roermond7.

Vraag 12, 13

Is voorafgaand aan het project juridisch advies ingewonnen over de mogelijk inbreuk die dit project maakt op mensenrechten?

Wie houdt toezicht op het project? Heeft het toezicht betrekking op zowel het algoritme als op de keuze voor datasets? Aan wie rapporteert de toezichthouder?

Antwoord 12, 13

De OPTR wordt uitgevoerd onder verantwoordelijkheid van het bevoegd gezag in Roermond. Het projectteam brengt verslag uit van al haar werkzaamheden aan de stuurgroep van de OPTR, waarin de burgemeester, de Officier van Justitie en de betrokken politieafdelingen zijn vertegenwoordigd. De stuurgroep is de opdrachtgever, maar is in formele zin geen toezichthouder. De stuurgroep beoordeelt of de sensoren, de profielregels en de datasets die het project voorstelt mogen worden ingezet. De burgemeester en de Officier van Justitie zijn verantwoordelijk voor het opdrachtgeverschap.

Er is niet specifiek juridisch advies ingewonnen over de mogelijke inbreuk op mensenrechten. In mijn antwoord op vraag 3 van de leden Van Beukering-Huijbregts en Verhoeven gaf ik aan dat er bij aanvang van de OPTR een Nota van Rechtmatigheid en een Gegevensbeschermingseffectbeoordeling (GEB) zijn opgesteld. In deze documenten is de werkwijze van de OPTR in relatie tot de van toepassing zijnde wetgeving beschreven.

De functionaris voor gegevensbescherming (FG) van de politie houdt intern toezicht op de toepassing en naleving van de privacywetgeving. Conform de AVG en de Wpg rapporteert de FG aan de Korpsleiding en de Autoriteit Persoonsgegevens (AP). De AP houdt ook ambtshalve toezicht. Ook kan de AP na een klacht beslissen een onderzoek te starten en handhavend op te treden. Uiteindelijk is het aan de rechter om over het handelen van de politie te oordelen.

De Inspectie Justitie en Veiligheid houdt toezicht op de taakuitvoering van de politie. Indien er bij de taakuitvoering AI toepassingen worden ingezet valt deze inzet daarmee onder het mandaat van de Inspectie8.

Vraag 14

Wat voor lessen trekt u uit het project Sensing voor het vervolg van dergelijke pilots? Welke lessons learned neemt u in het vervolg mee bij de uitrol van predictive policing?

Antwoord 14

In mijn antwoord op vraag twee van de leden Van Beukering-Huijbregts en Verhoeven gaf ik aan dat de OPTR geen gebruik maakt van «predictive policing». Ik wil dat nogmaals benadrukken.

Hoewel de politie zorgvuldig te werk gaat, blijft de buitenwereld kritisch. Dat blijkt ook nu uit het rapport van Amnesty International.

Er is vanaf het eerste moment door de politie en het bevoegd gezag open gecommuniceerd over de OPTR. De start vond plaats in aanwezigheid van de media. Er is destijds een toelichting gegeven op wat er wordt gedaan, hoe dat wordt gedaan en waarom dat wordt gedaan. Het juridisch kader is openbaar. Vanuit de OPTR wordt regelmatig ingegaan op verzoeken van wetenschappelijk onderzoekers en critici om informatie over het proces en de opzet van de proeftuin. Ook met Amnesty International zijn daarover gesprekken gevoerd.

Het is belangrijk dat de politie ervaring opbouwt met de inzet van sensortechnologie, zoals ook is besproken in uw kamer in 2015 (Visie op Sensing9). Dat moet zorgvuldig gebeuren. Mede door kritische vragen uit de maatschappij worden de afwegingen op proportionaliteit en subsidiariteit telkens opnieuw beschouwd.

Volledige openheid over de werkwijze is echter niet mogelijk, omdat daarmee het opsporings- en handhavingsbelang wordt doorkruist.

Vraag 15

Bent u bereid dit project stop te zetten? Zo nee, waarom niet?

Antwoord 15

Nee, ik ben het niet eens met het oordeel van Amnesty dat in Roermond de rechten op privacy, databescherming en non-discriminatie worden geschonden. In de antwoorden op uw vragen en op die van de leden Van Beukering-Huijbregts en Verhoeven geef ik daar een onderbouwing voor.

Het is van belang dat de politie-ervaring opdoet met het gebruik van nieuwe technologie in haar werk, ook op het raakvlak tussen het gebruik van die technologie en de ethische aspecten daarvan. Juist door hiermee te kunnen experimenteren kan de politie ervan leren. In de kamerbrief uit 2015 over de visie op sensing heb ik al gewezen op het belang van experimenteren.

Vanwege een grote daling van incidenten in 2020, en een andere keuze voor prioriteiten in 2020 ligt de OPTR nu feitelijk stil. De stuurgroep maakt daarom de afweging of het project op dit moment operationeel moet blijven.

Naar boven