Vragen van de leden Mutluer (PvdA) en Van Baarle (DENK) aan de Minister van Justitie en Veiligheid over het artikel «Rekenkamer waarschuwt voor mogelijke «vooringenomenheid bij politie-algoritmes»» en het rapport van de Algemene Rekenkamer hierover (ingezonden 22 september 2022).

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid) (ontvangen 7 november 2022). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 294.

Vraag 1

Kunt u toelichten op welke manier de toetsing van de Algemene Rekenkamer onjuist is, omdat de Algemene Rekenkamer had moeten toetsen aan de Wet politiegegevens (Wpg) in plaats van de Algemene Verordening Gegevensbescherming? In hoeverre en op welke punten had de Algemene Rekenkamer tot een andere conclusie moeten komen, als zij had getoetst aan de Wpg?1

Antwoord 1

De AVG en de Wpg kennen een vergelijkbaar doel, namelijk het voorzien in een regeling van de bescherming van persoonsgegevens. Een deel van de regels is daarom vergelijkbaar. Er zijn echter ook nadrukkelijke verschillen. Zo kent de Wpg een ruimere grondslag voor het gebruiken van bijzondere persoonsgegevens en zijn bepaalde rechten van betrokkenen in de Wpg beperkt.

Het gaat hier om wederzijds uitsluitende regelgeving. Het is dus onmogelijk een Wpg-verwerking aan de AVG te toetsen (of andersom). Ondanks dat bepaalde begrippen in beide regimes voorkomen, moeten ze bovendien in een geheel andere context worden gezien. De regeling omtrent de gegevensbeschermingseffectbeoordeling (GEB) illustreert dit. De AVG en de Wpg kennen beide de verplichting om een GEB uit te voeren wanneer aan bepaalde voorwaarden is voldaan.

Eerst na ingebruikname van het CAS is die regeling in (art. 4c van) de Wpg geïmplementeerd. Zoals in het antwoord op vraag 2 is toegelicht, is de politie vervolgens tot de conclusie gekomen dat op basis van de karakteristieken van het CAS aan voornoemde voorwaarden niet is voldaan en een GEB aldus niet is voorgeschreven. Desalniettemin verwijst de Algemene Rekenkamer in haar toetsingskader naar de AVG en scoort de politie hier een onvoldoende.

Doordat de Algemene Rekenkamer consequent heeft getoetst aan de AVG (en eenmaal aan de Politiewet 2012) is niet te voorspellen hoe een toetsing door de Algemene Rekenkamer aan het juiste wettelijke kader, zijnde de Wpg, tot een andere uitkomst had geleid.

Vraag 2

Hoe beoordeelt u het privacyrisico van gegevensverwerking door het Criminaliteit Anticipatie Systeem (CAS) in het licht van de richtlijnen van de Autoriteit Persoonsgegevens voor het uitvoeren van een gegevensbeschermingseffectbeoordeling (GEB) die stellen dat er sprake is van een hoog risico als wordt voldaan aan minstens twee van de negen criteria, waaronder de criteria vier, vijf, zes, zeven en acht (respectievelijk: gevoelige gegevens, grootschalige gegevensverwerking, gekoppelde databases, gegevens over kwetsbare personen en het gebruik van nieuwe technologie)?

Antwoord 2

De richtlijnen van de Autoriteit Persoonsgegevens (AP) voor het uitvoeren van een GEB zijn gericht op de AVG. De politie heeft de AP reeds verzocht aparte criteria op te stellen voor de Wpg. Het feit dat er specifieke wetgeving is voor opsporings- en vervolgingsinstanties vanwege hun bijzondere positie toont al aan dat eisen ten aanzien van gegevensverwerkingen onder de AVG en de Wpg niet altijd vergelijkbaar zijn. Verwerkingen met gegevens van kwetsbare personen, financiële gegevens, gegevens in het kader van heimelijk onderzoek zijn voor de politie immers eerder regel dan uitzondering. Juist daarom kent de Wpg extra verplichtingen rond bijvoorbeeld documentatie, autorisatie en logging.

Vanuit politieperspectief is in dit geval geoordeeld dat de verwerking niet is gericht op de verwerking van gevoelige gegevens of kwetsbare personen, ook is er geen sprake van een nieuwe technologie, het CAS is immers al tien jaar in gebruik. De resultaten zijn bovendien niet tot personen herleidbaar, waardoor geen sprake is van een hoog risico voor betrokkenen.

Zodoende is destijds door de politie beoordeeld dat een GEB in het geval van het CAS niet aangewezen is. Hoewel deze karakteristieken niet ingrijpend zijn veranderd en een GEB volgens het oordeel van de politie nog altijd niet verplicht is, heeft de politie een traject in gang gezet om voor het CAS een (AI) impact assessment of een ander type beoordeling van vergelijkbaar niveau toe te passen.

Vraag 3

Kunt u uitsluiten dat de output van het CAS ook na de verrijking met kwalitatieve informatie door een informatiespecialist niet tot concrete personen is te herleiden? Kunt u dit toelichten?

Antwoord 3

Zoals hiervoor gemeld, alsook in de beantwoording van uw vorige Kamervragen over dit onderwerp is aangegeven, geeft het CAS een verwachting voor een bepaald gebied en geeft het geen output die op zichzelf tot personen te herleiden is.2 Dit valt ook af te leiden uit de variabelen van het CAS3 waarbij bijvoorbeeld wordt gekeken naar het aantal incidenten dat in een bepaalde periode in een bepaald gebied heeft plaatsgevonden. Dit laat onverlet dat de politie verschillende andere instrumenten, applicaties en informatiesystemen tot haar beschikking heeft en inzichtelijk kan maken welke incidenten in een bepaald gebied en periode hebben plaatsgevonden. Deze informatie heeft de politie ook nodig om zicht te krijgen op de aard en omvang van de lokale problematiek. Het gaat hierbij echter om andere applicaties en systemen dan het CAS.

Vraag 4

Kunt u toelichten dat de criminaliteitshistorie die in het CAS wordt gebruikt hoofdzakelijk is gebaseerd op aangiftes van burgers? Geldt dit ook voor de CAS-output over overlast jeugd, vernieling,verdovende middelen en drugshandel?

Antwoord 4

De variabelen uit het CAS die zich richten op criminaliteitshistorie zijn hoofdzakelijk gebaseerd op aangiftes en meldingen van burgers en niet op de ambtshalve waarnemingen van de politie. Dit geldt voor alle typen speerpunten waarvoor het CAS kan worden ingezet. Hiermee tracht de politie een feedback loop te voorkomen. Hiermee doelt de politie op het volgende verschijnsel. Wanneer mede aan de hand van de output van het CAS de politie-inzet in een gebied tot de waarneming van een toename van het aantal voorvallen aldaar leidt, is dat op zichzelf verklaarbaar. Wanneer die waarnemingen echter weer zouden worden betrokken voor de invoer van het CAS zou bij een volgend gebruik datzelfde gebied weer naar voren komen. Dit wordt ook wel de feedback loop genoemd. Om te voorkomen dat dit effect optreedt en zaken verkleurd worden, is het CAS bewust hoofdzakelijk gebaseerd op aangiftes en meldingen van feiten (brengincidenten) en niet op in registraties vastgelegde eigen waarnemingen van de politie (haalincidenten). Momenteel onderzoekt de politie of en zo ja, ten aanzien van welke feiten zich mogelijk een vermenging van breng- en haalincidenten voordoet, met als doel om dit zoveel mogelijk te beperken.

Vraag 5

Bent u bereid de laatste evaluatie van het CAS met de Kamer delen?

Antwoord 5

De Algemene Rekenkamer heeft geen evaluatie van CAS uitgevoerd, maar een controlerende toets verricht van de beheersmaatregelen rondom het CAS. Desalniettemin bestaat voor de Tweede Kamer (bijvoorbeeld via de Vaste commissie Digitale Zaken) de mogelijkheid de Algemene Rekenkamer te vragen nader te reflecteren op de bevindingen rondom het algoritme van het CAS, zoals gerapporteerd in het onderzoek «Algoritmes getoetst».

Vraag 6 en 7

Kunt u zeggen wanneer en waarom de toepassing van het CAS is uitgebreid van enkele vormen van High Impact Crimes (HIC) naar tien vormen van criminaliteit en openbare ordeverstoring?

Wat zijn de overwegingen om het CAS ook in te zetten voor criminaliteit en openbare ordeverstoring die niet vallen onder HIC? Hoe beoordeelt u de inzet van het CAS voor criminaliteit en openbare ordeverstoring die niet vallen onder HIC zoals overlast jeugd en vernieling?

Antwoord 6 en 7

Het is niet zo dat het CAS zich alleen richt op high impact crimes (HIC), dit is ook nimmer beoogd. De lokale problematiek van het basisteam in kwestie is leidend. HIC behoort dan tot de mogelijkheden, maar dit is zeker niet uitsluitend het geval. Het CAS is bedoeld als een bijdrage aan de efficiënte inzet van de politie. Specifiek voor criminaliteit en openbare ordeverstoring, zoals overlast jeugd en vernieling, geldt dat de aanwezigheid van de politie in een bepaald gebied preventief kan zijn. Die preventie komt echter ook op andere manieren tot stand. De inzet – en daarmee de waarde van het gebruik van het CAS – is dat een basisteam mede aan de hand van de output van het CAS een hypothese over de oorzaken van het hoge risico in een gebied vormt en een strategie formuleert om de oorzaken weg te nemen. Zo kan de politie bijvoorbeeld in gesprek gaan met de gemeente over het plaatsen van extra verlichting op slecht verlichte locaties als blijkt dat dit mogelijk een oorzaak is van een verhoogd risico op overlast of vernieling in een bepaald gebied.

Vraag 8 en 9

Wordt de controle op vooringenomenheid en (indirecte) discriminatie gedaan voor alle verschillende vormen van output? Kunt u toelichten hoe dit in zijn werk gaat?

Kunt u uitsluiten dat de inzet van het CAS voor overlast jeugd niet leidt tot (indirecte) discriminatie op grond van afkomst? Kunt u dit toelichten?

Antwoord 8 en 9

Zoals ook bevestigd wordt in het rapport van de Algemene Rekenkamer, maakt het CAS bewust geen gebruik van variabelen, zoals afkomstgerelateerde indicatoren (nationaliteit e.d.), die discriminatie in de hand werken.4 Daarbij geeft het CAS een score voor een bepaald gebied en niet voor een specifieke groep personen. Dit geldt onverkort voor elk type problematiek waarvoor een basisteam het CAS inzet, dus ook voor jeugdoverlast.

Om het risico op (indirecte) discriminatie zoveel mogelijk te mitigeren, maakt de politie ook bewuste keuzes in het uitsluiten van variabelen, die mogelijk indirect tot discriminatie en/of bias zouden kunnen leiden. De variabele «percentage niet-westerse allochtonen» maakte bijvoorbeeld tot voor kort deel uit van een dataset die de politie van het Centraal Bureau voor de Statistiek ontvangt. Deze informatie wordt door de politie niet gebruikt als input voor het CAS. Aanvullend heeft de politie besloten om de ontvangst van deze gegevens al aan de poort te blokkeren.

Het uitsluiten van gegevens over achtergrond, afkomst of geslacht verkleint de kans op indirecte discriminatie, maar sluit deze niet in het geheel uit. Zo kan er onbedoeld bias bestaan in de aangiftes of meldingen die de politie ontvangt. Het inzichtelijk maken en minimaliseren van deze restrisico’s is voor de politie essentieel.

De politie adresseert dit zowel intern als extern. Intern is de politie een onderzoek gestart naar het in kaart brengen en aanpakken van de restrisico’s van de toepassing van het CAS. Extern en transparant (door middel van wetenschappelijke publicaties) onderzoekt de politie tezamen met de wetenschap enerzijds hoe datamodellen van de politie bias het beste kunnen detecteren en uitsluiten en anderzijds het effect van onderlinge sociaal demografische verschillen op politiedata.

Vraag 10

Kunt u toelichten welke variabelen worden gebruikt voor de verschillende output van het CAS, waaronder de output gericht op diefstal en inbraak woning, straatroof, overlast jeugd, vernieling, openbare schennis der eerbaarheid, verdovende middelen en drugshandel?

Antwoord 10

De variabelen van het CAS zijn in te zien op de website van de politie.5 Zoals gezegd is de criminaliteitshistorie hoofdzakelijk gebaseerd op aangiftes en meldingen van burgers.

Vraag 11 en 12

Wordt in alle basisteams die CAS gebruiken gewerkt met output over alle door u genoemde vormen van criminaliteit of openbare ordeverstoring, namelijk diefstal en inbraak woning, straatroof, diefstal van personenauto’s of uit personenauto’s, zakkenrollerij, diefstal van snor- en bromfiets, diefstal uit bedrijf of kantoor, overlast jeugd, vernieling, openbare schennis der eerbaarheid, verdovende middelen en drugshandel? Zijn er basisteams die een beperktere output van het CAS gebruiken? Kunt u hiervan een overzicht geven?

Kunt u een overzicht geven van basisteams die het CAS gebruiken voor het voorspellen of voorkomen van overlast jeugd?

Antwoord 11 en 12

De basisteams van de politie kunnen aan de hand van de in het lokale gebied voorkomende problematiek autonoom keuzes maken voor welke typen speerpunten/feiten ze het CAS inzetten. Wel geldt per basisteam een maximumaantal van vier speerpunten, opdat het CAS zo gericht mogelijk wordt benut. De onderstaande tabel toont van de meest voorkomende speerpunten het aantal basisteams, verspreid over het gehele land, dat het CAS voor die feiten toepast.

Speerpunt

Aantal basisteams

Diefstal/Inbraak Woning

160

Diefstal uit en vanuit voertuig

114

Diefstal van een (snor/brom)fiets

72

Overlast jeugd

71

Straatroof

56

Diefstal overig

39

Van overige speerpunten maken telkens niet meer dan tien basisteams tegelijk gebruik.6

X Noot
1

Zie Aanhangsel Handelingen, vergaderjaar 2021–2022, nr. 3322

X Noot
2

Aanhangsel Handelingen, vergaderjaar 2021–2022, nr. 3322.

X Noot
3

Online in te zien via: Criminaliteits Anticipatie Systeem (2021), https://www.politie.nl/woo/korpsstaf/2021-criminaliteits-anticipatie-systeem.html

X Noot
4

«Algoritmes getoetst», p. 42.

X Noot
6

Zie voor een opsomming van de speerpunten de beantwoording van de Feitelijke vragen rapport «algoritmes getoetst», kamerstuk 26 643, nr. 854.

Naar boven