Vragen van de leden Leijten, Kwint en Van Nispen (allen SP) aan de Ministers van Binnenlandse Zaken en Koninkrijksrelaties en van Justitie en Veiligheid en de Staatssecretaris van Volksgezondheid, Welzijn en Sport over de inzet van voorspellende algoritmes met betrekking tot kinderen (ingezonden 15 november 2022).

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid), mede namens de Minister voor Rechtsbescherming en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties (ontvangen 23 december 2022). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 939.

Vraag 1

Klopt het dat de politie gebruik wil blijven maken van voorspellende algoritmes die betrekking hebben op kinderen, het zogenaamde ProKid Plus, waarbij met behulp van algoritmes wordt ingeschat hoe groot de kans is dat een kind een geweldsdelict pleegt?¹

Antwoord 1

Nee, de politie maakt geen gebruik meer van het algoritme ProKid Plus. Voor en na het eenmalige gebruik in juli 2016 is het algoritme ProKid Plus niet gebruikt door de politie. Het algoritme is ook niet doorontwikkeld.

Bij de politie is gestart met de ontwikkeling van een nieuw alerteringssysteem met een heel ander algoritme, ProKid 23-, dat gericht zal zijn op het versterken van de informatiepositie over jongeren tot 23 jaar die mogelijk (verder) afglijden naar criminaliteit. Doel is dat dit zal kunnen bijdragen aan de signalerende taak van de politie. Het alerteringssysteem is nog niet gebouwd. De politie heeft aangegeven dat de politie vanuit strikte juridische en ethische kaders zal bekijken óf en hoe dit alerteringssysteem ingezet kan worden. Besluitvorming hierover heeft nog niet plaatsgevonden en is niet aan de orde op korte termijn.

Een dergelijk algoritme zal wanneer deze eventueel in gebruik wordt genomen – gezien het feit dat er naar aanleiding van de uitkomsten daarvan mogelijk interventies plaatsvinden – worden opgenomen in het algoritmeregister van de politie.

Ten slotte is het goed om te vermelden dat er ook een risicotaxatie instrument ProKid 12- is geweest. Dit risicotaxatie instrument was onderwerp van het WODC-onderzoek waarnaar verwezen wordt in vraag 10. Dit risicotaxatie instrument is nooit voor de Top400 aanpak gebruikt. De politie geeft aan dat ook dit instrument niet meer in gebruik is.

Vraag 2

Door welke instanties wordt dit algoritme gebruikt?

Antwoord 2

De gemeente Amsterdam en de politie hebben bij mij aangegeven dat het algoritme van het risicotaxatie instrument ProKid Plus niet in gebruik is.

De gemeente Amsterdam heeft bij mij aangegeven dat ProKid Plus eenmalig als proef is gebruikt in juli 2016 bij de instroom in de Top400-aanpak. In een recente brief d.d. 17 november 2022 over «Recente media-aandacht voor de Top400-aanpak» van burgemeester Halsema van Amsterdam aan de gemeenteraad van Amsterdam gaat zij in op deze proef.²

In de brief is onder andere vermeld dat destijds eenmalig een proef is gedaan om instroom in de Top400-aanpak te laten plaatsvinden op basis van het wetenschappelijk gevalideerde risicotaxatie instrument ProKid Plus, dat ontwikkeld is door de politie.³^, ⁴ Wel is toen bepaald dat een persoon behalve door ProKid Plus ook minimaal een keer als verdachte moest zijn aangehouden. Personen die alleen getuige of slachtoffer van een delict waren, kwamen dus ook toen niet in de Top400-aanpak.⁵ Bovendien vond voor instroom bij alle personen een handmatige controle plaats of het logisch of proportioneel was dat iemand zou instromen in de Top400-aanpak.

Na deze proef is besloten om niet met ProKid Plus verder te gaan, omdat – hoewel ProKid Plus wetenschappelijk gevalideerd is – bleek dat de complexe weging van verschillende risicofactoren vrij technisch is en daarmee moeilijk navolgbaar voor betrokkenen. Dit was het signaal vanuit de jongeren en hun ouders en dit is door de gemeente Amsterdam serieus genomen. Dat maakt dat de gemeente gestopt is met het gebruik van ProKid Plus, zo heeft de gemeente bij mij aangegeven.

Vraag 3

Wie houdt er toezicht op het gebruik van dit algoritme en hoe gebeurt dit?

Antwoord 3

Zoals aangegeven in het antwoord op vraag 1 is het ProKid Plus risicotaxatie instrument eenmalig gebruikt en niet meer in gebruik.

De politie zal vanuit strikte juridische en ethische kaders bekijken of en hoe het nog te bouwen nieuwe alerteringssysteem ProKid 23- ingezet kan worden. In de beantwoording van vraag 5 wordt verder ingegaan op die kaders.

In algemene zin is er zeker sprake van toezicht op algoritmen. Dat gebeurt in eerste instantie intern en vervolgens extern door sectorale toezichthouders. Voor de politie geldt dat toezicht op algoritmen wordt vormgegeven door het toezicht op de taakuitvoering door de Inspectie van Justitie en Veiligheid, toezicht op verwerking van persoonsgegevens door de Autoriteit Persoonsgegevens en toezicht op de doelmatigheid van de taakuitvoering door de Algemene Rekenkamer.

Het kabinet versterkt daarnaast het gehele toezichtslandschap vanaf 2023 door het aanstellen van een algoritmetoezichthouder bij de Autoriteit Persoonsgegevens (AP). Uitgangspunt is dat het bestaande toezichtslandschap intact blijft. De algoritmetoezichthouder richt zich in eerste instantie op delen van sector-overstijgende kennis en expertise, het komen tot gezamenlijke normuitleg en het versterken van samenwerking tussen toezichthouders op het gebied van algoritmen en artificiële intelligentie (AI). U bent inmiddels recent geïnformeerd over de inrichting, doelen en activiteiten van de algoritmetoezichthouder.

Vraag 4

Kunt u openbaar maken op basis van welke data en welke parameters dit algoritme wordt ingezet? Zo nee, waarom niet?

Antwoord 4

Zoals aangegeven in het antwoord op vraag 1 is ProKid Plus eenmalig gebruikt en niet meer in gebruik.

ProKid Plus was, zoals aangegeven bij het antwoord op vraag 2, een door de politie ontwikkeld en wetenschappelijk gevalideerd risicotaxatie instrument dat op basis van informatie uit de bronsystemen van de politie (zoals delict, rol en leeftijd) inschatte welke jongeren doorgroeien in de (zware) criminaliteit.⁶^, ⁷

In het in noot 2 vermelde wetenschappelijke rapport zijn (in bijlage 2) de gebruikte variabelen vermeld.

Vraag 5

Vindt u het wenselijk als er op basis van een voorspellend algoritme preventieve bestuursrechtelijke maatregelen genomen worden, die rechtstreekse gevolgen hebben voor deze kinderen en hun families? Kunt u uw antwoord uitgebreid toelichten?

Antwoord 5

Ik lees deze vraag vanuit het belang van de preventieve aanpak van (georganiseerde en ondermijnende) criminaliteit en de actuele zorg over bepaalde jongeren in een kwetsbare situatie. Het kabinet zet stevig in om samen met diverse betrokken partners, zoals de gemeenten en de politie, in een brede domeinoverstijgende preventieve aanpak te voorkomen dat kinderen, jongeren en jongvolwassenen in de leeftijd van 8 tot en met 27 jaar in aanraking komen met criminaliteit of daarin verder doorgroeien. Het gaat hierbij ook om het bieden van begeleiding, hulp en perspectief met kansrijke en effectieve interventies in soms heftige en schrijnende situaties.

Onderzoek van onder andere het WODC laat immers zien dat crimineel gedrag op jonge leeftijd een belangrijke voorspeller is voor een langdurige en ernstige criminele carrière. Daders die een overval, straatroof of woninginbraak plegen als hun debuutdelict en daarbij minderjarig zijn hebben de grootste kans om uit te groeien tot een veelpleger.⁸^, ⁹ Het lijkt dan ook belangrijk om vroegtijdig in te grijpen, zo geven de onderzoekers aan.¹⁰ Ook andere risicofactoren die zich in de kindertijd opstapelen (zoals gezinsproblematiek, middelengebruik en agressief gedrag), zo vermeldt de burgemeester van Amsterdam in haar brief, vergroten de kans op crimineel gedrag.

Dit benadrukt het belang van vroeg signaleren en ingrijpen, waarbij onder andere het bieden van een combinatie van zorg en veiligheid, inclusief waar nodig een stok achter de deur, voor jongeren en hun gezinnen de insteek is. Daarbij worden verschillende kansrijke en effectieve interventies (door)ontwikkeld en ingezet. Het gebruik van ProKid Plus paste destijds in de gemeente Amsterdam binnen de aanpak van vroeg signaleren en ingrijpen en stond niet op zichzelf, zo is ook vermeld in de brief van de burgemeester van Amsterdam.

De burgemeester van Amsterdam heeft in de vergadering van de Raadscommissie Algemene Zaken van 15 december jl. hard afstand genomen van ProKid Plus en aangegeven dat ze geen enkel plan heeft in de richting van enig gebruik van ProKid Plus of een ander algoritme als selectiecriterium voor de instroom.

De ervaringen met ProKid Plus onderstrepen het belang van goede waarborgen voor het gebruik van algoritmen, waar de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties in samenwerking met de Minister voor Rechtsbescherming extra aandacht voor heeft. Ik verwijs u in dat kader naar (onder andere) de werkagenda Digitalisering voor specifieke ambities op dat vlak.¹¹ Kort gezegd is het uitgangspunt dat de inzet van algoritmische systemen met mogelijke rechtsgevolgen die niet uitlegbaar zijn niet ingezet worden en dus niet wenselijk zijn. Zoals al aangegeven in het antwoord op vraag 3 vindt de inzet van algoritmen met mogelijke rechtsgevolgen niet plaats in een juridisch vacuüm. Onder andere in de kabinetsreacties op drie algoritmeonderzoeken¹². De nieuwe systeemtechnologie» is hier eerder (ook) op in gegaan.¹³

In deze brieven wordt toegelicht dat er een kader is dat algoritmische besluitvorming reguleert: de Grondwet en de fundamentele mensenrechten vereisen dat een inbreuk op een recht alleen is toegelaten indien deze wettelijk is geregeld en noodzakelijk en proportioneel is. Domein-specifieke wetgeving reguleert de bevoegdheid waaruit besluitvorming volgt; het bestuursprocesrecht stelt regels aan besluitvorming, zoals de motivering ervan en hoor en wederhoor. De privacy- en gegevensbeschermingswetgeving (waaronder de Algemene Verordening Gegevensbescherming (AVG)/Wet politiegegevens (Wpg)) stelt regels aan het gebruik van persoonsgegevens en geautomatiseerde besluitvorming met behulp van persoonsgegevens. Het non-discriminatierecht verbiedt het maken van een (ongerechtvaardigd) onderscheid tussen mensen. Het moet vanzelfsprekend zijn dat de overheid volgens deze juridische kaders werkt, ook bij het gebruik van algoritmen. In elke fase van de levenscyclus van algoritmische besluitvormingssystemen (ontwerpen, bouwen, testen, gebruiken en monitoren) moet aandacht zijn voor de risico’s voor mensenrechten.

Om deze wettelijke verplichtingen handvatten te geven en overheidsorganisaties te ondersteunen bij de naleving hiervan is een mensenrechtentoets (IAMA: Impact Assessment Mensenrechten en Algoritmen) en een handreiking non-discriminatie by design ontwikkeld. Daarnaast wordt er gewerkt aan een implementatiekader voor de inzet van algoritmen door de overheid en wordt in het kader van transparantie door overheidsorganisaties gewerkt aan algoritmeregisters waar ten minste hoog risico algoritmen in worden opgenomen.¹⁴^, ¹⁵

Naast de bestaande wettelijke verplichtingen is specifiek voor AI-systemen met een hoog risico voor mensenrechten, de gezondheid en veiligheid Europese wetgeving (een AI-verordening) in voorbereiding die met name de ontwikkelingsfase van deze systemen verder reguleert. Deze conceptwetgeving is in belangrijke mate van toepassing op algoritmische besluitvormingssystemen bij de overheid. Deze concept verordening verbiedt een aantal AI-toepassingen die onaanvaardbare risico’s voor onder meer mensenrechten met zich meebrengt. Voor AI-systemen met een hoog risico is voorzien in een set eisen aan de ontwikkeling en ingebruikname van deze systemen waaraan aantoonbaar moet worden voldaan (waarin mensenrechten worden meegenomen).

In het kader van rechtsbescherming bij de inzet van algoritmen is naar aanleiding van de inzet van Nederland in dat verband een klachtrecht opgenomen in de Raadstekst van de AI-verordening. Met deze extra rechtsingang kunnen burgers en consumenten een klacht indienen bij de toezichthouder wanneer zij vermoeden dat een gebruikt AI-systeem niet aan de eisen van de verordening voldoet.

Naast de EU werkt ook de Raad van Europa (RvE) aan een juridisch raamwerk voor AI in de vorm van een verdrag, specifiek om mensenrechten en de democratische rechtsstaat te beschermen. Het voorstel van de RvE bevat fundamentele principes en regels die ervoor moeten zorgen dat het ontwerp, de ontwikkeling en de toepassing van AI-systemen in overeenstemming zijn met de eerbiediging van de mensenrechten, het functioneren van de democratie en de bescherming van de rechtsstaat. Hoewel er in nationaal en Europees verband het nodige loopt op het wetgevende terrein, blijft het kabinet alert op de toekomstbestendigheid én naleving van de juridische kaders in relatie tot algoritmen.

In het antwoord op vraag 8 wordt nader ingegaan op de benodigde rechtsbescherming en de waarborgen die daarmee samenhangen.

Vraag 6

Zijn jeugdigen die uit dit algoritme komen vaker onderwerp van onderzoek van de politie en bijvoorbeeld staande houdingen? Worden de profielen gebruikt in het toezicht op straat?¹⁶

Antwoord 6

Zoals aangegeven in het antwoord op vraag 1, is het risicotaxatie instrument ProKid Plus niet meer in gebruik. De gemeente Amsterdam en de politie hebben mij laten weten dat het antwoord op deze vraag «Nee» is. Er is geen ander gebruik gemaakt door de politie van dit algoritme.

Zie ten aanzien van de waarborgen en de werkwijze ook de beantwoording van de vragen 5, 7 en 8.

Vraag 7

Welke inzet van jeugdzorg volgt op basis van het voorkomen in de top400? Kunt u aangeven of deze zorg vrijwillig of onder dwang wordt ingezet?

Antwoord 7

In de voornoemde brief van de burgemeester van Amsterdam staat dat de Top400 integrale en persoonsgerichte regie biedt aan jongeren van 12 tot en met 23 jaar die meermaals door de politie zijn aangehouden als verdachte van een misdrijf (minstens een van die aanhoudingen moet zijn geweest voor een high impact crime-delict¹⁷ en bij wie bovendien meerdere zorgelijke signalen zichtbaar zijn

).¹⁸^, ¹⁹^, ²⁰ Over deze jongeren bestaat vanuit zorg, sociaal domein en veiligheid de vrees dat zij zonder ingrijpen verder afglijden in de criminaliteit. Een persoon stroomt in op basis van vaste en objectieve criteria. Tevens worden in voornoemde brief de partners uit de werelden van veiligheid, zorg en sociaal domein genoemd. De Top400 heeft drie doelstellingen: 1) het terugdringen van recidive (vooral van high impact crime delicten, zoals straatroven, inbraken en overvallen) en daarmee het beschermen van de samenleving, 2) het verbeteren van het toekomstperspectief van de betreffende jongere en 3) het voorkomen van afglijden van minderjarige broertjes en zusjes in de criminaliteit. Binnen de aanpak is veel aandacht voor begeleiding (terug) naar school/opleiding, hulp bij schulden, het vinden van werk of passende dagbesteding en behandeling voor psychiatrische problematiek (trauma, verslaving en dergelijke) of andere (laagdrempelige) hulpverlening.

Samenvattend is de aanpak Top400 een gecoördineerde inzet van gemeente, politie, justitie en andere (zorg)instanties om crimineel gedrag terug te dringen en meer perspectief te bieden. Deze gecoördineerde inzet vindt plaats op grond van de eigen regels en bevoegdheden van de betrokken partijen. Iedere partner heeft zijn of haar eigen opdracht en beroepsethiek en werkt vanuit de eigen (wettelijke) kaders. Dit geldt ook voor jeugdzorg. Dit laatste kan zowel in het vrijwillig als het gedwongen kader, afhankelijk van de betreffende situatie.

Vraag 8

Vindt u dat er voldoende rechtsbescherming is voor de kinderen en hun families die op basis van het ProKid Plus algoritme in een bestuurlijk programma worden geplaatst? Kunt u uw antwoord toelichten?

Antwoord 8

Zoals gezegd bij het antwoord op vraag 5 heeft rechtsbescherming bij de inzet van algoritmen de bijzondere aandacht van het kabinet. In algemene zin is het de verantwoordelijkheid van de diverse betrokken overheden en uitvoeringsorganisaties om de rechtsbescherming voor kinderen en hun families te waarborgen binnen de geldende wettelijke kaders.

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid Plus eenmalig ingezet en niet meer operationeel. Plaatsing op de lijst Top400 is geen juridische sanctie of maatregel. Zie ook het antwoord op vraag 7.

De gemeente Amsterdam heeft bij mij aanvullend het volgende aangegeven. De instroom in de Top400-aanpak op basis van de Top400-criteria is geen besluit in de zin van de Awb.²¹ Er staat dan ook er geen bezwaar of beroep open tegen de plaatsing op de lijst Top400 of Top600. Binnen de aanpak worden persoonsgegevens uitgewisseld tussen partijen voor het bereiken van de doelen van de aanpakken. Alle personen over wie persoonsgegevens worden verwerkt, hebben rechten op grond van de AVG, waaronder het recht om te verzoeken tot het wissen van persoonsgegevens. Personen die in de aanpak zijn opgenomen worden gewezen op deze rechten door middel van een AVG-bijlage bij de notificatiebrief die ze bij het moment van instroom in de aanpak persoonlijk uitgereikt krijgen.²²

Wanneer een dergelijk verzoek tot verwijdering van persoonsgegevens binnenkomt wordt het verzoek beoordeeld en neemt, in het geval van de Top600 en de Top400 en de andere integraal persoonsgerichte aanpakken van het regionale Actiecentrum Veiligheid en Zorg (AcVZ), de burgemeester een besluit op dit verzoek. Indien het verzoek tot het wissen van persoonsgegevens wordt afgewezen, kan de betrokkene een bezwaarprocedure starten. Dit is sinds de start van de Top600 en Top400 een aantal keer voorgekomen. Tot nu toe is geen enkel bezwaar op een afgewezen verzoek tot verwijdering gegrond verklaard.

Vraag 9

Wordt het gezinnen en kinderen vermeld dat zij door het algoritme zijn opgenomen in de top400? Zo nee, waarom niet? Zo ja, is dan ook bekend op basis van welke gegevens de jeugdigen zijn opgenomen zodat zij de kans hebben of krijgen om zich te verdedigen tegen de verdenking dat ze potentieel crimineel zijn of worden? Kunt u uw antwoord toelichten?

Antwoord 9

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid Plus eenmalig gebruikt in juli 2016 en niet meer operationeel.

De gemeente Amsterdam heeft bij mij aangegeven, dat – indien personen instromen in de Aanpak Top400 – zij en hun ouders/verzorgers (van minderjarigen) hierover worden geïnformeerd. Zij kunnen via direct contact met de regisseur en individuele periodieke uitvoeringsoverleggen hun visie delen over het plan van aanpak en de uitvoering hiervan. Ook worden ouderbijeenkomsten georganiseerd met als doel ouders van jongeren in de aanpak zo goed mogelijk te informeren, te betrekken en hun ervaringen te horen.

Broertjes en zusjes (of minderjarige kinderen van personen in de aanpak) komen alleen op de lijst Top400/Top600 als zij zelf aan de criteria voldoen.

In voornoemde brief van de burgemeester van Amsterdam wordt aangegeven dat de aanpak verder zal worden verbeterd op het vlak van het structureel beter betrekken van ouders en het goed uitleggen hoe de aanpak werkt.

Verder verwijs ik naar voornoemde brief van de burgemeester van Amsterdam.

Vraag 10

Kunt u aangeven wat er is gedaan met de aanbevelingen van het WODC, dat in 2011 stelde dat bij de pilot geen van de politiekorpsen een goed functionerend ProKid Plus programma had?²³

Antwoord 10

Het onderzoek waar in de vraagstelling naar wordt verwezen betreft een ander instrument, namelijk het instrument ProKid 12-. ProKid 12- is in 2019 uitgefaseerd en is niet meer in gebruik.

Vraag 11

Kunt u aangeven welke andere onderzoeken zijn gedaan en wat daar de conclusie van was met betrekking tot het ProKid Plus algoritme? Zo nee, waarom niet?

Antwoord 11

Zie het antwoord op vraag 1, waarin is aangegeven dat het risicotaxatie instrument ProKid Plus door wetenschappelijk onderzoek is gevalideerd. Dat onderzoek gaat over de predictieve validiteit (de betrouwbaarheid van de voorspellende waarde) van het vroegsignaleringsinstrument ProKid Plus.²⁴ De samenvattende conclusie van dat onderzoek was dat de resultaten een overtuigend bewijs leveren voor de predictieve validiteit van ProKid Plus.

Er is in de digitale archieven van het Ministerie van Justitie en Veiligheid en ook in openbare bronnen gezocht naar onderzoeken ten aanzien van ProKid Plus op de zoektermen ProKid, Pro Kid, Top400 en Top 400.²⁵ Op basis daarvan zijn geen andere onderzoeken aangetroffen die betrekking hebben op Pro Kid Plus.

Vraag 12

Heeft u adviezen en annotaties gekregen als het gaat om de ontwikkeling van het ProKid Plus algoritme? Zo ja, kunt u deze delen met de Kamer?

Antwoord 12

Er is in de digitale archieven op het Ministerie van Justitie en Veiligheid gezocht naar adviezen of annotaties ten aanzien van de ontwikkeling van ProKid Plus op de zoektermen ProKid, Pro Kid, Top400 en Top 400.²⁶ Er zijn geen adviezen of annotaties of andere documenten gericht aan bewindspersonen aangetroffen.

Vraag 13

Zijn er privacy-impactanalyses of analyses over bescherming persoonsgegevens gemaakt over/van ProKid? Kunt u deze delen met de Kamer?

Antwoord 13

Ten tijde van het eenmalig gebruik van ProKid Plus schreef de Wpg nog niet voor dat er een privacy-impactanalyse moest worden gemaakt.

Van de in de beantwoording in vraag 1 genoemde ProKid 23- is nog geen privacy-impactanalyse gemaakt, omdat deze nog in ontwikkeling is. Een dergelijke impact-analyse (gegevensbeschermingeffectbeoordeling) zal wel onderdeel uitmaken van de genoemde beoordeling binnen strikte juridische en ethische kaders óf en hoe dit alerteringssysteem ingezet kan worden.

Vraag 14

In hoeverre wordt het ProKid Plus algoritme gebruikt om tot kostenbesparingen te komen op bijvoorbeeld jeugdzorg? Bent u het met ons eens dat het belang van het kind hierin voorop zou moeten staan en niet de economische effecten? Kunt u antwoord toelichten?²⁷

Antwoord 14

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid Plus niet meer in gebruik. De reden voor het (eenmalige) gebruik van het instrument was niet om tot kostenbesparingen te komen, ook niet in de jeugdzorg. Het algoritme is ontwikkeld om de signalering vanuit de politie te verbeteren.

Ik ben het met u eens dat bij de toepassing van instrumenten het belang van het kind voorop moet staan.

Vraag 15

Vindt u het wenselijk dat jeugdigen op basis van algoritmen in de top400 zijn geplaatst zonder dat zij strafbare feiten hebben gepleegd, maar simpelweg vanwege de politieke wens een top400 te hebben? Kunt u uw antwoord toelichten?

Antwoord 15

De gemeente Amsterdam heeft aangegeven dat de wijze waarop de vraag is verwoord niet wordt herkend, daar waar het gaat over dat plaatsing in de Top400 simpelweg zou gebeuren vanwege een politieke wens om een Top400 te hebben. Ik zou een dergelijke insteek ook niet wenselijk vinden.

In voornoemde brief van de burgemeester van Amsterdam wordt ten aanzien van de Top400 onder meer aangegeven dat het halen van een bepaald aantal niet het doel is en dat de Top400 nooit volledig gevuld is geweest. In de brief wordt verder ingegaan op de oorsprong, het doel en de gebruikte criteria van de Top400.

Ik wil nogmaals benadrukken dat – gezien de actuele zorg over de risico’s dat jongeren in de criminaliteit belanden of daarin verder afglijden – het kabinet stevig inzet om samen met diverse betrokken partners in een brede domeinoverstijgende preventieve aanpak te voorkomen dat kinderen, jongeren en jongvolwassenen in de leeftijd van 8 tot en met 27 jaar in aanraking komen met criminaliteit of daarin verder doorgroeien.²⁸^, ²⁹

De gemeente Amsterdam heeft bij mij aangegeven dat de Top400-aanpak een voorbeeld is van vroeg signaleren en ingrijpen. In het antwoord op vraag 7 is de aanpak vrij uitgebreid beschreven. De gemeente Amsterdam gebruikt hierbij geen algoritmische selectieprogramma’s (zoals ProKid Plus). De Top400 maakt gebruik van cumulatieve criteria waarin aanhoudingen en zorgsignalen bij elkaar worden opgeteld.

Zie ook het antwoord op de vragen 5 en 8, waar het onder andere gaat over waarborgen die daar genoemd worden voordat een algoritme in een dergelijk geval gebruikt wordt.

Vraag 16

Met wie worden de profielen en gegevens die door ProKid Plus zijn gemaakt/gegenereerd gedeeld en op welke wijze wordt gegarandeerd dat jeugdigen en hun families niet nodeloos worden achtervolgd door de inzet van dit algoritme?

Antwoord 16

Zoals aangegeven in het antwoord op vraag 1 is het risicotaxatie instrument ProKid Plus eenmalig gebruikt en niet meer in gebruik. De gemeente Amsterdam heeft mij laten weten dat er geen profielen of gegevens zijn op basis van dat algoritme waarmee wordt gewerkt.

Daarnaast geeft de gemeente Amsterdam aan dat voor de gemeente en de Top400 geldt dat zij zorg draagt voor het beperken van risico’s wanneer het gaat om de inbreuk op de privacy van personen en voor een goede informatiebeveiliging. De gemeente heeft een privacy team en binnen het samenwerkingsband Actiecentrum Veiligheid en Zorg (AcVZ) is er een Privacy Expert Groep, met daarin privacy experts van de kernpartijen. Zij adviseren het AcVZ over vraagstukken rond gegevensdeling. Daarnaast adviseren de Functionaris Gegevensbescherming van de gemeente Amsterdam en de Commissie Persoonsgegevens Amsterdam over de gegevensdeling binnen de aanpak, bijvoorbeeld bij het ontwikkelen van een Data Protection Impact Assessments (DPIA) en het vaststellen van een regeling gegevensverwerking. De regeling gegevensverwerking van de Top400 wordt zorgvuldig actueel gehouden.³⁰

Regisseurs en andere professionals die werken voor het samenwerkingsverband AcVZ worden regelmatig getraind in het in de praktijk toepassen van de juridische kaders rondom gegevensdeling. Ook hebben ze toegang tot privacy-juridisch advies van het privacy team van de gemeente Amsterdam en, wanneer relevant, de privacy-specialisten binnen hun moederorganisaties. Het uitwisselen van gegevens stopt na uitstroom uit de Top400. In het algemene convenant van het AcVZ en de gegevensregeling Top400 wordt ook ingegaan op de verwijdering van de gegevens.³¹

Tot slot verwijs ik hierbij naar het antwoord bij vraag 5, waar het gaat over de (wettelijke) waarborgen die gelden.

---

1 Parool, 9 november 2022, «Kritiek op Eberhard van der Laans Top 400: «Moeders weten nog steeds niet waarom hun zonen op die lijst staan»», https://www.parool.nl/idfa/kritiek-op-eberhard-van-der-laans-top-400-moeders-weten-nog-steeds-niet-waarom-hun-zonen-op-die-lijst-staan~bbe2f06a/.

2 Deze is als bijlage opgenomen bij deze brief. Zie ook https://amsterdam.raadsinformatie.nl/document/12067679/1/Bestuurlijke+reactie+mediaberichten+Top400

3 M. Delsing e.a., Universiteit Nijmegen (2016) De predictieve validiteit van het

vroegsignaleringsinstrument ProKid Plus. Het rapport wordt begin 2023 openbaar gemaakt in de Mediatheek van de Politieacademie en is als bijlage bij deze antwoorden gevoegd.

4 ProKid Plus was een algoritme dat, op basis van informatie uit de bronsystemen van de politie, inschatte welke jongeren doorgroeien in de (zware) criminaliteit. Doel van de pilot met ProKid Plus binnen de Top400 was om te onderzoeken of dit de criteria van de aanpak verder zou kunnen verbeteren.

5 Personen die alleen getuige of slachtoffer van een delict zijn, komen ook nu niet in de Top400.

6 M. Delsing e.a., Universiteit Nijmegen (2016) De predictieve validiteit van het vroegsignaleringsinstrument ProKid Plus.

7 ProKid Plus maakte geen gebruik van een zelflerend algoritme en er is dan ook geen sprake van AI/kunstmatige intelligentie in dit algoritme.

8 Van der Put et al. (2011) Effectief vroegtijdig ingrijpen. Amsterdam; Universiteit van Amsterdam: De aanwezigheid van bepaalde risicofactoren zorgen ervoor dat jeugdigen een grotere kans hebben om crimineel actief te worden.

9 Dit betreft high impact crimes, (gedigitaliseerde) vermogens- en geweldsdelicten, zoals woninginbraken, overvallen, ram- en plofkraken, geweld en straatroof.

10 T.W. Piersma, M. Kros en K.A. Beijersbergen. WODC. Cahier 2021–5. Criminele carrières van daders van high impact crimes.

11 Kamerstukken II, 2022/23, 26 643 nr. 940.

12 Kamerstukken II, PM2020/21, 26 643, nr. 726.

13 Kamerstukken II, 2022/23, 26 643, nr. 943.

14 Begrensd door wettelijke of gerechtvaardigde uitzonderingen die van toepassing zijn bij belangenafwegingen in het kader van bijvoorbeeld opsporing, rechtshandhaving, defensie of inlichtingenverzameling.

15 Kamerstuk 26 643 nr. 940

16 Argos, 12 november 2022, «Moeders in de houdgreep van jeugdhulpverlening», https://www.vpro.nl/argos/media/luister/argos-radio/onderwerpen/2022/moeders-in-de-houdgreep-van-jeugdhulpverlening-.html.

17 Zie noot 8.

18 High impact crime, zoals een overval, straatroof, inbraak in een woning, zware mishandeling of openlijke geweldpleging tegen personen.

19 Bijvoorbeeld verzuim van school, deel zijn van een geprioriteerde jeugdgroep en dealen van nepdope.

20 Zie bijgevoegde infographic met instroomcriteria Top400. De criteria zijn ook vastgelegd in de regelingen gegevensverwerking Top400, te vinden op www.amsterdam.nl/AcVZ.

21 Zie de regeling gegevensverwerking Top400: https://assets.amsterdam.nl/publish/pages/981795/regeling_gegevensverwerking_top400.pdf

22 Deze AVG-bijlages zijn ook online te lezen via: https://www.amsterdam.nl/bestuur-organisatie/organisatie/overige/acvz/verwerking-persoonsgegevens-acvz/.

23 Website WODC, Pilots ProKid Signaleringsinstrument 12- geëvalueerd, https://repository.wodc.nl/handle/20.500.12832/1832.

24 Zie noot 2. Aanvullende relevante publicatie: Article in Journal of Criminological Research Policy and Practice • October 2017. https://www.researchgate.net/publication/320507264_Identifying_potential_offenders_on_the_basis_of_police_records_development_and_validation_of_the_ProKid_risk_assessment_tool

25 Hiervan maakt ook onderdeel uit informatie over documenten in de papieren archieven.

26 Zie noot 22.

27 Gemeenten NL, «Voorspellende modellen in de jeugdzorg: do or don’t?», https://www.gemeentennl.nl/sociaal-domein/voorspellende-modellen-in-de-jeugdzorg-do-or-dont/.

28 Zie ook de inleidende passage bij het antwoord op vraag 5.

29 Kamerstuk 28 741, nr. 86.

30 Zie noot 21.

31 https://assets.amsterdam.nl/publish/pages/981795/algemeen_convenant_acvz_2019.pdf.