Vergaderjaar 2024-2025
Tweede Kamer der Staten-Generaal
2
Kamerstukken
26 643

Informatie- en communicatietechnologie (ICT)
32 761

Verwerking en bescherming persoonsgegevens
28 741

Jeugdcriminaliteit
Nr. 1307

BRIEF VAN DE STAATSSECRETARIS VAN JUSTITIE EN VEILIGHEID
Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
Den Haag, 6 maart 2025
Met deze brief voldoe ik aan het verzoek van de vaste commissie voor Justitie en Veiligheid van 23 januari 2025 om een reactie te geven op het artikel van Follow the Money getiteld «Onbetrouwbaar algoritme bestempelt jongeren als toekomstig crimineel» van 20 januari jongstleden.
1
2025Z00982
/
2025D02485
.
Ook heeft de commissie gevraagd daarbij uitleg te geven over het algoritme in kwestie – Preselect Recidive – en de manier waarop dit algoritme wordt gebruikt. In het commissiedebat Criminaliteitsbestrijding, ondermijning en georganiseerde criminaliteit van 6 februari jongstleden met de Minister van Justitie en Veiligheid heeft het lid Van Nispen (SP) gevraagd om een reactie op het algoritme van de politie. De Minister heeft daarbij aangegeven dat ik schriftelijk zal terugkomen op zijn vraag.
2
TZ202502-031, 6 februari 2025.
Dat doe ik door middel van deze brief.
Daarnaast is het artikel van Follow the Money op 28 januari jl. ter sprake gekomen in het commissiedebat Inzet algoritmes en data-ethiek binnen de Rijksoverheid, waarbij ik een toezegging heb gedaan om aan te geven op welke wijze binnen de huidige en toekomstige versie van de Preselect Recidive de vijf voorwaarden van de Autoriteit Persoonsgegevens (AP) zijn verwerkt.
3
TZ202502-041, 28 januari 2025.
In deze brief ga ik ook hierop in.
In deze brief zal ik eerst een toelichting geven op de werking van de Preselect Recidive en de inbedding van dit instrument in de jeugdstrafrechtketen. Hierna ga ik in op de voorwaarden van de AP voor geautomatiseerde risicoselectie en hoe deze zich verhouden tot de Preselect Recidive. Tot slot licht ik toe dat de Preselect Recidive in de huidige vorm verantwoord gebruikt kan worden.
Preselect Recidive en risicotaxatie
Het jeugdstrafrecht heeft een pedagogisch karakter met als algemeen uitgangspunt het voorkomen van recidive. Om met passende interventies te kunnen reageren op delinquent gedrag van jongeren wordt daarom op verschillende momenten in het strafproces voor jongeren een inschatting gemaakt van het recidiverisico, de risico- en beschermende factoren die van invloed zijn op het recidiverisico en de wijze waarop de jongere in zijn of haar gedrag is te beïnvloeden om dat risico te verminderen.
4
Richtlijn en kader voor strafvordering jeugd en adolescenten, inclusief strafmaten Halt (2021R001).
Met het risicotaxatie-instrument Preselect Recidive wordt van jongeren die door de politie als verdachte worden verhoord een eerste inschatting gemaakt van het risico op herhaling.
5
Hierbij wordt gebruik gemaakt van een wetenschappelijk gevalideerd analysemodel. In dit model zitten variabelen als eerdere politiecontacten, gepleegde delict(en) en leeftijd en geslacht van de jongere.
Deze inschatting wordt gemaakt op basis van informatie die bekend is bij de politie. De uitkomst van de Preselect Recidive wordt gebruikt bij de afweging in het zogenaamde afstemmingsoverleg «ZSM» ten aanzien van de vraag of verdere risicotaxatie voor de jongere noodzakelijk is.
6
Zie Handleiding Landelijk Instrumentarium Jeugdstrafrechtketen van 15 januari 2025, Hoofdstuk 1, Uitgangspunten en structuur, p. 9 en 10.
Daarin bespreken het Openbaar Ministerie, de politie, de Raad voor de Kinderbescherming en Halt welk vervolgtraject er wordt gekozen voor de jongere, nadat er een proces-verbaal is opgemaakt door de politie in verband met (de verdenking van) het plegen van een strafbaar feit. Naast het gepleegde delict en de inschatting van de Preselect Recidive wordt hierbij ook gebruik gemaakt van andere informatie over de jongere die op dat moment bij de ketenpartners bekend is. Daarbij gaat het om een zeer zorgvuldige afweging waarbij de belangen en de gevolgen voor de jongere nadrukkelijk worden meegenomen, hetgeen een belangrijk onderdeel is van de persoonsgerichte aanpak in het jeugdstrafrecht.
7
Daarbij is ook altijd aandacht voor een buitengerechtelijke afdoening, daar waar passend.
Er is daarmee altijd sprake van een besluit door mensen, niet door een algoritme, waarbij dus ook andere informatie wordt gebruikt. In het artikel van Follow the Money wordt de indruk gewekt dat de uitkomst van dit instrument bepalend is voor het vervolgtraject van een jeugdige verdachte. Dit is niet het geval. Het instrument wordt meegewogen bij de vraag of verdere risicotaxatie voor de jongere nodig is.
Het risicotaxatie-instrument Preselect Recidive is in 2013 ontwikkeld en gevalideerd door de Universiteit van Amsterdam (UvA). De variabelen die zijn opgenomen in het instrument zijn door de onderzoekers gekozen op basis van internationaal onderzoek. Het instrument bleek op basis van internationale wetenschappelijke richtlijnen een goede voorspelkracht te hebben. Hierbij is op basis van data van de toenmalige doelgroep gekeken naar onderliggende patronen die samenhangen met recidive. Op die manier zijn alleen factoren meegenomen die op basis van empirisch bewijs relevant zijn voor de kans op herhaling. De internationale richtlijnen geven aan dat het instrument een betere inschatting geeft van de kans op herhaling, dan wanneer wordt uitgegaan van uitsluitend het oordeel van de professional, zonder het instrument. Vervolgens is het instrument in gebruik genomen.
Het instrument maakt onderdeel uit van het landelijke signalerings- en risicotaxatie-instrumentarium in de jeugdstrafrechtketen (LIJ). Daarbij gebruikt de Raad voor de Kinderbescherming het risicotaxatie-instrument Ritax als basis voor het advies over een passende straf en/of de benodigde hulp.
8
De Ritax is een wetenschappelijk onderbouwd risicotaxatie-instrument dat is gebaseerd op gesprekken met de jongere, zijn of haar ouders en relevante derden. Naast Preselect Recidive en de Ritax maakt ook het Halt Signaleringsinstrument onderdeel uit van het LIJ.
In dit advies wordt, naast de uitkomst van de Ritax, ook de inschatting van de Preselect Recidive meegewogen voor de toeleiding naar een passende interventie.
Periodieke evaluatie
De instrumenten die deel uitmaken van het LIJ worden periodiek gevalideerd als onderdeel van de reguliere kwaliteitscyclus.
9
Zie ook voetnoot 6. Periodieke evaluatie is noodzakelijk, want de maatschappij verandert, en daarmee ook de doelgroep. Hierdoor zien we dat factoren die eerder relevant waren kunnen veranderen, en dat vraagt aanpassing van het instrument.
De uitkomsten daarvan worden ook voorgelegd aan een door mij ingestelde, onafhankelijke toetsingscommissie LIJ.
10
De commissie bestaat uit experts op het gebied van jeugd, criminologie en/of statistiek, verbonden aan diverse universiteiten, (kennis)instituten en/of hogescholen.
Voor de Preselect Recidive is het meest recente valideringsonderzoek in 2023 uitgevoerd. Uit dit onderzoek bleek dat een aanpassing van het wetenschappelijke model zoals ontwikkeld in 2013 noodzakelijk was. Het model voorspelt namelijk iets minder goed dan eerder het geval was, maar wel beter dan uitsluitend door de inschatting van een professional zonder het instrument.
11
Zie ook Handleiding LIJ en de daarin gebruikte bronnen.
Vervolgens heeft de UvA in opdracht van het ministerie in 2024 een vervolgonderzoek uitgevoerd naar de benodigde aanpassingen. Dit onderzoek dient als uitgangspunt voor de verbeteringen die in 2025 worden doorgevoerd.
Daarbij gaat het om een aanpassing van het statistisch model, de keuze van variabelen en de subgroepindeling. Daarnaast ben ik voornemens de informatievoorziening aan de jongere (en zijn of haar ouders/verzorgers) over de uitkomst van de Preselect Recidive te verbeteren. Uiterlijk eind 2025 zal de nieuwe versie van de Preselect Recidive en de verbeterde informatievoorziening operationeel zijn.
Voorwaarden Autoriteit Persoonsgegevens
In het commissiedebat Inzet algoritmes en data-ethiek binnen de Rijksoverheid van 28 januari 2025 heb ik een toezegging gedaan om aan te geven op welke wijze binnen de huidige en toekomstige versie van de Preselect Recidive de vijf voorwaarden van de AP verwerkt zijn. Deze voorwaarden betreffen de Algemene verordening gegevensbescherming (AVG).
12
De verwerking met de Preselect Recidive betreft politiegegevens en hiervoor bestaat een apart regime: de Wet politiegegevens (WPG). Er is geen vertaling van deze voorwaarden voor de WPG. Deze voorwaarden zijn daarom mogelijk niet één-op-één toepasbaar op deze verwerking, maar kunnen wel als leidraad dienen.
De AP heeft op 10 oktober 2024 een advies gepubliceerd met enkele algemene voorwaarden waar geautomatiseerde risicoselectie aan moet voldoen, namelijk:
- a.
het risico op discriminatoire verwerkingen is onderzocht en ondervangen;
- b.
periodiek wordt onderzocht of zich desalniettemin discriminatoire verwerkingen voordoen;
- c.
de gevolgen voor betrokkene van de selectie als risico treden pas in na betekenisvolle menselijke tussenkomst;
- d.
de selectie als risico heeft niet automatisch ook andere aanmerkelijke gevolgen;
- e.
de risicoselectie is voldoende kenbaar voor betrokkene.
13
Zie Advies artikel 22 AVG en geautomatiseerde selectie-instrumenten.
Ik zal hieronder uiteenzetten hoe de Preselect Recidive zich verhoudt tot de voorwaarden van de AP voor inzet van geautomatiseerde risicoselectie en welke acties worden ondernomen om te borgen dat dit instrument verantwoord wordt ingezet. Door de eerdergenoemde doorontwikkeling van de Preselect Recidive maak ik daarbij waar nodig een onderscheid tussen het instrument dat op dit moment wordt toegepast en het aangepaste instrument dat eind 2025 wordt geïmplementeerd.
a. Het risico op discriminatoire verwerkingen is onderzocht en ondervangen.
De Preselect Recidive is gebaseerd op wetenschappelijk onderzoek, uitgevoerd door de UvA en bestaat uit empirisch onderbouwde variabelen. Dit onderzoek wordt periodiek herhaald en bovendien elke keer getoetst door de eerdergenoemde toetsingscommissie LIJ.
14
Door middel van periodieke validatie, en indien nodig n.a.v. herontwikkeling.
Hierbij is ook aandacht voor de mogelijke discriminatoire werking van het instrument. Ten tijde van de ingebruikname is het getoetst in het kader van de toen geldende wettelijke privacykaders. Als onderdeel van de doorontwikkeling van het instrument wordt een gegevensbeschermingseffectbeoordeling (GEB/DPIA) uitgevoerd. Binnen het ministerie is inmiddels ervaring opgedaan met toepassing van het Impact Assessment Mensenrechten en Algoritmes (IAMA) voor een ander risicotaxatie-instrument uit het LIJ, namelijk de Ritax.
15
Deze toetsing is reeds in oktober 2024 positief afgerond.
Ik ben voornemens in 2025 het IAMA ook uit te voeren voor de herziene Preselect Recidive. Hiermee wordt de impact van Preselect Recidive op de grondrechten afgewogen en wordt beoordeeld hoe deze impact verminderd kan worden. In het IAMA worden verbanden gelegd met de relevante regels, instrumenten en toetsingskaders op het gebied van algoritmes. Het uitvoeren van een IAMA wordt een standaard onderdeel van de kwaliteitscyclus van het LIJ bij de instrumenten die als hoog risico dan wel impactvol ingeschat worden, waaronder de Preselect Recidive.
b. Periodiek wordt onderzocht of zich desalniettemin discriminatoire verwerkingen voordoen.
Alle instrumenten uit het LIJ worden periodiek geëvalueerd middels validatie- dan wel normeringsonderzoeken, waarbij wordt gemeten of de gebruikte variabelen (of processen) nog voldoen aan de geldende maatstaven dan wel regelgeving.
16
Hierbij wordt een termijn van ongeveer 5 jaar gehanteerd. Het proces voor de Preselect Recidive was in 2019 in gang gezet maar heeft door problemen in levering van de data geduurd tot 2023.
Zoals ik eerder in deze brief heb aangegeven, zijn voor de Preselect Recidive in 2023 en 2024 onderzoeken uitgevoerd naar het instrument. Daarna is, in samenwerking met de betrokken ketenpartners en op advies van de onafhankelijke toetsingscommissie LIJ, besloten tot een doorontwikkeling van het instrument. Mede naar aanleiding van het advies van de toetsingscommissie LIJ en in overleg met de ketenpartners heb ik de onderzoekers van de UvA verzocht extra aandacht te besteden aan variabelen die een mogelijke discriminatoire werking hebben in het huidige statistische model. De onderzoekers is gevraagd te analyseren op welke manier het model kan worden aangepast om eventuele discriminatoire werking te voorkomen, zoals bijvoorbeeld de variabelen «aantal registraties medebewoners in de rol van verdachte» en «geslacht». Besluitvorming hierover vindt plaats in samenwerking met de betrokken ketenpartners, de UvA, en na advies van de toetsingscommissie LIJ. De benodigde aanpassing van Preselect Recidive zal uiterlijk eind 2025 zijn doorgevoerd.
c. Gevolgen voor betrokkene van de selectie als risico treden pas in na betekenisvolle menselijke tussenkomst.
Voor de Preselect Recidive geldt dat er sprake is van betekenisvolle menselijke tussenkomt. De uitkomst van de Preselect Recidive heeft niet automatisch gevolgen voor de betrokkene aangezien de uitkomst gebruikt wordt in de afweging of verdere risicotaxatie voor de jongere noodzakelijk is.
17
Zie Handleiding Landelijk Instrumentarium Jeugdstrafrechtketen, 15 januari 2025, pag. 9 en 10.
In het ZSM-overleg wordt door de ketenpartners op basis van deze en andere informatie een beslissing genomen over de benodigde vervolgstap. Zoals ik al eerder aangaf, betreft het een besluit door mensen, niet door een algoritme, waarbij ook andere informatie wordt gebruikt.
Het uitgangspunt van het LIJ is dat de uitkomst van een instrument nooit zonder menselijk tussenkomst tot besluitvorming mag leiden. De instrumenten zijn bedoeld als hulpmiddel voor de betreffende ketenpartner(s) om na te gaan of verdere risicotaxatie voor de jongere nodig is en, na deze verdere risicotaxatie met de Ritax, om in kaart te brengen wat een passende aanpak is voor de jongere. Dat geldt ook voor de Preselect Recidive, waarbij de ketenpartners de inschatting van het recidiverisico door Preselect Recidive secuur afwegen tegen andere beschikbare informatie. In afwachting van de aanpassing van het taxatie-instrument houden de ketenpartners rekening met de bij voorwaarde b. aangeven aandachtspunten bij de doorontwikkeling. Hiervoor krijgen zij nog een aanvullende werkinstructie.
d. De selectie als risico heeft niet automatisch ook andere aanmerkelijke gevolgen.
In de handleiding van de Preselect Recidive (onderdeel van de Handleiding LIJ) staat beschreven op welke manier de uitkomst van de Preselect Recidive toegepast mag worden, namelijk voor de afweging of verdere risicotaxatie voor de jongere noodzakelijk is. Mij is bekend dat er in het verleden op lokaal niveau gebruik is gemaakt van de uitkomsten van de Preselect Recidive op een andere wijze dan waarvoor de Preselect Recidive bedoeld is. Met de politie is besproken wat de kaders zijn voor toepassing van de Preselect Recidive. Door politie zijn maatregelen genomen om dergelijk gebruik buiten de kaders te stoppen. Ook voor het herziene instrument wordt in de werkinstructie expliciet opgenomen waarvoor de uitkomst van de Preselect Recidive gebruikt mag worden en waarvoor niet.
e. De risicoselectie is voldoende kenbaar voor betrokkene.
Voor het huidige instrument wordt de uitkomst van de Preselect Recidive, de inschatting van het recidiverisico, kenbaar gemaakt aan een deel van de jongeren. Dit is enige tijd na besluitvorming op het afstemmingsoverleg ZSM. Jongeren voor wie de Raad voor de Kinderbescherming geen onderzoek doet of jongeren met een Halt-afdoening worden niet geïnformeerd. Bij deze jongeren wordt de uitkomst van de Preselect Recidive ook verder niet gebruikt. Bij de start van de doorontwikkeling van de Preselect Recidive is geconstateerd dat alle jeugdige verdachten geïnformeerd moeten worden over de uitkomst van de Preselect Recidive. Dit moet bovendien tijdig plaatsvinden, rondom de besluitvorming in het afstemmingsoverleg ZSM. Met de implementatie van de herziene Preselect Recidive wordt dit in 2025 opgepakt. Verder wordt de Preselect Recidive in de loop van 2025 opgenomen in het Algoritme Register, zodat voor betrokkenen het model ook raadpleegbaar is.
Hieruit concludeer ik dat de Preselect Recidive op dit moment grotendeels voldoet aan de vijf voorwaarden die de AP noemt, maar ook dat er verbeterpunten zijn. Deze punten worden meegenomen in de aanpassing van de Preselect Recidive.
Vervolg
Als onderdeel van de bestaande kwaliteitscyclus van het LIJ en ook in het licht van het artikel van Follow the Money heb ik nogmaals met de betrokken ketenpartners (politie, Openbaar Ministerie, Raad voor de Kinderbescherming en Halt) besproken of de huidige versie van het instrument op een verantwoorde wijze gebruikt kan blijven worden tot uiterlijk eind 2025 de nieuwe versie beschikbaar is. Hierover heb ik ook advies ingewonnen bij de eerdergenoemde onafhankelijke toetsingscommissie LIJ.
De ketenpartners herkennen de noodzaak om de Preselect Recidive aan te passen, maar onderstrepen tegelijkertijd de meerwaarde van dit instrument voor het ZSM-overleg. Gezien deze meerwaarde, en omdat er al wordt gewerkt aan een nieuwe versie, is de mening van de ketenpartners dat het gebruik van de huidige Preselect Recidive kan doorlopen tot aan implementatie van het nieuwe instrument later dit jaar. Ook de toetsingscommissie LIJ adviseert dit. Daarbij wordt aangegeven dat het huidige instrument een betere voorspelling geeft van het recidiverisico dan uitsluitend een inschatting van een professional zonder het instrument. Daarbij wijst de toetsingscommissie op het risico van tunnelvisie wanneer de Preselect Recidive niet wordt gebruikt, waarmee de rechtsgelijkheid in het geding komt.
18
Er kan sprake zijn van een tunnelvisie als iemand een bepaald beeld heeft gevormd van de situatie/jongere en het vervolgens lastig is dat beeld aan te passen met andere informatie.
Dit risico wordt ook door diverse ketenpartners genoemd.
Gezien de meerwaarde van de Preselect Recidive voor de praktijk door onder meer het vergroten van de rechtsgelijkheid en de voorgenomen aanpassingen aan het instrument, onder andere in het licht van de AP-voorwaarden, kom ik tot de conclusie dat het belangrijk is de Preselect Recidive te blijven gebruiken. Daarbij wordt de uitkomst van de Preselect Recidive door de ketenpartners in het afstemmingsoverleg ZSM steeds secuur afgewogen tegen andere informatie over de jongere en is er altijd sprake van een betekenisvolle menselijke tussenkomst. Als extra maatregel wordt voor dit overleg met op korte termijn een aanvullende werkinstructie gemaakt voor de toepassing van dit instrument.
Over de voortgang van de doorontwikkeling van de Preselect Recidive zal ik de Kamer in de tweede helft van 2025 informeren.
De Staatssecretaris van Justitie en Veiligheid,
T.H.D.
Struycken