32 761 Verwerking en bescherming persoonsgegevens

29 911 Bestrijding georganiseerde criminaliteit

Nr. 251 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 1 december 2022

Naar aanleiding van het twee-minutendebat van 30 november 2022 (Handelingen II 2022/23, nr. 29, Tweeminutendebat Telecomraad 6 december 2022) heeft de Minister van Economische Zaken en Klimaat mij gevraagd om nader in te gaan op de uitzonderingen in de registratieplicht van hoog risico AI toepassingen voor rechtshandhaving in de AI-verordening.

Nederland heeft ingezet op het uitbreiden van de registratieplicht voor het gebruik van hoog-risico AI-systemen door overheden. Deze verplichting gold eerst alleen voor de ontwikkeling ervan door aanbieders van hoog-risico AI-systemen. Hiermee is in lijn met de wens van de Kamer een belangrijke stap gezet.

De AI-verordening maakt een uitzondering voor rechtshandhaving. Dat betekent concreet dat hoog-risico AI-systemen die worden ingezet ten behoeve van de rechtshandhaving niet hoeven te worden geregistreerd. Ondanks dat deze uitzondering nu erg breed is geformuleerd, en naar mijn oordeel kan worden beperkt tot bepaalde gevallen, is deze uitzondering in die bepaalde gevallen wel noodzakelijk. Dit komt omdat het geven van transparantie over AI-systemen die worden ontwikkeld voor een specifiek onderzoek, ertoe kan leiden dat dit onderzoek onmogelijk wordt gemaakt doordat criminelen inzicht hebben in de gehanteerde werkwijze en tactiek en de wijze waarop dit in de toepassing van AI-systemen is verdisconteerd. Het zou dan bijvoorbeeld kunnen gaan om een AI-systeem die specifiek wordt ontwikkeld voor en ter voorbereiding op een bepaalde – grote – zaak om patronen te ontdekken in de data die daarover wordt verzameld, bijvoorbeeld door middel van telefoontaps of inbeslagname van digitale gegevensdragers. Of dat de politie en het Openbaar Ministerie in staat zijn om criminele netwerken en samenwerkingsverbanden te identificeren met bepaalde technieken. Indien dergelijke AI-toepassingen direct moeten worden geregistreerd zou deze informatie de personen over wie dit onderzoek gaat een aanleiding kunnen geven om bijvoorbeeld hun communicatie te stoppen of hun criminele strategie te wijzigen waardoor het opsporingsbelang in het geding kan komen. In dat geval zou een registratieplicht een lopend onderzoek kunnen dwarsbomen. Voor dit type gevallen, waarbij een registratieplicht van een AI-systeem een afzonderlijk opsporingsonderzoek kan dwarsbomen zijn uitzonderingen noodzakelijk. Zodra het onderzoek is afgerond zou hier volgens het kabinet, afhankelijk van de toepassing, wel registratie mogelijk zijn, tenzij dit het opsporingsbelang in andere onderzoeken hindert. Voor deze aanscherping op de uitzondering heeft het kabinet de afgelopen periode gepleit. Ik zal mij daar ook in het vervolg van het onderhandelingsproces voor blijven inzetten.

De uitzondering die wordt gemaakt is dus in bepaalde gevallen noodzakelijk, maar moet tegelijkertijd niet ruimer zijn dan noodzakelijk. Daarom heeft het kabinet er richting de raadsconclusies voor gepleit om deze uitzondering te beperken tot de gevallen waarin dat noodzakelijk is met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen. Daarnaast heeft het kabinet gepleit om dit ook in tijd te beperken: alleen zolang als dat noodzakelijk is in het kader van het opsporingsbelang. Daarna zou het AI-systeem volgens het kabinet in voorkomende gevallen alsnog moeten worden geregistreerd, mits dit niet het opsporingsbelang in andere (toekomstige) onderzoeken hindert.

Het geheel of gedeeltelijk verwijderen van een uitzonderingsmogelijkheid voor rechtshandhaving vind ik niet wenselijk. Een verplichting om ook AI-systemen die worden ontwikkeld voor specifieke onderzoeken kan er toe leiden dat deze zaken niet worden opgelost, en dat de politie in dat soort gevallen geen gebruik meer kan maken van dergelijke technologie. Wel zal ik mij blijven inspannen voor het beperken van de uitzondering, zoals hierboven geschetst.¹

De Minister van Justitie en Veiligheid, D. Yeşilgöz-Zegerius

---

1 Tijdens het debat vroeg Kamerlid Dekker nog naar predictive policing AI systemen over buurten. Mogelijk werd daarbij gedoeld op het Criminaliteits Anticipatie Systeem van de politie. Ik vind het goed om te vermelden dat de variabelen daarvan gepubliceerd zijn op de website van de politie, via (2021) Criminaliteits Anticipatie Systeem | politie.nl.