32 761 Verwerking en bescherming persoonsgegevens

26 643 Informatie- en communicatietechnologie (ICT)

Nr. 169 BRIEF VAN DE MINISTER VOOR RECHTSBESCHERMING

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 26 juni 2020

Het gebruik van algoritmen gaat gepaard met kansen en risico’s. Ontwikkelingen kunnen snel gaan en een grote schaal aannemen. De vraag of publieke belangen en rechtsstatelijke waarden in dit verband nog voldoende geborgd zijn (en hoe dit het beste te bereiken), heeft dan ook de voortdurende aandacht van het Kabinet.¹ Deze vraag noopt ook tot vooruitzien. In dit kader doe ik uw Kamer toekomen het onderzoeksrapport «Juridische aspecten van algoritmen die besluiten nemen. Een verkennend onderzoek».²

Het onderzoek is verricht door het Montaigne Centrum voor Rechtsstaat en Rechtspleging van de Universiteit Utrecht, in opdracht van het Wetenschappelijk Onderzoek- en Documentatiecentrum van het Ministerie van Justitie en Veiligheid.

Het rapport doet verslag van een onderzoek naar de toekomstbestendigheid van de juridische kaders rondom algoritmen die «besluiten nemen». Voor het onderzoek zijn vier casestudy’s verricht: Contentmoderatie door online platformen (in het bijzonder de aanpak van hate speech), Zelfrijdende auto’s, De rechtspraak en Overheidsincasso bij verkeersboetes. Er is gekeken naar huidige toepassingen van algoritmen en naar de ontwikkelingen die in de komende vijf tot tien jaar te verwachten zijn. Dit steeds in het licht van de kansen en risico’s voor drie publieke waarden: non-discriminatie, gegevensbescherming en rechtsbescherming, alsmede voor belangrijke casus-specifieke waarden.

Met de casestudy «Overheidsincasso bij verkeersboetes» is gevolg gegeven aan de toezegging dat onderdeel van dit onderzoek zal zijn «de vraag (...) welke kansen kunstmatige intelligentie kan bieden voor een tijdige signalering, vooral in massale besluitvormingsprocessen, van mensen die door omstandigheden (tijdelijk) mogelijk niet zelfredzaam zijn. Dit zou kunnen helpen om gevallen (tijdiger) te identificeren waar een standaard benadering niet op zijn plaats is en maatwerk meer voor de hand ligt.».³

Met betrekking tot dit onderzoeksrapport zal in het najaar een kabinetsreactie volgen.

De Minister voor Rechtsbescherming, S. Dekker

---

1 Zie bijvoorbeeld de Kabinetsappreciatie over Commissievoorstel COM (2020) 65 – Witboek over kunstmatige intelligentie – een Europese benadering op basis van excellentie en vertrouwen, Kamerstukken 26 643 en 32 761, nr. 680 en de reactie op de Initiatiefnota van het lid Middendorp: «Menselijke grip op algoritmen», Kamerstuk 35 212, nr. 3.

2 Raadpleegbaar via www.tweedekamer.nl

3 Zie Kamerstuk 34 775 VI, nr. 88, p. 9.