Vragen van de leden Leijten en Jasper van Dijk (beiden SP) aan de Minister van Binnenlandse Zaken en Koninkrijksrelaties en de Staatssecretaris van Justitie en Veiligheid over het ethisch profileren bij de IND bij «erkend referenten» (ingezonden 11 mei 2022).

Antwoord van Staatssecretaris Van der Burg (Justitie en Veiligheid), mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties (ontvangen 24 juni 2022). Zie ook Aanhangsel Handelingen, vergaderjaar 2021–2022, nr. 2942

Vraag 1

Kunt u aangeven waarom geen ruchtbaarheid is gegeven aan het stopzetten van risicoprofilering door de Immigratie- en Naturalisatiedienst (IND) bij «erkend referenten»?¹ ²

Antwoord 1

Het risicomodel erkend referenten was een intern hulpmiddel voor de IND om een inschatting te kunnen maken bij welke bedrijven een verhoogd risico lag op niet-naleving van relevante regelgeving. Sinds mei 2021 wordt er niet meer met dit risicomodel gewerkt. Destijds was vanuit de IND geen reden om hierover naar buiten toe te communiceren, omdat het model geen gevolgen heeft gehad voor de besluiten die de IND heeft genomen, er zijn geen aanvragen op grond van dit model afgewezen.

Vraag 2

Is het stopzetten van deze risicoprofilering door de IND gemeld aan de ministeries van Justitie en Veiligheid en van Binnenlandse Zaken en Koninkrijksrelaties (BZK), waarvan het Ministerie van BZK eindverantwoordelijk is voor het «opruimen» van vervuilde data uit het toeslagenschandaal en het rechtmatig inrichten van risicoprofilering door overheidsdiensten? Zo nee, waarom niet? Zo ja, waarom is deze informatie niet gedeeld met de Kamer?

Antwoord 2

De IND is in mei 2021 gestopt met het gebruik van het risicomodel, en daarmee ook met het registreren van de samenstelling van het bedrijfsbestuur. Er is in het kader van de uitvoering van moties Marijnissen c.s. en Klaver c.s.³ (hierna Motie#21) melding gedaan van het risicomodel en de betreffende verandering van werkwijze bij de Minister van Justitie en Veiligheid. Met het aannemen van deze moties heeft de Kamer het kabinet verzocht om te inventariseren waar afkomstgerelateerde persoonsgegevens worden gebruikt. Doel is om discriminatie te voorkomen door het onrechtmatig en oneigenlijk gebruik tegen te gaan van afkomstgerelateerde gegevens in risico-modellen, -profielen en verwerkingen van systemen en processen. De Minister van Justitie en Veiligheid informeert de Kamer voor het zomerreces over de resultaten van de uitvoering van de Motie#21.

Vraag 3

Welke analyse maken de IND en de ministeries van Justitie en Veiligheid en Binnenlandse Zaken en Koninkrijksrelaties over het ontstaan van de gedachte dat mensen die in een niet-westers land zijn geboren minder geneigd zouden zijn zich aan de wetten en regels te houden? Kunt u uw antwoord toelichten?

Antwoord 3

Deze indicator is destijds vastgesteld door de IND op basis van de onjuiste aanname dat in bepaalde regio’s van de wereld er een andere kijk is hoe om te gaan met wettelijke bepalingen en dat hierdoor bestuurders uit een bepaald geboorteland eerder overgaan tot het overtreden van regels. Op basis van de beschikbare informatie, die ook met het besluit van 18 maart 2022 op het Wob-verzoek van Argos⁴ openbaar is geworden, is niet te achterhalen of er een specifieke aanleiding of concrete casus is geweest om deze indicator op te voeren. De IND is in mei 2021 gestopt met deze registratie. Het is belangrijk te vermelden dat de IND zich bewust is geworden dat deze registratie niet had mogen plaatsvinden en het mogelijk gebruik van de gegevens, had kunnen leiden tot discriminatie.

Vraag 4

Kunt u garanderen dat de IND de indicator «samenstelling van het bedrijfsbestuur» (afkomst) nooit heeft gebruikt, mede gezien zij in hun formele reactie stellen dat hier geen werkinstructie voor was en dat de indicator niet is toegepast? Kunt u uw antwoord toelichten?

Antwoord 4

De samenstelling van het bestuur is nooit meegewogen in de risicoscore van het model. De indicator maakte geen deel uit van het algoritme. De indicator is enkel geregistreerd en er is niet mee gewerkt. De uitkomst van het algoritme, die werd verkregen nadat de aanvraag om erkenning als referent was ingewilligd, vormde een basis voor de inzet van controles en handhaving op de naleving van verblijfsvoorwaarden en plichten door erkend referenten. Zij had geen gevolgen voor de aanvraag en de vreemdeling zelf. Ook los van het algoritme is deze indicator nooit betrokken bij de vaststelling van de risicoscore. Tegenover bedrijven en bestuurders van bedrijven is dus op geen enkele wijze mede op grond van deze indicator handhavend opgetreden.

Vraag 5

Waarom is in 2017 niet het intern juridisch advies opgevolgd dat aangaf dat het risicoprofiel etnisch profileerde en onrechtmatige verwerking van bijzondere persoonsgegevens betrof? Kunt u uw antwoord toelichten?

Antwoord 5

Ik betreur dat er niet sneller opvolging is gegeven aan een interne notitie van de afdeling Juridische Zaken van de IND, die in 2017 adviseerde met het risicomodel te stoppen en daarbij expliciet in ging op de indicator bestuurssamenstelling. Destijds werd te weinig urgentie gevoeld om uitvoering te geven aan dit advies, omdat er in praktijk niet met deze indicator werd gewerkt. De IND is in mei 2021 wel gestopt met het gebruik van het risicomodel. Het stoppen met het risicomodel is mede ingegeven door extra alertheid en urgentie naar aanleiding van de aanscherping van AVG-vereisten en de uitkomsten van de Parlementaire ondervragingscommissie Kinderopvangtoeslag. Ook was er een intern onderzoek naar de technische aspecten van het model, dat bijdroeg aan de beslissing om te stoppen. Er was in 2021 geen aanleiding om hier breed over te communiceren, omdat het model geen gevolgen heeft gehad voor de besluiten die de IND heeft genomen en dus niet raakte aan de aanvragen van de klant.

Vraag 6

Kunt u een uitputtend overzicht geven waar risicoprofilering wordt gebruikt voor toezicht, handhaving en fraude-opsporing bij verschillende onderdelen en diensten van de overheid?

Antwoord 6

Zie beantwoording vraag 11 voor antwoord 6, 7, 9 en 11.

Vraag 7

Kunt u aangeven waarom wijken als Feijenoord en IJsselmonde geprofileerd worden en wijken waarin het inkomen hoog of hoger ligt niet en op basis van welke wetenschappelijke grondslag wordt aangenomen dat daar meer handhaving en toezicht proportioneel is? Kunt u uw antwoord toelichten?

Antwoord 7

Zie beantwoording vraag 11 voor antwoord 6, 7, 9 en 11.

Vraag 8

Zijn gegevens van de IND uit de risicoprofielen van erkend referenten gedeeld met andere overheden en kunt u aangeven met wie en waarom?

Antwoord 8

Noch risicoscores, noch registraties omtrent samenstelling van bedrijfsbesturen, werden gedeeld met andere overheidsorganisaties. De IND werkt op het gebied van kennismigratie en handhaving nauw samen met de Nederlandse Arbeidsinspectie (hierna te noemen: NLA). Met de NLA worden gecombineerde inspecties/controles uitgevoerd bij bedrijven die door de IND zijn erkend als referent. De NLA is ook bevoegd voor het controleren op de verplichtingen voortvloeiend uit de Wet modern migratiebeleid. De te controleren bedrijven worden door de IND geselecteerd. Bij deze selectie worden gegevens over het bedrijf verzameld. Een deel van deze gegevens komt overeen met gegevens die werden verzameld in het risicomodel. Het betreft (handels)naam van het bedrijf, postcode, KvK nummer, SBI-code, rechtsvorm, datum oprichting, aanwezigheid van een website en de uitkomst van de risicoscore (het percentagecijfer). De samenstelling van het bestuur van het bedrijf heeft hierin geen rol gespeeld.

Vraag 9

Bent u het eens met de vaststelling dat er een systeem van «zeven kruisjes» ontstaat door de risicoprofilering waarbij afkomst, inkomen en woonplek negatieve voorspellers zijn voor extra controle en wantrouwen vanuit overheidsdiensten? Kunt u uw antwoord toelichten?

Antwoord 9

Zie beantwoording vraag 11 voor antwoord 6, 7, 9 en 11.

Vraag 10

Kunt u aangeven op basis van welke wetenschappelijke analyse overheidsdiensten en regering in blijven zetten op data-gestuurd toezicht en kunt u hierover de inzet en de analyses delen met de Kamer?

Antwoord 10

Allereerst hecht het kabinet er met uw Kamer zeer aan dat discriminatie, zoals bedoeld in artikel 1 van de Grondwet, door het gebruik van risicomodellen/-profielen te allen tijde wordt voorkomen.

Ten tweede moeten overheidsorganisaties die gebruik maken van risicoprofielen de staande wet- en regelgeving in acht nemen.

Binnen de werkingssfeer van de Algemene Verordening Gegevens bescherming (AVG), alsook de Wet Politiegegevens (Wpg), de Wet justitiële en strafvorderlijke gegevens (Wjsg) en de Wet Basisregistraties Personen (BRP) moeten verwerkingen van persoonsgegevens naast de wettelijke grondslag voldoen aan de eisen van behoorlijkheid, transparantie, rechtmatigheid, proportionaliteit en subsidiariteit.

Ten derde, ministeries kunnen voor het toetsen verschillende instrumenten als hulpmiddel hanteren voor de ontwikkeling en het gebruik van algoritmen, zoals de Impact Assessment Mensenrechten en Algoritmen (IAMA)⁵, de handleiding Privacy by design⁶, de handreiking Non-discriminatie by design⁷, het Toetsingskader algoritmen van de Algemene Rekenkamer⁸ en het mensenrechtelijk toetsingskader «discriminatie door risicoprofielen» dat het College voor de Rechten van de Mens heeft opgesteld.⁹ Hierdoor wordt het mogelijk om bias en non-discriminatie in data-analyses aan de voorkant bij de ontwikkeling en tijdens het gebruik van een risicomodel te herkennen.

Ten vierde, neemt het kabinet conform het regeerakkoord structurele maatregelen om het toezicht op de ontwikkeling en het gebruik van algoritmen vorm te geven. Met deze maatregelen worden de nodige waarborgen getroffen om discriminatie in de toekomst door het gebruik van risicomodellen, profielen, verwerkingen en algoritmen overheid breed te voorkomen.

In Europees verband wordt wetgeving voorbereid voor de ontwikkeling en het gebruik van AI en algoritmen. Het voorkomen van discriminatie is hierbij een belangrijk aandachtspunt. Vooruitlopend daarop maakt de Staatssecretaris van Koninkrijksrelaties en Digitalisering (rijksbrede) afspraken over het (externe) toezicht op de ontwikkeling en gebruik van algoritmen.

Daarin zal ook het gebruik van de IAMA, de handleiding Privacy by design, en de handreiking Non-discriminatie by design worden meegenomen en het door de Algemene Rekenkamer ontwikkelde Toetsingskader algoritmen als uitgangspunt worden gebruikt voor het toezicht. Uw Kamer wordt over de te nemen structurele maatregelen voor het zomerreces per brief geïnformeerd.

Tot slot wordt met het maken van deze rijksbrede afspraken voor het toezicht op algoritmen invulling gegeven aan de motie Bouchallikh en Dekker-Abdulaziz c.s.¹⁰, en de motie Van Baarle c.s.¹¹.

Vraag 11

Bent u bereid om risicoprofilering door overheidsdiensten te staken totdat helder is dat de profielen wetenschappelijk deugdelijk zijn en proportioneel op hun uitkomst?

Antwoord 6, 7, 9 en 11

Een uitputtend overzicht waar risicoprofilering wordt gebruikt binnen de overheid is er op dit moment niet. Wel wordt gewerkt aan de uitvoering van het onderzoek naar discriminerende risicomodellen op basis van de Motie#21. Werken met risicoprofielen is een standaard werkwijze in alle vormen van toezicht, handhaving en fraude-opsporing. Verschillende overheden gebruiken bij de uitoefening van hun taken dergelijke risicoprofielen. Deze profielen hebben tot doel om doelgerichter en efficiënter te handhaven, te controleren en/of dienstverlenend te zijn, bijvoorbeeld als zij worden ingezet om foutieve aanvragen te voorkomen. Dat is ook nodig: de capaciteit van overheden om te handhaven en/of te controleren is namelijk schaars. Risicoprofielen zijn dan ook van belang voor de uitvoering en het stopzetten van alle signalen en risicosystemen kan tot grote verstoringen in die uitvoering leiden.

Bij brief van 14 december 2021¹² bent u geïnformeerd over het mensenrechtelijk toetsingskader dat het College voor de Rechten van de Mens heeft opgesteld. Daarin staan de juridische maatstaven om te bepalen wanneer risicoprofielen leiden tot discriminatie op grond van de ras (waaronder etniciteit valt) of nationaliteit. Uit het toetsingskader komt duidelijk naar voren dat slechts in uitzonderlijke situaties een dergelijk onderscheid objectief gerechtvaardigd kan zijn. Daar moeten volgens het Europees Hof voor de Rechten van de Mens zeer zwaarwegende redenen voor zijn. Het mag en kan dus nooit zo zijn dat je afkomst, inkomen, of het wonen in een bepaalde wijk zomaar met zich meebrengen dat je een «kruisje» bij je naam krijgt om strenger gecontroleerd te worden. Onderscheid op dergelijke gronden mag alleen in uitzonderlijke gevallen als daar een dergelijke zware juridische rechtvaardiging voor is. Afkomst mag bovendien nooit als enige of doorslaggevende criterium gebruikt worden.

Overheidsorganisaties die gebruik maken van risicoprofielen moeten zich ervan bewust zijn dat dit onderscheid het risico van discriminatie met zich mee brengt. En discriminatie is verboden. Het non-discriminatiebeginsel uit het eerste artikel van onze Grondwet is daar heel helder over. Waarborgen ter voorkoming van discriminatie zijn van groot belang.

De Staatssecretaris van BZK coördineert nu de uitvoering van het onderzoek naar discriminerende risicomodellen op basis van Motie#21. Onderdeel van dit onderzoek is het stopzetten van het gebruik ervan en het opruimen van vervuilde data binnen de overheid. De Tweede Kamer is hierover geïnformeerd door middel van de tweede voortgangsrapportage. Op 25 mei is over dit onderwerp een technische briefing geweest. In oktober van dit jaar volgt de volgende voortgangsrapportage over de uitvoering van deze motie.

De bewindspersonen informeren de Kamer over de resultaten van de uitvoering van Motie#21 door hun eigen ministerie. Het Ministerie van JenV informeert uw Kamer voor het zomerreces over de resultaten.

Volledigheidshalve kan ik u ook mededelen dat de uitvoering van de motie Azarkan c.s.¹³, die verzoekt om een brede doorlichting van de overheid op discriminatie en etnisch profileren, is meegegeven in de taakopdracht van de Staatscommissie tegen Discriminatie en Racisme¹⁴.

Vraag 12

Is de overheid gehouden aan het meewerken aan WOB-verzoeken als het gaat om risicoprofielen, gericht op de indicatoren die daarbij worden gebruikt? Kunt u bij uw antwoord rekening houden met de adviezen van De Algemene Rekenkamer, De Raad van State als het gaat om transparantie en de eerdere brief van de Minister voor Rechtsbescherming?¹⁵ ¹⁶ ¹⁷

Antwoord 12

Zie beantwoording vraag 13 voor antwoord.

Vraag 13

Hoe reageert u op de opmerking van de journalist Davidson van Argos, die vertelde dat in de praktijk de wens mee te werken aan het verstrekken van informatie niet overhoudt met als argument dat dan burgers hun gedrag zouden gaan aanpassen? Waar is die redenering over het gedrag op gestoeld?

Antwoord 12 en 13

Per situatie zal moeten worden beoordeeld of door openbaarmaking afbreuk wordt gedaan aan de doeltreffendheid van de gehanteerde inspectie, controle en toezichttechnieken wat een effectieve handhaving zou kunnen belemmeren. Indien gemotiveerd wordt vastgesteld dat daarvan sprake is dan kent de Wet open overheid (Woo), per 1 mei 2022 de vervanger van de Wet openbaarheid van bestuur (Wob), een uitzonderingsgrond die kan worden ingeroepen. Dit zal per situatie nader moeten worden gemotiveerd. Daarbij zal moeten worden meegewogen hoe aannemelijk het is dat burgers hun gedrag gaan aanpassen wanneer men bekend is met de risicoprofielen.

---

1 Argos, 7 mei 2022, «IND registreerde afkomst voor risicoprofilering», https://www.vpro.nl/argos/lees/onderwerpen/artikelen/2022/ind-registreerde-afkomst-voor-risicoprofilering.html

2 NRC, 6 mei 2022, «IND maakte zich schuldig aan etnisch profileren», https://www.nrc.nl/nieuws/2022/05/06/ind-verzweeg-een-dikke-error-met-kennismigranten-a4123661

3 Kamerstuk 35 510, nr. 21 en nr. 16

4 Besluit op Wob-verzoek Wob besluit risicomodellen en algoritmes | Wob-verzoek | Rijksoverheid.nl

5 https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritme

6 https://www.cip-overheid.nl/media/1574/20170507-handleiding-privacy-by-design-v3_0.pdf

7 https://www.rijksoverheid.nl/documenten/rapporten/2021/06/10/handreiking-non-discriminatie-by-design

8 https://www.rekenkamer.nl/onderwerpen/algoritmes/algoritmes-toetsingskader

9 Bij brief van 14 december 2021 is uw Kamer geïnformeerd over dit toetsingskader (Kamerstuk 30 950, nr. 281).

10 Kamerstuk 26 643, nr. 835.

11 Kamerstuk 35 925 VII, nr. 39.

12 Kamerstuk 30 950, nr. 281.

13 Kamerstuk 35 510, nr. 33.

14 Zie artikel 2 lid 2 sub b van het instellingsbesluit van de Staatscommissie. Staatscourant 2022, nr. 11349, 12 mei 2022.

15 De Algemene Rekenkamer, 26 januari 2021, «Aandacht voor algoritmes», https://www.rekenkamer.nl/publicaties/rapporten/2021/01/26/aandacht-voor-algoritmes

16 De Raad van State, 31 augustus 2018, «Ongevraagd advies over de effecten van digitalisering voor de rechtsstatelijke verhoudingen», https://www.raadvanstate.nl/@112661/w04-18-0230/

17 Kamerstuknummer 26 643, nr. 570, Kamerstuk 26 643, nr. 570 | Overheid.nl > Officiële bekendmakingen (officielebekendmakingen.nl)