Vragen van de leden Kwint en Leijten (beiden SP) aan de Minister van Onderwijs, Cultuur en Wetenschap en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over het onderzoek naar mogelijk discriminerende algoritmen door DUO (ingezonden 21 juni 2023).

Antwoord van Minister Dijkgraaf (Onderwijs, Cultuur en Wetenschap) mede namens de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties11 Advocaten: fraudecontrole DUO treft vrijwel uitsluitend studenten met migratieachtergrond – Investico (platform-investico.nl).2 «Ik dacht gewoon: ik pak je» – De Groene Amsterdammer.3 Studenten met migratieachtergrond opvallend vaak beschuldigd van fraude, Minister wil systeem grondig nagaan (nos.nl). (ontvangen 5 juli 2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 3026.

Vraag 1

Deelt u de inschatting dat uit dit onderzoek en de daarmee gepaard gaande publicaties een schrikbarend beeld van vooringenomenheid binnen de fraudebestrijding bij DUO naar voren komt?²^, ³^, ⁴

Antwoord 1

Zoals aangegeven in mijn Kamerbrief van 21 juni vind ik deze signalen zeer verontrustend en heb ik direct een onafhankelijk extern onderzoek aangekondigd.

Vraag 2

Klopt het percentage dat op basis van een forse steekproef door Investico wordt genoemd, namelijk dat 97% van de rechtszaken op het gebied van vermeende fraude met een uitwonendenbeurs studenten met een migratieachtergrond betreft? Bent u bereid dit uit te zoeken indien u deze gegevens nu niet hebt?

Antwoord 2

Op dit moment beschikt DUO in het kader van de uitvoering van de WSF 2000 en daarbinnen specifiek de controle op uitwonendheid, niet over gegevens die direct inzicht geven in een eventuele migratieachtergrond. Op basis van de beschikbare data kan ik vooralsnog niet zeggen of het percentage van 97%, dat in het artikel wordt geschetst, klopt. De vraag of de werkwijze van DUO een disproportionele impact heeft op studenten met een migratieachtergrond, staat centraal in het onderzoek dat ik heb aangekondigd.

Vraag 3

Bent u tenminste bereid om gedurende het reeds door u aangekondigde onderzoek dit algoritme buiten werking te stellen?

Antwoord 3

Ja. Op 22 juni heb ik aan uw Kamer medegedeeld dat ik DUO heb gevraagd om tot nader order uitsluitend te controleren op grond van een aselecte steekproef onder uitwonende studenten. Daarbij worden geen nadere criteria gebruikt.

Vraag 4

Bent u bereid om dit algoritme openbaar te maken? Zo nee, waarom niet?

Antwoord 4

Ja, hier zijn wij mee bezig. De beoordeling van dit specifieke algoritme zal ook deel uitmaken van het onafhankelijke onderzoek dat ik aan uw Kamer heb toegezegd. In bredere zin is DUO reeds gestart met een lerende aanpak om voor te sorteren op de toekomstige verplichting om algoritmes op te nemen in het Algoritmeregister. Alvorens over te gaan tot publicatie van een algoritme moeten een aantal stappen doorlopen worden, binnen de bredere scope van het Algoritmeregister wordt ook dit algoritme in de inventarisatie meegenomen.

Vraag 5

Bent u nu eindelijk bereid te komen tot een alomvattend openbaar algoritmeregister? Waarom staat er geen enkel algoritme over studiefinanciering in het momenteel gehanteerde register?

Antwoord 5

Ja, dat is de inzet van het kabinet. In december 2022 is het Algoritmeregister gelanceerd. Dit register wordt momenteel doorontwikkeld. Verschillende organisaties hebben hun algoritmes hier al in aangeleverd. Conform de Werkagenda moet het register in 2025 gevuld zijn met alle algoritmes die relevant zijn voor burgers. Er zijn veel organisaties die hier actief aan werken, maar het vullen van het register kost tijd en capaciteit om zorgvuldig te doen. Zoals ik in het antwoord op de vorige vraag heb aangegeven, werkt DUO eraan om haar algoritmes ook in het register laten opnemen.

Vraag 6

Deelt u de kritiek van hoogleraar privaatrecht Gijs van Dijck die stelt dat een algoritme gevuld met ervaringen van medewerkers van DUO leidt tot een situatie waarin je «geen idee hebt wat je aan het vergelijken bent»? Met welke informatie is het algoritme gevoed? Zit daar ook informatie van het FSV bij?

Antwoord 6

Het is op dit moment voorbarig om aan te geven of ik deze kritiek deel, ook dit moet uit onderzoek blijken. Wel kan ik alvast aangeven dat DUO geen gebruik maakt van de gegevens uit FSV.

Vraag 7

Bent u bereid onafhankelijke deskundigen dit algoritme te laten doorlichten op vooringenomenheid en discriminatoire werking? Zo nee, waarom niet?

Antwoord 7

Ja. Ik heb in mijn brief van 21 juni aangekondigd dit te gaan doen.

Vraag 8

Deelt u de mening van ons dat de stelling dat etniciteit en nationaliteit geen rol spelen omdat ze niet in het algoritme zitten, getuigt van een op zijn best nogal naïeve kijk op de werking van algoritmen door DUO?

Antwoord 8

DUO heeft aangegeven dat etniciteit en nationaliteit niet in het algoritme zitten. Of etniciteit of nationaliteit door het algoritme op indirecte wijze toch de uitkomst beïnvloeden kan ik pas zeggen na afloop van het onderzoek. Ik kan daarom ook geen antwoord geven op de kwalificatie uit uw vraag.

Vraag 9

Is het gehanteerde algoritme gecheckt op privacy via een gegevensbeschermingseffectbeoordeling? Is dit zoals vereist periodiek herhaald? Wat was eventueel de uitkomst van deze check?

Antwoord 9

Het door DUO gehanteerde algoritme is bij de start in 2012 niet gecheckt op privacy via een gegevensbeschermingseffectbeoordeling (GEB). Deze is namelijk pas ingevoerd in mei 2018 In 2012 is er gebruik gemaakt van een beperkte set uit te wisselen persoonsgegevens die DUO conform de wet voor de uitvoering van haar taken mocht gebruiken. Verder heeft DUO in 2022 de Auditdienst Rijk, in het kader van een lerende aanpak, gevraagd om onderzoek te doen naar het proces van uitwonendencontrole en de privacy-waarborgen daarin. DUO is nog in afwachting van de resultaten van dit onderzoek.

Vraag 10

Is het gehanteerde algoritme ook gecheckt door de Autoriteit Persoonsgegevens? Zo niet, waarom niet. Zo ja, wat was hiervan de uitkomst?

Antwoord 10

Op het destijds ingediende wetsvoorstel waarin uitspraken zijn gedaan over onder andere het selectiemodel is een advies uitgebracht door het CBP, de voorganger van de Autoriteit Persoonsgegevens (AP).

Vraag 11

Wie heeft dit algoritme ontwikkeld en hoe zijn de mensenrechten gewaarborgd?

Antwoord 11

Het selectiemodelis in de pilotfase die vooraf ging aan de inwerkingtreding van de wet in 2012 ontwikkeld in samenwerking met diverse gemeenten en sociale recherches. Het model is samengesteld op basis van (gedrags-)kenmerken van studerenden met een uitwonendenbeurs. Dit model is vervolgens getoetst en aangescherpt op basis van controles in de pilotregio’s.

Vraag 12

Is dit algoritme onderzocht in het onderzoek naar aanleiding van de aangenomen motie van het lid Marijnissen c.s. die ziet op het opsporen en opschonen van vervuilde data? Zo niet, waarom niet? Zo ja, waarom was er dan onderzoeksjournalistiek voor nodig om dit op te sporen?⁵

Antwoord 12

Ja, dit algoritme is inderdaad in het kader van de genoemde motie onderzocht.⁶

Vraag 13

Hoe kan het dat DUO claimt continu te evalueren maar dat er in ruim tien jaar geen letter op papier is gezet over de geleerde lessen?

Antwoord 13

Evaluatie vindt plaats door het periodiek toetsen van het uitvoeringsbeleid aan nieuwe jurisprudentie en uitvoeringstechnische zaken waar men tegenaan loopt. In het onderzoek zal in beeld worden gebracht hoe de evaluatie geschiedde.

Vraag 14

Bent u bereid met DUO afspraken te maken over de manier waarop de eigen werkwijze geëvalueerd wordt?

Antwoord 14

Ja, dit maakt onderdeel uit van het aangekondigde onderzoek.

Vraag 15

Hoe beoordeelt u dat een fraudebestrijdingssysteem dat letterlijk door Minister Plasterk is vormgegeven naar voorbeeld van de kinderopvang na het toeslagenschandaal niet meteen grondig tegen het licht gehouden is?

Antwoord 15

Ik kan mij goed voorstellen dat naar aanleiding van deze signalen deze vraag wordt gesteld. Dit zal daarom ook onderdeel uitmaken van het aangekondigde onderzoek. Zie ook vraag 12.

Vraag 16

Deelt u de inschatting dat deze informatie naar boven had moeten komen bij de doorlichting van onderwijswetgeving op het gebied van hardvochtigheid? En dat daar wel problemen bij DUO naar voren gekomen zijn, maar niet op dit specifieke punt? Hoe gaat dat in de toekomst voorkomen worden?

Antwoord 16

Ik kan me goed voorstellen dat naar aanleiding van deze signalen deze vraag wordt gesteld. Dit zal daarom ook onderdeel zijn van het aangekondigde onderzoek.

Vraag 17

Waarom worden bij onderzoeken naar vermeende fraude meteen werkgevers geïnformeerd? Deelt u de mening dat dit een onnodig ontwrichtend effect kan hebben op het leven van verdachten?

Antwoord 17

Werkgevers of andere derden worden niet op de hoogte gesteld van het besluit om de uitwonendenbeurs in te trekken. Ik merk op dat in de berichtgeving er sprake was van een geval waarbij de controleurs bij de gemeente waar de studente in kwestie werkte, zouden hebben gevraagd naar welk adres zij daar had opgegeven. Zonder verdere details kan ik echter niet beoordelen op welke casus dit betrekking zou hebben, noch kan ik bevestigen of dat echt zo is gebeurd. De werkwijze en instructies van de controleurs maakt deel uit van het interne onderzoek dat DUO zelf uitvoert en zal ook in het onafhankelijke onderzoek terugkomen.

Vraag 18

Wat vindt u van de kritiek dat DUO veel te snel conclusies trekt over fraude gebaseerd op bezoekjes van soms maar enkele minuten?

Antwoord 18

Het is op dit moment voorbarig om aan te geven of ik deze kritiek deel, ook dit moet uit het aangekondigde onderzoek blijken.

Vraag 19

Wat zijn volgens u de implicaties van de omgekeerde bewijslast, zoals die door Minister Plasterk is ingevoerd? Deelt u de conclusie van De Groene, die stelt dat het in de praktijk bijna ondoenlijk is om onomstotelijk aan te tonen dat een student woont waar hij staat ingeschreven?

Antwoord 19

Ik kan mij goed voorstellen dat naar aanleiding van deze signalen vragen worden gesteld over de omgekeerde bewijslast. Wat mij betreft dient nu eerst nader onderzoek te worden gedaan, en volgt daarna een gesprek over het beleid en eventuele aanpassingen die daarin noodzakelijk zijn. In dat gesprek wordt ook de omgekeerde bewijslast betrokken.

Vraag 20

Wat betekent dit voor de aangekondigde intensivering van controles door DUO na herinvoering van de basisbeurs? Kunt u garanderen dat daarbij geen gebruik wordt gemaakt van discriminerende algoritmen?

Antwoord 20

Zoals aangekondigd zal DUO tot nader order alleen controleren op grond van een aselecte steekproef onder uitwonende studenten. Dat geldt ook voor controles na herinvoering van de basisbeurs. De geplande intensivering houdt verband met het feit dat vanaf 1 september 2023 ook studenten in het hbo en wo weer recht kunnen krijgen op de uitwonendenbeurs en de te controleren populatie dus groter wordt.

Vraag 21

Hoe zou u in het algemeen de fraudebestrijding door DUO kenschetsen? Staat de menselijke maat – zoals u op 7 april in een Kamerdebat stelde – bij DUO nu centraal? Kunt u voorkomen dat mensen – net als in het toeslagenschandaal – zonder bewijs als fraudeur worden bestempeld?

Antwoord 21

De onrust naar aanleiding van deze signalen begrijp ik heel goed. Tegelijkertijd vind ik het niet passend om, terwijl het externe onderzoek nog moet starten, een oordeel uit te spreken over de werkwijze. Daartoe wil ik eerst alle feiten op tafel hebben.

Ik wil in dit licht wel graag met u delen dat de berichtgeving over de fraudebestrijding van DUO ook binnen de organisatie hard is binnengekomen. Zowel binnen DUO als breder binnen het departement. Ik ken DUO wel degelijk als een organisatie waarin de menselijke maat centraal staat. Dat blijkt uit de vooruitstrevende wijze waarop DUO omgaat met maatwerk, de extra wettelijke ruimte die we daarvoor hebben gecreëerd en het initiatief dat DUO continu toont om signalen van de telefoonlijn terug te brengen naar Den Haag. Dat ik de recente signalen over de fraudebestrijding uiterst zorgwekkend vind, bestaat gelijktijdig met de waardering die ik voor de inspanningen van DUO heb.

---

1 1 Advocaten: fraudecontrole DUO treft vrijwel uitsluitend studenten met migratieachtergrond – Investico (platform-investico.nl).

2 «Ik dacht gewoon: ik pak je» – De Groene Amsterdammer.

3 Studenten met migratieachtergrond opvallend vaak beschuldigd van fraude, Minister wil systeem grondig nagaan (nos.nl).

2 Advocaten: fraudecontrole DUO treft vrijwel uitsluitend studenten met migratieachtergrond – Investico (platform-investico.nl).

3 «Ik dacht gewoon: ik pak je» – De Groene Amsterdammer.

4 Studenten met migratieachtergrond opvallend vaak beschuldigd van fraude, Minister wil systeem grondig nagaan (nos.nl).

5 Kamerstuk 35 510, nr. 21 | Overheid.nl > Officiële bekendmakingen (officielebekendmakingen.nl).

6 Zie hiervoor de voortgangsrapportages naar aanleiding van deze motie.