Vragen van de leden Kwint en Leijten (beiden SP) aan de Minister van Onderwijs, Cultuur en Wetenschap en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over het onderzoek naar mogelijk discriminerende algoritmen door DUO (ingezonden 21 juni 2023).

Mededeling van Minister Dijkgraaf (Onderwijs, Cultuur en Wetenschap) (ontvangen 27 juni 2023).

Vraag 1

Deelt u de inschatting dat uit dit onderzoek en de daarmee gepaard gaande publicaties een schrikbarend beeld van vooringenomenheid binnen de fraudebestrijding bij DUO naar voren komt?¹^, ²^, ³

Vraag 2

Klopt het percentage dat op basis van een forse steekproef door Investico wordt genoemd, namelijk dat 97% van de rechtszaken op het gebied van vermeende fraude met een uitwonendenbeurs studenten met een migratieachtergrond betreft? Bent u bereid dit uit te zoeken indien u deze gegevens nu niet hebt?

Vraag 3

Bent u tenminste bereid om gedurende het reeds door u aangekondigde onderzoek dit algoritme buiten werking te stellen?

Vraag 4

Bent u bereid om dit algoritme openbaar te maken? Zo nee, waarom niet?

Vraag 5

Bent u nu eindelijk bereid te komen tot een alomvattend openbaar algoritmeregister? Waarom staat er geen enkel algoritme over studiefinanciering in het momenteel gehanteerde register?

Vraag 6

Deelt u de kritiek van hoogleraar privaatrecht Gijs van Dijck die stelt dat een algoritme gevuld met ervaringen van medewerkers van DUO leidt tot een situatie waarin je «geen idee hebt wat je aan het vergelijken bent»? Met welke informatie is het algoritme gevoed? Zit daar ook informatie van het FSV bij?

Vraag 7

Bent u bereid onafhankelijke deskundigen dit algoritme te laten doorlichten op vooringenomenheid en discriminatoire werking? Zo nee, waarom niet?

Vraag 8

Deelt u de mening van ons dat de stelling dat etniciteit en nationaliteit geen rol spelen omdat ze niet in het algoritme zitten, getuigt van een op zijn best nogal naïeve kijk op de werking van algoritmen door DUO?

Vraag 9

Is het gehanteerde algoritme gecheckt op privacy via een gegevensbeschermingseffectbeoordeling? Is dit zoals vereist periodiek herhaald? Wat was eventueel de uitkomst van deze check?

Vraag 10

Is het gehanteerde algoritme ook gecheckt door de Autoriteit Persoonsgegevens? Zo niet, waarom niet. Zo ja, wat was hiervan de uitkomst?

Vraag 11

Wie heeft dit algoritme ontwikkeld en hoe zijn de mensenrechten gewaarborgd?

Vraag 12

Is dit algoritme onderzocht in het onderzoek naar aanleiding van de aangenomen motie van het lid Marijnissen c.s. die ziet op het opsporen en opschonen van vervuilde data? Zo niet, waarom niet? Zo ja, waarom was er dan onderzoeksjournalistiek voor nodig om dit op te sporen?⁴

Vraag 13

Hoe kan het dat DUO claimt continu te evalueren maar dat er in ruim tien jaar geen letter op papier is gezet over de geleerde lessen?

Vraag 14

Bent u bereid met DUO afspraken te maken over de manier waarop de eigen werkwijze geëvalueerd wordt?

Vraag 15

Hoe beoordeelt u dat een fraudebestrijdingssysteem dat letterlijk door Minister Plasterk is vormgegeven naar voorbeeld van de kinderopvang na het toeslagenschandaal niet meteen grondig tegen het licht gehouden is?

Vraag 16

Deelt u de inschatting dat deze informatie naar boven had moeten komen bij de doorlichting van onderwijswetgeving op het gebied van hardvochtigheid? En dat daar wel problemen bij DUO naar voren gekomen zijn, maar niet op dit specifieke punt? Hoe gaat dat in de toekomst voorkomen worden?

Vraag 17

Waarom worden bij onderzoeken naar vermeende fraude meteen werkgevers geïnformeerd? Deelt u de mening dat dit een onnodig ontwrichtend effect kan hebben op het leven van verdachten?

Vraag 18

Wat vindt u van de kritiek dat DUO veel te snel conclusies trekt over fraude gebaseerd op bezoekjes van soms maar enkele minuten?

Vraag 19

Wat zijn volgens u de implicaties van de omgekeerde bewijslast, zoals die door Minister Plasterk is ingevoerd? Deelt u de conclusie van De Groene, die stelt dat het in de praktijk bijna ondoenlijk is om onomstotelijk aan te tonen dat een student woont waar hij staat ingeschreven?

Vraag 20

Wat betekent dit voor de aangekondigde intensivering van controles door DUO na herinvoering van de basisbeurs? Kunt u garanderen dat daarbij geen gebruik wordt gemaakt van discriminerende algoritmen?

Vraag 21

Hoe zou u in het algemeen de fraudebestrijding door DUO kenschetsen? Staat de menselijke maat – zoals u op 7 april in een Kamerdebat stelde – bij DUO nu centraal? Kunt u voorkomen dat mensen – net als in het toeslagenschandaal – zonder bewijs als fraudeur worden bestempeld?

Mededeling

Op 21 juni 2023 hebben de leden Kwint en Leijten (beiden SP) schriftelijke vragen gesteld over het onderzoek naar mogelijk discriminerende algoritmen door DUO. Op 22 juni 2023 hebben de leden Pouw-Verweij en Eerdmans (beiden JA21) aanvullende vragen gesteld over ditzelfde onderwerp.

Tot mijn spijt is beantwoording binnen de gestelde termijn niet mogelijk, omdat meer tijd nodig is om de benodigde informatie te verzamelen. Ik streef ernaar de vragen tegelijkertijd te beantwoorden met de door mij toegezegde Kamerbrief over dit onderwerp in juli.

---

1 Advocaten: fraudecontrole DUO treft vrijwel uitsluitend studenten met migratieachtergrond – Investico (platform-investico.nl)

2 «Ik dacht gewoon: ik pak je» – De Groene Amsterdammer

3 Studenten met migratieachtergrond opvallend vaak beschuldigd van fraude, Minister wil systeem grondig nagaan (nos.nl)

4 Kamerstuk 35 510, nr. 21 | Overheid.nl > Officiële bekendmakingen (officielebekendmakingen.nl)