Vragen van de leden Raemakers en Verhoeven (beiden D66) aan de Staatsecretarissen van Sociale Zaken en Werkgelegenheid en van Binnenlandse Zaken en Koninkrijksrelaties over het bericht «Algoritme voorspelt wie fraude pleegt bij bijstandsuitkering» (ingezonden 12 april 2018).

Vraag 1

Bent u bekend met het bericht «Algoritme voorspelt wie fraude pleegt bij bijstandsuitkering»?1

Vraag 2

Bij hoeveel en welke gemeenten wordt dergelijke software gebruikt om bijstandsfraude op te sporen?

Vraag 3

Klopt het dat deze gemeenten de software inkopen bij bedrijven? Kunt u aangeven bij welke bedrijven?

Vraag 4

Welke historische data wordt gebruikt voor de analyse van mogelijke bijstandsfraude? Kunnen inwoners de gebruikte data inzien en eventueel, bijvoorbeeld bij fouten, wijzigen? Hebben de ingeschakelde bedrijven toegang tot deze data?

Vraag 5

Ziet u ook het risico dat het gebruik van algoritmes discriminerend kan zijn voor bepaalde groepen mensen als de werking van de algoritmes niet transparant en controleerbaar is of gebaseerd is op data die door selectieve handhaving tot stand is gekomen? Bent u bekend met voorbeelden hiervan, zoals het gebruik van discriminerende recidiverisico software in de Verenigde Staten?

Vraag 6

Is de werking van de gebruikte algoritmes transparant en controleerbaar? Wordt de werking van de gebruikte algoritmes door onafhankelijke derden gecontroleerd?

Vraag 7

Deelt u de mening dat de technologie die overheden gebruiken onze normen en waarden en onze wetten moeten eerbiedigen en niet, wellicht onbedoeld, discriminerend mogen zijn? Deelt u derhalve de mening dat door overheden gebruikte algoritmes transparant en controleerbaar moeten zijn om te voorkomen dat algoritmes discriminerend werken?

Vraag 8

Op welke wijze vindt terugkoppeling van de resultaten uit de data-analyses en de daaruit volgende onderzoeken naar bijstandsfraude plaats, en hoe leidt dit tot aanpassingen van de gebruikte algoritmes? Hoe wordt een vicieuze cirkel voorkomen, bijvoorbeeld als het rekenmodel versterkt wordt in foutieve initiële aannames op basis van gekleurde historische data door nieuwe data uit de handhavingspraktijk?

Vraag 9

Wanneer is het onderzoek van de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over het gebruik van algoritmes door overheden afgerond?

Naar boven