2020D49375 LIJST VAN VRAGEN

De vaste commissie voor Binnenlandse Zaken heeft een aantal vragen voorgelegd aan de Minister voor Rechtsbescherming over de brief van 20 november 2020 van de Minister voor Rechtsbescherming e.a., houdende de Kabinetsreactie op een drietal onderzoeken naar algoritmen (2020Z22397).

De voorzitter van de commissie, Ziengs

De adjunct-griffier van de commissie, Hendrickx

Nr	Vraag
1	Wat is de definitie van algoritme?
2	Kan een voorbeeld worden gegeven van de manier waarop een onvolledig of verkeerd begrip van de probleemruimte leidt tot ongewenste gevolgen?
3	Is het beperken van zelflerende algoritmen een goede manier om onvoorziene en ongewenste gevolgen te voorkomen of te verminderen?
4	Is consumentenbescherming het belangrijkste spoor om eventuele negatieve effecten van algoritmen tegen te gaan en welke andere belangrijke sporen zijn er om dit te doen?
5	In hoeverre zou verplichte transparantie over de inzet en constructie van algoritmische modellen, inclusief de gebruikte trainingsdata, een manier kunnen zijn om ongewenste effecten tegen te gaan?
6	Wil het kabinet de ongewenste effecten van algoritmen die worden gebruikt door bedrijven vooral tegengaan op basis van vrijwillige gedragscodes of ook met wet- en regelgeving om transparantie af te dwingen?
7	Wat zijn nu concreet de algemene juridische kaders op het gebied van de waarden non-discriminatie, gegevensbescherming en rechtsbescherming?
8	Wat wordt bedoeld met «het inzetten op nadere normering van algoritmen via de richtlijnen voor data-analyse door overheden»? Waar wordt aan gedacht bij die nadere normering? Is dit een actie in EU-verband? Wat zijn de gevolgen voor de Nederlandse wet- en regelgeving?
9	Zijn er voorbeelden van technische ontwerpprincipes om risico’s op discriminatie door AI-systemen al in de ontwikkelfase te mitigeren?
10	Kan nader worden ingegaan op het begrip adequaat in de context van menselijke tussenkomst bij geautomatiseerde besluitvorming? Wanneer is die tussenkomst adequaat?
11	Wat wordt precies verstaan door de zinsnede «waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft»? Valt bijvoorbeeld online contentverwijdering hier ook onder?
12	Is het waar dat de AVG zelf ook al uitzonderingen bevat op het verwerken van bijzondere persoonsgegevens? Waarom zijn deze volgens het kabinet niet voldoende?
13	In hoeverre geldt het anonimiseren van persoonsgegevens zelf als een verwerking van persoonsgegevens?
14	In hoeverre leidt de anonimisering van persoonsgegevens, die worden gebruikt voor het ontwerp van een algoritme, tot een lagere kans op onvoorziene of ongewenste effecten? Kan een algoritme gebaseerd op geanonimiseerde persoonsgegevens niet net zo goed onvoorziene of ongewenste effecten hebben?
15	Hoe is het mogelijk dat etniciteit toch als factor mag worden gebruikt in algortimen nu volgens art. 9 AVG het verwerken van bijzondere persoonsgegevens (zoals bijvoorbeeld betreffende iemands etnische afkomst, politieke opvattingen of religieuze overtuiging) in beginsel verboden is?
16	Om welke «bepaalde normen van zorgvuldigheid en transparantie» gaat het hier?
17	Wat wordt bedoeld met de zin waarin wordt gesteld dat het evident is dat het verbod op geautomatiseerde besluitvorming prevaleert, in die gevallen waarin menselijke tussenkomst niet adequaat is? Wanneer wordt die menselijke tussenkomst niet adequaat geacht?
18	Wat zijn in hoofdlijnen de voornemens van de regering als het gaat om de juridische kaders rondom algoritmen? Aan het opstellen van welke wet- en regelgeving wordt gedacht? Welk tijdpad hoort daarbij?