Vergaderjaar 2022-2023
Tweede Kamer der Staten-Generaal
2
Aanhangsel van de Handelingen
Vragen gesteld door de leden der Kamer, met de daarop door de regering gegeven antwoorden
3133
Vragen van de leden Dekker-Abdulaziz (D66) en Azarkan (DENK) aan Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over het bericht over het algoritmeregister: (ingezonden 22 juni 2023).
Antwoord van Staatssecretaris Van Huffelen (Binnenlandse Zaken en Koninkrijksrelaties) (ontvangen 5 juli 2023).
Vraag 1
Wat is uw reactie op het bericht van de NOS?
1
NOS d.d. 19 juni 2023, Nauwelijks zicht op «zwarte zoemende dozen» van overheid: «Algoritmeregister wassen neus».
Antwoord 1
Het Algoritmeregister maakt deel uit van een breder pakket aan maatregelen voor verantwoorde inzet van algoritmen uit de Werkagenda Waardengedreven Digitaliseren. Zo is begin dit jaar de algoritmetoezichthouder gestart. Voor de zomer ontvangt uw Kamer nog een eerste versie van het implementatiekader verantwoorde inzet van algoritmen voor de overheid. Het kabinet werkt daarnaast aan de Wet versterking waarborgfunctie Awb. Op Europees niveau wordt er gewerkt aan de AI-verordening en binnen de Raad van Europa aan het AI-verdrag. Hierbij is het Algoritmeregister een deel van de oplossing, maar wel een belangrijk onderdeel. Daarmee lopen we voorop in Europa.
Het Algoritmeregister is in december 2022 van start gegaan, met de inzichten en algoritmen die we toen hadden. Ik wilde niet wachten tot alles helemaal perfect was en tot we alle algoritmen in beeld hadden. In de brief die ik toen stuurde heb ik toegezegd het register door te ontwikkelen. Dat ben ik ook aan het doen. Er is een eerste werkdefinitie van welke algoritmen in het Algoritmeregister horen: ten minste de hoog-risico AI-systemen volgens de definitie van de Raadstekst van de AI-verordening. De velden die ingevuld moeten worden in het register worden doorontwikkeld. Daarnaast loopt er een doelgroepenonderzoek. Ik heb het verder makkelijker gemaakt voor overheden om aan te leveren via een webformulier of via hun eigen (interne) register.
Het is nu aan overheden om hun algoritmen te publiceren. Sinds de lancering heeft een aantal organisaties algoritmen gepubliceerd. Van veel weet ik dat zij bezig zijn met de voorbereidingen. Zoals het NOS-artikel opmerkt, is bij een aantal algoritmen nog niet alle velden ingevuld. Een aantal organisaties heeft dit al verbeterd. Anderen hebben aangegeven hiermee aan de slag te gaan, waaronder de gemeente Utrecht.
Ik wijs overheden actief op het publiceren van algoritmen en ook spreek ik mijn collega’s in het kabinet erop aan. Het inventariseren, beleggen van verantwoordelijkheden en het uiteindelijke registreren kost echter tijd en capaciteit voor overheidsorganisaties, omdat dit zorgvuldig moet en tot een toegankelijk resultaat moet leiden. De ambitie is om het Algoritmeregister in 2025 volledig gevuld te hebben met alle algoritmen die voldoen aan de definitie van hoog-risico AI. In de tussentijd zijn we al aan de slag waarbij we de door uw Kamer aangenomen motie meenemen om nieuwe algoritmen op te nemen en te komen tot een planning per departement.
2
Kamerstuk 36 360, nr. VI-14.
Ik vind het goed dat er, terwijl in de hele overheid mensen aan het werk zijn, zo kritisch gekeken wordt naar het functioneren van het Algoritmeregister. Om die reden voeren we een open proces waarin iedereen kan meedenken over het register. Met de feedback gaan we aan de slag.
Vraag 2
In hoeverre voldoet het huidige algoritmeregister aan het doel om meer transparantie te creëren?
Antwoord 2
Het Algoritmeregister als instrument biedt nu al meer transparantie, als deel van een breder pakket aan maatregelen zoals ook genoemd in het antwoord bij vraag 1. Als een algoritme geregistreerd is, wordt allereerst het bestaan duidelijk. Het geeft daarnaast inzicht waarvoor het gebruikt wordt, waarom het gebruikt wordt en hoe het gebruikt wordt. In het bijzonder moet het ook inzicht geven in welke gegevens van burgers en bedrijven daarbij gebruikt worden. We voeren momenteel een doelgroepenonderzoek uit en hanteren een open aanpak, waarin mensen kunnen meedenken.
Het is voor de transparantie van belang dat alle relevante algoritmen gepubliceerd worden door overheden. En dat kan natuurlijk beter. Er zijn momenteel 123 algoritmen geregistreerd. Bij een deel daarvan zijn alle velden ingevuld. Natuurlijk is het doel van het Algoritmeregister pas bereikt, als het gevuld is met alle relevante algoritmen. Zoals eerder genoemd, stimuleer ik overheden om te publiceren en zoveel mogelijk velden in te vullen.
Vraag 3
In hoeverre is de Staatssecretaris nog van plan om het algoritmeregister aan te passen, om bijvoorbeeld meer inzage te geven in de beslismodellen?
Antwoord 3
Het register biedt nu al de mogelijkheid daar inzage in te bieden. In de meest recente versie van de publicatiestandaard is het veld «Technische werking», waarin uitgelegd kan worden hoe het algoritme werkt, en is er de mogelijkheid om te linken naar de broncode.
Een andere ambitie uit de Werkagenda Waardengedreven Digitaliseren is het inzicht bieden in welke «regels» gehanteerd worden (actie 3.3.2). Er wordt gekeken naar hoe het register hier een rol in kan spelen.
Vraag 4
Deelt de Staatssecretaris de opvatting dat het register juist inzage zou moeten bieden op basis waarvan beslissingen worden genomen, bijvoorbeeld dat nationaliteit een rol speelt bij de risico-inschatting van het algoritme bij een visumaanvraag bij het Ministerie van Buitenlandse Zaken?
Antwoord 4
Ik ben het met u eens dat het register inzage zou moeten bieden in wat voor gegevens gebruikt worden door algoritmen, in het bijzonder waar het bijzondere persoonsgegevens betreft. Met onder meer het veld «Gegevens» biedt het Algoritmeregister daar de ruimte voor.
Vraag 5
Kan de Staatssecretaris een inschatting geven hoe vaak het algoritmeregister wordt geraadpleegd?
Antwoord 5
Ruim 10.000 bezoekers hebben sinds openstelling de website bezocht. Gemiddeld bezoeken 400 mensen per week het Algoritmeregister.
Decentrale algoritmeregisters zoals die van het UWV en de gemeente Amsterdam zijn hierin niet meegenomen.
Vraag 6
Wanneer wordt het algoritmeregister geëvalueerd?
Antwoord 6
Zoals ook toegelicht in vraag 1, is het Algoritmeregister nog volop in ontwikkeling. Er is daarom sprake van continue evaluatie. Het doelgroepenonderzoek is daarvan een belangrijk onderdeel. Ook het open proces dat we voeren is daar onderdeel van, waarin iedereen feedback kan geven op het register.
Vraag 7
Hoeveel hoog-risico algoritmes worden binnen de rijksoverheid ingezet?
Antwoord 7
Daar is momenteel geen zicht op. De vulling van het Algoritmeregister moet daar inzicht in gaan geven.
Vraag 8
In hoeverre klopt het dat direct na de inwerkingtreding van de AI Act het verplicht wordt om algoritmes in het register op te nemen? Zo nee, op welke termijn verwacht de Staatssecretaris wetgeving in te dienen?
Antwoord 8
Ja, dat klopt. De AI-verordening zal een verplichting bevatten voor het registreren van AI-systemen in een Europese database. De details van deze verplichting, waaronder de te registreren informatie, hangt echter af van de uitkomst van de triloog tussen het Europees Parlement, de Europese Raad en de Europese Commissie. Ik wil de nationale verplichting in samenhang bekijken met de inwerkingtreding van de AI-verordening. Het is belangrijk dat regels uit de AI-verordening en die voor het register goed op elkaar aansluiten. Dit om te voorkomen dat de uitvoeringspraktijk met steeds andere verplichtingen wordt geconfronteerd.