26 643 Informatie- en communicatietechnologie (ICT)

Nr. 950 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 21 december 2022

In de Werkagenda Waardengedreven Digitaliseren kondigde ik de spoedige publicatie aan van de eerste versie van een publiek algoritmeregister.¹ Uw Kamer heeft eerder met twee moties gevraagd om respectievelijk het opzetten en ook het verplicht stellen van een algoritmeregister.²

Het register wordt op 21 december 2022 gepubliceerd op het webadres https://algoritmes.overheid.nl. Dit centrale onderdeel van het publieke algoritmeregister maakt de door overheden gepubliceerde gegevens over de algoritmes op één plek doorzoekbaar voor iedereen.

Zoals vastgelegd in het coalitieakkoord³ wil het kabinet dat algoritmes wettelijk worden gecontroleerd op discriminatie en willekeur. Een belangrijke voorwaarde daarvoor is transparantie over algoritmes en hun toepassing. Tot nu toe schiet de transparantie over de inzet van algoritmes door de overheid nog vaak tekort. Burgers moeten erop kunnen vertrouwen dat algoritmes voldoen aan publieke waarden en de daarvan afgeleide (wettelijke) normen en dat uitgelegd wordt hoe ze werken. Op basis daarvan kunnen burgers de overheid desgewenst kritisch volgen en bevragen of zij zich aan de regels houdt. Het algoritmeregister kan een belangrijke bijdrage leveren aan het beter uitlegbaar maken van de toepassing en uitkomst van algoritmes.⁴

Bij de ontwikkeling van het publieke algoritmeregister is gebruik gemaakt van kennis uit pilots en ervaringen met de bestaande algoritmeregisters van overheidsorganisaties. Het is belangrijk om te benadrukken dat dit register een eerste versie is. Er is hard gewerkt om deze versie te realiseren. Daarmee laat ik zien hoe het kan werken, maar verdere doorontwikkeling is beslist nodig. Het komend jaar zal in overleg met overheden gewerkt worden aan een eenduidige registratie van algoritmes. Daarbij benut ik graag ook alle inbreng van experts, maatschappelijke organisaties en natuurlijk van de leden van uw Kamer.

Stappen die gezet zijn in 2022

Het verzoek van uw Kamer en de aankondiging van een algoritmeregister in de Werkagenda zet overheidsorganisaties in beweging. Uitgangspunt is dat overheidsorganisaties zelf verantwoordelijk zijn voor het inzage geven in algoritmes en daarmee het opstellen en het beheer van een algoritmeregister. Hieronder vallen ook het borgen van de kwaliteit, compliance en interne implementatie van het register. Steeds meer overheidsorganisaties gaan ook over tot publicatie van hun algoritmes, of overwegen dit op korte termijn te doen. Zoals ook aangegeven in de verzamelbrief publieke controle op algoritmes, is dit najaar een aantal overheidsorganisaties gevraagd om algoritmes die de afgelopen tijd zijn onderzocht zoveel mogelijk voor het eind van het jaar te publiceren.⁵ Informatie over een deel van deze algoritmes is sindsdien gepubliceerd en de verwachting is dat snel meer zullen volgen. De website die op 21 december gelanceerd wordt, maakt zoals gezegd de gepubliceerde gegevens over algoritmes op één plek zichtbaar.

Van belang is verder dat de centrale registratie van algoritmes eenduidig en bruikbaar moet zijn. Daartoe moeten overheden hun algoritmes op dezelfde wijze beschrijven. Een metadatastandaard is noodzakelijk voor die eenduidigheid. In de eerste versie van het algoritmeregister wordt gebruik gemaakt van de metadatastandaard van het innovatieproject «consortium Publieke controle op algoritmes».⁶ Deze is gebaseerd op een veelheid aan bronnen, waaronder het toetsingskader van de Algemene Rekenkamer, verschillende algoritme impact assessmentmethodieken en bestaande registers, waaronder dat van de gemeente Amsterdam. Het gaat dan bijvoorbeeld over het doel en de impact van het algoritme, en of er een risicoanalyse is uitgevoerd voorafgaande aan de ingebruikname.⁷ Om deze metadatastandaard te toetsen heeft het consortium Publieke controle op algoritmes een reeks sessies georganiseerd met een brede groep overheden. Zelf heb ik dit najaar een werkgroep opgezet waar overheidsorganisaties meedenken over de vormgeving van het algoritmeregister en hun ervaringen delen. De huidige metadatastandaard is een eerste versie en wordt, samen met andere departementen, uitvoeringsorganisaties, provincies en gemeenten, doorontwikkeld.

De broncode van het algoritmeregister zelf staat online, zodat de opzet van het register transparant is en suggesties voor verbeteringen gedaan kunnen worden.⁸ In aanloop naar de lancering is gesproken met maatschappelijke organisaties op het gebied van mensenrechten en met andere experts uit de buitenwereld die met ontwikkelingen als deze willen meedenken. Hun suggesties zijn waar het kon al verwerkt in de huidige versie van het register. Ook de doorontwikkeling doen wij in alle openheid.

Doorkijk op het vervolg

Met de lancering van dit centrale onderdeel van het publieke algoritmeregister is de eerste stap gezet naar transparantie over en uitlegbaarheid en controleerbaarheid van algoritmes die worden gebruikt door de Nederlandse overheid. Het komende jaar zal ik een aantal vervolgstappen zetten: de metadatastandaard verder ontwikkelen, de website verbeteren, publicatie van algoritmes door overheidsorganisaties stimuleren en de verplichtstelling voorbereiden.

In de huidige versie van het register zijn de gegevens handmatig ingevoerd, in overleg met de betrokken overheidsorganisaties. We gaan toewerken naar het automatisch ophalen van informatie uit decentrale algoritmeregisters. Overheidsorganisaties die geen eigen algoritmeregister hebben, kunnen informatie over hun algoritmes rechtstreeks in het centrale register plaatsen.

Uw Kamer heeft met de motie van het lid Dassen c.s. opgeroepen het gebruik van het algoritmeregister verplicht te stellen voor overheden.⁹ Daarvoor is het belangrijk om de reikwijdte van het register te bepalen en een definitie op te stellen van de algoritmes die daarin moeten worden opgenomen. In 2023 zal het kabinet verdere stappen zetten om de beleidsmatige en juridische keuzes daarvoor te maken. Die keuzes zijn mede afhankelijk van de voorgestelde Europese AI-verordening en zullen gemaakt worden in nauw overleg met departementen, uitvoeringsorganisaties, gemeenten, provincies en waterschappen. De verplichtingstelling zal vermoedelijk op zijn vroegst in 2024 ingaan. Daaraan voorafgaand zal, op zijn vroegst in het laatste kwartaal van 2023, een uitvoeringstoets worden gedaan.

Een verplicht algoritmeregister wil ik bezien in samenhang met de voorgestelde AI-verordening. Die bevat een verplichting om hoog-risico AI-systemen die in de Europese Unie op de markt zijn en beschikbaar voor gebruik, op te nemen in een publiek toegankelijke EU-databank. De AI-verordening is het uitgangspunt, maar deze is nog niet definitief vastgesteld. Zodra dit wel het geval is zal ik, in overleg met departementen, uitvoeringsorganisaties, gemeenten, provincies en waterschappen, bezien of het wenselijk is om aanvullende eisen te stellen aan overheidsalgoritmes.

In de aanloop naar verplichtstelling zal het kabinet overheidsorganisaties stimuleren om waar mogelijk hun (hoog-risico) algoritmes te publiceren.¹⁰ Dergelijke publicatie kan wel begrensd worden door wettelijke of gerechtvaardigde uitzonderingen die van toepassing zijn in het kader van bijvoorbeeld opsporing, rechtshandhaving, defensie of inlichtingenverzameling. De eerdergenoemde werkgroep van overheidsorganisaties zal worden voortgezet en uitgebreid. Binnen deze werkgroep zullen ervaringen worden gedeeld. De verwachting is dat de werkgroep een belangrijke rol kan vervullen om overheden te ondersteunen bij de publicatie van hun algoritmes.

In 2023 zal de metadatastandaard geëvalueerd en verder ontwikkeld worden. Met het Forum Standaardisatie zal worden bekeken of de metadatastandaard kan worden opgenomen als verplichte standaard en hoe beheer en onderhoud het beste kunnen worden ingericht.

Ik ben blij dat het algoritmeregister er is. Ik zie het als een eerste stap in een proces die meer duidelijkheid biedt hoe de overheid algoritmes met impact inzet. De komende tijd zal het register worden uitgebreid en doorontwikkeld. Ook zullen meer instrumenten worden geïntroduceerd om algoritmes te reguleren, waaronder een implementatiekader algoritmes, de al genoemde voorgestelde Europese AI-verordening en het toezicht op algoritmes waarover uw Kamer binnenkort een aparte brief ontvangt.

In het vierde kwartaal van 2023 informeer ik uw Kamer, als onderdeel van de rapportage over de Werkagenda Waardengedreven digitaliseren, over de vorderingen.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, A.C. van Huffelen

---

1 Kamerstuk 26 643, nr. 940.

2 Motie van het lid Klaver (GroenLinks) c.s. Kamerstukken II 2020/21, 35 510, nr. 16 en motie Dassen (Volt), Kamerstukken II 2021/22, 35 925 VII, nr. 26.

3 Coalitieakkoord «Omzien naar elkaar, vooruitkijken naar de toekomst», 10 januari 2022, Bijlage bij Kamerstuk 35 788, nr. 77.

4 Kamerstuk 26 643, nr. 924.

5 Kamerstuk 26 643, nr. 924.

6 Dit cons https://www.digitaleoverheid.nl/innovatieproject/publieke-controle-op-algoritmen/.

7 https://github.com/Algoritmeregister/standard.

8 https://github.com/MinBZK/Algoritmeregister.

9 Kamerstuk 35 925 VII, nr. 26.

10 Begrensd door wettelijke of gerechtvaardigde uitzonderingen die van toepassing zijn bij belangenafwegingen in het kader van bijvoorbeeld opsporing, rechtshandhaving, defensie of inlichtingenverzameling.