26 643 Informatie- en communicatietechnologie (ICT)

Nr. 1132 BRIEF VAN DE MINISTERS VAN SOCIALE ZAKEN EN WERKGELEGENHEID EN VOOR ARMOEDEBELEID, PARTICIPATIE EN PENSIOENEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 13 februari 2024

Het gebruik van algoritmen is belangrijk voor het efficiënt en doelmatig functioneren van de overheid. Dit gebruik dient zorgvuldig en transparant te gebeuren. Het gebruik van algoritmen kan immers soms risico’s met zich meebrengen. Dit geldt uiteraard ook voor het Ministerie van SZW en haar uitvoeringsorganisaties. Het Algoritmeregister draagt bij aan het transparant en uitlegbaar maken van de toepassing en uitkomst van algoritmen. Dit helpt om duidelijk te maken welke algoritmen voor welke doeleinden worden ingezet en hoe dit op een verantwoorde manier gebeurt.

In de verzamelbrief van BZK «Algoritmen reguleren» van 7 juli 2023 (Kamerstuk 26 643, nr. 1056) aan uw Kamer staat dat met alle ministeries wordt afgesproken dat het Algoritmeregister up-to-date is in 2025 en dat dan ten minste de Hoog Risico algoritmen hierin geregistreerd zijn. Verder is door de CIO Rijk gevraagd aan de ministeries om te komen tot een planning per departement. In deze brief informeren wij uw Kamer over de voortgang en de planning van het Algoritmenregister van SZW.

Op dit moment bevat het Algoritmeregister vijftien algoritmen van organisaties die binnen het domein SZW1 vallen. Het gaat om algoritmen van UWV (acht), de SVB (zes) en het kerndepartement SZW (één).

Aanpak

Het vullen van het Algoritmeregister vraagt om het doorlopen van vier kernstappen: (i) het inventariseren, (ii) het beoordelen, (iii) het administreren en (iv) het publiceren. Allereerst moeten alle algoritmen geïnventariseerd worden. In de beoordelingsfase bepalen we vervolgens welke algoritmen in het Algoritmeregister moeten worden opgenomen. Prioriteit ligt bij de zogeheten Hoog Risico algoritmen in het voorstel van de Artificial Intelligence (AI) Verordening. Dan volgt de administratiefase. Tijdens deze fase worden algoritmebeschrijvingen opgesteld, wordt de benodigde organisatie ingeregeld, de informatie gecontroleerd en vindt de uiteindelijke besluitvorming over publicatie plaats. Tot slot volgt de publicatie van de algoritmen.

Ons streven is dat in 2024 alle organisaties binnen het domein SZW waar mogelijk hun inventarisatie afgerond hebben en tenminste één algoritme gepubliceerd hebben, als zij die hebben. Conform de motie van uw Kamer2 zullen nieuwe Hoog Risico algoritmen direct worden opgenomen in het Algoritmeregister.

Aandachtspunten

Het domein SZW heeft nog geen administratie voor het bijhouden van en rapporteren over algoritmen. Verder is de rijksbreed gehanteerde definitie zeer ruim. Elke handeling waarbij een computer betrokken is, gebruikt volgens deze definitie3 algoritmen. Ook biedt de terminologie uit de concepttekst van de AI Verordening beperkt houvast. De term Hoog Risico is op zich duidelijk. In feite gaat het hier om ondoorgrondelijke techniek (zoals een zelflerend algoritme) met rechtsgevolgen voor natuurlijke personen. De term Impactvol is erg breed gedefinieerd. Dit maakt het inventariseren, het beoordelen, het administreren en het publiceren van algoritmen een complex en arbeidsintensief proces, waar ervaring mee op moet worden gedaan.

SZW bouwt deze ervaring nu op. We leren hoe diep in een algoritme gekeken moet worden om de werking te doorgronden; hoe we complexe techniek op begrijpelijke wijze kunnen beschrijven; wat er georganiseerd moet worden; en hoe bijvoorbeeld de afweging moet plaatsvinden tussen enerzijds de terechte roep om openheid en anderzijds de soms noodzakelijke terughoudendheid in het geval van bijvoorbeeld fraudebestrijding. Uitvoering hiervan vindt plaats door experts, zoals datascientists en programmeurs, die schaars zijn en ook belangrijke taken hebben op andere gebieden, zoals het moderniseren van ICT-systemen.

Deze brief bevat een eerste inschatting van te publiceren algoritmen. Dit beeld kan en zal naar verwachting de komende jaren wijzigen. Deels vanwege het voorgaande, maar ook omdat er nieuwe algoritmen kunnen worden ontwikkeld, die voor publicatie in aanmerking komen, en er in de toekomst mogelijk nieuwe eisen aan publicatie worden gesteld.

Organisatie specifiek

UWV

UWV heeft inmiddels acht algoritmen in het nationale algoritmeregister ontsloten en op de eigen website gepubliceerd4. Op korte termijn komen er daar nog vier bij. Hiermee zijn alle Hoog Risico algoritmen – in de zin van de AI Verordening – die op dit moment bij UWV in gebruik zijn, gepubliceerd.

Verder loopt bij UWV een grondige nieuwe inventarisatie van alle algoritmen die in gebruik of in ontwikkeling zijn. Deze heeft een bredere scope: niet alleen Hoog Risico algoritmen, maar ook algoritmen die vanwege hun impact en de schaal waarop ze worden toegepast in aanmerking kunnen komen voor publicatie. Een voorbeeld daarvan is de Klantapplicatie WW (Klantapplicatie WW (uwv.nl)). Deze categorie algoritmen wordt in de loop van 2024 gepubliceerd op de eigen website en het nationale algoritmeregister.

Verder ontwikkelt en onderhoudt UWV voortdurend nieuwe en bestaande algoritmen. Het algoritmeregister is dus nooit af.

SVB

De SVB heeft de zes algoritmen met het hoogste risico gepubliceerd op de eigen website5 en in het nationale algoritmeregister ontsloten. In lijn met de wettelijke verplichtingen die volgen uit de AI Verordening en nationale wetgeving heeft de SVB een algoritmebeleid opgesteld. De implementatie van het algoritmebeleid zal de komende jaren vorm krijgen en daarmee ook het inventariseren, categoriseren en publiceren van eventuele aanvullende Hoog Risico algoritmen in de bedrijfsprocessen van de SVB.

Inlichtingenbureau

In 2024 start het IB met het publiceren van één algoritme. Dit dient als casus om te ervaren wat er bij publicatie komt kijken. In totaal is het IB (mede)verantwoordelijk voor 25 algoritmen. Dit zijn allemaal Hoog Risico algoritmen. Het IB zal inventariseren hoeveel capaciteit en welke kennis en processen nodig zijn om de publicatie op te schalen, zodat het IB eind 2025 voldoet aan de verplichting om al de algoritmen waar het IB (mede)verantwoordelijk voor is te publiceren.

Dit is een forse opgave voor een kleine organisatie als het IB. SZW gaat daarom het gesprek aan met het IB om te onderzoeken hoe het publiceren van algoritmen kan worden bespoedigd. Bij de volgende rapportage over de planning en voortgang van het Algoritmenregister wordt hierop teruggekomen.

Kerndepartement SZW en Arbeidsinspectie

Kerndepartement

Het kerndepartement SZW heeft een eerste inventarisatie van Hoog Risico algoritmen uitgevoerd. Dit type algoritme is niet aangetroffen. Wat betreft Impactvolle algoritmen is de verwachting dat het aantal zeer beperkt zal zijn. Een adequate administratie ontbreekt echter nog, waardoor er nog geen zekerheid kan worden gegeven over de aanwezigheid van Hoog Risico en Impactvolle algoritmen. Ook is SZW soms opdrachtgever van ketens van ICT-uitvoerders, waarbinnen sprake kan zijn van algoritmen. In 2024 en 2025 zal door het kerndepartement SZW gewerkt worden aan het opbouwen van een overzicht en het organiseren van de benodigde processen, waardoor een vollediger zicht ontstaat op eventueel aanwezige algoritmen.

Er is één algoritme gepubliceerd: het NOW-algoritme. Dit is een Impactvol algoritme. Verder is een algoritmepublicatiebeleid in ontwikkeling.

Arbeidsinspectie

De Arbeidsinspectie heeft momenteel geen Hoog Risico algoritmen volgens de definitie van de AI Verordening in gebruik. Een nadere inventarisatie van Impactvolle algoritmen loopt nog. Na uitvoering van de inventarisatie en toetsing aan het algoritmepublicatiebeleid SZW wordt besloten welke algoritmen we publiceren in 2024 en 2025.

In het sociale domein wordt hard gewerkt aan het publiceren van algoritmen en de komende twee jaar trekken we die lijn door. Tegelijkertijd is het goed om op te merken dat dit een flinke uitdaging is die veel aandacht en inspanning vergt. Publiceren is zeker geen zaak van «een druk op de knop».

Vervolgproces

Uw Kamer wordt eind 2024 geïnformeerd over de voortgang van het publiceren van algoritmen.

De Minister van Sociale Zaken en Werkgelegenheid, C.E.G. van Gennip

De Minister voor Armoedebeleid, Participatie en Pensioenen, C.J. Schouten

X Noot
1

Met domein SZW duiden we in deze brief aan: kerndepartement SZW, Nederlandse Arbeidsinspectie (NLA), UWV, SVB en Inlichtingenbureau (IB).

X Noot
2

Motie van Dekker-Abdulaziz. Kamerstukken II, 2022/23, 36 360 VI, nr. 14.

X Noot
3

Deze definitie is van de Algemene Rekenkamer en luidt: «Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.»

Naar boven