CXLVII Grip op algoritmische besluitvorming bij de overheid: de rol van de Eerste Kamer

R VERSLAG VAN EEN SCHRIFTELIJK OVERLEG

Vastgesteld 28 juni 2024

In de voorgaande zittingsperiode heeft de Eerste Kamer tijdens het plenaire debat over grip op algoritmische besluitvorming, dat op 21 maart 2023 in de Kamer is gehouden, de motie-Veldhoen (GroenLinks) c.s. over codering van algoritmen binnen het wetgevingsproces aangenomen.¹

N.a.v. brieven van 31 oktober 2023 – inzake de ontwikkeling van een nieuwe werkmethode «Uitvoeringsgericht wetgeven» – en van 4 maart 2024 – over de resultaten en vervolgstappen inzake de ontwikkeling van de nieuwe werkmethode²- hebben de leden van de sedert 16 januari 2024 ingestelde vaste commissie voor Digitalisering op 24 april 2024 een brief gestuurd aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties.

De Staatssecretaris heeft op 28 juni 2024 gereageerd.

De vaste commissie voor Digitalisering³ brengt bijgaand verslag uit van het gevoerde schriftelijk overleg.

De griffier van de vaste commissie voor Digitalisering, Van Dooren

BRIEF VAN DE VOORZITTER VAN DE VASTE COMMISSIE VOOR DIGITALISERING

Aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties

Den Haag, 24 april 2024

In de voorgaande zittingsperiode heeft de Eerste Kamer tijdens het plenaire debat over grip op algoritmische besluitvorming, dat op 21 maart 2023 in de Kamer is gehouden, de motie-Veldhoen (GroenLinks) c.s. over codering van algoritmen binnen het wetgevingsproces aangenomen.⁴Bij deze motie werd de regering verzocht een nieuwe werkwijze van het wetgevingsproces te onderzoeken waarbij in geval van wetgeving die door of met behulp van algoritmen wordt uitgevoerd, de kaders voor de daaraan ten grondslag liggende codes door de wetgever zelf worden uitgeschreven en zo onderdeel zijn van de parlementaire behandeling.

De leden van de vaste commissies voor Justitie en Veiligheid en Binnenlandse Zaken bespraken in een gecombineerde commissievergadering op 31 oktober 2023 uw brief inzake de ontwikkeling van een nieuwe werkmethode «Uitvoeringsgericht wetgeven» en besloten de motie-Veldhoen c.s. als «niet uitgevoerd» te handhaven in afwachting van toegezegde nadere informatie begin 2024.⁵ Bij brief van 4 maart 2024 over de resultaten en vervolgstappen inzake de ontwikkeling van de nieuwe werkmethode kwam u hieraan tegemoet.⁶ De leden van de sedert 16 januari 2024 ingestelde vaste commissie voor Digitalisering hebben kennisgenomen van uw brief tijdens een commissievergadering op 12 maart 2024. De leden van de fractie GroenLinks-PvdA hebben naar aanleiding hiervan diverse vragen en opmerkingen.

Vragen en opmerkingen van de leden van de fractie GroenLinks-PvdA

De leden van de fractie GroenLinks-PvdA hebben kennisgenomen van de brief van 4 maart 2024 en achten de motie-Veldhoen (GroenLinks) c.s. nog niet voldoende afgedaan. Allereerst verbazen de leden zich over de formulering in de brief waar wordt gesteld dat de Kamer «wordt geïnformeerd over de resultaten en vervolgstappen inzake de ontwikkeling van een werkmethode waarbij, wanneer wetgeving door of met behulp van ICT wordt uitgevoerd, de digitale uitvoering onderdeel is van het wetgevingsproces». De leden zijn verbaasd omdat de motie niet ziet op wetgeving die door of met behulp van ICT wordt uitgevoerd, maar specifiek op wetgeving die door middel van algoritmes wordt uitgevoerd. Daarbij draait het niet slechts om wetgeving die wordt vertaald naar eenvoudige als-dan-beslisregels, maar om vertaalslagen waarbij wettelijke definities en normen worden geïnterpreteerd en discretionaire ruimte nader wordt ingevuld. Deze vertaalslagen kunnen rechtsgevolgen voor burgers hebben terwijl ze zich aan democratische controle onttrekken. In dit kader hebben de leden van de GroenLinks-PvdA-fractie de volgende vraag: kunt u reflecteren op de formuleringen en beschreven reikwijdte uit de brief en de uitgewerkte werkmethode van het Beleidskompas in relatie tot de hiervoor geschetste kern van de motie?

De door u geformuleerde samenvatting van de motie dat het doel van de motie is om tijdig werkbare en democratisch gelegitimeerde kaders te realiseren voor de ICT-uitvoering van wetgeving dekt de lading dan ook niet in de optiek van genoemde leden. Het vergt inspanningen om AI-toepassingen voor besluitvorming binnen de overheid op een verantwoorde manier te ontwikkelen en te implementeren, en daar dient in de optiek van de leden dan ook een apart «kompas» inzake AI-toepassingen voor te worden ontwikkeld. Ziet u deze meerwaarde ook en bent u het eens met de leden dat dit de merites van de motie behelst?

Onderzoek laat zien dat er rechtsstatelijke kwesties ontstaan, doordat AI-systemen soms op een weinig transparante, of zelfs onnavolgbare, wijze opereren. Ook laten ze vaak weinig ruimte over voor maatwerk. Daarnaast bestaan er bij de inzet van AI-systemen voor besluitvorming risico’s op schending van mensen- en grondrechten. De hiervoor genoemde zaken zouden de leden van de fractie GroenLinks-PvdA graag terugzien in de uitvoering van de motie.

De leden adviseren u voorts het Rathenau-rapport «Grip op algoritmische besluitvorming bij de overheid» te betrekken in uw reactie inzake de uitvoering van de motie, omdat het rapport specifiek toeziet op heldere norming van AI, toezicht met o.a. menselijke controle en tussenkomst, een impact assessment inzake algoritmes, en toekomstbestendige wettelijke waarborgen.⁷

Tot slot lezen de leden van de fractie GroenLinks-PvdA in de brief van 4 maart 2024 dat u zich «ervoor inspant om aan de werkmethode bekendheid te geven en inbedding in de departementale organisaties te bewerkstelligen, opdat er in het wetgevingsproces daadwerkelijk mee wordt gewerkt». De leden merken op dat hier feitelijk een inspanningsverplichting uit voortvloeit. Gezien het belang van dit onderwerp vinden de leden een resultaatverplichting beter passend. Kunt u daarop reflecteren?

De leden van de vaste commissie voor Digitalisering zien uw reactie – bij voorkeur binnen vier weken – met belangstelling tegemoet.

De voorzitter van de vaste commissie voor Digitalisering, G.V.M. Veldhoen

BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Eerste Kamer der Staten-Generaal

Den Haag, 28 juni 2024

Hierbij bied ik u, mede namens de Minister voor Rechtsbescherming, de antwoorden aan bij de schriftelijke vragen naar aanleiding van mijn brief van 4 maart 2024 inzake de resultaten en vervolgstappen van de werkmethode «ICT-Uitvoeringsgericht wetgeven», die door de fractie van GroenLinks-PvdA zijn gesteld op 24 april 2024.

De GroenLinks-PvdA-fractie stelt dat de motie Veldhoen, waarin de regering wordt verzocht een nieuwe werkwijze van het wetgevingsproces te onderzoeken,⁸ niet ziet op wetgeving die door of met behulp van ICT wordt uitgevoerd, maar specifiek op wetgeving die door of met behulp van algoritmes wordt uitgevoerd. Daarbij draait het niet slechts om wetgeving die wordt vertaald naar eenvoudige als-dan beslisregels, maar om vertaalslagen waarbij wettelijke definities en normen worden geïnterpreteerd en discretionaire ruimte nader wordt ingevuld. Deze vertaalslagen kunnen rechtsgevolgen voor burgers hebben terwijl ze zich aan democratische controle onttrekken. In dit kader vragen de leden om een reflectie op de antwoordbrief van 4 maart jl. en de daarin genoemde werkmethode in relatie tot de motie.

In reactie op deze vraag wil ik benadrukken dat het door de motie beoogde doel om in het wetgevingstraject zelf, in plaats van in de daarop volgende fase van uitvoering, duidelijkheid te bieden over de concrete (digitale) toepassing, wordt bereikt door de ontwikkelde werkmethode «ICT-Uitvoeringsgericht wetgeven» (hierna: UGW). Deze methode biedt – via de (memorie/nota van) toelichting – vroegtijdig zicht op de vertaalslag wetgeving – uitvoering en zorgt voor werkbare en democratisch gelegitimeerde kaders. Digitale uitvoering wordt daarmee onderdeel van het wetgevingsproces en onderwerp van parlementaire controle. UGW heeft betrekking op wetsgebaseerde en door mensen geprogrammeerde algoritmen. Dit type algoritmen wordt met name gebruikt voor het geautomatiseerd nemen van primaire besluiten (toekenning van uitkeringen, heffing van belastingen, verlening van vergunningen). UGW ziet dus – anders dan de leden lijken te menen – op wetgeving die wordt vertaald naar als-dan-beslisregels en op vertaalslagen waarbij wettelijke definities en normen worden geïnterpreteerd en discretionaire ruimte nader wordt ingevuld. De lading van de motie wordt op dit punt dus gedekt.

Naast wetsgebaseerde algoritmen vallen statistische algoritmen te onderscheiden, waarbij beslisregels worden gebaseerd op de analyse van grote hoeveelheden (historische) trainingsdata. De inzet van statistische algoritmen, bijvoorbeeld in de vorm van detectiemodellen voor het toezicht op de naleving van wetgeving of het bepalen van doelgroepen van een regeling, kan worden geschaard onder artificial intelligence (AI). Voor deze door machine learning ontwikkelde beslisregels, die zonder of met veel minder menselijke tussenkomst vastgesteld en toegepast worden, zijn andersoortige kaders nodig, waarin met de ontwikkeling van het Algoritmekader overheid wordt voorzien.⁹

Voorts verzoekt de GroenLinks-PvdA-fractie om een resultaatsverplichting om de werkmethode UGW bekendheid te geven en inbedding in de departementale organisaties te bewerkstelligen.

In reactie hierop merk ik op, dat de bewindslieden van de andere departementen verantwoordelijk zijn voor hun eigen wetgeving en voor de werkwijze die wordt gevolgd bij het opstellen van voorstellen daartoe. Vanuit mijn coördinerende rol terzake van digitalisering zet ik in op bewustmaking van de werkmethode UGW voor situaties waarin wetgeving vertaling naar algoritmen behoeft, door het werken ermee te stimuleren en opleiding te faciliteren. Ook zal ik bevorderen dat het komende jaar enkele wetgevingstrajecten met toepassing van UGW opgepakt gaan worden; hierbij is goede begeleiding randvoorwaardelijk. Ten slotte werken de departementen momenteel gezamenlijk aan borging en organisatorische inbedding van het Beleidskompas, waar UGW onderdeel van uitmaakt.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties Digitalisering en Koninkrijksrelaties, A.C. van Huffelen

---

1 Kamerstukken I 2022/23, CXLVII, F.

2 Kamerstukken I 2023/24, CXLVII, P.

3 Samenstelling:

Oplaat (BBB), Van Gasteren (BBB) (ondervoorzitter), Panman (BBB), Goossen (BBB), Fiers (GroenLinks-PvdA), Roovers (GroenLinks-PvdA), Veldhoen (GroenLinks-PvdA) (voorzitter), Ramsodit (GroenLinks-PvdA), Recourt (GroenLinks-PvdA), Kaljouw (VVD), Prins (CDA), Belhirch (D66), Dittrich (D66), Van Hattem (PVV), Nicolaï (PvdD), Nanninga (JA21), Van Apeldoorn (SP), Talsma (CU), Van den Oetelaar (FVD), De Vries (SGP), Hartog (Volt), Van Rooijen (50PLUS)

4 Kamerstukken I 2022/23, CXLVII, F.

5 Kamerstukken I 2023/24, CXLVII, L.

6 Kamerstukken I 2023/24, CXLVII, P.

7 Rathenau Instituut, Grip op algoritmische besluitvorming bij de overheid: Rol van de Eerste Kamer, Den Haag maart 2021, Kamerstukken I 2021/22, CXLVII, nr. A.

8 Kamerstukken I 2022–2023, CXLVII, F.

9 Algoritmekader Algoritmes - Digitale Overheid en https://algoritmes.overheid.nl