Vergaderjaar 2024-2025
Tweede Kamer der Staten-Generaal
2
Kamerstukken
26 643

Informatie- en communicatietechnologie (ICT)
Nr. 1382

BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES
Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
Den Haag, 21 augustus 2025
Uw vaste kamercommissie voor Digitale Zaken heeft in de procedurevergadering van 23 april 2025 mij verzocht om een kabinetsreactie aan de Kamer te doen toekomen op de Rapportage AI & Algoritmerisico’s Nederland (RAN 4) van 12 februari 2025 van de Autoriteit Persoonsgegevens (AP). Met deze brief ga ik in op dit verzoek.
Algemeen
Vooropgesteld wil ik allereerst de AP via deze weg danken voor deze vierde periodieke rapportage met inzichten in de risico’s en effecten van AI & algoritmes in Nederland. Ook dit demissionaire kabinet zal zich onverminderd sterk maken voor de verantwoorde inzet van AI & algoritmes.
Op 4 juli jl. is de Nederlandse Digitaliseringsstrategie (NDS) naar de Tweede Kamer gestuurd en gepubliceerd.
1
https://www.digitaleoverheid.nl/nederlandse-digitaliseringsstrategie-nds/
Een belangrijke pijler van de NDS is AI. AI neemt een hoge vlucht, met kansen, maar brengt ook nieuwe risico’s en incidenten mee, zoals ook de AP terecht aangeeft. We omarmen deze systeemtechnologie daarom zonder naïviteit: AI zal een blijvende en transformerende rol spelen. We verzilveren als één overheid de kansen en zorgen voor de verantwoorde inzet van AI en algoritmes, zodat transparantie, veiligheid en democratische controle geregeld zijn en we ook in een krappe arbeidsmarkt onze dienstverlening op niveau kunnen houden. En eerder dit jaar, op 22 april, bood mijn ambtsvoorganger uw Kamer het overheidsbrede standpunt op Generatieve AI aan.
2
https://www.rijksoverheid.nl/documenten/rapporten/2025/04/16/het-overheidsbrede-standpunt-voor-de-inzet-van-generatieve-ai
Een herijking van het voorlopige standpunt van december 2023 waar een advies van de AP mede aan ten grondslag lag.
3
https://open.overheid.nl/documenten/814ad0a2-7e14-4fc4-8dac-1d4a3e0b02ba/file
Reactie op de algemene conclusies van het rapport
- A)
De AP concludeert dat er door de Nederlandse overheid goede stappen zijn gezet in het beheersen van AI (Artificiële intelligentie) en algoritmerisico’s met AI/algoritmekaders en -registraties. Volgens de AP is de voortgang in AI- en algoritmeregistratie nog onvoldoende, waardoor adequaat zicht ontbreekt op de hogere risicovolle toepassingen. De grip op met name AI moet versterkt worden, gelet op de snelle ontwikkelingen van deze technologie en nieuwe zorgen die dat met zich meebrengt. De AP benoemt recente nieuwe incidenten in binnen- en buitenland die raken aan meerdere toepassingsgebieden die onder de AI-verordening gereguleerd gaan worden. De AP raadt aan om de Europese standaarden uit de AI-verordening mee te nemen bij de verdere ontwikkeling van het Algoritmekader. Deze standaarden worden momenteel nog ontwikkeld vanuit de EU en zullen helpen voldoen aan de vereisten voor systemen met een hoog risico’s.
Reactie
Ik ben verheugd dat de AP de AI/algoritmekaders en -registraties als een goede stap ziet in de richting van verantwoorde inzet van AI binnen de overheid. Ook steunt de AP het brede karakter van het algoritmekader, dat verschillende vereisten uit wetgeving en geadviseerde maatregelen aan elkaar verbindt. Het aandachtspunt voor de doorontwikkeling rondom Europese standaarden neem ik ter harte en zal helpen te voldoen aan de vereisten voor systemen met een hoog risico. In het verlengde hiervan wil ik de inzet, ontwikkeling en inkoop van AI in een overheidscontext eenduidiger kunnen toetsen door waar mogelijk gezamenlijke (auditeerbare) normen voor AI-gebruik vast te stellen. In het kader van de NDS wordt dit verder doorontwikkeld.
De rapportage van de AP bevestigt dat het aantal registraties in het Algoritmeregister snel toeneemt, maar ook dat er nog een weg te gaan is. Als Nederlandse overheid zijn we een van de eerste landen met een dergelijk register. Met Rijksoverheidsorganisaties is afgesproken dat zij in ieder geval alle hoog-risico AI-systemen (categorie A in de handreiking Algoritmeregister
4
https://www.digitaleoverheid.nl/document/handreiking-algoritmeregister/
) voor het einde van dit jaar registreren in het Algoritmeregister.
5
Kamerstuk 2022/23, 26 643, nr. 1056
Daarnaast hebben de departementen uw Kamer recentelijk planningsbrieven gestuurd over hoe zij impactvolle algoritmen (categorie B) zullen opnemen.
6
Kamerstuk 2024/25, 26 643 Nr. 1286
Daarnaast verken ik of het verplicht stellen van registraties een gewenste stap is.
- B)
De AP gaat uitgebreid in op de meest recente ontwikkeling van AI-chatbots voor virtuele vriendschappen en therapeutische relaties. De AP constateert dat wereldwijd het aanbod en gebruik van AI-chatbotapps groeit. De mogelijke afhankelijkheidsrelatie die gebruikers opbouwen met- en de verkeerde inzet van chatbots kunnen zorgen voor grote risico’s. De AP concludeert dat deze chatbots over het algemeen onvoldoende transparant, onvoldoende betrouwbaar, en risicovol zijn in crisissituaties. De AP pleit voor meer onderzoek naar de risico’s, beperkingen en kansen van chatbots voor therapeutische begeleiding in mentale gezondheidszorg. Ook is het van belang dat AI-gegenereerde content of interacties ook als zodanig te herkennen zijn voor de gebruikers.
Reactie
De chatbots zullen zich moeten verhouden tot de AI-verordening, die afdwingbare eisen stelt voor transparante AI-modellen. Ontwikkelaars van AI-modellen voor algemene doeleinden zijn verplicht om technische documentatie over het model op te stellen en beschikbaar te houden voor toezichthouders en om informatie op te stellen voor ontwikkelaars die het AI-model in hun eigen AI-systeem willen integreren.
7
Zie ook: Kamerstuk 2023/2024, 26 643, Nr. 1125.
Deze verplichtingen gaan in vanaf 2 augustus 2025. De AI-verordening introduceert vanaf augustus 2026 ook transparantieverplichtingen voor bepaalde AI-systemen, waaronder voor generatieve AI-systemen zoals chatbots.
8
idem
Zo moet de gegenereerde content duidelijk gemarkeerd worden als kunstmatig gegenereerde of gemanipuleerde content. Op EU-niveau wordt nu gewerkt aan de normen ten aanzien van transparantie van gebruikte gegevens in modellen en om toepassingen verder te verduidelijken.
Daarnaast zijn, zo stelt de AP terecht vast, de privacy risico’s groot omdat mensen geneigd zijn en uitgenodigd worden om zeer persoonlijke informatie te delen met een chatbot. Als de overheid besluit generatieve AI-modellen en/of applicaties zoals AI-chatbots te ontwikkelen en/of te gebruiken dan is het belangrijk over de inkoopvoorwaarden duidelijk te zijn. In de inkoopvoorwaarden kunnen namelijk belangrijke afspraken worden vastgelegd over effectiviteit en betrouwbaarheid, het veilige gebruik van data (privacy, beveiliging) en zoveel mogelijk transparantie van gebruikte gegevens in modellen.
In het zorgdomein wordt ingezet op verantwoorde AI-ontwikkeling en -gebruik. Het Ministerie van Volksgezondheid, Welzijn en Sport (VWS) draagt bij aan het actief identificeren van kansen en uitdagingen voor de opschaling van AI in de zorg. Als het gaat om het pleidooi van de AP om meer onderzoek te doen naar de risico’s en implicaties van chatbots op bijvoorbeeld effectiviteit/ betrouwbaarheid en op (verslavings)gedrag, dan kan ik u melden dat er momenteel niet specifiek voor therapeutische begeleiding in mentale gezondheidszorg onderzoek wordt gedaan. Wel komen kansen en uitdagingen terug in verschillende rapportages en analyses.
9
www.datavoorgezondheid.nl/ai
Daarnaast bundelt een groep toonaangevende zorginstellingen haar krachten om de inzet van generatieve AI in de zorg op een verantwoorde manier te versnellen. VWS heeft ingezet op een subsidieverstrekking aan ZonMW (ZonMw programmeert en financiert onderzoek en vernieuwing in gezondheid, zorg en welzijn) om in te zetten op de validatie van taalmodellen. Dit is momenteel in volle gang, het consortium RIGH:T
10
Het Nederlands Adaptief Consortium voor Verantwoorde Implementatie van Generatieve AI in de Zorg. De deelnemers zijn het LUMC, Elisabeth-Tweesteden Ziekenhuis, UMCG, Erasmus MC, UMC Utrecht, Maasstad Ziekenhuis, Frisius MC en GGZ Noord-Holland-Noord.
is hiermee bezig.
11
https://bio.link/rightconsortium
- C)
Voorts stelt de AP vast dat uit de praktijk blijkt dat voor een goede beheersing van AI-systemen in overheidsorganisaties een meer alomvattende open en verantwoorde aanpak nodig is, die verder gaat dan de focus op een specifieke wet- en regelgeving, maar uitgaat van een meer holistische benadering voor cross-sectorale regelgeving of samenloop van regelgeving en andere kaders. Organisaties met een voldoende mate van volwassenheid weten regie te nemen en de kansen voor positieve inzet en bloeiende innovatie te omarmen. Het is bijvoorbeeld belangrijk dat ambtenaren en burgers ook weten wat AI precies doet en dat ze daarbij de juiste vragen kunnen stellen en/of en tijdig gebreken herkennen om AI desgewenst te verbeteren. Bij de inzet van algoritmes en AI is steeds meer sprake van een AI-keten. Dit vraagt om een samenspel van systemen en organisaties die op elkaar voortbouwen concludeert de AP. Dit zijn complexe rollen waarbij het delen van informatie in de keten is nodig om te komen tot een goede samenwerking en een passende verantwoordelijkheidsverdeling.
Reactie
Ik ben het ermee eens dat voor een goede beheersing van risico’s een meer alomvattende, open en verantwoorde aanpak nodig is en daar werk ik ook aan. AI heeft in de recente jaren een enorme vlucht genomen. De omarming en inpassing daarvan gaat met vallen en opstaan. Nieuwsgierige medewerkers in organisaties hebben de impact van AI geagendeerd en ermee geëxperimenteerd, weerstanden worden overwonnen, het gebruik begint te normaliseren, fouten ontstaan en er zijn nieuwe regels. Een volwaardige en verantwoorde inzet van AI waarbij de mogelijkheden worden benut en de risico’s vermeden of gemitigeerd, vraagt om verdere professionalisering van organisaties op dit punt. Een volwassenheidsmodel, zoals de AP benoemt, is een nuttig handvat daarbij. In het Algoritmekader
12
https://minbzk.github.io/Algoritmekader/voldoen-aan-wetten-en-regels/maatregelen/0-org-06-volwassenheidsmodel/index.html
voor overheden heb ik dan ook enkele voorbeelden van een volwassenheidsmodel opgenomen. Deze raken ook aan de eerste aanzet die de AP heeft gedaan voor een meerjarig actieplan om AI-geletterdheid binnen organisaties te bevorderen, waarvoor ik de AP erkentelijk ben. Terecht stelt de AP dat AI-geletterdheid belangrijk is, omdat het ons in staat stelt, in de verschillende rollen die we hebben, om met kritisch inzicht naar AI te kijken. Op verschillende manieren wordt gewerkt aan het bewerkstellingen van meer AI-vaardigheden van ambtenaren. Zo wordt binnen het programma digitaal vakmanschap ingezet op het versterken van digitale vaardigheden van ambtenaren, waaronder AI- en datavaardigheden. Generatieve AI is hierbij een expliciet onderdeel. In het programma worden zowel de technische als juridische aspecten van generatieve AI meegenomen, voor zover dit noodzakelijk is voor het goed uitvoeren van het werk. Om de digitale kennis te verbeteren is de Rijksacademie voor Digitalisering en Informatisering Overheid (RADIO) opgericht. Zij biedt bijvoorbeeld een basiscursus aan over de kansen en risico's van generatieve AI voor overheidsambtenaren. Verder zal er in het kader van de NDS actief worden ingezet op AI-geletterdheid en wordt dit vraagstuk overheidsbreed opgepakt.
- D)
De toezichthouders intensiveren de voorbereidingen op de AI-verordening en de inbedding daarvan in Nederland, stelt de AP vast. Dat doen toezichthouders door uitleg te geven hoe organisaties aan de eisen kunnen voldoen. Dit proces loopt nog. De AP stelt vast dat bedrijven en overheidsorganisaties aan het inspelen zijn op de nieuwe vereisten.
Reactie
Sinds de inwerkingtreding van de Europese AI Verordening op 1 augustus 2024, heeft de Europese Commissie twee officiële richtlijnen gepubliceerd: over de definitie van een AI-systeem en over verboden AI-praktijken, beide gepubliceerd in februari 2025. Deze richtsnoeren zijn bedoeld om stakeholders te ondersteunen bij het interpreteren van de wet. Ze dienen gezien te worden als niet bindende, levende documenten. Zoals ook de AP vaststelt, zijn bedrijven en overheidsorganisaties al aan het inspelen op deze nieuwe vereisten.
Eind 2024 brachten de Rijksinspectie Digitale Infrastructuur (RDI) en de AP een advies uit over de inrichting van het toezicht op de AI-verordening in Nederland, in opdracht van de ministeries van EZ, BZK en JenV.
13
Eindadvies toezicht op AI: sectoraal en centraal gecoördineerd | Autoriteit Persoonsgegevens
Momenteel bereidt het kabinet de inrichting van dit toezicht voor. Hierover zal uw Kamer in het najaar van 2025 nader worden geïnformeerd. Op basis van de uitvoeringswet – die eveneens in voorbereiding is – zullen de betrokken toezichthouders uitvoerbaarheidstoetsen uitvoeren om in kaart te brengen wat de financiële consequenties van deze (nieuwe) toezichtstaken zijn.
Tot slot
Het demissionaire kabinet blijft zich onverminderd inzetten om grip te krijgen op algoritmes en AI en om de belangrijkste zorgen die in de samenleving spelen met name rond de nieuwste AI-ontwikkelingen, op te pakken. De periodieke rapporten van de AP zijn een goede graadmeter en de uitkomsten stellen het kabinet in staat om daar waar nodig, het beleid aan te scherpen.
De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
E. van
Marum