2025D27155

Lijst van vragen
De vaste commissie voor Digitale Zaken heeft een aantal vragen voorgelegd aan de demissionair Minister van Binnenlandse Zaken en Koninkrijksrelaties over de brief d.d. 22 april 2025 inzake Overheidsbreed standpunt generatieve AI (Kamerstuk 26 643, nr. 1331).
De voorzitter van de commissie,
Wingelaar
Adjunct-griffier van de commissie,
Muller
Nr | Vraag
1 | Hoe kan het overheidsbreed standpunt voor de inzet van generatieve AI ook voor externe partijen die diensten leveren aan overheidsorganisaties, gaan gelden?
2 | Hoe wordt bij het gebruik van generatieve AI door overheidsmedewerkers beoordeeld of er sprake is van gevoelige of vertrouwelijke informatie? Wie beoordeelt dat? Welke criteria en kaders gelden daarbij?
3 | In hoeverre wordt er nu al gebruik gemaakt van generatieve AI door overheidsmedewerkers?
4 | Heeft dit standpunt betrekking op het gebruik door overheidsmedewerkers bij het ontwikkelen van beleid of ook op het gebruik ervan bij het beoordelen van allerlei aanvragen (bijvoorbeeld vergunningen en subsidies) van burgers? Als dat laatste het geval is, in hoeverre kan dat zonder aanpassing van wet- en regelgeving? Of is er nog aanpassing van wet- en regelgeving nodig? Zo ja, welke wet- en regelgeving?
5 | Hoe breed wordt generatieve AI momenteel in de overheid gebruikt? In welke domeinen en met welke doelen worden modellen vooral gebruikt?
6 | Wordt generatieve AI momenteel gebruikt in het opstellen van overheidscommunicatie of beleidsstukken? Zo ja, kunt u aangeven hoeveel overheidsberichten en beleidsteksten nu door AI worden geschreven?
7 | Hecht u er waarde aan dat burgers die informatie van de overheid ontvangen of opzoeken, teksten lezen die daadwerkelijk door mensen zijn geschreven?
8 | Garandeert u dat overheidscommunicatie en beleidsstukken altijd door mensen worden geschreven, en hierin geen gebruik wordt gemaakt van generatieve AI?
9 | Indien er generatieve AI is gebruikt in het schrijven van een overheidsbericht of een beleidsstuk, hoe kunnen burgers dan weten of het afkomstig is van een mens of een AI-model?
10 | Welke mogelijkheden heeft u om teksten die (mede) door generatieve AI zijn geschreven, te voorzien van een disclaimer dat de tekst afkomstig is van een AI-model?
11 | Hoe kunnen burgers zeker weten dat de overheid op een menselijke manier met hen communiceert, als er steeds meer generatieve AI door de overheid wordt gebruikt?
12 | Welke rol speelt generatieve AI in de taakstelling van de overheid om te bezuinigen op het eigen overheidsapparaat? Welke taken worden volgens dit kabinet straks opgevuld door generatieve AI en is deze visie daar ook op van toepassing?
13 | Hoe jaagt u aan dat effectieve AI-toepassingen makkelijk gedeeld en gebruikt worden tussen verschillende overheden?
14 | Hoe voorkomt u dat onjuiste informatie uit een generatieve AI-toepassing wordt verwerkt in overheidsberichten en beleidsstukken?
15 | Hoe garandeert u de echtheid en betrouwbaarheid van uitingen die (mede) door generatieve AI tot stand komen?
16 | Wie is er verantwoordelijk als door generatieve AI onjuiste informatie in een officieel document terechtkomt?
17 | Houdt u in de overheidsbrede visie over generatieve AI rekening met de ingebouwde bias en discriminatoire werking van dergelijke systemen?
18 | Komt er een klachtmechanisme voor burgers die denken dat zij benadeeld zijn door een AI-gestuurde beslissing?
19 | Hoe wordt de betrokkenheid van de Tweede Kamer, provinciale staten, gemeenteraden en waterschappen geborgd in deze visie? Hoe zorgt u ervoor dat de relevante vertegenwoordigers mee kunnen besluiten over het gebruik van generatieve AI?
20 | Welke onafhankelijke toezichthouders zijn betrokken bij het beoordelen van AI-toepassingen binnen de overheid? Welke mogelijkheden hebben zij om gebruik stil te leggen als het niet in lijn is met de wet of met de visie?
21 | Welke gevolgen heeft het breder gebruiken van generatieve AI in de overheid op het vertrouwen dat mensen hebben in het openbare bestuur, omdat zij aannemen dat ze communiceren met mensen en niet met AI-gegenereerde teksten?
22 | Blijft generatieve AI altijd een hulpmiddel voor medewerkers en zullen mensen altijd verantwoordelijk blijven voor de communicatie, het beleid en de beslissingen die burgers aangaan?
23 | Wat doet uw visie om situaties zoals in Amsterdam, met de «Slimme Check», te voorkomen? 1 Trouw, 6 juni 2025, «Amsterdam wilde met AI de bijstand eerlijker en efficiënter maken. Het liep anders.»
24 | Op welke wijze wordt binnen alle overheidsorganisaties geborgd dat de handreiking daadwerkelijk wordt toegepast?
25 | Wordt er voorzien in gestructureerde (bij- en na)scholing voor compliance officers, juristen en ontwikkelaars met betrekking tot generatieve AI?
26 | Hoe moeten de verschillende expertises die betrokken worden bij het bouwen en aanschaffen van generatieve AI worden geworven (rekening houdend met de arbeidstekorten in deze sector)? Kan het kabinet daar ook over adviseren?
27 | Wat zou de meerwaarde van een ethische commissie zijn voor een organisatie en waarom is er gekozen om als advies te geven een ethische commissie te overwegen in plaats van dit aan te bevelen?
28 | Hoe worden organisaties beoordeeld op de aanbevelingen die worden gedaan in de handreiking? Hoe wordt er geëvalueerd hoe deze handreiking overheidsbreed wordt opgepakt en toegepast?
29 | Waarom wordt er in de handreiking aangegeven dat er bij voorkeur in het algoritmeregister geregistreerd moet worden en niet standaard?
30 | Hoe wordt het Algoritmekader in overheidsorganisaties gestandaardiseerd?
31 | In welke mate is het Algoritmekader sluitend genoeg dat het goede handvatten geeft en open genoeg dat overheidsorganisaties er maatwerk op kunnen toepassen?
32 | Hoe wordt er op toegezien dat met alle kaders en impact-assessments daadwerkelijk uitgesloten wordt dat grondrechten geschonden worden?
33 | Hoe wordt er toegezien op de aanbevelingen over de risicoanalyses en of deze ook daadwerkelijk worden uitgevoerd?
34 | Wat wordt er bedoeld met «verken mogelijkheden van Europese of Nederlandse AI gebruik te maken»? Hoe ziet dit er volgens het kabinet uit?
35 | Hoe wordt in de praktijk gecontroleerd of AI-toepassingen echt voldoen aan de bestaande wet- en regelgeving?
36 | Waarom is ervoor gekozen om in het nieuwe standpunt minder nadruk te leggen op risicoanalyses?
37 | Welke onderdelen van het voorlopige AI-standpunt uit 2023 werden precies als te streng ervaren door overheidsorganisaties?
38 | Welke overheden en departementen zijn allemaal betrokken geweest bij het uitwerken van dit standpunt?
39 | Wanneer wordt generatieve AI volgens u «optimaal benut»?
40 | Is het beschikken over een risicoanalyse en waar relevant een Data Protection Impact Assessment (DPIA) een randvoorwaarde voor het in gebruik nemen van een AI-toepassing binnen de overheid?
41 | Als er AI-toepassingen worden afgenomen zonder te beschikken over een risicoanalyse, wordt deze dan buiten werking genomen? Hoe ziet u hierop toe?
42 | Welke partijen bedoelt u als u zegt dat risicoanalyses met input van een «zo divers mogelijke groep experts binnen of buiten de organisatie» moet worden opgesteld?
43 | Wie bepaalt welke methode geschikt is voor de verplichte risicoanalyse bij het inzetten van generatieve AI?
44 | Hoe wordt gehandhaafd dat ambtenaren geen AI-toepassingen gebruiken die onder consumentenvoorwaarden vallen?
45 | Is er al een concreet plan voor het lokaal draaien van AI-modellen op overheidssystemen?
46 | Dienen bij het inkopen van generatieve AI-modellen en/of -applicaties ook afspraken gemaakt te worden over het vermijden van strategische afhankelijkheden van één of enkele (niet-Europese) partijen?
47 | Hoe voorkomt u dat overheden strategisch afhankelijk worden van één of enkele AI-leveranciers?
48 | Welke eisen stelt u aan de manier waarop AI-modellen getraind zijn?
49 | Mogen overheidsinstanties gebruikmaken van generatieve AI-modellen die getraind zijn op een manier dat het auteursrecht van makers is geschonden?
50 | Stelt u als eis aan AI-modellen die de overheid afneemt dat makers altijd eerlijk gecompenseerd zijn als modellen getraind zijn op hun werk?
51 | Hoe breed is de inzet van generatieve AI binnen overheidsorganisaties nu?
52 | In welke afdelingen en binnen welke organisaties wordt generatieve AI nu het meest gebruikt? Kunt u dit uitdrukken in harde cijfers?
53 | Hoe dienen medewerkers geïnformeerd te worden over het effectieve en verantwoorde gebruik van deze technologie? Wanneer is daar volgens u sprake van?
54 | Hoe voorkomt u dat medewerkers gebruik maken van reguliere toepassingen, zoals ChatGPT?
55 | Hoe groot is nu het gebruik van AI-toepassingen onder reguliere consumentenvoorwaarden binnen de overheid?
56 | Waarom wordt het gebruik van Europese AI-toepassingen alleen «aanbevolen» en niet afgedwongen?
57 | Hoe zorgt u ervoor dat overheden niet alsnog massaal gebruik maken van Amerikaanse of Chinese AI-toepassingen, die de strategische afhankelijkheid van niet-Europese bedrijven alleen maar doen toenemen?
58 | Hoe ziet u erop toe dat alleen overheidsspecifieke AI-toepassingen binnen organisaties worden gebruikt? Wat zijn de gevolgen als iemand wél onder reguliere consumentenvoorwaarden AI-toepassingen gebruikt?
59 | Wat doet u om de betrouwbaarheid van Nederlandse taalmodellen in generatieve AI te doen toenemen?
60 | Welke rol ziet u uiteindelijk voor AI-toepassingen die in de voorgenomen Nederlandse AI-faciliteit worden ontwikkeld? Committeert de overheid zich aan het afnemen van deze toepassingen?
61 | Reguleert of normeert u ook het gebruik van AI-modellen op basis van hun CO2-uitstoot?
62 | Hoe jaagt u duurzaamheid aan binnen het gebruik van AI-toepassingen, wetende dat deze een grote uitstoot van CO_2 kennen door de benodigde rekenkracht?
63 | Volgt u de analyse van de Autoriteit Persoonsgegevens dat reguliere AI-toepassingen onder consumentenvoorwaarden niet acceptabel is voor gebruik door overheden, omdat er oneigenlijk met data wordt omgegaan?
64 | Welke gevolgen heeft de overheidsbrede visie op het gebruik van telefoons, computers en apps waar AI-toepassingen onder consumentenvoorwaarden zonder opt-out standaard worden ingebouwd? Gaat de voorkeur uit naar het gebruiken van platforms waar geen AI-toepassingen zijn ingebouwd?
65 | Welke gevolgen heeft de overheidsbrede visie op het gebruiken van Copilot binnen Microsoft Teams door overheden? Is dit voortaan niet meer toegestaan?
66 | Heeft u deze visie afgestemd met de verschillende gemeenten die nu juist experimenteren met het gebruik van Copilot?
67 | Hoe ziet u erop toe dat de AI-geletterdheid van medewerkers feitelijk toeneemt? Bent u bereid hierin dwingend op te treden om cursussen en leertrajecten een voorwaarde te maken voor het mogen gebruiken van AI-toepassingen?
68 | Hoe bent u bereid inzicht te krijgen in het gebruik van AI door toeleveranciers waar de overheid mee samenwerkt? Zullen zij een nieuwe mate van transparantie moeten geven over hun werkprocessen voordat overheden diensten van hen afnemen?
69 | Wanneer is er volgens u sprake van een «gecontroleerde niet-productieomgeving» en welke data mag hierin wél verwerkt worden?
70 | Bent u van mening dat er één centrale omgeving/'proeftuin» moet zijn waarin alle overheden veilig kunnen experimenteren met generatieve AI, zodat kennis per definitie wordt uitgewisseld met alle betrokkenen?
71 | Welke «betere afspraken» beoogt u te maken met leveranciers voor de inkoop van generatieve AI-toepassingen?
72 | Hoe voorkomt u dat het inrichten van verschillende proeftuinen voor overheden niet als gevolg heeft dat kennis niet voortvarend wordt uitgewisseld?
73 | Vindt u dat AI-toepassingen die door overheden worden gebruikt altijd volledig uitlegbaar moeten zijn, zodat keuzes door de overheid altijd goed kunnen worden verantwoord?
74 | Hoe betracht u uitlegbaarheid en verantwoording bij het gebruik van AI-toepassingen die níet open source zijn? Welke mogelijkheden zijn er om gesloten modellen alsnog transparanter te maken?
75 | Waarom kiest u er niet voor om uitsluitend open source-applicaties te gebruiken, in plaats van dit enkel aan te bevelen?
76 | Hoe gaat u het gebruik van open source-applicaties daadwerkelijk doen groeien als u slechts een aanbeveling voorstelt en geen harde doelstelling?
77 | Wat verwacht u precies van overheden als u hen vraagt om «[er] rekening mee te houden» dat AI-modellen kunnen hallucineren?
78 | Welke technieken zijn er om de kans op fouten door AI-toepassingen te verkleinen en wat doet u om deze technieken zo breed mogelijk toe te passen?
79 | Hoe voorkomt u dat foute informatie uit een AI-toepassing leidt tot een beslissing die nadelig uitpakt voor burgers?
80 | Kunnen burgers zich beroepen op het recht op inzage van hoe hun gegevens zijn verwerkt in een AI-toepassing die wordt betrokken in de besluitvorming van de overheid?
81 | Hoe gaat u samenwerking tussen overheden op het gebied van AI-toepassingen gebruiken en ontwikkelen vormgeven? Wanneer krijgt deze samenwerking vorm?
82 | Welke garanties vraagt u bij het inkopen van AI-toepassingen voor het respecteren van auteursrecht en het verzekeren van een eerlijke compensatie voor makers wiens producties hierin zijn verwerkt?
83 | Welke concrete pilots met generatieve AI zijn sinds 2024 gestart binnen de rijksoverheid, provincies of gemeenten?
84 | Hoe wordt vastgesteld of een AI-toepassing daadwerkelijk bijdraagt aan publieke doelen zoals genoemd in de handreiking?
85 | Welke maatregelen zijn getroffen bij de reeds gestarte pilots om ambtenaren AI-geletterd te maken, zoals aanbevolen in hoofdstuk 4.2 van de handreiking?
86 | Is het oprichten van een ethische commissie door overheidsorganisaties verplicht of slechts een aanbeveling?