26 643 Informatie- en communicatietechnologie (ICT)

Nr. 1209 VERSLAG VAN EEN COMMISSIEDEBAT

Vastgesteld 11 juli 2024

De vaste commissie voor Digitale Zaken en de vaste commissie voor Financiën hebben op 17 april 2024 overleg gevoerd met mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering, en de heer Van Rij, Staatssecretaris Fiscaliteit en Belastingdienst, over:

• de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 24 mei 2023 inzake toezicht in het digitale domein (onder andere op AI en algoritmes) (Kamerstuk 26 643, nr. 1029);

• de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 9 juni 2023 inzake voortgang ROB-adviesrapport Sturen of gestuurd worden? Over de legitimiteit van sturen met data (Kamerstuk 26 643, nr. 1034);

• de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 7 juli 2023 inzake verzamelbrief algoritmen reguleren (Kamerstuk 26 643, nr. 1056);

• de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 21 december 2023 inzake opschaling algoritmetoezichthouder (directie Coördinatie Algoritmes bij de AP) (Kamerstuk 26 643, nr. 1110);

• de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 18 maart 2024 inzake kabinetsreactie op artikel Follow the Money inzake risicomodellen (Kamerstuk 26 643, nr. 1146);

• de brief van de Staatssecretaris Koninkrijksrelaties en Digitalisering d.d. 9 april 2024 inzake uitstel toezending reactie op verzoek van het lid Idsinga, gedaan tijdens de regeling van werkzaamheden van 19 januari 2024, over een lijst van alle algoritmen die mogelijkerwijs illegaal zijn (Kamerstuk 26 643, nr. 1150).

Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.

De fungerend voorzitter van de vaste commissie voor Digitale Zaken, Kathmann

De fungerend voorzitter van de vaste commissie voor Financiën, Tielen

De griffier van de vaste commissie voor Digitale Zaken, Boeve

Voorzitter: Kathmann

Griffier: Boeve

Aanwezig zijn acht leden der Kamer, te weten: Van Baarle, Kathmann, Krul, Meulenkamp, Six Dijkstra, Valize en Van der Werf,

en mevrouw Van Huffelen, Staatssecretaris Koninkrijksrelaties en Digitalisering, en de heer Van Rij, Staatssecretaris Fiscaliteit en Belastingdienst.

Aanvang 10.00 uur.

De voorzitter:

We gaan starten met het commissiedebat Inzet algoritmes en data-ethiek. Welkom aan al mijn collega’s van de Tweede Kamer en een bijzonder welkom aan de twee bewindspersonen: Staatssecretaris van Financiën Van Rij en Staatssecretaris Van Huffelen. Gezien de tijd die we hebben en het aantal Kamerleden denk ik dat we kunnen starten met denken dat vier interrupties in tweeën gaat lukken. En het zou mooi zijn als iedereen het een beetje kort wil houden.

Het woord is aan de heer Six Dijkstra van NSC.

De heer Six Dijkstra (NSC):

Dank u wel, voorzitter. Het Hof van Justitie van Europa heeft onlangs geoordeeld dat geautomatiseerde kredietscores strijdig zijn met artikel 22 van de AVG, het verbod op automatische besluitvorming. De landsadvocaat heeft naar aanleiding daarvan geadviseerd dat het gebruik van niet-transparante risicoprofielen via algoritmen zonder onderliggende wetgeving hoogstwaarschijnlijk illegaal is, omdat burgers daardoor rechtsbescherming missen. De gevolgen van deze uitspraak zijn dus behoorlijk verstrekkend. Geautomatiseerde risicoprofielen zijn, zonder wettelijke grondslag, verboden. Delen de staatssecretarissen die conclusie?

Ik zou graag van de Staatssecretaris Digitalisering willen weten hoeveel overheidsdepartementen er nog meer gebruik maken van algoritmen en selectiemethodes die op basis van dat advies mogelijk in strijd zijn met de AVG op dat punt. Mijn collega Idsinga heeft daarom ook het verzoek gedaan om een lijst met potentieel onrechtmatige algoritmen naar de Kamer te sturen. Daar is inmiddels een uitstelbrief op gekomen. Op welke termijn, vraag ik aan de Staatssecretaris, kunnen we die lijst verwachten?

De echte vraag is of wij als parlement de gevolgen van die uitspraak overzien. Want als we de conclusie kunnen trekken dat niet-transparante risicoprofielen zonder wettelijke grondslag in strijd zijn met de AVG, dan moeten er of een hoop algoritmen uit gebruik genomen worden of moet er een hoop nieuwe wetgeving komen. Laten we het dan ook grondig aanpakken. Een wettelijke versteviging van overheidsalgoritmen lijkt ons namelijk hard nodig. Is de Staatssecretaris dat met ons eens?

Het debat dat wij hier als Kamer doorgaans voeren over de wenselijkheid en wetmatigheid van algoritmen, is altijd achteraf, als er iets misgaat en er mensen in de verdrukking komen. Mijn fractie vindt er best wat voor te zeggen dat nieuwe, impactvolle algoritmen die persoonsgegevens verwerken bijvoorbeeld niet alleen in het Algoritmeregister vastgelegd worden, maar ook, bijvoorbeeld via een voorhangprocedure van wetgeving, langs de Staten-Generaal gaan. Dat zodat de Tweede Kamer ze aan de voorkant kan inzien en we er, indien nodig, een debat over kunnen voeren, want dan zijn algoritmen écht democratisch geborgd. Hoe kijkt de Staatssecretaris daartegen aan?

Dan wil ik het graag nog even hebben over het Implementatiekader voor de Inzet van Algoritmen, het IKA. De Staatssecretaris heeft de Kamer een flinke lijst gestuurd van de normen en maatregelen waaraan binnen de overheid voldaan moet worden om algoritmen met een grote impact in te zetten. Laat ik vooropstellen dat ik de inzet van de Staatssecretaris om grip te krijgen op algoritmen binnen de overheid waardeer. Dat willen we volgens mij allemaal, ook in deze Kamer. Zie ook alle moties die op dit vlak de afgelopen jaren zijn ingediend. Vorige maand is na het DUO-debat ook een motie aangenomen over een verplichte algoritme-apk. Ik sluit niet uit dat er bij het volgende algoritmeschandaal weer een stapeltje kaders bovenop komt. Het is allemaal sympathiek en natuurlijk goedbedoeld, maar ik ben wel een beetje bang dat we door de bureaucratische bomen het bos niet meer zien en dat we hier goed gedrag willen afdwingen met regeldruk.

Eerder zagen we bij de Belastingdienst, het UWV, de gemeente Rotterdam en DUO namelijk dat het volstrekt duidelijk was dat de algoritmen die ingezet werden om fraude mee op te sporen, niet rechtmatig waren of – laat ik het helder verwoorden – dat ze regelrecht discrimineerden. Vaak was het probleem ook niet dat dat niet tijdig gesignaleerd werd, maar dat de verantwoordelijke personen gewoon alle waarschuwingen in de wind sloegen en vrolijk doorgingen met de inzet. Het is in zo’n geval een kwestie van slecht bestuur. Mijn oprechte vraag aan de Staatssecretaris is of de huidige beleidskaders voor alle departementen werkbaar zijn. Kunnen alle grote problemen die binnen de overheid rondom algoritmen spelen, niet veel beter aangepakt worden door vast te houden aan een paar kernachtige principes en aan gewetensvol bestuur, in plaats van met een heel groot IKA met IAMA’s en alles wat daarbij komt kijken? Ik noem principes als «houd je aan de Grondwet en aan de AVG», «wees transparant richting burgers» en «zorg voor goed toezicht». Ik heb wat toezicht betreft overigens liever een sterke, goed geëquipeerde Autoriteit Persoonsgegevens met echte doorzettingsmacht, dan al die dure externe consultancybureaus die door de persoonlijke data van burgers moeten spitten.

Mijn laatste vraag stel ik mede namens de ChristenUnie. Hoe staat het met de uitvoering van de aangenomen motie-Leijten/Ceder over het uitwerken van meer samenhang tussen verschillende waardekaders?

Voorzitter. Ik rond af. Ik geloof in de schoonheid van eenvoud. Ik weet dat ik hier de strijd met de onverbiddelijke tijdsgeest aanga, maar misschien wordt het tijd om eens van het dogma af te stappen dat de overheid altijd en overal maar meer data driven moet zijn. Niet alles wat kan, moet ook. Want daar waar het de verwerking van persoonsgegevens betreft, delven meer dan eens de personen achter de gegevens het onderspit.

Dank u wel.

De voorzitter:

U heeft een interruptie van de heer Van Baarle van DENK.

De heer Van Baarle (DENK):

Dat klopt. Ik dank de heer Six Dijkstra voor zijn inbreng. Ik vraag me wel af hoe ik zijn inbreng exact moet wegen. Hij heeft het over het dilemma tussen, aan de ene kant, de noodzaak tot het scheppen van normen en, aan de andere kant, het niet doorslaan in een woud van regelgeving. Hoe moet ik dat nou zien? Bepleit de heer Six Dijkstra namens NSC dat we de zaken die we met elkaar in gang hebben gezet, namelijk het vastleggen van normen, in algemenere termen zouden moeten gaan uitvoeren? En bepleit hij dus dat je de goede praktijkstappen die je kan doorlopen om zaken non-discriminatoir te maken, niet moet vastleggen? Ziet hij liever dat algemene principes worden vastgelegd? Of begrijp ik het dan verkeerd?

De heer Six Dijkstra (NSC):

Ik dank de heer Van Baarle voor zijn vraag. Het punt dat ik wilde maken, is dat wanneer er een volgend algoritmeschandaal is, we soms als Kamer in de reflex kunnen schieten dat er een hele lijst moties komt met nieuwe maatregelen die moeten worden getroffen. Hierdoor gaat de samenhang soms nog weleens verloren.

Laat ik vooropstellen: non-discriminatoire eigenschappen van algoritmes lijkt mij een basisprincipe, een principe waar we ons altijd aan moeten houden. Mijn oprechte vraag aan de Staatssecretaris is: is die samenhang er nog wel, met alle moties die er zijn geweest, en alle extra kaders? Dat is mijn vraag. Is het niet makkelijker om het te versimpelen? Mijn punt is ook dat, wanneer er een nieuw overheidsschandaal rondom algoritmes is, ik me afvraag of dat wel wordt geconstateerd. Is er wel een functionaris gegevensbescherming of iemand anders die aangeeft dat er wordt gediscrimineerd? En is het probleem dat daar niet naar geluisterd wordt? Het lijkt mij dat daar de bottleneck zit en dat we ervoor moeten oppassen om niet meer kaders en meer regeldruk in te voeren daar waar eigenlijk een vereenvoudiging en goed toezicht het echte probleem zouden moeten oplossen?

De voorzitter:

En u heeft een interruptie van de heer Krul van het CDA.

De heer Krul (CDA):

Ik dank de heer Six Dijkstra voor zijn betoog en ik stel eerst een open vraag. Ik ben heel erg benieuwd hoe de heer Six Dijkstra naar het begrip «goed toezicht» kijkt. Hoe zou de heer Six Dijkstra bijvoorbeeld het belang van fraudeopsporing en de toezichthoudende functie die de overheid hoort te hebben wegen? Dit vraag ik ook in het licht van deze uitspraak van het Hof waar ik zelf ook uitgebreid op terug zal komen, omdat het ook gewoon kan betekenen dat we beslisregels die misschien helemaal niet zozeer algoritmisch zijn, straks ook niet meer kunnen gebruiken. Hoe weegt de heer Six Dijkstra dan de rol als het gaat om gewoon fraudeopsporing?

De heer Six Dijkstra (NSC):

Ik hoor twee vragen, een over toezicht en een over fraudeopsporing. Dat zijn natuurlijk wel twee andere dingen. Als het gaat om toezicht, vind ik het goed dat de Autoriteit Persoonsgegevens tegenwoordig een afdeling heeft die specifiek ziet op algoritmes. Tegelijkertijd zal fraudeopsporing in enige mate moeten plaatsvinden en dat kan niet altijd handmatig. Dus ik denk dat we er niet aan ontkomen dat we in sommige gevallen algoritmes gaan inzetten. Het Hof heeft geoordeeld dat dat zonder stevige wettelijke basis niet mag. Dus ik zou zeggen: laten we die wettelijke basis verstevigen. Laten we ervoor zorgen dat we met z’n allen de kaders afstellen voor de algoritmes die wel worden ingezet en die enige impact hebben op de rechtszekerheid of de rechtsbescherming van burgers en dat we daar ook goed op kunnen controleren via een toezichthouder en via transparantie richting de burgers. Mijn vraag zou ook zijn, kan dat misschien met een rol voor de Kamer via een voorhangprocedure?

De heer Krul (CDA):

Een vervolgvraag. Dus als ik het goed begrijp zegt de heer Six Dijkstra, bijvoorbeeld als het gaat om geautomatiseerde besluitvorming bij fiscale gegevens, die eigenlijk gewoon nodig zijn om op een goede manier fraude te kunnen opsporen: ja, dat is gewoon nodig. Dat is dan niet datgene waar het in zijn betoog om gaat. Dat is wel een grote zorg die ik heb. Als ik het SCHUFA-arrest goed lees, lijkt het namelijk dat ook dat binnen die geautomatiseerde besluitvorming valt. Dat lijkt mij een onwenselijke situatie.

De heer Six Dijkstra (NSC):

Hoe ik de uitspraak lees – ik ben dan ook wel benieuwd naar de duiding van de staatssecretarissen – is dat het voornamelijk ligt aan een gebrek aan additionele wetgeving boven op de AVG die dit zou moeten toestaan, omdat die automatische besluitvorming an sich in strijd is met de AVG. Ik denk niet dat we naar een situatie toe moeten waarin elk geval handmatig moet worden getoetst. Ik denk dat we af en toe wel wat kritischer mogen zijn op waar we wel of niet algoritmes voor inzetten. Maar daar kan ik in het geval van de Belastingdienst nu, op deze afstand, geen uitspraak over doen. Ik kan wel zeggen dat we een goede wettelijke borging moeten hebben voor datgene dat we wel doen.

De voorzitter:

Een interruptie van mevrouw Van der Werf.

Mevrouw Van der Werf (D66):

Ik hoorde dat collega Six Dijkstra het had over die procedure bij algoritmes bij de overheid via een voorhangprocedure. Ik snap die gedachtegang, maar er zitten natuurlijk ook risico’s aan, zeker als je bijvoorbeeld bij toeslagen kijkt, waarbij de druk natuurlijk ook vanuit de politiek heel erg is opgevoerd. Zou je dat dan niet opensource willen maken, zodat meerdere experts mee kunnen kijken en je minder gevoelig bent voor de politieke wind die er waait?

De heer Six Dijkstra (NSC):

Dat is een interessante vraag. Ik denk dat het en-en is. Als ik open source interpreteer als transparant vastleggen, dus een Algoritmeregister, is het antwoord ja. Maar tegelijkertijd zou ik denken: als er een nieuw algoritme in werking treedt dat grote impact heeft op burgers omdat het persoonsgegevens verwerkt of omdat het enige profilering van burgers teweegbrengt, moeten we daar ook een debat over kunnen voeren. Ik zeg niet dat we elke keer dat er een nieuw algoritme komt, een debat moeten aanvragen, maar in sommige gevallen zal het kunnen gebeuren dat we denken «dit is kritiek en dit is iets waarover je in elk geval het debat zou willen voeren» en dat we dat dan samen doen. Bij voorhang is het ook niet zo dat je noodzakelijkerwijs over alles een debat voert, maar dat dat debat er wel komt wanneer je dat aanvraagt.

De voorzitter:

Een vervolgvraag van mevrouw Van der Werf.

Mevrouw Van der Werf (D66):

Voorzitter, ik wil eigenlijk met mijn inbreng beginnen.

De voorzitter:

O, ik dacht dat u een vervolgvraag had. Dan is het woord aan u, mevrouw Van der Werf.

Mevrouw Van der Werf (D66):

Voorzitter. Ik vond het een antwoord waar ik mee kan leven, dus ik was de volgende in de rij.

When you invent the ship, you also invent the shipwreck, aldus de Franse filosoof Paul Virilio. Aan die uitspraak moest ik denken in het kader van generatieve AI. We hebben een schip uitgevonden waar we ontzettend veel nieuwe dingen mee kunnen. Dat biedt enorme mogelijkheden waar we de vruchten van moeten plukken. Maar het heeft ook slechte gevolgen. Daar moeten we als politiek maatregelen voor treffen, bijvoorbeeld voor het verhogen van het bewustzijn van mensen over wat mag en wat niet mag met het gebruik van AI. Terwijl de één via deepfake een leuk dansfilmpje maakt van een politicus, proberen criminelen moedwillig mensen op te lichten en af te persen met andere deepfakes. Gelukkig is dat strafbaar, net zoals niet iedereen misschien doorheeft dat Chat GPT artikelen met auteursrecht citeert. Er zijn natuurlijk regels verbonden aan het gebruik daarvan. Kan de Staatssecretaris daarop reflecteren? Wat is nodig om ervoor te zorgen dat particulieren deze kansen en gevaren goed gaan begrijpen? Want dit wordt niet alleen gebruikt in het bedrijfsleven; iedereen gaat hiermee aan de haal.

Onze wetten en regels lopen online mateloos achter in vergelijking met de fysieke wereld. Dat is ook al vaak voorgekomen in debatten over veiligheid. Daarom is het belangrijk om onze weerbaarheid te vergroten. Ik zag onlangs een onderzoek van Humo, waarin een journalist liet zien dat hij met een nieuw TikTokaccount binnen vier likes een fuik werd ingetrokken van extreem gewelddadige inhoud. Een ander onderzoek laat zien dat juist eenzame jongens vrouwonvriendelijke Andrew Tate-achtige content krijgen voorgeschoteld. Ondanks dat de AI Act in elk geval transparantie zal vereisen over dit soort algoritmes, is het vooral in ons belang dat we ons weerbaarder maken tegen de werking hiervan, zeker als het gaat om kwetsbare jongeren en kinderen.

Wat is de volgende stap na die AI Act? Hoe gaan we van transparantie naar ingrijpen tegen zaken als radicalisering en polarisering, vraag ik de Staatssecretaris. En in hoeverre wordt er bijvoorbeeld binnen de AI Act uitvoering gegeven aan de aangenomen motie van D66 en de VVD om ontwrichtende algoritmes te verbieden?

Voorzitter. Dat vraagt ook om wat meer hygiëne bij onze eigen algoritmes. Er is het Algoritmeregister dat inzichtelijk moet maken hoe de algoritmes van de overheid werken, maar dit heeft geen verplichtend karakter. Algoritmes over bijvoorbeeld opsporing en criminaliteitsbestrijding zijn uitgesloten. Dat is niet onlogisch, maar er zit natuurlijk wel een spanning achter. Deze algoritmes zorgen er bijvoorbeeld voor dat de flitspaal de foto van het kenteken koppelt. Dat zijn natuurlijk niet de meest risicovolle algoritmes, maar juist de algoritmes die bijvoorbeeld over impactvolle beslissingen gaan, zou je op een goede manier moeten en willen uitleggen. Kan de Staatssecretaris hierop ingaan?

Ten slotte, voorzitter. Ik begon mijn verhaal met de kansen die AI ons te bieden heeft. Daar zou ik ook mee willen eindigen. Het bedrijfsleven past AI al volop toe om het werk sneller, efficiënter en leuker te maken. Als AI ons saaie administratieve taken uit handen kan nemen, houden we meer uren over voor het uitdagende werk. Toch blijft de inzet ervan binnen de overheid, bijvoorbeeld zeker bij gemeenten, nog heel erg beperkt. Hoe mooi zou het zijn als een ambtenaar de tijd die hij of zij moet steken in het schrijven van standaardbrieven, kan steken in het helpen van een burger die klem is komen te zitten en die de gemeente om hulp vraagt? Ik hoor graag een reactie van de Staatssecretaris en ik ben benieuwd of zij met ons erover kan meedenken wat hier mogelijk is.

De voorzitter:

Ik zie geen interrupties. Dan is het woord aan de heer Valize van de PVV.

De heer Valize (PVV):

Voorzitter, dank voor het antwoord. Mijn inbreng is ditmaal niet zo groot. Ik heb slechts drie onderwerpen: het implementatiekader van het algoritme, de voortgang van het Algoritmeregister en de opschaling van de algoritmetoezichthouder. Het eerste onderwerp is dus het IKA. Dit is ontwikkeld op verzoek van de Kamer met als doel om overheden te ondersteunen bij de verantwoorde inzet van algoritmes. We lezen in de brieven dat het een levend document is dat verder doorontwikkeld zal worden. Het IKA is in lijn gebracht met belangrijke onderwerpen die mede de basis hebben gevormd voor de AI-verordening, de AI Act, die er inmiddels ook door is. Vandaar de volgende vragen aan de Staatssecretaris. In hoeverre is het IKA nu bekend? Weten de departementen ervan en hoe zijn de ervaringen in het veld? Ook wil de PVV graag weten of de AI Act, nu die een feit is, nog verder gaat dan het IKA en, zo ja, op welke punten? Maar dit geldt ook omgekeerd: gaat IKA ergens verder op in dan de AI Act?

Voorzitter. Dan de voortgang van het Algoritmeregister. De Kamer heeft gevraagd om de publicatie van algoritmes van de overheid te verplichten. De Staatssecretaris schreef in de verzamelbrief Algoritmen reguleren en in de brief Opschaling algoritmetoezicht dat ze er niet voor heeft gekozen om registratie te verplichten omdat zij dit in samenhang wil bezien met de definitieve tekst van de AI Act. De PVV wil duidelijk stellen dat wat in Europa speelt, geen beweegreden is of kan zijn om geen gehoor te geven aan een oproep van de Kamer. Dat gezegd hebbende wil de PVV nu graag van de Staatssecretaris vernemen hoe zij, nu de AI-verordening er is, gehoor zal geven aan deze oproep.

We hebben inmiddels vernomen dat er op dit ogenblik 340 algoritmes in dat register staan, voornamelijk aangeleverd vanuit de gemeenten. Waarom kan dit register niet gewoon al tjokvol zitten met gebruikte algoritmes? Is dat omdat er te pas en te onpas gewerkt wordt in de selectie van data? Wordt er bij departementen niet vooraf nagedacht over hoe algoritmes dienen te worden opgesteld? Ik vind dit immers schokkend. Het is belangrijk om hier goed over na te denken. Immers, als je in een sequentiële opvolging twee filters verwisselt, kan dat een heel andere uitkomst bieden. Ofwel: als je bij een legobouwpakket van een brandweerkazerne op pagina 12 begint met de instructie en dan op verschillende plekken in het boekje de instructies opvolgt, heb je uiteindelijk geen brandweerkazerne. Is er dan geen verslaglegging? Je verzint iets, je verantwoordt dat en je krijgt een akkoord vanuit de hogere hiërarchie. Indien dat niet het geval is, hoe is het dan mogelijk en wat gaat de Staatssecretaris eraan doen om dit onder controle te krijgen?

Voorzitter, tot slot de opschaling van de algoritmetoezichthouder. De Autoriteit Persoonsgegevens heeft de directie Coördinatie Algoritmes in het leven geroepen voor het toezicht houden. In het kader daarvan of van de aanscherping moet zij nu tweemaal per jaar een risicoanalyse algoritmes Nederland uitvoeren en in kaart brengen welke publieke loketten er zijn om algoritmegerelateerde problematiek te melden en in hoeverre burgers deze loketten weten te vinden. Er staat niet bij of dit tot extra regeldruk leidt, maar de PVV zou graag van de Staatssecretaris vernemen of de capaciteit er wel is om deze doelen te realiseren en wat de impact van de Europese wet- en regelgeving, zoals de AI-verordening, de Dataverordening en de Digitaledienstenverordening, op de beschikbare capaciteit gaat zijn. Ik las reeds over de toename van de financiële middelen in de komende jaren: een verdubbeling in 2024 ten opzichte van 2023 en 3,6 miljoen in de opvolgende jaren. Maar ik bedoel dus qua personeel en in relatie tot wat er nog aankomt, dus niet in de financiële middelen, want ik neem aan dat die toereikend zijn.

Voorzitter, daarmee ben ik aan het einde van mijn betoog gekomen. Dank u.

De voorzitter:

U heeft een interruptie van de heer Van Baarle en daarna een interruptie van mevrouw Van der Werf.

De heer Van Baarle (DENK):

We hebben uiteraard al heel erg lang een discussie in dit huis over de toepassing van algoritmen en ook over in hoeverre de overheid maatregelen zou moeten nemen om ervoor te zorgen dat die algoritmen geen discriminerende werking hebben. Er zijn veel voorstellen in de Kamer gedaan om waarborgen in te bouwen om algoritmen niet een discriminerende werking te laten hebben. Die heeft de PVV altijd – laat ik zeggen: in de meeste gevallen – niet gesteund, vaak met de argumentatie dat de PVV principieel eigenlijk niet zo veel moeite heeft met het gebruiken van nationaliteit en etniciteit als risicoclassificatie. De PVV vond dat eigenlijk best een goede indicator om fraude te achterhalen en mensen te profileren. Ik vraag me af wat de positie van de PVV nu is.

De heer Valize (PVV):

Ik vind dat dat thuishoort bij de departementen waar die algoritmen bepaald worden. Door verschillende commissies, zoals ze er zijn, wordt dus beoordeeld of iets is toegestaan of niet en of het verantwoord is of niet. Dat moet dus per onderdeel bekeken worden. Het doel heiligt de middelen.

De voorzitter:

Een vervolgvraag van de heer Van Baarle.

De heer Van Baarle (DENK):

«Per geval bekijken per ministerie», maar ik vraag de PVV om een visie te geven op het gebruik van nationaliteit en afkomstgerelateerde gegevens. We hebben daar verschrikkelijke dingen over meegemaakt, bijvoorbeeld bij DUO en ook de toeslagenmisdaad was daar een voorbeeld van. Als Kamer willen we daarvoor kaders stellen. U zegt dat het doel de middelen heiligt. Betekent dit dat de PVV vindt dat je nationaliteit en etniciteit als indicatoren zou mogen inzetten als dat in de optiek van de PVV een effectief instrument zou moeten zijn, terwijl we hier als Kamer meerdere malen met elkaar hebben uitgesproken dat het gewoon onwenselijke indicatoren zijn omdat zij mensen wegzetten op basis van uitkomst, huidskleur en dat soort verwerpelijke zaken?

De heer Valize (PVV):

Wanneer je alles gaat verbieden, kun je geen trends onderzoeken en kun je ook helemaal niets analyseren. Ik zie er dus geen probleem in om per departement te bekijken welke algoritmen zijn toegestaan en waarom ze moeten worden toegestaan als er maar een maatschappelijke verantwoording wordt afgelegd over waarom een bepaald onderzoek wordt ingezet.

De voorzitter:

Dan de interruptie van mevrouw Van der Werf.

Mevrouw Van der Werf (D66):

Hoe staat de PVV nou zelf tegenover het wel of niet verplicht in het register opnemen van algoritmes?

De heer Valize (PVV):

Het verplicht opnemen van algoritmes in een register is een goede zaak. Je moet inzichtelijkheid bieden als overheid.

Mevrouw Van der Werf (D66):

Ik vraag het omdat de overheid natuurlijk heel breed is. Geldt dit dan ook voor hele kleine gemeenten die maar een beperkte capaciteit hebben?

De heer Valize (PVV):

Het vergt niet heel veel capaciteit om een algoritme uit te schrijven en aan het register toe te voegen. Ik snap dus niet waarom een kleine gemeente zou worden uitgesloten van het deponeren van het algoritme in het register.

De voorzitter:

Dan is het woord aan de heer Krul van het CDA voor zijn inbreng.

De heer Krul (CDA):

Voorzitter, dank u wel. Wat dit soort debatten altijd kenmerkt, is dat je moet kiezen uit heel erg veel interessante onderwerpen in een hele korte tijd. Ik heb gekozen voor één onderwerp, waarmee ik niet zeg dat mijn inbreng minder groot is dan die van de heer Valize, maar het is wel hetzelfde onderwerp als waar de heer Six Dijkstra over gesproken heeft, namelijk het SCHUFA-arrest.

Dat arrest ging over het Duitse kredietbureau SCHUFA, dat kredietverleners informatie verstrekte over personen. Deze informatie werd vervolgens door die kredietverleners gebruikt om te bepalen of een lening wel of niet verstrekt werd. Het Hof heeft geoordeeld dat het toekennen van automatisch berekende kredietscores niet in overeenstemming is met de AVG. Dit betekent een ruime uitleg van het begrip «geautomatiseerde besluitvorming», waardoor strengere AVG-regels van toepassing zijn. Volgens de AVG mag je namelijk niet profileren op basis van geautomatiseerde besluitvorming. Deze uitspraak heeft potentieel grote gevolgen voor bijvoorbeeld de handhaving door de overheid bij belastingfraude en witwasonderzoek, want ook de landsadvocaat heeft in een recent advies deze brede uitleg van de rechter bevestigd. Om een voorbeeld te geven: bij de Belastingdienst worden op basis van signalen automatisch belastingaangiftes uit de bak getrokken. Als iemand hele hoge aftrekposten heeft maar een laag inkomen, zegt de computer «ping». Dat is een algoritme, maar is eigenlijk gewoon een beslisregel. Als straks zelfs deze «ping» van de computer zonder tussenkomst van menselijk handelen in strijd is met de AVG, zien wij grote problemen.

Hier heb ik een trits concrete vragen over aan de Staatssecretaris. Hoe beoordeelt de Staatssecretaris de ruime interpretatie van het begrip «geautomatiseerde besluitvorming» door de rechter en het advies van de landsadvocaat? In hoeverre is deze uitspraak over een private kredietverlener een-op-een van toepassing op de overheid? Gelden er wel of geen andere regels voor organisaties met een wettelijk verankerde taak? Is er een verschil als het toezicht alleen plaatsvindt op basis van indicatoren die geen persoonsgegevens zijn, zoals fiscale indicatoren? Wat zijn de gevolgen van deze uitspraak voor het fraudebeleid van de overheid, bijvoorbeeld van de Belastingdienst?

Mag de Belastingdienst nog op basis van geautomatiseerde signalen onderzoek doen? Wat zou het in de praktijk betekenen als dit niet meer mag? Kan dan nog alleen handmatig toezicht plaatsvinden en hoe ziet de Staatssecretaris dat voor zich als het gaat om miljoenen belastingaangiftes en de nu al nijpende situatie ten aanzien van de personele bezetting van de Belastingdienst? Welke gevolgen heeft deze uitspraak voor het witwastoezicht, waarin banken óók op basis van geautomatiseerde signalen onderzoek doen? Tot slot: kan de Staatssecretaris toezeggen dat deze uitspraak er niet toe leidt dat het complete toezicht- en handhavingsbeleid van bijvoorbeeld de Belastingdienst maar ook van andere uitvoeringsorganisaties stil komt te liggen? Zien we inderdaad het scheepswrak aankomen waar net al aan gerefereerd is?

Voorzitter. Kortom, we hebben grote zorgen over de uitspraak van de rechter en ook over het advies van de landsadvocaat. Wij maken ons er zorgen over dat deze strenge uitleg van de AVG ervoor gaat zorgen dat fraudeopsporing stil komt te liggen.

Voorzitter. Omdat ik dan toch nog één ander onderwerp wil aansnijden – anders is het wel héél eenzijdig – wil ik ook nog een vraag stellen over ...

De voorzitter:

Voordat u dat doet, heeft u een interruptie van de heer Six Dijkstra.

De heer Six Dijkstra (NSC):

Dit raakt ook even aan het korte debat dat de heer Krul en ik net hadden. Ik ben eigenlijk wel benieuwd naar zijn visie, want in het verleden is door middel van fraudebestrijding met gebruik van algoritmes veel fout gegaan en zijn schandalen ontstaan. Ziet de heer Krul met deze uitspraak niet ook een kans dat we echt kunnen zorgen voor een goede wettelijke versteviging van de manier waarop we fraude aanpakken op een manier dat er wel oog is voor mens en recht?

De heer Krul (CDA):

Dit is een hele terechte vraag. Ja, die kansen zien wij. Die zien wij zeker, met name als het gaat om de verwerking van persoonsgegevens, want daar zijn inderdaad hele hoge risico’s dat mensen vermorzeld worden. Maar wij zien ook het risico dat nu in een reflex simpele beslisregels, die al heel lang van toepassing zijn en die technisch gezien algoritmisch zijn, maar eigenlijk de simpelste functionaliteit hebben, als het ware ook in het verbod terechtkomen. Hierdoor wordt ook aan de andere kant de taak die je gewoon als overheid hebt, namelijk handhaven en voorkomen dat er veel fraude plaatsvindt, helemaal onmogelijk gemaakt. Het is dus een ontzettend precaire balans die we moeten zoeken. En het CDA maakt echt een onderscheid als het gaat om het gebruik van persoonsgegevens zonder tussenkomst van menselijk handelen. Daar zitten veel te veel risico’s in. Maar zonder geautomatiseerde besluitvorming op basis van fiscale gegevens, de «ping» als het ware, vrezen wij dat het als overheid wel heel ingewikkeld wordt om nog te kunnen handhaven.

De voorzitter:

Dan kunt u verdergaan met uw inbreng meneer Krul.

De heer Krul (CDA):

Voorzitter. Ik heb nog een vraag over toezicht. Binnen het Samenwerkingsplatform Digitale Toezichthouders, de SDT, zijn vier toezichthouders actief, namelijk: de ACM, de AFM, de AP en het CvdM. En het kabinet overlegt verder met zeven toezichthouders. Daar zitten dus nog de DNB, het CRM en de RDI bij. En dan is er ook nog een werkgroep AI onder de vlag van de Inspectieraad, waarin meer dan rijksinspecties, colleges en markttoezichthouders zitting hebben. Toen ik dit las, dacht ik: oei, dit is wel héél versnipperd en gefragmenteerd; zien we dan, als het om toezicht gaat, door de bomen het bos nog wel? De toezichthouders zelf geven ook aan dat het heel versnipperd en gefragmenteerd is. Ik vraag aan de Staatssecretaris of zij plannen heeft voor hoe dit kan worden versimpeld.

Dank u wel.

De voorzitter:

Dank u wel. Dan is het woord de heer Van Baarle van DENK.

De heer Van Baarle (DENK):

Voorzitter, dank u wel. Ik val vandaag in voor mijn collega Ergin. Mijn fractie heeft mij het woord ontnomen op het onderwerp Digitale Zaken, maar in de afgelopen jaren heb ik daarover met veel plezier het woord gevoerd, dus ik val vandaag in. De discussie over de risico’s van de toepassing van algoritmes wordt al lang gevoerd. We hebben de misstanden waar collega Six Dijkstra op wees inderdaad gezien. De discussie die ik altijd met deze Staatssecretaris heb gevoerd, ging over de oproep: ga nou eens aan de slag met zo’n bindend kader! De Staatssecretaris wilde in eerste instantie alleen een handreiking samenstellen, de handreiking non-discriminatie by design, en wachten op EU-regelgeving; die EU-regelgeving is er nu.

Voorzitter. Als het gaat om die handreiking non-discriminatie by design, heb ik wel al een eerste vraag. Ik heb in een motie gevraagd om die handreiking ook met private partijen te delen en om te onderzoeken in hoeverre private partijen bekend zijn met die handreiking. Wordt dat blijvend gedaan en kan de Staatssecretaris er al iets over zeggen of dat ook in de praktijk wordt toegepast op een manier waarop wij dat wensen?

Dan het algoritmekader, waarvan we de regels in de AI-verordening gaan vastleggen. Het is mij nu niet helder of dat algoritmekader een soort overzicht is, dus eigenlijk weer een nieuwe handreiking, of dat het ook bindend is. Ik maak dat zelf niet op uit de laatste brief die gestuurd is. Moet dit verplicht worden toegepast? Geldt dat algoritmekader nu alleen voor de overheid of geldt het ook voor bedrijven? De voorbeelden die we zien, zoals de toepassing van het algoritme in het anti-witwastoezicht, laten zien dat ook private toepassing van algoritmes een enorme impact heeft op of mensen bijvoorbeeld wel toegang hebben tot geldelijk verkeer, een basisrecht. De fractie van DENK heeft een motie ingediend, die is aangenomen, om voorschriften ten aanzien van non-discriminatie van algoritmes in de wet te zetten. Ik ben niet tevreden met de afdoening als die motie vervolgens met een niet-bindend kader wordt uitgevoerd.

Voorzitter. Hebben we als land eigenlijk de ruimte om dat algoritmekader op een scherpere manier in te zetten dan de bepalingen in de AI-verordening? Ik maak me daar zorgen over. In de AI-verordening staat bijvoorbeeld een omschrijving van een hoogrisicoalgoritme. Maar wat is eigenlijk een hoogrisicoalgoritme en een impactvol algoritme? Hoe passen we die toe op een manier waarbij we voldoende waarborgen treffen?

Tot slot op dit onderwerp: de handhaving. Wie wordt eigenlijk primair verantwoordelijk voor de handhaving als dat algoritmekader bindend is? Is dat inderdaad de AP, die de waakhond is? Is die voldoende toegerust om dat straks ook daadwerkelijk te gaan handhaven?

Voorzitter. Dan het Algoritmeregister. Er was een lange discussie over de verplichting daarvan. Ik kan uit de brief niet opmaken of dat, ondanks de aangenomen moties, daadwerkelijk gaat gebeuren. Dit register geldt alleen voor publieke instellingen, dus voor de overheid. Moet dat niet ook gewoon gelden voor private instellingen, dus voor bedrijven? Ook privaat worden er immers impactvolle besluiten over de levens van mensen genomen.

Hoe gaan we om met de uitzonderingsgronden? Want de overheid heeft er soms nogal een handje van om op basis van het belang van de Staat of de handhaving niet transparant te zijn. Komt daar snel een kader voor?

Voor de uitvoering van de befaamde motie op stuk nr. 21 (35 510), over de doorlichting van algoritmen, doen we een externe toets. Loopt die externe toets op schema en krijgen we die dus voor de zomer? Kan de Staatssecretaris aangeven of we op basis van die doorlichting ook een structureel instrument gaan maken om die algoritmen periodiek door te lichten?

Ik heb dan nog twee korte punten. We hebben een motie ingediend waarin wordt verzocht om burgers altijd in te lichten als overheidsbesluiten zijn genomen op basis van een algoritme of risicoprofilering. Die motie is aangenomen. Wordt dit nou gewoon vastgelegd in de Algemene wet bestuursrecht?

Tot slot, voorzitter. Er is een motie van mij aangenomen over een protocol bij geconstateerde discriminatie door algoritmen. Wanneer kunnen wij dat protocol tegemoetzien? Ik zou daar graag met de Staatssecretaris over debatteren, voordat het in dat kader komt.

Dank u wel, voorzitter.

De voorzitter:

U heeft een interruptie van de heer Krul van het CDA.

De heer Krul (CDA):

Als ik het betoog van de heer Van Baarle hoor, krijg ik de indruk dat het indienen van moties bij deze commissie niet zo veel nut heeft. Ik hoop dat het anders werkt. Ik ben benieuwd of de heer Van Baarle ook een onderscheid maakt tussen persoonsgegevens en bijvoorbeeld fiscale indicatoren. Is de heer Van Baarle van mening dat er nog steeds menselijk handelen moet plaatsvinden als iemands belastingaangifte ergens oppopt op basis van fiscale indicatoren, dus dat burgers daarover geïnformeerd worden? Ziet de heer Van Baarle niet dat de situatie dan praktisch onuitvoerbaar wordt?

De heer Van Baarle (DENK):

Volgens mij is de vraag eigenlijk of we kunnen blijven werken met een handhavingssysteem, mits dat is gebaseerd op objectieve en non-discriminatoire criteria en er bij impactvolle besluiten altijd menselijk handelen tussen zit. Dat is eigenlijk altijd precies de inbreng van de DENK-fractie geweest. Je moet het gebruik van een geautomatiseerd systeem niet per definitie uitsluiten, want dan kunnen we als overheid niet meer functioneren. We moeten er alleen wel voor zorgen dat het niet discrimineert en dat er bij impact op mensen altijd een menselijke check tussen zit.

De voorzitter:

Het woord is aan de heer Meulenkamp.

De heer Meulenkamp (VVD):

Dank u wel, voorzitter. De verschillende overheden in Nederland nemen jaarlijks vele miljoenen beslissingen. In toenemende mate wordt daarbij gebruikgemaakt van algoritmes. Plat gezegd wordt er data ingevoerd en rolt er aan de achterkant een beslissing uit. Er zitten kansen in, maar er zijn ook risico’s aan het gebruik van algoritmes.

Zojuist werd al gezegd dat de overheid niet meer zonder het gebruik van algoritmes kan, zeker met de huidige zeer krappe arbeidsmarkt. Met algoritmes kunnen er gewoon snel heel veel beslissingen worden genomen. Hierdoor blijft de overheid effectief voor haar inwoners. We hebben algoritmes gewoon nodig, zeker ook op het gebied van defensie en criminaliteitsbestrijding. Echter, er zijn wel zorgen over de inzet van deze algoritmes. Mensen willen graag niet als dataset, maar als mens gezien worden. De affaires die er zijn geweest, zijn net al genoemd.

De VVD wil graag inzetten op een goed functionerende overheid, met oog voor de individuele mens. Algoritmes worden wat ons betreft nog te vaak gezien als een technische oplossing voor een technisch probleem, terwijl in onze ogen altijd de mens centraal moet staan bij de overheid, ongeacht of die zich nou meldt bij een ambtenaar of dat er een algoritme wordt ingezet. Dit is een belangrijk onderwerp voor de komende jaren, zeker in een tijd waarin het vertrouwen in de overheid historisch laag is. Dat geldt niet alleen voor de rijksoverheid, maar ook voor alle andere overheden. We willen dat mensen zich gehoord voelen en daardoor meer vertrouwen krijgen in de overheid. Dit vraagt in onze ogen om een totaal andere manier van werken. Het is daarbij cruciaal om weer meer te luisteren naar en te praten met inwoners. Hoe denkt het kabinet dit te kunnen bewerkstelligen? Kunnen we juist door het inzetten van algoritmen – daar werd net ook al aan gerefereerd door mijn collega van D66 – weer meer tijd vrijmaken voor de gesprekken met onze inwoners? Kunnen we daar vanuit de overheid actief op sturen? Dat is cruciaal in onze ogen.

We leven in een tijdperk dat voor prachtige kansen zorgt, maar zoals we afgelopen weekend weer hebben gezien, leven we ook in een geopolitiek uiterst instabiele tijd. Dat zorgt voor allerlei gevaren. Mijn eigen gemeente is een aantal jaar geleden ook gehackt door een buitenlandse partij. Ik heb van dichtbij mogen zien voor hoeveel paniek op de werkvloer dat zorgt. Je weet dan niet meer hoe je de inwoners van je gemeente een uitkering kunt verstrekken, en mensen bellen met het bericht dat ze gewoon geen eten kunnen kopen. De lokale overheid weet niet hoe daarmee om te gaan.

De VVD heeft in het verleden daarom ook het belang van analoge terugvalopties aangegeven, en diende in dat kader een motie in met het verzoek om die terugvalopties mee te nemen in de weerbaarheidsanalyses. De VVD is blij dat die motie wordt uitgevoerd en dat er nog voor eind 2024 een update komt van die aanpak. Neemt de Staatssecretaris hier ook gemeenten en andere medeoverheden in mee? Dit is voor de VVD echt cruciaal. Zeker ook op basis van mijn ervaring bij een gemeente die gehackt werd, zeg ik: neem andere gemeenten en provincies alsjeblieft mee bij die terugvalopties. Graag hoor ik uw mening hierover en hoe u dit gaat doen.

De voorzitter:

Ik vraag de heer Six Dijkstra van NSC om de voorzittershamer even over te nemen en mij het woord te geven.

Voorzitter: Six Dijkstra

De voorzitter:

Dank u wel. Het woord is aan mevrouw Kathmann namens de fractie van GroenLinks-PvdA.

Mevrouw Kathmann (GroenLinks-PvdA):

Dank u wel, voorzitter. Technologiegebruik is nooit een doel op zich. Net zoals het hebben van een volle boekenkast niks zegt over hoe slim je bent, zegt het modewoord «AI-powered innovatie» niks over maatschappelijke waarden. Toch slopen algoritmes en AI overal naar binnen. Soms doen ze goed, soms doen ze kwaad. Alles in mij schreeuwt dan dat we zorgvuldig moeten zijn. We moeten echt af van de technocratische reflex heilig te vertrouwen in wat een app of algoritme ons zegt, en het stuur in eigen handen nemen. We laten vraagstukken over digitalisering te vaak aan ons voorbijgaan. Het is dus echt tijd om duidelijk te zijn over hoe Nederland zich tot technologie gaat verhouden.

We hebben nu heel mooie kabinetsvisies, zoals over generatieve AI, en de veelgeprezen werkagenda liggen. Tegelijkertijd gebruiken gemeenten nog altijd ondoorgrondelijke algoritmen in de fraudeopsporing, experimenteren tabakswinkels tegen de wet in met leeftijdsverificatie door gezichtsscans, doen huisartsen triages met AI, bepalen systemen in het onderwijs het leesniveau van mijn kinderen en neemt surveillance op de werkvloer toe, meestal op plekken waar werknemers al een zwakke positie hebben. We moeten van visie naar actie. De Autoriteit Persoonsgegevens en de WRR strijden al lang voor een nationaal deltaplan voor de omgang met algoritmen en AI bij overheden, de publieke sector en de private sector. Wanneer komt dat plan er? En als dat er niet komt, waarom niet?

Onze kritiek op algoritme- en AI-gebruik eindigt vaak bij de overheid. Toch zijn er, zeker in de publieke sector, heel veel commerciële partijen waar je van afhankelijk kunt zijn, zoals de schuldenindustrie. Bij zorgverzekeraars en in het onderwijs zien we allerlei gadgets, pilots en experimentjes die voordat je het weet gewoonterecht zijn geworden. Ik vind dat je algoritme en AI daar even scherp mag reguleren als bij de overheid. Vindt het kabinet dat algoritmegebruik en AI-toepassing in de private sector goed genoeg in beeld zijn? Hoe monitoren we dit beter? Hebben we alle verschillende soorten algoritmen en AI-modellen nu goed gedefinieerd? Zijn er geen blinde vlekken in definities uit Europese verordeningen en Nederlandse wetgeving? Waar staan deze begrippen vastgelegd? Ik wil dat de rolverdeling tussen toezichthouders concreet wordt. Het is moeilijk om die afspraken aan de waakhonden over te laten. Kan de Staatssecretaris echt op papier zetten wie eigenlijk wat doet? De Tweede Kamer kan daar dan ook met veel meer inzicht op sturen.

De reflex om over te stappen naar algoritmen en AI is goed te begrijpen. We komen handjes tekort, dus schakelen we digitale handjes in. Ik zie daarbij toch risico’s. Werknemers verliezen grip op hun werk, waardoor mensen ontschoold worden. Er is steeds minder kennis van de systemen waarmee we werken. Wie is er verantwoordelijk als een algoritme of AI-toepassing foutief te werk gaat, ook als deze met een positief advies van bijvoorbeeld een ondernemingsraad is geïmplementeerd? Wat kan de overheid doen om het terugdraaien van zo’n implementatie te vergemakkelijken?

Sommige bedrijven moeten een functionaris gegevensbescherming aanstellen. Dat is natuurlijk een topidee, want zo maak je iemand verantwoordelijk op te komen voor de privacyrechten van werknemers. Kan het kabinet in aanloop naar de actualisatie van de UAVG verkennen of de verplichting voor een functionaris gegevensbescherming kan worden uitgebreid, bijvoorbeeld naar sectoren met een hoog risico op surveillance of waar veel bijzondere persoonsgegevens worden verwerkt?

Tot slot. Over dingen die je niet ziet, kun je moeilijk oordelen. Brieven en beleid kun je fileren, maar een algoritme is zowel voor burgers als politici ondoorgrondelijk. Daar moeten we iets aan doen. De heer Van Baarle had het hier ook al over. Kunnen we ervoor zorgen dat er bij elke brief die op de deurmat belandt bij iemand die door een algoritme is geselecteerd als risicogeval, een extra paragraaf wordt toegevoegd met de kenmerken op basis waarvan «de ping is afgegaan», zoals de heer Krul het zei. Het moet inzichtelijk zijn op welke kenmerken diegene geselecteerd is. Is dat niet een broodnodig stukje uitleg, dat mensen inzicht geeft in de keuzes die over hun hoofden worden gemaakt? Data-ethiek is altijd politiek. Daarom ben ik ook heel blij met dit debat; dit hoort thuis in het hart van onze politieke besluitvorming. Dit gesprek is daarom zeker ook niet voorbij. Ik kijk uit naar een politiek waarin, wat digitalisering betreft, wij aan het stuur zitten in plaats van algoritmen.

De voorzitter:

Dank u wel. Ik zie geen interrupties. Bij dezen geef ik de voorzittershamer dus weer aan u terug.

Voorzitter: Kathmann

De voorzitter:

Dank u wel. Dan kijk ik even naar rechts, naar de staatssecretarissen. Die hebben twintig minuten nodig. Dan kijk ik ook nog even naar links om te zien of twintig minuten akkoord is. Zijn er mensen die bijvoorbeeld zeggen: ik heb zelf iets meer tijd nodig voor de lunch? Of houden we het bij twintig minuten? Anders wordt het misschien weer laat. Er is geen behoefte aan een langere schorsing. We schorsen dus voor twintig minuten.

De vergadering wordt van 10.42 uur tot 11.05 uur geschorst.

De voorzitter:

We gaan starten met de beantwoording van de staatssecretarissen. Ik denk dat we starten met Staatssecretaris Van Huffelen.

Staatssecretaris Van Huffelen:

Dat klopt, voorzitter. Ik zal ingaan op de vragen die aan mij zijn gesteld. De Staatssecretaris naast mij, de heer Van Rij, gaat vooral in op het SCHUFA-arrest. Mijn idee zou zijn om te beginnen met een korte inleiding en dan de vragen te beantwoorden.

Voorzitter. Het is ontzettend belangrijk – dat hebben de leden van uw commissie ook aangegeven – om over dit onderwerp, algoritmes en data-ethiek, met elkaar van gedachten te wisselen. De inzet van algoritmes en AI is namelijk steeds vaker onderwerp van gesprek. Het leeft in onze samenleving. Zeker ook door de recente technologische ontwikkelingen en door wat er fout is gegaan in het verleden, is dit een onderwerp dat ons bezighoudt. Dat is ook heel hard nodig.

Wat fijn is, is dat we inmiddels op Europees niveau een AI-verordening tot stand hebben gebracht om technologie te reguleren. We zijn natuurlijk ook heel hard aan het werk om allerlei handreikingen te ontwikkelen en ervoor te zorgen dat we als overheid verantwoord omgaan met AI en algoritmes. In de afgelopen tijd hebben we ons ingezet om ervoor te zorgen dat het gebruik van algoritmes door overheden aangepakt en gereguleerd wordt. Dat hebben we gedaan via het Algoritmeregister, de algoritmetoezichthouder en het implementatiekader voor algoritmes. Zo willen wij er daadwerkelijk voor zorgen dat de toepassing van AI op een verantwoorde manier kan plaatsvinden.

In deze introductie wil ik graag iets meer zeggen over een viertal onderwerpen. Als eerste wil ik iets meer zeggen over de AI-verordening, die Europese wet. Ook wil ik iets meer zeggen over het Algoritmeregister, dat we voor de overheid hebben. Verder wil ik iets zeggen over de toezichthouder. Tot slot wil ik iets zeggen over het algoritmekader. Ik zal daarbij, als het enigszins kan, ook ingaan op de gestelde vragen.

In de AI-verordening, die recent is aangenomen in Europa, komen met name specifieke eisen voor AI-toepassingen tot stand. Nederland heeft zich heel actief bemoeid met de onderhandelingen voor deze verordening, om ervoor te zorgen dat de bescherming van mensenrechten op een goede manier wordt afgewogen tegen het belang van innovatie en rechtshandhaving. De bescherming van mensenrechten is namelijk een belangrijk onderwerp. Daarom hebben we ons er ook voor ingezet dat aanbieders van AI-systemen expliciet de risico’s voor mensenrechten, zoals discriminatie, moeten beoordelen en tegengaan bij de ontwikkeling van hun systemen, zodat problemen in een vroeg stadium worden erkend, herkend en aangepakt. Niet alleen de aanbieder van dit soort AI-systemen, maar ook de gebruikers met een hoog risico moeten extra controles doen. Ze moeten risico’s beoordelen vanuit de context waarin die systemen worden ingezet en de impact die het gebruik heeft voor specifieke groepen in de samenleving.

Nederland heeft zich ingezet voor verbeterde transparantie, om ervoor te zorgen dat overheden zichzelf ook moeten registreren als gebruiker van hoogrisico-AI-systemen, en dus niet alleen als aanbieder. Zo is het zichtbaar wanneer een AI-systeem door de overheid wordt gebruikt. In de AI-verordening is ook een notificatieplicht opgenomen. Dus organisaties die systemen met een hoog risico gebruiken in hun besluitvorming moeten dat melden bij degenen over wie dat besluit gaat, wie dat betreft. Dat geldt niet alleen voor overheden, maar ook voor private partijen. Nederland heeft zich ook ingezet om de positie van burgers te versterken. Zo is er een klachtrecht in de AI-verordening opgenomen om ervoor te zorgen dat als je klachten hebt, je dan ook daadwerkelijk terechtkunt bij een organisatie die daarmee aan de slag gaat.

Als het goed is, treedt de AI-verordening in het tweede kwartaal van dit jaar, dus in de komende weken, maanden, in werking. Vervolgens zal die gefaseerd van kracht worden. Zo worden een halfjaar na de inwerkingtreding de bepalingen over de verboden praktijken van kracht. Een jaar daarna worden de bepalingen over de zogenaamde general purpose AI-modellen, dus algemene AI-modellen, van kracht. Uiteindelijk wordt twee jaar na inwerkingtreding de rest van de verordening van kracht. Het is van belang dat ook AI-systemen die al in werking zijn getreden, die er nu al zijn, uiteindelijk ook aan de AI-verordening voldoen. Om de overheidsorganisaties te ondersteunen bij het proces zullen we de AI-verordeningsvereisten opnemen in het algoritmekader. Daarmee zorgen we ervoor dat dit ook zo snel mogelijk voor overheden duidelijk wordt en dat zij dit ook kunnen invoeren.

Dit even over die AI-verordening. Ik kan niet genoeg onderstrepen hoe belangrijk die verordening is, want die zorgt ervoor dat zowel publieke als private organisaties in de EU die al werken met AI of ermee willen werken, voldoen aan eisen die gelden op het gebied van mensenrechten, transparantie en klachtenafhandeling. Dat is natuurlijk ontzettend belangrijk. We zullen in de komende tijd natuurlijk zien dat die technologie zich verder gaat ontwikkelen. Gelukkig biedt de AI-verordening de ruimte om daarin mee te gaan. Tijdens de totstandkoming van de verordening hebben wij gezien dat generatieve AI ontstond. Die was er nog niet toen we eraan begonnen. Inmiddels is generatieve AI opgenomen in en onderdeel van de verordening.

Dan iets over het Algoritmeregister dat wij als overheid zelf hebben gemaakt. Het is bedoeld om meer transparantie te bieden. Het idee is ook dat alle overheidspartijen ervoor zorgen dat zij hun algoritmes en hun risicomodellen hierin registreren. Zowel ministeries als provincies en gemeenten staan er al in.

De voorzitter:

U heeft een interruptie van de heer Van Baarle van DENK.

De heer Van Baarle (DENK):

Ik dank de Staatssecretaris voor de beantwoording en ik heb een vraag over de AI-verordening. De AI-verordening wordt verwerkt in het implementatiekader. Is dat implementatiekader bindend? Uit de beantwoording constateer ik eigenlijk dat dat niet zo is. Is het meer een opvatting als: zo vinden wij dat de AI-verordening geïmplementeerd zou moeten worden? Wordt het dan op die manier verspreid in de richting van de overheid? Maar gaat het ook naar private partijen? In de AI-verordening staat een aantal zaken. De scope ervan en de gevolgen voor overheid en bedrijven zijn mij niet helemaal helder. Kunnen we geen rechten ontlenen aan het implementatiekader omdat het niet bindend is? Klopt dat?

Staatssecretaris Van Huffelen:

Nee, dat klopt niet. De AI-verordening heeft directe werking. Het is een wet die ook hier in Nederland geldt, zowel voor de overheid als voor private partijen. De verordening wordt in stapjes ingevoerd, maar zij geldt voor alle partijen. Het implementatiekader dat wij hebben gemaakt en dat wij gaan aanscherpen is erop gericht om het voor overheidspartijen zo makkelijk mogelijk te maken om ook echt te voldoen aan die AI Act. Wat moet je nou precies doen als je een algoritme wil gebruiken? Welke toetsen moet je dan doen? Hoe moet je die uitvoeren? Die toetsen en die elementen zijn verplichtend, want ze staan in die AI-verordening. Wat moet je doen volgens de AI-verordening? Je moet bijvoorbeeld een mensenrechtentoets uitvoeren of een data protection impact assessment, DPIA. Dat is verplichtend voor de partijen die ermee moeten werken.

De voorzitter:

Een vervolgvraag van de heer Van Baarle. Wat wilde de Staatssecretaris nog zeggen?

Staatssecretaris Van Huffelen:

Ik wilde zeggen dat ik op de specifieke beantwoording van de vraag straks nog kom, maar ik heb wel de algemene regel geschetst.

De heer Van Baarle (DENK):

Dan wacht ik het even af.

De voorzitter:

Oké. Dan kunt u verdergaan. U was inmiddels bij het Algoritmeregister. De specifieke beantwoording van de vragen volgt dus nog.

Staatssecretaris Van Huffelen:

Ja. In het register staan inmiddels 345 algoritmes van 117 organisaties. Het is er om inzicht te bieden in de algoritmes die door de overheid worden gebruikt. Er is een grote toename in de afgelopen tijd, zowel van organisaties vanuit de rijksoverheid, dus de departementen en de uitvoeringsorganisaties, als vanuit gemeenten en provincies. Het idee is natuurlijk dat het Algoritmeregister voor 100% gevuld moet worden. Met de rijksoverheidspartijen is afgesproken dat eind volgend jaar alle algoritmes in het register zijn opgenomen. Het is natuurlijk wenselijk dat dat zo snel mogelijk gebeurt. Met de heer Krul roep ik alle partijen op om daar zo snel mogelijk mee te starten en door te gaan. Een gevuld register geeft aan burgers en journalisten, maar ook aan toezichthouders inzicht in de algoritmes die bij de overheid worden gebruikt.

Dan iets over de toezichthouder. Uiteraard is goed toezicht nodig. Het is ontzettend belangrijk dat wij de wetgeving handhaven. De AI Act vergt natuurlijk ook dat er goed gehandhaafd wordt. Dat gebeurt in het systeem van de verordening op verschillende manieren. Binnen Nederland hebben wij de algoritmetoezichthouder binnen de Autoriteit Persoonsgegevens ingericht. Maar we weten ook dat algoritmes op allerlei plekken in onze samenleving worden ingezet. De reden waarom we een coördinerende rol bij de Autoriteit Persoonsgegevens hebben neergelegd, is omdat het van belang is dat het op een gecoördineerde manier gebeurt door de verschillende toezichthouders vanuit hun specifieke functionaliteit. Bij algoritmes in de landbouw is het goed dat de toezichthouders op de landbouw kennis hebben van dit soort systemen en weten hoe zij toezicht zouden moeten houden op dit soort algoritmes.

Ik had het al over het algoritmekader in het debat met de heer Van Baarle. Wij vinden het belangrijk dat het voor overheidsorganisaties ontzettend helder is op welke wijze zij moeten voldoen aan die AI Act. Daar willen we hen ook mee helpen en daarvoor hebben wij dat kader gemaakt. Een eerste versie was er al vorig jaar. Dat kunnen we nu aanscherpen omdat er meer helderheid is over de AI-verordening en de regels die daarin gelden. Het is heel erg belangrijk dat in dat kader staat hoe de rollen en verantwoordelijkheden bij de inzet van AI zijn. Wat ook belangrijk is, is dat we ervoor zorgen dat dat kader in de komende tijd verder wordt ingevuld. We doen dat overigens op een hele open manier, zodat iedereen kan meekijken. We zetten al die informatie ook op GitHub en zorgen ervoor dat iedereen kan meewerken en meedenken over de implementatie van dit kader.

Met andere woorden, we hebben dus op een drietal fronten al werk gedaan. De AI Act gaat ons helpen om dat werk in de komende tijd verder aan te scherpen om daarmee zowel in de publieke sector, dus bij de overheid, als in de private sector, bij bedrijven, te kunnen komen tot een verantwoorde inzet van algoritmes. Dat is, zo is in de afgelopen tijd gebleken, ook heel erg nodig.

Voorzitter. Ik wil nu ingaan op de specifieke vragen die zijn gesteld. Ik heb een blokje over wet- en regelgeving, over het Algoritmeregister, over toezicht en over het advies van de landsadvocaat. Zoals ik al aangaf, wordt het grootste deel van dat laatste onderdeel door mijn collega beantwoord.

Ik begin met de wet- en regelgeving. De heer Six Dijkstra vroeg: zijn er voldoende wettelijke kaders en kunnen we daarmee voorkomen dat op een onverantwoorde manier gebruik wordt gemaakt van algoritmes? Wij zien dat er op dit moment voldoende kaders zijn, niet in de laatste plaats door de komst van die AI-verordening. Natuurlijk is het zo dat we nog verder moeten werken aan bewustwording en kennis over de implementatie. We moeten de AI-verordening natuurlijk ook nog implementeren in Nederland. We moeten nog helderheid krijgen over wat nou precies de rol van welke toezichthouder wordt onder de coördinatie van de AP. Bovendien moet voor iedereen die aan het werk gaat of al is met algoritmes, helder worden aan welke eisen moet worden voldaan.

Dat laatste vind ik ontzettend belangrijk. In vergelijking met de komst van de AVG was het voor sommige partijen in het begin heel onduidelijk hoe je nou precies kon zorgen dat je compliant was, hoe je kon voldoen aan de wet. Wij vinden het ontzettend belangrijk om hieraan in de komende tijd veel tijd en aandacht te besteden. Wij denken dat het kader van de AI-verordening samen met het implementatiekader dat we voor de overheid maken, voldoende moet zijn om in ieder geval de regels te hebben die nodig zijn om het op een verantwoorde manier te doen. Uiteraard blijven we altijd goed nadenken en kijken of het ook zo is en of er nieuwe technologie is waar wij nog extra stappen voor moeten zetten. Als op dit moment gevraagd wordt of er voldoende kaders zijn, dan is het antwoord ja.

De voorzitter:

U heeft een interruptie van de heer Six Dijkstra.

De heer Six Dijkstra (NSC):

Dank aan de Staatssecretaris voor de beantwoording. Ik stelde die vraag ook in relatie tot het SCHUFA-arrest. Daarin wordt gesteld dat de wijze waarop wij als land omgaan met algoritmes, mogelijk strijdig is met de AVG en dat er extra wettelijke versterking nodig is. Deelt de Staatssecretaris die conclusie of kijkt zij daar anders tegenaan?

Staatssecretaris Van Huffelen:

Ik vind het van belang dat we vooral nog wat tijd nemen om dat goed uit te zoeken. We weten dat er nog een adviesaanvraag ligt bij de Autoriteit Persoonsgegevens om hierop een helder antwoord te krijgen. Het principe van het gebruik van algoritmes moet zo zijn dat alle algoritmes die wij inzetten, voldoen aan de bestaande regelgeving, de AVG, maar ook aan de AI Act. In principe moeten beide een paraplu vormen voor alle inzet van algoritmes.

De heer Six Dijkstra vroeg ook of de problemen die bij de overheid rondom algoritmes zijn opgetreden, niet makkelijker kunnen worden aangepakt met een paar kernachtige principes. Ik vind het altijd fijn als je iets met heel kernachtige principes kan doen. Die hadden wij ook al lang voordat de AVG er was: discriminatie mag niet en transparantie is belangrijk. Daar hebben we ook wet- en regelgeving voor. Het is wel van belang dat we met de aanvullende regels die nu gesteld zijn, zorgen dat er een goede samenhang is. Die samenhang wil ik heel erg graag tot uitdrukking laten komen als het over de overheid gaat in dat implementatiekader. Uiteindelijk zijn de principes die in de AI Act zitten, voor een groot deel gebaseerd op principes die we eerder met elkaar hebben vastgesteld: non-discriminatie, transparantie, de mogelijkheid om te klagen. Al dit soort elementen zijn in die AI Act opgenomen en heel helder gedefinieerd op basis van een heel heldere definitie van wat AI is. Die combinatie maakt dat we nu veel duidelijker voor de private en publieke partijen in heel Europa kaders hebben. Daarmee kunnen we zorgen dat er wordt voldaan aan de inzet op het gebied van mensenrechten.

Namens NSC is ook gevraagd naar de wettelijke grondslag voor het gebruik van automatische besluitvorming voor fraudeopsporing. Welke verwerking je ook doet, je moet ervoor zorgen dat er een basis voor is in wetgeving. Mijn collega zal verder ingaan op de uitspraak van de landsadvocaat. Dat geldt ook voor het advies dat wij in dit kader nog verwachten van de Autoriteit Persoonsgegevens.

Mevrouw Van der Werf vroeg zich af hoe uitvoering is gegeven aan de motie om ervoor te zorgen dat ontwrichtende algoritmes in de AI-verordening worden verboden. Het Europees Parlement heeft in de AI-verordening opgenomen dat ontwrichtende algoritmes als hoog risico worden gedefinieerd. We moeten er dus voor zorgen dat dit soort hoogrisicoalgoritmes worden getest en getoetst en voorzien van een keurmerk voordat ze kunnen worden ingezet. Het is dus ook wenselijk dat dit soort algoritmes niet worden toegepast.

De voorzitter:

U heeft een interruptie van de heer Valize van de PVV en daarna van mevrouw Van der Werf.

De heer Valize (PVV):

Ik hoor de Staatssecretaris praten over een keurmerk. In de brieven zag ik het ook vluchtig voorbijkomen. Daar wordt het een CE-keurmerk genoemd. Hoe is voor mensen zichtbaar dat dat keurmerk er is? Wordt dat op de website gepubliceerd of staat het ergens in de broncode? Ik zou daar graag een beeld bij krijgen. Hoe kan achterhaald worden dat iets voorzien is van een keurmerk?

Staatssecretaris Van Huffelen:

Het gaat inderdaad over die CE-keurmerken. Daarbij geldt sowieso een verplichting om het kenbaar te maken. Hoe gaan we dat specifiek doen? Het gebeurt sowieso in het kader van de registratie van het Algoritmeregister. Daar moet je aangeven of je aan zo’n keurmerk voldoet, maar er is meer nodig. Mevrouw Van der Werf heeft ook gevraagd om burgers te informeren. Ik denk dat het goed is dat wij er met elkaar over nadenken hoe we dat precies kenbaar maken, zodat het voor mensen duidelijk is of een algoritme voldoet aan de regels. Sommige algoritmes worden niet altijd duidelijk een-op-een gebruikt in relatie tot een consument. Maar goed, wanneer een besluit van de overheid gebaseerd is op een algoritme, dan is het onze bedoeling om ervoor te zorgen dat het duidelijk is dat het besluit mede is genomen op basis van een algoritme. Als dat een hoogrisicoalgoritme is, dan behoort het natuurlijk conform de AI-verordening voorzien te zijn van zo’n keurmerk.

Mevrouw Van der Werf (D66):

Nog even voor de helderheid. De Staatssecretaris ging zojuist in op de vraag over de motie over ontwrichtende algoritmes. Ziet u die ook als onderdeel van modellen met een systemisch risico? Kunnen we het zien als dat ze zo geïnterpreteerd worden in de AI-verordening?

Staatssecretaris Van Huffelen:

Voor een deel zit dit ook al in de DSA, dus in de Digitaledienstenverordening. U had het in dit geval specifiek over ontwrichtende algoritmes, althans, over informatie die via socialmediaplatforms bij mensen terechtkomt. De DSA stelt eisen aan grote platformbedrijven om in te grijpen wanneer er sprake is van illegale content of van dit soort ontwrichtende algoritmes. Dat kan bijvoorbeeld door die algoritmes ook daadwerkelijk aan te passen.

De voorzitter:

Een interruptie van de heer Van Baarle van DENK.

De heer Van Baarle (DENK):

Ik wil ingaan op de gevolgen van de AI-verordening en het keurmerk. Ik wil het gewoon goed begrijpen. Volgens mij staan in de AI-verordening een aantal principes, namelijk dat er in het geval van een hoogrisicoalgoritme sprake moet zijn van een mensenrechtentoets die onder andere ziet op non-discriminatie. Nu hoor ik dat er een keurmerk is. Hoe zorgen we ervoor dat niet bedrijven ervoor verantwoordelijk worden om maar gewoon het vinkje te zetten dat ze de toets hebben uitgevoerd op de manier die ze willen, maar dat het daadwerkelijk een goede toetsing is? Volgens mij moet hoe je dat doet vervat worden in praktische regels. En wie gaat er uiteindelijk over dat keurmerk? Wie geeft dat keurmerk, wie toetst dat, wie stelt dat vast? Anders geven bedrijven dadelijk aan dat ze een keurmerk-approved methode hebben en dat ze echt niet zullen discrimineren, maar weten we niet wat dat keurmerk dan is.

Staatssecretaris Van Huffelen:

Inderdaad, hoogrisicoalgoritmes moeten voldoen aan een aantal vereisten, waaronder een mensenrechtentoets enzovoorts. Bedrijven moeten die toets zelf doen, maar daar wordt wel op gecontroleerd, want anders krijg je zo’n CE-markering niet. Bovendien moeten de toezichthouders hier natuurlijk ook op toezien. Het is dus inderdaad van belang dat je niet alleen moet aangeven wat je algoritme doet. Je moet een toets uitvoeren. Voordat je dat keurmerk kunt krijgen, moet je natuurlijk voldoen aan de vereisten, en moet ook duidelijk zijn dat je daaraan voldoet. Ook is van belang dat de toezichthouders gaan kijken of bedrijven het assessment op een goede manier uitvoeren. Ook moet er bekeken worden of het klopt als een bedrijf denkt dat zijn algoritme geen hoog risico heeft en dat aangeeft.

De voorzitter:

Een vervolgvraag van de heer Van Baarle.

De heer Van Baarle (DENK):

Begrijp ik het nu goed dat dit keurmerk er is voor bedrijven die een dienst aanbieden en dat keurmerk graag willen krijgen? Wordt dat dan getoetst? Voor alle overige bedrijven, die geen keurmerk willen, geldt dus dat de toezichthouder op de specifieke sector zal moeten bekijken of het assessment goed is toegepast. Het is dan de verantwoordelijkheid van de bedrijven. Als er in de AI-verordening een aantal generieke principes staan, moeten we met elkaar toch een kader hebben op grond waarvan alle toezichthouders gaan toetsen hoe die algemene principes toegepast worden? Ik vraag dus naar de mate waarin dat algoritmekader bindend is. Dat algoritmekader geldt blijkbaar alleen voor de overheid, en niet voor bedrijven. Waar is dan het kader voor bedrijven?

Staatssecretaris Van Huffelen:

Misschien allereerst even een paar dingen. De heer Van Baarle trekt nu een aantal conclusies die wat mij betreft niet getrokken kunnen worden. Nummer een. In de AI-verordening zijn nu classificaties van algoritmes afgesproken, die goed en scherp moeten worden ingevuld. Natuurlijk zal de praktijk leren dat er altijd weer discussies over zijn, maar de kern is dat hoogrisicoalgoritmes nu goed gedefinieerd zijn als algoritmes die je alleen maar kunt toepassen wanneer je ook een keurmerk hebt. Twee. Voor het toepassen van algoritmes bij de overheid maken we een implementatiekader. Dan wordt voor overheidspartijen duidelijk op welke wijze zij algoritmes kunnen inzetten, welke toetsen er moeten worden gedaan enzovoorts. Die toetsen zijn ook verplicht. Zo’n IAMA, een mensenrechtentoets, moet bijvoorbeeld worden uitgevoerd. Van belang is dat ik aan de toezichthouders, onder coördinatie van de Autoriteit Persoonsgegevens, heb gevraagd om de normuitleg van de wet voor alle sectoren en alle bedrijven die daaraan moeten voldoen – dat geldt natuurlijk ook voor de overheid – zo goed mogelijk uit te voeren. Zo’n wet geldt voor heel veel grote partijen. Je kunt natuurlijk altijd vragen stellen als: hoe zit het precies? Dat moet voor alle partijen zo duidelijk mogelijk worden. Zij hebben ook aangegeven dat ze de normuitleg met elkaar gaan vaststellen. Zo wordt inderdaad ook helder wat deze wet betekent voor jouw bedrijf, of je nou in de landbouw, in verzekeringen, bij een bank of elders werkt. Als je algoritmen wilt inzetten, aan welke eisen moeten die dan voldoen en hoe kun je dat doen? Dat is een belangrijke stap, die in de komende tijd gezet moet worden. Vanaf het moment dat de AI-verordening gepubliceerd is, gaat de implementatie in stapjes. Daar lichtte ik net al iets over toe. In het kader daarvan is die normuitleg dus ook heel erg belangrijk. Maar het is geen vrijblijvende verordening, helemaal niet zelfs; noch voor de overheid, noch voor bedrijven.

De voorzitter:

Een vervolgvraag van de heer Van Baarle.

De heer Van Baarle (DENK):

Dan heb ik nog wel een vraag. De Staatssecretaris zegt dat een hoogrisicoalgoritme alleen kan worden ingezet met een keurmerk. Mij is nog niet helder wie dan gaat over dat keurmerk en op basis waarvan een keurmerk dan wordt afgegeven of niet.

Staatssecretaris Van Huffelen:

Wie het keurmerk gaat uitgeven, moet nog worden bepaald. Dat is nog onderdeel van de implementatie van de wet. Daar komen wij in de komende tijd zo snel mogelijk op terug.

Ik wilde nog voorstellen – dat is een van de dingen die wellicht interessant is voor de heer Van Baarle – dat we in de vorm van een technische briefing natuurlijk altijd in meer detail uitleg en toelichting kunnen geven aan de Kamer over hoe de AI-verordening werkt: wat is er al, wat is er nog niet, waar moeten we nog aan werken enzovoorts?

Ik ga door met een aantal vragen van de heer Van Baarle, die hij net in een interruptie ook opnieuw heeft gesteld. Eén vraag ging nog over de Algemene wet bestuursrecht en de vraag of overheidsbesluiten op basis van algoritmes worden opgenomen in de Awb. Dat is op dit moment nog niet zo. De Algemene wet bestuursrecht kent wel een algemene motiveringsplicht. Op dit moment is er een internetconsultatie gaande over deze specifieke vraag. Wij vinden het natuurlijk ontzettend belangrijk dat helder is voor burgers hoe een besluit is genomen. Dat is niet alleen belangrijk zodat je weet op basis van welke gegevens dat gebeurd is of op welke manier de wet wordt toegepast, maar natuurlijk ook om inzicht te krijgen in of er inderdaad sprake is van gebruik van een algoritme. De AI-verordening geeft een verplichting om burgers te informeren als een high-risk AI-systeem is gebruikt. Over hoe we dat precies in de Awb willen opnemen hebben we nu een internetconsultatie lopen. We hopen die zo snel mogelijk, nog dit voorjaar, te kunnen afronden, zodat we ook duidelijkheid kunnen geven over hoe we dit in de Awb gaan opnemen. We zijn nu ook in bredere zin die wet aan het aanpassen.

De heer Van Baarle vroeg ook nog of we als land de ruimte hebben om het algoritmekader scherper in te zetten dan de bepalingen van de AI-verordening. We hebben gezegd dat we dat kader willen gebruiken als een hulpmiddel om te zorgen dat we de verordening op een goeie manier gaan implementeren. Dat kader gebruiken we bij de overheid om overheidspartijen te helpen om er invulling aan te geven. We kunnen onszelf altijd, als we dat zouden willen, nog scherpere regels opleggen, maar we vinden dat op dit moment niet nodig, omdat we alle elementen erin zien zitten.

Dan was er nog de vraag van de VVD over hoe je ervoor kunt zorgen dat de mens centraal staat bij het gebruik van algoritmes door de overheid. Natuurlijk moeten we transparant zijn over de inzet van algoritmes, bijvoorbeeld via het Algoritmeregister en de uitleg die we geven over hoe een besluit tot stand is gekomen. Helder is dat er altijd sprake moet zijn van menselijke tussenkomst, en dat het mogelijk is om ook in beroep te gaan bij een mens tegen een besluit dat door een algoritme is genomen.

We zijn nog steeds bij het blokje wet- en regelgeving. Mevrouw Kathmann vroeg of wij in aanloop naar de actualisatie van de UAVG, de uitvoeringswet voor de AVG, kunnen verkennen of de verplichting van een functionaris gegevensbescherming kan worden uitgebreid. Op dit moment is zo’n functionaris gegevensbescherming al verplicht voor alle organisaties die vanwege hun aard, omvang of doeleinden op grote schaal regelmatig en stelselmatig observaties van betrokkenen vereisen, en voor organisaties die belast zijn met het verwerken van persoonsgegevens. Met andere woorden, die is al verplicht in organisaties waar dit aan de orde is. Los daarvan moeten organisaties die zo’n functionaris niet hebben de AVG natuurlijk ook naleven. Wij denken dus eigenlijk dat dit niet nodig is, want het is al voldoende duidelijk wanneer een organisatie zo’n functionaris ook daadwerkelijk moet inzetten.

Mevrouw Kathmann vroeg of algoritmes en AI-modellen voldoende zijn gedefinieerd: zijn er geen blinde vlekken? Dat is eigenlijk in lijn met de vraag van de heer Six Dijkstra. Wij denken dat we op dit moment echt goed uit de voeten kunnen met de definities voor AI-systemen, modellen enzovoorts in de verordening, niet in de laatste plaats omdat er, ook bij de AI-verordening, veel discussie is geweest over welke definitie we nou gebruiken. Uiteindelijk is een werkgroep van de OESO daar met allerlei wetenschappelijke inzichten en praktijkinzichten mee aan de slag gegaan. We zien wel dat AI zich ontwikkelt. De technologie ontwikkelt zich. Er komen wellicht ook weer nieuwe toepassingen. Het is dus altijd nodig om te bekijken of die definities voldoende blijven, ook in de komende tijd. Voor nu kunnen we goed uit de voeten met de huidige definities.

Mevrouw Kathmann vroeg ook nog of we ervoor kunnen zorgen dat het duidelijk is wanneer iemand als risicopersoon is geselecteerd, bijvoorbeeld in het kader van een overheidsbesluit of als iemand al dan niet een bepaalde subsidie heeft gekregen. We vinden het belangrijk om als overheid super transparant te zijn over hoe we besluiten nemen. Wij vinden het ook goed dat dit bijvoorbeeld in een brief komt te staan. We bekijken hoe we dat kunnen doen, bijvoorbeeld door te verwijzen naar het Algoritmeregister. We kunnen dat ook doen door te verwijzen naar het register op gegevensbijbesluiten.overheid.nl, dat we inmiddels verder aanvullen. We zijn daar behoorlijk mee aan de slag. Dat register geeft inzicht in hoe een besluit bij de overheid wordt gemaakt.

Vanuit de AI-verordening is er straks dus ook een notificatieplicht. Met andere woorden, je moet ervoor zorgen dat het helder wordt wanneer hoogrisico-AI is toegepast. De kern van wat we willen bereiken, is: wanneer de burger een brief van de overheid ontvangt met een besluit, zoals het wel of niet ontvangen van subsidie, het starten van verder onderzoek of het verzoek om extra gegevens, is het altijd belangrijk dat die weet waarom de brief wordt gestuurd. Mevrouw Kathmann en ik hebben daar eerder met elkaar een discussie over gehad. Het is belangrijk om te begrijpen waarom je bijvoorbeeld wel of niet in aanmerking komt voor een studielening, subsidie, of iets van die orde, en dat je dit ook kunt nagaan. Niet alleen de AI-verordening is een hulpmiddel om dat inzicht te bieden. We kunnen dat verder doen door überhaupt inzichtelijk te maken hoe en op basis waarvan we besluiten maken bij de overheid. We zijn daar dus heel hard mee aan de slag.

De heer Valize van de PVV had een vraag over het implementatiekader: weten departementen daarvan en wat zijn de ervaringen daarmee? Inderdaad, de departementen kennen dit implementatiekader. We zijn het verder aan het ontwikkelen. We vertelden dat we dit kader aan het eind van dit jaar verder willen aanvullen met inzichten vanuit de AI-verordening. Zo zorgen we ervoor dat het overheden ook helpt om te voldoen aan de regels die worden gesteld, zoals in de AI-verordening.

Dan was er nog de vraag, ook van de heer Valize, hoe ik ervoor ga zorgen dat algoritmes verantwoord kunnen worden ingezet. Daar hebben we natuurlijk een hele serie van activiteiten voor: niet in de laatste plaats het algoritmekader, ervoor zorgen dat er een register is, en natuurlijk ook zorgen dat we die verordening in de komende tijd zo goed mogelijk gaan toepassen.

Dan was er ook nog een vraag van de heer Van Baarle van DENK. Die ging over het algoritmekader, maar volgens mij heb ik die al beantwoord. Hij vroeg: is dat nou een verplichtend kader? De elementen daarin zijn natuurlijk gewoon verplichtend, want je moet voldoen aan mensenrechtentoetsen, DPIA’s enzovoort, enzovoort als je algoritmes wil gaan invoeren.

Dan is er nog de vraag van de VVD of medeoverheden worden meegenomen als het gaat om analoge terugvalopties. Dat ging overigens over cyberaanvallen. Dat was een vraag van de heer Meulenkamp. Wij vinden ook dat je daar bij het inrichten van algoritmes heel goed naar zal moeten kijken. Ik denk dat we wel meer werk nodig hebben om dat goed te kunnen beantwoorden, maar we willen daar graag mee verder. Als het gaat over cyberaanvallen in de brede zin van het woord, is het namelijk altijd belangrijk dat de basisprocessen van een overheid doorgang kunnen blijven vinden. Dat is bijvoorbeeld het kunnen uitgeven van een paspoort, een uitkering of iets anders. Dat geldt natuurlijk net zo goed voor heel veel andere taken. Daarvoor hebben we in het kader van de implementatie van de zogenaamde NIS2-regels, dus de implementatie van Europese wetten die we hebben gemaakt op het gebied van cyberveiligheid, ook nog werk met elkaar te doen, zeker ook met andere overheden. Dat doen we graag met hen samen.

De heer Meulenkamp (VVD):

Geeft u daarmee ook aan dat het echt prioriteit moet hebben? U zegt dat u het belangrijk vindt, maar gaat u daar de komende maanden ook echt prioriteit aan geven, zeker gezien de onstabiele situatie in de wereld op dit moment?

Staatssecretaris Van Huffelen:

Cyberveiligheid heeft een grote prioriteit. Overigens is de eerstverantwoordelijke hiervoor de Minister van JenV. Maar dat laat onverlet dat we daar echt heel goed op samenwerken, zeker ook als het gaat over de implementatie van nieuwe regels daarvoor. Maar er zijn veel aspecten die daarmee samenhangen. Er is echt grote aandacht voor. Het is natuurlijk heel belangrijk dat alle partijen zich heel erg wapenen tegen dit fenomeen, en dus ook inderdaad gemeenten, provincies, waterschappen en grote, cruciale bedrijven, zoals in die in de energiesector en banken. Dit vindt in allerlei vormen en maten plaats en heeft inderdaad zeker in de huidige geopolitieke situatie in de wereld ongelofelijk veel aandacht nodig. Dat heeft dus veel prioriteit. Het is van belang – daar gaat het in dit debat natuurlijk ook vooral om – dat als je algoritmes gebruikt voor het uitvoeren van beleid, of dat nou gaat over uitkeringen of subsidies, je ook goed zorgt dat dat niet stopt wanneer je daar op de een of andere manier problemen mee krijgt, bijvoorbeeld wanneer die worden gehackt.

Dan de vraag van mevrouw Kathmann over het in kaart brengen van hoogrisicoalgoritmes. Uiterlijk eind volgend jaar moeten dus al die hoogrisicoalgoritmes in het register staan. Het is van belang dat iedereen daar zo snel mogelijk mee aan het werk gaat, maar het is niet onbelangrijk om te weten dat er voor hoogrisicoalgoritmes ook een Europese databank komt. Er is dus niet alleen het Nederlandse register; ook in Europa moeten die in een databank worden opgenomen.

Dan was er nog een vraag over effecten van het inzetten van algoritmes op de werkvloer. Daar had mevrouw Kathmann het over. Het gaat om de effecten op het dagelijks werk van mensen. Hoe zorg je er dan voor dat er de mogelijkheid is om in te grijpen? Natuurlijk moeten we goed gaan kijken naar de inzet van AI en algoritmes en hoe dat gaat werken, niet alleen binnen de overheid, maar ook bij bedrijven. Die implementatie gaan we in de komende tijd verder uitwerken. Maar het is natuurlijk echt heel belangrijk dat als er situaties ontstaan waarbij algoritmes de verkeerde kant op gaan, er voor overheden en bedrijven daadwerkelijk de mogelijkheid is om daarbij in te grijpen en te zorgen dat er bijvoorbeeld de mogelijkheid is om je daartegen te verzetten. Daarvoor is dat klachtenrecht bijvoorbeeld ontzettend belangrijk.

Er was nog een vraag vanuit NSC over de motie Leijten-Ceder, namelijk: hoe staat het met dat waardenkader? Die vraag is ook gesteld namens de ChristenUnie. In de afgelopen tijd heb ik over dit onderwerp gesproken met veel experts, die aangeven dat de code voor goed digitaal openbaar bestuur, CODIO, een heel goed overkoepelend kader is om publieke waarden bij de inzet van technologie te waarborgen. Die gebruiken we dus ook. Die is al ontwikkeld in 2021. De praktische toepasbaarheid daarvan verdient wel meer werk. Daaraan werken we op dit moment hard. In december, dus aan het eind van dit jaar, zal ik uw Kamer verder informeren over dat werk. Op dit moment werken we dus op basis van dat overkoepelende CODIO-kader.

Dan is er nog de vraag van DENK over de AI-verordening: wat is een hoogrisicoalgoritme? Daar hebben we volgens mij al iets over gezegd. Dat zijn bijvoorbeeld algoritmes waarmee je controleert of een uitkering rechtmatig wordt verleend of algoritmes voor het scannen van cv’s en sollicitatiebrieven. Bij al dit soort elementen worden algoritmes heel duidelijk als hoogrisicoalgoritmes aangeduid. Die zullen dus moeten voldoen aan wat er in de verordening over systemen is aangegeven.

Dan heb ik volgens mij alle vragen op het gebied van wet- en regelgeving beantwoord.

De voorzitter:

Er is een vraag voor u van mevrouw Van der Werf.

Mevrouw Van der Werf (D66):

Volgens mij zijn er nog een paar dingen blijven liggen, al is er natuurlijk het risico dat dit in een volgend blokje voorbijkomt. Ik had gevraagd wat nou de volgende stap is na de AI-verordening. Hoe ga je van transparantie naar ingrijpen? Ik was benieuwd welke instrumenten je hebt voor de naleving. Dus waar wordt die handhaving dan belegd? Hoe kan je een scenario zoals we dat nu bij de DSA hebben gezien, waarbij het nog niet rond was, voorkomen?

Staatssecretaris Van Huffelen:

Op deze AI-verordening wordt toezicht gehouden. De toezichthouders kunnen boetes uitdelen. Dat kunnen flinke boetes zijn; ik geloof dat die kunnen oplopen tot 6% van de totale wereldwijde omzet van een bedrijf. De kern van het verhaal is dus dat het inrichten van toezicht iets is waar we in de komende tijd mee aan de slag gaan: welke toezichthouder gaat wat doen? We gaan zorgen dat er goede normuitleg is voor bedrijven, zodat mensen ook weten hoe ze moeten voldoen aan deze regels. Vervolgens kan er inderdaad toezicht worden gehouden. Nogmaals, daarbij is een heel instrumentarium aan de orde, inclusief het instrumentarium van het daadwerkelijk uitdelen van boetes.

De voorzitter:

Er is nog een interruptie, van de heer Meulenkamp van de VVD.

De heer Meulenkamp (VVD):

Ik had de volgende vraag gesteld. Als we algoritmes meer gaan gebruiken, is er misschien wel meer tijd om weer te luisteren naar onze inwoners, zodat mensen buiten ook het voordeel gaan inzien van het gebruik van algoritmes. Dan zeggen ze misschien: ik word sneller geholpen door de overheid, ik word beter gehoord. Heeft u er een beeld bij hoe u daarop zou willen sturen? In mijn ogen is dat cruciaal voor het herstellen van vertrouwen in de overheid. Volgens mij heeft u die vraag nog even laten liggen.

Staatssecretaris Van Huffelen:

Die zit in een blokje verderop, maar ik zal ’m alvast even oppakken. De kern is inderdaad het volgende. Als we het hebben over de AI-verordening, dan hebben we het natuurlijk heel sterk over het beperken van de risico’s en over zorgen dat je algoritmes op een goede manier reguleert. Dat is om ongelukken, zoals we die ook hebben gekend in Nederland, te voorkomen. Dat is superbelangrijk, maar laten we helder zijn: algoritmes kun je inderdaad ook heel goed inzetten in het voordeel van burgers, bijvoorbeeld om meer aan proactieve dienstverlening te doen. Het is nu vaak zo dat als mensen in aanmerking komen voor een subsidie of een toeslag – dat is zelfs in bijna 100% van de gevallen zo – ze zich daar zelf voor moeten aanmelden. Maar we zouden algoritmes ook kunnen gebruiken om meer proactief aan te geven waar je recht op hebt, of het geld zelfs al over te maken. Je kunt bijvoorbeeld ook generatieve AI inzetten om de dienstverlening aan de telefoon te verbeteren.

Op allerlei manieren kun je AI dus inzetten in positieve zin. In onze visie op generatieve AI hebben we daarover een aantal elementen opgenomen. We willen daar in de komende tijd verdere uitwerking aan geven: hoe kunnen we dit op een goede manier doen, zodat het inderdaad makkelijker is om burgers te helpen en zodat het werk voor mensen die direct contact hebben met burgers, bij bijvoorbeeld gemeenten of uitvoeringsorganisaties, makkelijker wordt? Zo ken ik een voorbeeld in Frankrijk waarbij mensen die achter het loket zitten bij de gemeente, gebruik kunnen maken van generatieve AI om vragen van bewoners sneller te kunnen beantwoorden. Dat wordt nu geïmplementeerd en dat gaat dus om een breed terrein, over allerlei aspecten van de overheid. Dus we zijn echt wel heel goed aan het kijken naar hoe we het op een positieve manier kunnen inzetten. Maar we zijn daarbij natuurlijk ook voorzichtig en zorgvuldig, want we willen voorkomen dat daar waar je het positief bedoelt, het leidt tot nieuwe problemen. Hoewel we al heel fantastische technische ontwikkelingen zien, ook met generatieve AI, zien we ook nog large language models die hallucineren, zoals dat dan heet. Je zou ook kunnen zeggen dat ze gewoon foute informatie geven. Het is ontzettend belangrijk dat je dat voorkomt als je het ten gunste inzet. Maar die twee kanten zijn allebei onderdeel van het beleid van deze regering.

De voorzitter:

U had nog een vervolgvraag van mevrouw Van der Werf. Meneer Meulenkamp, heeft u een vervolgvraag? Mevrouw Van der Werf komt zo aan bod, hoor ik. De heer Meulenkamp, daarna de heer Van Baarle.

De heer Meulenkamp (VVD):

Ik zou hier graag een link willen leggen met het aantal Woo-verzoeken dat we jaarlijks moeten behandelen. Dat klotst echt tegen de plinten. Gaan we in de gaten houden hoe het gaat met ontwikkeling van de Woo-verzoeken en wat de relatie is met het meer spreken met mensen, omdat we algoritmes gaan inzetten? Dat geef ik als tip mee.

Staatssecretaris Van Huffelen:

Dank u wel. We doen alles wat we kunnen om onze dienstverlening te versterken. We hebben ook afspraken gemaakt over het idee «no wrong door», wat betekent dat je bij alle loketten terecht moet kunnen. Dat kun je alleen maar inrichten als je ook ervoor zorgt dat mensen die achter zo’n loket zitten, voldoende geïnformeerd zijn. Daar kan generatieve AI of AI echt een belangrijke rol spelen. Maar nogmaals, we moeten dan wel ervoor zorgen dat het goed is ingericht en getest voordat we dat gaan doen. Uiteraard moet het voldoen aan onze eigen regels die in de AI-verordening staan.

De voorzitter:

De heer Van Baarle en dan de heer Valize.

De heer Van Baarle (DENK):

Ik had nog een verhelderende vraag over wat «hoog risico» is in de AI-verordening. Als ik het even bekijk, dan zie ik dat er acht gebieden onderscheiden worden, waaronder bijvoorbeeld toegang tot essentiële particuliere diensten en openbare diensten en uitkeringen. Neem bijvoorbeeld die essentiële particuliere diensten. Is nou goed omschreven in die verordening en helder voor ons in de implementatie wat een essentiële particuliere dienst is en wat niet? Neem bijvoorbeeld het krijgen van een bankrekening of een verzekering. Is dat limitatief opgeschreven of is het aan ons om te interpreteren wat die acht omschrijvingen van categorieën in de praktijk zijn?

Staatssecretaris Van Huffelen:

Het gaat in dit geval dus echt over banken en verzekeraars of hypotheekverstrekkers. Ik denk dat we daar voldoende informatie over hebben. Nogmaals, ik denk dat het goed is dat we daar nog een keer met elkaar in een technische briefing wat meer en dieper op ingaan. Dit soort dienstverlening hoort daar dus bij, net als energiebedrijven, enzovoorts, enzovoorts.

De heer Valize (PVV):

Ik had ook nog een vraag gesteld. Ik moet trouwens wel zeggen dat ik het fijn vind om te horen dat de Staatssecretaris ook denkt in kansen en mogelijkheden van generatieve AI. Dat is altijd mooi om te horen. Maar ik had ook nog een vraag gesteld over het IKA-register. Wat is er in de IA Act opgenomen dat afwijkt ten opzichte van het IKA-register en andersom? Dus gaan wij met het IKA-register verder dan de AI Act, of gaat de AI Act verder dan het IKA-register?

Staatssecretaris Van Huffelen:

Bij het Algoritmeregister dat we nu hebben, hebben we afgesproken dat de overheden hun hoogrisicoalgoritmes registeren. Dat is in principe hetzelfde als wat bedoeld is met dat «hoog risico» in de AI Act. We willen dezelfde definitie van «hoog risico» gebruiken als in de AI Act, zodat daar een-op-een hetzelfde in staat. Dat gaat over het register.

Dan het implementatiekader. Misschien loopt het een beetje door elkaar. We hebben een register. Alle algoritmes die door de overheid worden gebruikt, staan daarin of moeten daarin komen te staan; het is nog niet helemaal gevuld. Dan gaat het over de rijksoverheid, maar ook over gemeenten, provincies, waterschappen enzovoorts. Dan is er de AI-verordening, de regelgeving waar algoritmes aan moeten voldoen. Hoe we dat gaan toepassen bij de overheid, stoppen we in zo’n implementatiekader. Dat klinkt misschien een beetje complex, maar het is eigenlijk de normuitleg die we als overheid willen gebruiken om te zorgen dat wij met z’n allen kunnen voldoen aan de regels van de AI-verordening.

De voorzitter:

Een vervolgvraag van de heer Valize.

De heer Valize (PVV):

Dank voor de heldere toelichting. Dan had ik ook nog een vraag over datzelfde implementatiekader. Er werd al eerder door de heer Van Baarle een vraag gesteld over de verplichtingen die eruit voortvloeien: is het een vereiste? Toen werd gezegd: ja, dat klopt; het is een eis. Vervolgens lees ik in de verzamelbrief met betrekking tot het reguleren van de algoritmes op pagina 4 dat het geen checklist is, dat het nemen van maatregelen in dit kader niet rechtstreeks leidt tot het voldoen aan de verplichting en dat niet alle maatregelen in dit kader verplicht zijn. Dan is toch even de vraag: wordt nu alles wat in dat IKA staat verplicht of niet? Of komt er gewoon een registertje in dat IKA-stuk waarbij staat: deze onderdelen zijn verplicht en hieraan moet u voor honderd procent voldoen, en dit zijn zeer dringende adviezen?

Staatssecretaris Van Huffelen:

Het is eigenlijk allebei zo. De overkoepelende wetgeving is de AI-verordening in samenhang met een aantal andere wetten die we met elkaar kennen. Als het gaat over het toepassen van algoritmes door de overheid, dan is het uiteraard van belang dat je voldoet aan die AI-verordening. Daarin staat bijvoorbeeld dat je die mensenrechtentoets moet doen en dat je een DPIA moet doen en al dat soort elementen. Het kan zijn dat we in het implementatiekader ook nog wel aanvullingen doen in de zin van: dit zijn handreikingen; dit is iets wat je zou kunnen doen om het voor jezelf makkelijker te maken en te voldoen aan de wet. Dat kan. Maar de kernelementen van het implementatiekader zijn die elementen die ook wettelijk verplicht zijn. Daarmee zijn ze ook verplicht.

De voorzitter:

U kunt door, hoor, nu.

Staatssecretaris Van Huffelen:

Ik denk dat dat ook goed is. Het is altijd een beetje lastig, want u denkt soms dat een vraag misschien niet meer aan bod komt, maar ik heb in mijn mapjes nog wat antwoorden op vragen zitten. Misschien is het goed om die eerst door te lopen en dan te kijken of ik nog iets vergeten ben.

Er was nog een vraag van mevrouw Kathmann over de toezichthouders. In dit verband en bij de implementatie van die AI-verordening ben ik ontzettend blij met de afspraak met de toezichthouders om samen te werken in dat samenwerkingsplatform voor digitale toezichthouders. Het was volgens mij de heer Krul – hij is er nu even niet – die zei: wordt het dan niet een ontzettend warrige toestand? Ik denk juist van niet. Algoritmes worden toegepast in heel veel sectoren, bij de overheid, in de private sector. Het is ongelofelijk belangrijk dat we op dezelfde manier kijken naar het uitvoeren van die algoritmewetgeving voor die verschillende sectoren. Natuurlijk is het ook ontzettend belangrijk dat we dat doen in een gecoördineerd stelsel. Dat gecoördineerde stelsel is dat samenwerkingsverband waar ik het net over had.

Volgens mij ben ik dan door het mapje toezicht heen. O nee, ik heb nog één vraag. Wie is er verantwoordelijk voor de handhaving als het algoritmekader bindend is? Daarbij hebben we de afspraak dat het stelsel van toezichthouders aan het werk gaat en dat de AP hier de rol speelt van coördinerende toezichthouder.

Dan ga ik naar de vragen over het Algoritmeregister, voor zover die inmiddels nog niet beantwoord zijn. Er was een vraag van mevrouw Van der Werf over dat hoogrisicoalgoritmes in het kader van opsporing niet in het register staan. Dat is niet zo. Dit soort algoritmes moeten ook worden opgenomen als onderdeel van het algoritmekader. Het is wel zo dat niet alle informatie over dit soort algoritmes kan worden aangegeven. Ik kom terug op een onderwerp dat ook in de afgelopen jaren wel heeft gespeeld. Als je bijvoorbeeld bij een bepaalde controle bij de Belastingdienst een drempelbedrag invoert, dan zal je waarschijnlijk dat drempelbedrag niet willen openbaren, maar wil je wel helder maken dat er sprake is van algoritmische besluitvorming. Nogmaals, met alle departementen is afgesproken dat zij hun hoogrisicosystemen in het kader opnemen. Maar het is dus wel van belang dat de algoritmes worden opgenomen. Je kan er in het kader van bijvoorbeeld opsporing voor kiezen om niet alle elementen daarvan op te nemen.

Mevrouw Van der Werf (D66):

Dit is al een deels bevredigend antwoord. Ik stelde de vraag vooral omdat ik wil weten hoe je er als je iets niet opneemt, voor zorgt dat dat stukje wel kan worden doorgelicht. Daar gaat het me om. Ik kan me dus helemaal voorstellen dat je niet honderd procent transparant kan zijn, maar hoe zorg je er dan voor dat er ergens die toets is?

Staatssecretaris Van Huffelen:

De toezichthouders op deze organisaties zullen dat natuurlijk altijd wel krijgen. Die hebben altijd toegang en kunnen inzicht krijgen in die algoritmes.

Dan was er ook nog een vraag van de PVV over de verplichting van het Algoritmeregister volgens de AI-verordening. De AI-verordening geeft aan welke algoritmes verplicht moeten worden geregistreerd in een Europese database. Het nationale register dat we hebben, moet natuurlijk op z’n minst die algoritmes bevatten. Als wij nog meer in dat register willen zetten, dan kunnen we dat natuurlijk doen, maar op z’n minst moeten de hoogrisicoalgoritmes erin zitten die er volgens de verordening in moeten staan.

Dan was er nog de vraag van de PVV waarom het Algoritmeregister nog niet helemaal vol is. Dat is een oproep naar mijn hart. Ik nodig iedereen natuurlijk heel graag uit om die algoritmes ook daadwerkelijk in het register op te nemen. Mijn collega’s van de andere departementen hebben ook aangegeven dat ze dit gaan doen. Het is niet altijd heel erg makkelijk om dat snel te doen, maar ze zullen dat doen. Ze hebben aangegeven dat ze daar tot uiterlijk eind volgend jaar voor nodig hebben.

Dan zijn er nog vragen over het advies van de landsadvocaat. Nogmaals, daar gaat mijn collega verder op in.

Er was de vraag hoeveel departementen gebruikmaken van automatische besluitvorming en op welke termijn een reactie kan worden gegeven op het verzoek van de heer Idsinga daarover. Als coördinerende bewindspersoon ben ik aan het kijken hoe we uitvoering kunnen geven aan dat verzoek, namelijk hoe we inzicht krijgen in alle automatische besluitvorming waarvan sprake is. Op dit moment heb ik dat inzicht nog niet, maar ik ben wel aan het kijken hoe we dat kunnen doen. Mijn voorstel is om voor de zomer een brief naar de Kamer te sturen om aan te geven hoe we hieraan kunnen voldoen. Daarbij kijken we natuurlijk ook naar het advies dat we in dit kader zullen krijgen vanuit de Autoriteit Persoonsgegevens.

Dan kom ik bij het blokje overig.

Daarin begin ik met een vraag die mevrouw Van der Werf heeft gesteld: hoe kunnen we zorgen dat mensen beter begrijpen hoe AI werkt en hoe kunnen we hen informeren over de gevaren die daarmee samenhangen? Eigenlijk zijn we daarvoor een aantal dingen tegelijkertijd aan het doen, want dit heeft alles te maken met een belangrijk onderdeel van onze werkagenda, namelijk: zorgen dat mensen digitaal mee kunnen doen. Dat betekent dat er nu bijvoorbeeld als vast onderdeel in het curriculum op scholen niet alleen aandacht wordt besteed aan digitale vaardigheden, maar ook aan mediawijsheid. Dat onderwerp wordt nu verder uitgewerkt. Dat gebeurt natuurlijk onder leiding van de Minister van Onderwijs. We kijken ook of we aandacht kunnen besteden aan het onderwerp beter inzicht krijgen in bijvoorbeeld desinformatie en deepfakes. We hebben daar al websites voor met informatie daarover. Twee belangrijke bronnen daarvoor zijn mediawijsheid.nl en isdatechtzo.nl. Maar niet in de laatste plaats is het natuurlijk zo dat, als onderdeel van de DSA, deepfakes straks moeten worden gemarkeerd, voor zover die überhaupt mogen worden gebruikt; er zijn namelijk ook deepfakes die niet mogen worden ingezet. Daarmee hopen we ook veel meer inzicht te bieden in welke informatie te herkennen is als een deepfake, gemaakt of niet echt, en welke informatie wel echt is.

We zetten daarop in met educatie, te beginnen op scholen, en op allerlei manieren met lesprogramma’s en we komen binnenkort met een nieuwe brief over onze inzet op desinformatie, maar ik denk dat het desondanks echt een onderwerp is waar we in de komende jaren nog veel meer aandacht aan moeten besteden. Ondanks het feit dat iets gemarkeerd moet worden volgens de Digitaledienstenverordening, de SDA, en dat we meer aan mensen gaan aangeven hoe je deepfakes of andere dingen kunt herkennen, zullen we dit fenomeen namelijk zeker nog tegenkomen. Mensen daartegen wapenen is een belangrijke factor. Niet voor niks heeft bijvoorbeeld de oprichter van Bellingcat duidelijk gezegd dat dat een van de belangrijkste dingen is. Los daarvan moeten we ook techniek inzetten om te zorgen dat we dit fenomeen verder bestrijden.

Dan was er nog de vraag van DENK over de uitvoering van het ADR-onderzoek naar de uitvoering van de motie op stuk nr. 21. Dat onderzoek voert de ADR uit om te kijken of de departementen op een goede manier invulling hebben gegeven aan datgene wat er met de motie beoogd werd. De rapportages worden inderdaad in de zomer verwacht. Daar gaan we ook een zogenaamde rodedradenanalyse en een bestuurlijke reactie bij geven. Daarmee hopen we dus ook wat meer te laten zien over de manier waarop dit assessment is gedaan. U vroeg ook nog: gaat u dit nou structureel doen? Dat willen we eigenlijk niet doen, want we willen vooral zorgen dat we met de regelgeving die er is voor de inzet van algoritmes op een goede manier kunnen zorgen dat er een structureel element is waarmee we steeds de toetsen kunnen doen. Met het toezicht op de in- en uitvoering van de AI Act beogen we natuurlijk hetzelfde als de motie op stuk nr. 21.

Dan was er van DENK ook nog de vraag of de handreiking non-discriminatie gedeeld is met de private partijen. Dat hebben we gedaan. Die is namelijk openbaar beschikbaar. We zien ook dat veel van de aanbevelingen van toepassing zijn op en gebruikt worden door private partijen.

Dan was er nog de vraag – die was ook van DENK – over het protocol bij geconstateerde discriminatie. Zoals we hebben toegezegd, komt dat voor de zomer. Daarin ga ik in op de manier waarop overheidsorganisaties moeten omgaan met discriminatie op het moment dat die geconstateerd wordt. Dat gaat bijvoorbeeld om hoe je burgers moet informeren als er een probleem is en om hoe je op basis van de ontstane problematiek een klacht kunt indienen. We gaan verder kijken hoe de AI-verordening hier invulling aan geeft, maar het protocol is in ieder geval een belangrijke stap. Dat komt dus voor de zomer.

Dan ben ik als het goed is door de vragen heen.

De voorzitter:

Dan kijk ik even naar links, naar de Kamerleden. Ik zie al een vinger van de heer Valize. Zijn verder alle vragen aan de Staatssecretaris Koninkrijksrelaties en Digitalisering beantwoord? Oké.

De heer Valize (PVV):

Ik had ook nog een vraag gesteld met betrekking tot de Autoriteit Persoonsgegevens en de directie Coördinatie Algoritmes, die dus wat opgeschaald wordt. Ik had gevraagd of de capaciteit voldoende is.

Staatssecretaris Van Huffelen:

Op dit moment zien we dat er voldoende capaciteit is. In de verdere uitwerking en bij de implementatie van de verordening, en dus ook bij het beter definiëren van wie welke rol moet spelen en hoe dat er precies uit komt te zien, zullen we dat natuurlijk altijd in de gaten moeten houden. Het is natuurlijk belangrijk dat het toezicht bij zo’n verordening goed kan worden ingericht, maar op dit moment kan de AP met de huidige groep van mensen uit de voeten. Dat is in ieder geval de informatie die ik daarover heb. Mocht dat niet zo zijn, dan kom ik daar in een later stadium zeker graag op terug.

De voorzitter:

Dan dank ik de Staatssecretaris voor de beantwoording en gaan we naar de Staatssecretaris van Financiën, de heer Van Rij.

Staatssecretaris Van Rij:

Ja, dank u wel, voorzitter. Ik zal specifiek ingaan op de vragen die gesteld zijn naar aanleiding van het advies van de landsadvocaat. Dat wilde ik als volgt doen: eerst even het proces, dan het advies van de landsadvocaat en dan de vervolgstappen.

Collega Aukje de Vries en ondergetekende zijn al langere tijd bezig met het maken van een wetsontwerp, namelijk het wetsvoorstel Wet waarborgen gegevensverwerking Belastingdienst, Toeslagen en Douane, ook wel afgekort als WGBTD. Ik moet zelf altijd weer even nalezen waar het voor staat, vandaar dat ik het ook voluit heb gezegd. Daarover hebben we de Kamer in verschillende voorgangsrapportages ingelicht. Dat gaat over de AVG, de Algemene verordening gegevensbescherming, maar ook over de Baseline Informatiebeveiliging Overheid en over de Archiefwet. In het kader van het voorbereiden van die wetgeving hebben wij natuurlijk ambtelijk ook de uitspraak van het Hof van Justitie van 7 december jongstleden geconstateerd. Dat is het zogenaamde SCHUFA-arrest, en er was natuurlijk al een conclusie gewezen in maart vorig jaar.

Dat heeft er bij ons direct aanleiding toe gegeven advies te vragen aan de landsadvocaat. Dat advies hebben wij in eerste instantie gekregen op 31 januari en zo heb ik dat ook beantwoord op schriftelijke vragen van NSC. Wij hebben daar gesprekken over gehad. We hebben ook wat verduidelijkende en aanvullende vragen gesteld. We hebben ook de ambtelijke commissie publieke dienstverleners of uitvoeringsorganisaties hiervan op de hoogte gesteld. We hebben het ook aan de orde gesteld in februari in de ministeriële commissie uitvoeringsorganisaties publieke dienstverlening. Wij beseften natuurlijk dat we al met een wetgevingstraject bezig zijn, maar niet de collega-beleidsdepartementen daarmee wilden verrassen. Met name de Ministeries van SZW, OCW en VWS hebben aangegeven in die vergaderingen niet alleen in de inhoud van het advies van de landsadvocaat geïnteresseerd te zijn, maar daar ook opvattingen over te hebben. Dat is allemaal terechtgekomen in aanvullende vragen. Dat heeft geleid tot het advies van 12 maart.

Dan het advies zelf. De landsadvocaat geeft in dat advies aan en bouwt zeer zorgvuldig op dat het profileringsbegrip in de AVG ruim moet worden uitgelegd. Dat is wel een uitleg die een stuk ruimer is dan voor die tijd. Daar heeft de landsadvocaat ook argumenten voor.

Een van de vragen ging over selectiecriteria. We hebben aan de landsadvocaat de selectiecriteria voorgelegd die de Belastingdienst altijd hanteert. Ik heb nog meegemaakt dat er geen automatisering was, toen ik in 1983 begon. Ik ben nog van dat tijdperk. Toen waren er ook selectiecriteria. Ik geloof dat de heer Van Baarle het op een bepaald moment samenvatte. Nu zijn we natuurlijk met automatisering bezig. We ontkomen daar niet aan. Als we de automatisering moeten stopzetten bij alleen al 10 miljoen aangiftes inkomstenbelasting, die geautomatiseerd verwerkt worden op basis van vooraf ingevulde aangiftes, dan komen de belastingcentjes niet binnen. Het gaat natuurlijk om die selectiecriteria. Bij die selectiecriteria heeft de landsadvocaat over profilering gezegd dat van de tien er twee niet voldoen. Dat had te maken met leeftijd. Dat heeft er gewoon mee te maken dat je bijvoorbeeld bij een jonggehandicaptenkorting naar de leeftijd moet kijken of naar een bepaalde reserveringsruimte. Maar de overige voldoen wel. Dat is een behoorlijk ruime uitleg.

De volgende vraag waar de landsadvocaat op is ingegaan, is de volgende. Je hebt in eerste instantie de eerste fase: de aangiftes worden geautomatiseerd ingediend. Vervolgens worden er een aantal «uitgeworpen»; dat is de terminologie. Ik geloof dat de heer Krul het over een «ping» had, maar dit is de terminologie binnen de Belastingdienst. Dat is dan op basis van die selectiecriteria. Dat wil niet per definitie zeggen – helemaal niet, zelfs – dat de gedachte is: o, er is een fout gemaakt in de aangifte; dit kan de eerste stap zijn voor een fraudeonderzoek. Heel veel mensen maken fouten. In een van die selectiecriteria staat bijvoorbeeld iets over de situatie dat iemand voor de eerste keer zijn aangifte inkomstenbelasting invult omdat diegene een eigen huis gekocht heeft en recht op renteaftrek heeft. De ervaring leert dat heel veel mensen daarbij fouten maken, omdat dat de eerste keer is. Dan krijg je een vragenbrief. Dat gebeurde ook in de tijd dat er nog geen automatisering was. Heel vaak is dat juist in het belang van de belastingplichtige, want als je een niet goed ingevulde aangifte hebt, dan hoor je liever van de Belastingdienst waar het dan niet goed is, in plaats van dat je een heel hoge aanslag, een navorderingstraject of nog erger krijgt.

Zo is er ook het voorbeeld van een oudere dame. Die had bij het invullen van haar aangiftebiljet het knopje voor de buitengewone lastenaftrek zorgkosten te lang ingedrukt. In plaats van 4.000 kwam er 4 miljoen uit. Zij was ontzettend blij dat ze een telefoontje kreeg van de Belastingdienst met de vraag: klopt dit wel? Natuurlijk zijn er ook situaties waarin er niet zomaar «foutjes» door belastingplichtigen worden gemaakt, maar waarin er bewúst fouten worden gemaakt. Dat kan dan wel degelijk aanleiding geven tot niet alleen een vragenbrief, maar ook een vervolgonderzoek.

Ik kom op wat de landsadvocaat heeft gezegd. Wat betreft artikel 22 van de AVG gaat het om de vraag: wanneer is er nou sprake van een besluit met rechtsgevolgen? Wat betreft automatisering worden de twee stappen die ik net beschreef, als één gezien. Als er dan ook nog eens een keer sprake kan zijn van het «anderszins in aanmerkelijke mate treffen», doet zich de vraag voor of de werkwijze die wij thans hanteren, met die open norm, in strijd zou zijn met het huidige artikel 22 van de AVG en met artikel 40 van de Uitvoeringswet AVG.

Waar baseert de landsadvocaat zich op? Dit is trouwens ook echt een beetje onontgonnen terrein. De jurisprudentie ontwikkelt zich dus ook. Die jurisprudentie ontwikkelt zich heel vaak in private situaties. Je hebt te maken met het aspect dat je ook nog een publieke dienstverlener bent, die ook nog naar andere zaken moet kijken dan alleen die mogelijke fraudesituaties. Denk aan dat SCHUFA-arrest. Dat is allemaal nog onduidelijk qua jurisprudentie. We nemen het advies van de landsadvocaat natuurlijk ongelofelijk serieus. Maar zij baseren zich met name op het volgende. Er is, op basis van artikel 29 van de AVG, een Europees Comité voor gegevensbescherming. Dat brengt richtsnoeren uit, die door de rechter worden gebruikt bij de interpretatie van deze wetgeving. Dat zijn richtsnoeren. De landsadvocaat kan natuurlijk ook niet anders doen. Een deel van die wetgeving heeft ook te maken met die richtsnoeren.

Wij hebben het volgende gemeend. De consequenties van dit advies kunnen verregaand zijn. Hier werd ook al naar gevraagd. Wij dachten: «We gaan niet over één nacht ijs. Dan vragen we aan de Autoriteit Persoonsgegevens zélf om hier het licht over te laten schijnen.» Uiteindelijk is die namelijk de autoriteit met de onafhankelijke en objectieve deskundigheid wat betreft de interpretatie van deze wetgeving. Die vraag hebben we neergelegd bij de Autoriteit Persoonsgegevens. Wij verwachten daar eind mei een antwoord op.

Wij hadden in het antwoord op de schriftelijke vraag van NSC ook nog gezegd dat het onze bedoeling is om twee onafhankelijke wetenschappers daarover om advies te vragen. Die zijn niet eerder beschikbaar dan augustus of september. Dat vinden wij te laat. In nauwe samenspraak met de Staatssecretaris van BZK – ze heeft daar zojuist zelf ook al wat over gezegd – hebben wij nu het idee om, nadat we het advies van de AP hebben, in ieder geval als Ministerie van Financiën, met name collega De Vries en ikzelf, de vervolgstap te zetten. Die vervolgstap is dan toch: wetgeving voorbereiden, die niet alleen op de AVG betrekking heeft. Dat heb ik ook al eerder gezegd. We willen de Wet waarborgen gegevensverwerking Belastingdienst, Toeslagen en Douane rapido in gang zetten. Dan komen we uiteraard ook bij uw Kamer terug. Het is namelijk wel van cruciaal belang dat hiervoor een goede wettelijke grondslag komt. Dat loopt natuurlijk parallel aan wat de andere departementen wel of niet zullen doen. Want nogmaals, het gaat bij ons niet alleen om de AVG, maar ook om die andere onderwerpen.

Voorzitter. Volgens mij heb ik nu behoorlijk wat vragen beantwoord. Er was nog één vraag, van de heer Krul. Tenzij je met nieuwe wetgeving zou komen, zou de consequentie van het advies in extremis kunnen zijn dat je ten aanzien van de handhaving geen gerichte controle meer kan doen. Dan zou je het met aselecte steekproeven moeten doen. Dat doet iets met de voorbeelden die ik net noemde: aftrekbaarheid van de hypotheekrente in de situatie dat je voor de eerste keer een huis koopt, zorgkosten of die directeur-grootaandeelhouder in box 2. Ik heb ook al gezegd wat dit eventueel betekent voor andere departementen en dat we in goed overleg zijn.

Voorzitter. Dan is er alleen nog de vraag van de heer Krul over welke gevolgen deze uitspraak heeft voor het witwastoezicht, waarbij banken op basis van geautomatiseerde signalen onderzoek doen. Daarbij moet ik even tekstvast zijn. Dat zit namelijk in de portefeuille van de Minister van Financiën. Daar ben ik dus niet dagelijks mee bezig.

Poortwachters wat betreft de Wet ter voorkoming van witwassen en financieren van terrorisme, de Wwft, dienen altijd aan cliëntonderzoek en transactiemonitoring te doen. Er is een breed scala aan poortwachters, van banken tot advocaten. Een deel van dat proces is geautomatiseerd. Dat is efficiënter voor banken en klanten. De Nederlandsche Bank houdt Wwft-toezicht op banken. Dat is bekend. Deze wet verplicht alle poortwachters om een risicogebaseerd onderzoek te doen en voor elke cliënt een zelfstandige afweging te maken.

De Minister van Financiën heeft aangegeven met DNB in gesprek te zullen gaan over de processen van banken. Daar waar de Belastingdienst taken uitvoert in het kader van het toezicht op de Wwft, wordt geïnventariseerd in hoeverre daarvoor gebruik wordt gemaakt van geautomatiseerde selectietechnieken. Hierover wordt u schriftelijk nog nader geïnformeerd; dat gebeurt ook omdat er een verzoek ligt van het lid Idsinga om hiervan een overzicht op te leveren.

Voorzitter. Ik heb nog één laatste opmerking. Als er echt sprake is van fraude of als er aanwijzingen van fraude zijn, hebben we natuurlijk altijd nog de Wet politiegegevens. Op basis van die wet, die de FIOD veel ruimere bevoegdheden geeft, kan er natuurlijk altijd een onderzoek worden ingesteld. Daar was ook een vraag over gesteld, dacht ik.

De voorzitter:

Dan kijk ik als eerste naar de heer Krul van het CDA.

De heer Krul (CDA):

Dank aan de Staatssecretaris voor deze heldere en uitgebreide uitleg. Ik begrijp dat de situatie die geschetst wordt, waarin we alleen maar aselecte steekproeven zouden kunnen doen, een «in extremis»-situatie is. Dat zou natuurlijk ook grote gevolgen kunnen hebben voor de belastingplichtige die wel een fout heeft gemaakt, maar dat niet bewust heeft gedaan. In die zin zijn wij er niet geruster op. Ik zou willen vragen of de Staatssecretaris overwogen heeft om, naast de Autoriteit Persoonsgegevens – die is wat dat betreft natuurlijk de autoriteit – bijvoorbeeld ook de Raad van State om advies te vragen. Misschien is het juist verstandig om te kijken of we in bredere zin wat meer advies kunnen krijgen over het wetsvoorstel dat in ontwerp gaat. De gevolgen zouden in extremis immers erg impactvol kunnen zijn.

Staatssecretaris Van Rij:

Dank voor deze vraag. Dat hebben we wel overwogen. Dan zal de heer Krul waarschijnlijk bedoelen dat we de Raad van State om een voorlichting vragen. Daar hebben we toch van afgezien, omdat wij de Autoriteit Persoonsgegevens op dit moment eigenlijk de meest aangewezen instantie vinden, vanwege de korte termijn waarin we antwoorden willen hebben. Wij dienen het wetsontwerp ook niet in vóórdat we dat advies van de Autoriteit Persoonsgegevens hebben gehad. Anders kan de Autoriteit Persoonsgegevens natuurlijk geen advies geven. Bij de Raad van State zit je eigenlijk een beetje in een vergelijkbare situatie. Als wij namelijk met dat wetsontwerp komen, komt de Raad van State in het reguliere traject ook nog gewoon aan bod. In het reguliere traject geeft de Raad van State ook nog advies over het wetsontwerp. Die combinatie van argumenten heeft er dus bij ons toe geleid om te zeggen: we vragen het nu aan de Autoriteit Persoonsgegevens. We komen uiteraard direct bij uw Kamer terug als we dat ontvangen hebben.

De voorzitter:

Dan kijk ik even verder. Zijn alle vragen beantwoord? Dat is zo. Ik denk dat we dan kunnen starten met de tweede termijn en dan is het woord aan de heer Six Dijkstra van NSC.

De heer Six Dijkstra (NSC):

Dank u wel, voorzitter. Ook dank aan beide staatssecretarissen voor de beantwoording. Ik had nog een aantal punten. Allereerst zie ik natuurlijk erg uit naar het advies van de Autoriteit Persoonsgegevens, dat we dan eind mei verwachten, omdat dit, zoals ook eerder in het debat aan de orde is gekomen, een behoorlijk grote impact kan hebben. Het is natuurlijk goed dat het Ministerie van Financiën reeds bezig is met nieuwe wetgeving als het gaat om toeslagen, maar – ik kijk ook even naar de andere Staatssecretaris – als dit zo veel departementen treft, zal er misschien een hele hoop extra wetgeving moeten komen in potentie. Dat moeten we natuurlijk ondervinden en dat moet dan mogelijk in een volgend debat aan de orde komen. Daarom nogmaals mijn vraag aan de Staatssecretaris van BZK om te reflecteren op de vraag of een eventuele voorhangprocedure voor algoritmes niet een uitweg zou zijn om dit soort wetgeving te versterken. Ik besef daarbij wel dat ik vooruitloop op een eventueel advies in de toekomst van de AP.

Dan nog één laatste vraag, wederom mede namens de ChristenUnie. Kunnen wij het naar ons toe komen van het CODIO-kader en de status daarvan eind december als concrete toezegging noteren?

Dat was ’m van mijn kant. Dank u wel.

De voorzitter:

Dan is het woord aan mevrouw Van der Werf.

Mevrouw Van der Werf (D66):

Dank u wel, voorzitter. Ook dank aan beide bewindspersonen voor hun beantwoording, en ook aan hun ondersteuning. Ik wil graag nog op één punt terugkomen. Er is natuurlijk een hoop kommer en kwel voorbijgekomen over wat het schip en het schipwrak ons gaan brengen. Ik was mijn inbreng geëindigd met de vraag hoe we er nou voor kunnen zorgen dat AI onze overheden ook kan ondersteunen, met name op het gebied van de dienstverlening richting burgers. Nu lopen we natuurlijk traditioneel gezien wat achter als het gaat om ICT bij de overheid, maar je zou op dit punt zeker kunnen zeggen dat we daar ook de vruchten van kunnen plukken. Ik overweeg een motie op dit punt, dus als u het mij toestaat zou ik ook graag vast een tweeminutendebat aanvragen.

Ik heb nog één losse vraag, om het zo maar even te noemen. De Staatssecretaris voor Digitale Zaken gaf aan dat ook bij die complexe algoritmen toezichthouders wel 100% inzicht krijgen op het moment dat ze niet worden opgenomen in een register. Ik wou even ter check vragen: ik ga er dan vanuit dat u bedoelt vooraf en niet pas op het moment dat het is misgegaan.

Dank.

De voorzitter:

Dan de heer Valize van de PVV.

De heer Valize (PVV):

Voorzitter, dank voor het woord. Dank voor de beantwoordingen van de staatssecretarissen en hun ondersteuning. Dank ook aan de collega’s voor het goede debat. Dan de tweede termijn. We kijken ernaar uit om de terugkoppeling te krijgen over ervaringen in het veld. Die brief komt aan het eind van het jaar, heb ik begrepen uit de beantwoording. Over het vullen van het register voor de algoritmes zou ik nog de vraag willen stellen aan de Staatssecretaris of er een mogelijkheid is om er iets meer op aan te dringen bij de departementen om dat toch zo vroeg mogelijk te doen, zodat we niet tot eind 2025 moeten wachten totdat het register een keer gevuld is.

En dan heb ik nog één klein dingetje. Dat kwam toevallig voorbij. Dat is dat keurmerk. We hebben toevallig vorige week een debat over onlineveiligheid en cybersecurity gehad. Daar heb ik dit onderwerp ook al aangehaald, bij de Minister van EZK. Dat betreft het CE-logo. Er zijn twee verschillende CE-logos. Je hebt er eentje voor China Export en je hebt er eentje voor het Europese keurmerk en het verschil is minimaal. Ik vraag om er toch, in samenspraak met uw collega’s in Europa, op aan te dringen dat er iets gedaan wordt om dat logo toch meer te laten differentiëren van dat China Exportlogo, want dat kan tot heel veel verwarring leiden.

En dan ben ik aan het einde van mijn tweede termijn. Dank u.

De voorzitter:

Dan het CDA, de heer Krul.

De heer Krul (CDA):

Ja, voorzitter. Heel kort. Nogmaals dank aan de bewindspersonen voor hun duidelijke uitleg. We zijn er niet per se geruster op geworden. Ik denk dat de Autoriteit Persoonsgegevens een heel nuttig inzicht kan bieden. Tegelijkertijd denk ik aan aspecten als het belang van toezicht, een belastingmoraal en de uitvoerbaarheid, aspecten waar je niet per se kan verlangen dat een AP die goed kan overzien, omdat het simpelweg niet haar expertise is. Ik zou willen vragen, maar gewoon ins Blauwe hinein, aan de griffier om met het tweeminutendebat dat is aangevraagd even te wachten tot eind mei dat advies er is. Ik denk dat de Kamer dat wel tot zich moet kunnen nemen voordat we hier verder over praten.

Voor zover, voorzitter.

De voorzitter:

Dank u wel. Ik moet dan wel als bijsluiter meegeven dat de aanvrager van het tweeminutendebat D66 is. Volgens mij gaan zij ook over het inplannen van het tweeminutendebat. Toch? Er is een suggestie gedaan. Die hoeft niet per se gehonoreerd te worden.

Mevrouw Van der Werf (D66):

We zullen het in overleg oppakken.

De voorzitter:

Het is goed dat we dat nog even ergens anders parkeren, dat we daar als u dat echt wilt nog even verder over in overleg gaan. Dan de heer Van Baarle.

De heer Van Baarle (DENK):

Ik dank de Staatssecretaris voor de beantwoording. Beide staatssecretarissen, maar mijn vragen waren vooral aan Staatssecretaris Van Huffelen gericht. Een aantal dingen zijn helder geworden, maar een hoop blijft voor mij toch nog onduidelijk. Dat zal aan mij en de Staatssecretaris liggen, want ik ben ook zelfkritisch. We hebben met elkaar een algemeen normenkader. Hoogrisicoalgoritmen kunnen alleen toegepast worden met een keurmerk, maar we weten niet wie dat keurmerk gaat geven. We stellen iets op wat niet bindend is, want alleen die AI-verordening is bindend voor waar de zaken aan zouden moeten voldoen. Wij hebben toch wat zorgen over de richting waarin het gaat, dus wij zijn blij dat mevrouw Van der Werf een tweeminutendebat heeft aangevraagd.

De voorzitter:

De heer Meulenkamp heeft geen behoefte aan een tweede termijn. Dan vraag ik even aan de heer Six Dijkstra of hij de voorzittershamer kan overnemen, zodat hij mij het woord kan geven.

Voorzitter: Six Dijkstra

De voorzitter:

Zeker. Het woord is aan mevrouw Kathmann van de fractie van GroenLinks-PvdA.

Mevrouw Kathmann (GroenLinks-PvdA):

Dank u wel, voorzitter. Nog even drie dingen. Ik wil ieder geval nog iets meegeven. Ik hoop eigenlijk ook wel op een antwoord van de Staatssecretaris, maar ik denk dat dat niet meer vandaag kan. Er is – een advies mag ik het niet noemen – een scenariostudie gedaan door de Toekomstkamer. Die is onderdeel van de Stichting Toekomstbeeld der Techniek. Het is een scenariostudie over het Algoritmeregister. Wat het heel interessant maakt, is dat zij kijken naar het instrument van het Algoritmeregister in het kader van de verdere inrichting van het digitale toezicht, wat dat instrument nog doet en wat we eigenlijk misschien wel voor andere instrumenten kunnen gebruiken.

Wat mooi is, is dat zij in hun schrijven over doel van het Algoritmeregister zeggen: meer vertrouwen in de overheid, want we zijn transparant. Als we dan de cijfers er nog eventjes bij pakken, dan zie je dat maar 9% van de Nederlanders weet dat er een Algoritmeregister bestaat en dat drie op de vier Nederlanders als je vraagt of ze dat belangrijk vinden zeggen dat ze het eigenlijk wel belangrijk vinden, maar dat maar 12% van de Nederlanders denkt dat een register kan bijdragen aan het vertrouwen in algoritmes. Dat maakt dit stuk van deze denktank, die bestaat uit allerlei experts uit allerlei gelederen, dus van commerciële partijen tot ook zelfs overheidsexperts en kennisinstellingen, wel heel interessant. Ik hoop dus dat de Staatssecretaris daarop zou willen reageren.

Dan nog een vraag over die digitalisering op de werkvloer. Dank in ieder geval voor de beantwoording door de Staatssecretaris, maar het is me iets te kort door de bocht. Het gaat me echt om dingen die je nu bijvoorbeeld ziet. Ik las laatst een artikel – volgens mij was het in de Volkskrant – over een dame die bij een bedrijf werkt waar ze ongeveer door een Fitbit wordt aangestuurd en die van hot naar her moet rennen omdat haar werkgever bepaalt hoe hard ze moet lopen om haar werk goed te kunnen doen. Ik moest eigenlijk denken aan de stakingen van 40 jaar geleden, toen alle lopende banden gewoon zo hard stonden dat mensen het niet meer konden bijbenen. Uiteindelijk is het voor lopende banden een soort van wettelijk vastgelegd, is gezegd hoe het zat met de arbeidsproductiviteit en dat het technologisch dan misschien wel kon, maar menselijk gewoon niet gezond was. Uiteindelijk is dat dus wel vastgelegd, maar zijn die lopende banden ook steeds weer een klein beetje harder gezet. En nu zei de Staatssecretaris eigenlijk: deze mensen kunnen straks met die AI-verordening hun recht halen. Maar hoe gaat dat dan? Die mensen op de werkvloer zijn al vaak in kwetsbare posities. Gaat uit dit Europese beleid nou echt voortkomen dat die mensen precies weten waar ze dan kunnen zijn en welke rechten ze hebben? En hoe voelen ze zich dan comfortabel genoeg om hun recht te gaan halen? Mijn vraag is eigenlijk wat Nederland er nou aan gaat doen om dat voor iedere werknemer in Nederland te kunnen borgen.

Dan de vraag over wat er eigenlijk in een brief komt na de «ping». Ik begrijp de beantwoording van de Staatssecretaris heel goed. Zij gaf aan dat, wanneer iemand wel of geen toeslag heeft gekregen, ze in een brief uit kunnen leggen waarom diegene dat wel of niet heeft gehad. Maar dat is natuurlijk veel relevanter als je in het kader van bijvoorbeeld fraudeopsporing eruit bent gepikt. Ik heb het zelf een keer gehad. Toen kreeg ik een schatting met «u moet dit terugbetalen». Het kwam uit allemaal posten. Uiteindelijk ga je dan naar een kantoor, maar die producten praten niet met elkaar. En eigenlijk was mijn grote vraag bij heel veel balies: van welke proces bent u eigenlijk onderdeel? Als dan in een brief zou staan: «In het kader van fraudeonderzoek bent u er uitgelicht. Dit is het algoritme; u kunt het terugvinden in het register. Als u daar nog vragen over heeft, kunt u contact opnemen met persoon X». Dat is natuurlijk eigenlijk de informatie die dan op de brief zou moeten staan. Is dat dan ook de informatie die op de brief komt te staan? Dat zou ik dan graag willen weten.

De voorzitter:

Dank u wel. Dan geef ik de voorzittershamer weer over aan mevrouw Kathmann.

Voorzitter: Kathmann

De voorzitter:

Dank u wel. Dan kijk ik even naar de staatssecretarissen rechts van mij. We schorsen voor twee minuten en dan kunnen we overgaan tot de beantwoording.

De vergadering wordt enkele ogenblikken geschorst.

De voorzitter:

We gaan verder met de beantwoording in tweede termijn. Het woord is aan de Staatssecretaris.

Staatssecretaris Van Huffelen:

Dank u wel, voorzitter. Ik zal de vragen die gesteld zijn, beantwoorden. Ik begin met de heer Six Dijkstra, die vroeg of wij het een goed idee vinden dat algoritmes altijd worden voorgehangen bij de Tweede Kamer voordat ze worden ingesteld. Wat mij betreft is dat geen wenselijke route. We willen dat algoritmes alleen worden ingezet wanneer ze voldoen aan de criteria die daarvoor gesteld zijn in de AI-verordening. Dat betekent dat ze aan allerlei criteria moeten doen op het gebied van non-discriminatie enzovoort en dat ze goed getoetst zijn voordat ze worden ingezet door de overheid. Er zullen toezichthouders zijn die daarop toezicht kunnen houden. Ze worden opgenomen in een register. Het lijkt mij dan dubbel als je die ook vooraf bij de Tweede Kamer gaat voorhangen.

Er werd ook nog gevraagd of wat er gezegd werd over het waardenkader als toezegging genoteerd kan worden. Dat kan. Ons idee is dat het voor het eind van het jaar aan uw Kamer wordt toegestuurd.

Mevrouw Van der Werf gaf een paar dingen aan. Ten eerste zei ze: we kunnen ook de vruchten plukken van de inzet van AI. Dat is ook zo. Dat kunnen we op verschillende manieren, in de private en de publieke sector. Dat zijn we van plan te gaan doen. Dat doen we onder andere via de inzet van onze visie op het gebruik van generatieve AI.

Verder vroeg u of inzage van de toezichthouders in complexe algoritmes altijd kan en of dat ook vooraf kan. Dat kan. Toezichthouders mogen altijd inzage vragen in het gebruik van algoritmes, niet alleen bij de ontwikkeling maar ook bij de toepassing daarvan, of verderop in de tijd. Het is aan de toezichthouders zelf om dat moment te kiezen.

De heer Valize deed de oproep aan al mijn collega-departementen en aan andere overheden om zo snel mogelijk te komen tot het invullen van het Algoritmeregister. Ik ondersteun die oproep zeer en zal dat doorgeven aan mijn collega’s. Verder begrijp ik dat u al de toezegging van de Minister van EZK heeft gekregen over het CE-logo, om ervoor te zorgen dat helder wordt wat het een is en wat het ander is, zodat het niet tot verwarring kan leiden bij burgers. Hij gaat daarmee aan de slag in Brussel.

Dan is er toch nog iets wat mij van het hart moet naar aanleiding van de opmerkingen die door de heer Van Baarle zijn gemaakt. Allereerst moet helder zijn dat de AI-verordening ons natuurlijk enorm gaat helpen bij het inzicht in AI en het reguleren van AI. Dat is een thema waarbij de heer Van Baarle en ik elkaar voortdurend de hand kunnen schudden, denk ik. Ik heb het dan over vragen als wanneer het überhaupt mag en kan, hoe je het op een verantwoorde manier doet, hoe je ervoor zorgt dat het transparant is, hoe je ervoor zorgt dat er goed toezicht op is en hoe je ervoor zorgt dat het voor burgers helder is waar zij terechtkunnen wanneer zij het idee hebben dat zij niet op een goede manier worden behandeld.

De AI-verordening is mede door de inzet die wij als Nederland hebben gepleegd, echt een verordening geworden waarvan wij zien dat die ons gaat helpen op dit gebied. Zij is wel complex; dat gaf u ook aan. Ik denk niet dat die verordening complex is door u of door mij. Dat komt omdat het een ingewikkeld onderwerp is. Ik zou u echt aanraden om de technische briefing daarover te houden, omdat die veel meer inzicht gaat bieden in wat er precies in de verordening staat over hoe het gaat werken.

In uw woorden proefde ik een beetje de suggestie dat dit allemaal nog niet voldoende is. Ik denk dat we met deze verordening een heel breed terrein afdekken en dat we daarmee ervoor zorgen dat we op een verantwoorde manier kunnen werken. Het is helder dat we dat moeten vertalen naar wat het direct betekent voor de Nederlandse overheid, het goed moeten inrichten en er ook voor moeten zorgen dat onze toezichthouders goed geëquipeerd zijn om hun werk te doen. Maar het is niet zo dat we op basis van de verordening of van wat we bij de Nederlandse overheid aan het doen zijn – denk aan het register of ons implementatiekader – onduidelijkheid aan het creëren zijn. Het is ook niet zo dat het vage normen zijn of dat het niet helder is. Met deze verordening en met alles wat wij doen, wordt juist heel veel scherpte gecreëerd. Op basis daarvan kunnen we op een verantwoorde manier werken met algoritmes. Daarmee wordt ook duidelijk wanneer het niet kan.

Het is, nogmaals, goed om u daar verder over te laten voorlichten. U kunt mijn woorden geloven of niet – ik hoop natuurlijk van wel – maar het is belangrijk om met elkaar vast te stellen dat dit voldoet aan de vereisten die we willen. Dus nogmaals, we hebben een heel mooi kader gemaakt om op een verantwoorde manier te werken, maar het is goed als we dat met elkaar delen.

Dan was er nog een vraag van mevrouw Kathmann naar aanleiding van de scenariostudie. Dat is interessant. De Toekomst Kamer heeft ernaar gekeken en heeft aangegeven dat het belangrijk is dat burgers meer worden meegenomen in de digitale ontwikkelingen. Of ze dit instrument nou wel of niet precies kennen, is één deel daarvan, maar veel belangrijker is dat we weten dat mensen zich zorgen maken over de inzet van algoritmes, dat ze zich daar druk over maken. Kan ik nog wel vertrouwen wat ik zie op het internet? Kan ik de informatie die ik krijg van welke instantie dan ook, nog wel vertrouwen? Komt die ook echt van die instantie? Wij vinden het heel erg belangrijk om daar meer inzicht in te bieden. We kijken dus ook heel graag nog verder naar het werk dat is gedaan, om te zien of ons dat verder kan helpen in het geven van voorlichting aan burgers, vooral om ervoor te zorgen dat we meer vertrouwen creëren in het werk van de overheid.

Dan nog iets over de toepassing van AI in het werk en op de werkvloer. Wij hebben de SER, de Sociaal-Economische Raad, ons adviesorgaan, gevraagd om met name daarnaar te kijken. Zij zijn aan de slag gegaan met een uitgebreide studie om te zien wat de effecten zijn van generatieve AI, ook wel AI, op werken in Nederland. Wat betekent het voor banen, voor de manier waarop die worden ingericht? Wat betekent het überhaupt voor werk? Hoe kunnen we AI op een positieve manier inzetten? En wat voor risico’s zijn er? Voor ons is dat een heel belangrijk gegeven, omdat banen en werk zo veranderen door AI. Dat geldt niet voor alle banen. Het geldt ook niet voor alle banen in even grote mate. Maar er zal verandering op kunnen treden – ik denk dat er verandering op zál treden – wat betreft banen voor hoogopgeleiden. Denk aan de advocatuur of aan het maken van wetten bij de overheid. Maar het kan net zo goed voor mensen die nu in feite – dat is eigenlijk het voorbeeld dat u noemde – worden aangestuurd door AI. Dat is iets wat we in mijn perspectief overigens niet zouden moeten willen.

Het is heel belangrijk dat we daar meer inzicht in krijgen, dat we ons daarvan bewust zijn en dat we ervoor gaan zorgen dat het voor mensen die dit meemaken, veel duidelijker wordt waar zij terechtkunnen wanneer dit soort situaties zich voordoen. Daar zijn natuurlijk al allerlei regels voor gesteld in de Arbeidsomstandighedenwet, maar ik denk dat het belangrijk is dat we daar nog een keer scherp naar kijken, ook op basis van het voorbeeld dat u noemt, in het kader van de komst van AI. Zoals we ook al in de visie op generatieve AI hebben gezegd, willen we niet dat iemands baas straks AI is in plaats van een normaal mens van vlees en bloed.

Mevrouw Kathmann vroeg ook: hoe zit het met informatie over wanneer je eruit bent gepikt? Stel dat je wilt begrijpen waarom je geselecteerd bent om extra vragen te stellen. Hoe gaan we dat dan aan iemand duidelijk maken? Ik vertelde al dat wij bezig zijn met het aanpassen van de Algemene wet bestuursrecht en met name naar dit aspect, de toepassing van AI, willen kijken. Dat geldt zowel voor de vraag «kom ik wel of niet in aanmerking?» als voor dit soort vragen. Daar komen we dus ook nog bij u op terug. Ik begrijp namelijk heel goed dat u zegt: ik vind het ook belangrijk dat duidelijk wordt wanneer dat aan de orde is. Denk aan vragen als «waarom ben ik geselecteerd voor extra vragen?» of «wat is er aan de hand?» Ik vind dat een gerechtvaardigde vraag. Wij gaan goed kijken hoe we hier bij de aanpassing van de Algemene wet bestuursrecht meer inzicht in kunnen bieden. Ik kan nu nog niet helemaal antwoord geven op de vraag op welke manier we dat kunnen doen, maar ik vind het wel belangrijk dat we dit als onderdeel hierin verwerken.

Dat waren de antwoorden op de vragen die aan mij gesteld zijn.

De voorzitter:

Dan is het woord aan Staatssecretaris Van Rij.

Staatssecretaris Van Rij:

Dank u wel, voorzitter. Ik begin met het punt van de heer Krul. Ik wil er toch op wijzen dat de landsadvocaat voorzichtig geformuleerd heeft in de conclusies. Hij spreekt tot twee keer toe over «waarschijnlijk». De eerste keer is dat bij de vraag: is er bij een eerste selectie van een aangifte via een geautomatiseerd selectiesysteem sprake van een besluit? Een besluit in de zin van de AVG is strikter dan een besluit in de zin van de Algemene wet bestuursrecht. Dan gaat het erom of anderszins in aanmerkelijke mate de burger getroffen kan worden.

Het tweede is natuurlijk dat de landsadvocaat zegt dat ook wanneer er sprake is van menselijke tussenkomst, in die tweetrapsraket die ik beschreven heb, waarschijnlijk toch sprake kan zijn van een besluit waarmee de burger anderszins in aanmerkelijke mate getroffen kan worden. Dat zegt de landsadvocaat. Juristen formuleren altijd zorgvuldig. Dat is een. Twee is dat het een advies is. Dat geldt ook voor de AP, die we om advies hebben gevraagd. Dat is dus iets anders dan een boetebesluit. Wij, beide staatssecretarissen, zullen dan uiteraard onze eigen afwegingen moeten maken en dan komen we bij u terug. Overigens niet meteen eind mei. Eind mei komt de AP met haar advies. Dat moeten wij dat natuurlijk wel even goed verwerken, maar we komen uiteraard voor het zomerreces dan naar de Kamer toe en het liefst zo snel mogelijk.

Wij moeten dan namelijk ook precies het punt wegen dat terecht door de heer Six Dijkstra en de heer Krul op tafel is gelegd. We hebben aan de ene kant natuurlijk privacy, ongelofelijk belangrijk, maar Belastingdienst, Toeslagen en Douane zullen ook moeten handhaven en toezicht moeten houden. Daar de balans in vinden, dat is de grote uitdaging. Vandaar ook dat we bezig zijn met het voorbereiden van nieuwe wetgeving om met nog betere grondslagen te komen, maar dat is natuurlijk iets waar we nu ook voortdurend mee worden geconfronteerd. Ook in Kamerdebatten wordt daar natuurlijk steeds op gewezen. Aan de ene kant horen we in de commissie Financiën natuurlijk voortdurend, en terecht, als het over de Belastingdienst gaat: handhaaft u nog wel, houdt u toezicht en pakt u fraudeurs aan? Aan de andere kant is privacy een heel groot goed. Dat is de balans die we moeten zien te vinden.

De voorzitter:

Dan kijk ik even naar links, naar de zijde van de Kamer. Zijn alle vragen beantwoord, ook in de tweede termijn? Ja, dat is zo. Dan gaan we even naar de toezeggingen.

• In december wordt de Kamer nader geïnformeerd over de toepassing van het CODIO-kader.

• De Kamer ontvangt voor de zomer een brief waarin wordt aangegeven hoe uitvoering wordt gegeven aan het verzoek van het lid Idsinga.

• Het protocol geconstateerde discriminatie komt voor de zomer naar de Kamer. Dit was naar aanleiding van een vraag van de heer Van Baarle.

Dan nog even aangaande het tweeminutendebat. De eerste spreker is mevrouw Van der Werf van D66 en de vraag is dus of de Griffie bij het inplannen van het debat rekening dient te houden met het advies van de AP, of daar bij het inplannen op gewacht moet worden.

Mevrouw Van der Werf (D66):

Wat mij betreft niet.

De voorzitter:

Oké, dan weten we dat. Dan kan de Griffie daar rekening mee houden.

Dan kijk ik nog even naar rechts, naar de staatssecretarissen. Er was nog een mogelijke toezegging aangaande het stuk van de Toekomstkamer. De Staatssecretaris gaf aan: we gaan hier rekening mee houden in ons beleid. De vraag was volgens mij of er een schriftelijke reactie kon komen. Ik kijk even naar rechts: hoe denkt de Staatssecretaris daar invulling aan te kunnen geven?

Staatssecretaris Van Huffelen:

We brengen ieder kwartaal een verzamelbrief uit. Dan nemen we daarin dat stuk mee. Dan geven we ook een reactie op dit punt. En nog even ten aanzien van de toezeggingen: de eerste en de derde toezegging zijn al eerder gedane toezeggingen. De heer Van Baarle vroeg: gaat u het ook echt doen? Dat is waar. Ik weet niet of we ze nou dubbel moeten noteren. Het zijn toezeggingen die we eerder hebben gedaan.

De voorzitter:

Dat is dan nog even genoteerd. Die laatste toezegging is ook genoteerd. Dan dank ik de staatssecretarissen voor hun beantwoording en de bode voor de goede zorgen, ook voor onze gasten, en dan sluit ik de vergadering.

Sluiting 12.59 uur.