8 Inzet algoritmes en data-ethiek

Voorzitter: Markuszower

Inzet algoritmes en data-ethiek

Aan de orde is het tweeminutendebat Inzet algoritmes en data-ethiek (CD d.d. 17/04).

De voorzitter:

Ik heet van harte welkom de staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, mevrouw Van Huffelen. De eerste spreker van de zijde van de Kamer is mevrouw Van der Werf van de fractie van D66.

Mevrouw Van der Werf (D66):

Voorzitter.

Motie

De Kamer,

gehoord de beraadslaging,

constaterende dat de overheid kampt met grote arbeidstekorten en een hoge werkdruk als gevolg;

overwegende dat toepassingen met artificiële intelligentie (AI) werkprocessen kunnen versnellen en verbeteren;

constaterende dat het bedrijfsleven AI al volop inzet om hun werkprocessen te verbeteren en de overheid achterloopt in het digitaliseren;

van mening dat de overheid dit op een veilige manier ook in haar eigen dienstverlening zou moeten toepassen, zodat ambtenaren minder tijd kwijt zijn aan administratief werk en meer tijd overhouden voor hun kerntaken;

verzoekt de regering om een handreiking te ontwikkelen voor gemeenten en andere overheden met relevante en veilige AI-toepassingen die de werkdruk kunnen verminderen en het werkplezier kunnen verhogen,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door het lid Van der Werf.

Zij krijgt nr. 1167 (26643).

Dank u wel, mevrouw Van der Werf. Dan geef ik graag het woord aan de heer Ergin van de fractie van DENK.

De heer Ergin (DENK):

Dank u wel, voorzitter. Ik heb twee moties.

Motie

De Kamer,

gehoord de beraadslaging,

constaterende dat uit onderzoek van KBA Nijmegen en ResearchNed in opdracht van het College voor de Rechten van de Mens blijkt dat er een risico bestaat op discriminatie door het gebruik van algoritmen in onderwijsinstellingen;

overwegende dat digitale systemen, waaronder algoritmen, op steeds grotere schaal worden ingezet in het onderwijs en dat dit zowel kansen als risico's met zich meebrengt;

overwegende dat de kennis van algoritmen op scholen vaak ontoereikend is om deze technologie op een verantwoorde manier in te zetten, waardoor leerlingen onnodig veel risico lopen op discriminatie;

verzoekt de regering om onderzoeken naar de effecten van digitale systemen te stimuleren en hieraan bij te dragen,

verzoekt de regering tevens om voorlichting te geven over digitale systemen en de risico's hiervan voor schoolbesturen, docenten, ouders en leerlingen,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Ergin en Van Baarle.

Zij krijgt nr. 1168 (26643).

De heer Ergin (DENK):

De tweede motie.

Motie

De Kamer,

gehoord de beraadslaging,

constaterende dat er op basis van de Al-verordening vereisten zijn vastgesteld die ertoe dienen te leiden dat in het gebruik van algoritmen het principe van non-discriminatie wordt gevolgd;

constaterende dat de toezichthouders verantwoordelijk zullen zijn voor de normuitleg van de Al-verordening en dat er een keurmerk opgesteld zal worden voor het gebruik van hoogrisicoalgoritmen;

verzoekt de regering te bewerkstelligen dat er een centraal Nederlands keurmerk komt voor de inzet van hoogrisicoalgoritmen dat is vastgesteld door de toezichthouders onder coördinatie van de Autoriteit Persoonsgegevens,

verzoekt de regering tevens om in de normuitleg van de Al-verordening en het centrale keurmerk praktische waarborgen op te nemen om het principe van non-discriminatie te borgen in het ontwerp, de toepassing en controle op de inzet van algoritmen,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Ergin en Van Baarle.

Zij krijgt nr. 1169 (26643).

Dank u wel, meneer Ergin. Dan geef ik nu graag het woord aan de heer Van Oostenbruggen van de fractie van Nieuw Sociaal Contract.

De heer Van Oostenbruggen (NSC):

Voorzitter. Ik vervang mijn collega Six Dijkstra in dit tweeminutendebat.

Ik heb geen moties, maar ik wil graag een reactie van de staatssecretaris over het volgende. Sinds de Kamer vorige maand het commissiedebat gevoerd heeft over algoritmes en data-ethiek, is wederom in het nieuws gekomen dat een overheidsalgoritme een discriminerende werking heeft. Ik heb het over de geautomatiseerde risicoscore voor de beoordeling van visumaanvragen bij Buitenlandse Zaken. Nadat het Rijks ICT Gilde het ministerie waarschuwde dat dit algoritme discrimineert op basis van nationaliteit en geslacht, vroeg het ministerie een second opinion aan bij een nagenoeg onbekend Canadees ICT-bedrijf. Mijn drie vragen aan de staatssecretaris zijn de volgende.

Hoe komt het nu dat als er heel concrete signalen zijn dat een algoritme mogelijk discrimineert — dat is in het verleden veel te vaak voorgekomen — ministeries nog steeds daarbij niet de toezichthouder betrekken die speciaal hiervoor is aangesteld, namelijk de afdeling Coördinatie toezicht algoritmes & AI van de Autoriteit Persoonsgegevens, maar in plaats daarvan een extern buitenlands adviesbureau, van buiten de EU, inhuren om hun standpunt te ondersteunen? Deelt de staatssecretaris de opvatting van Nieuw Sociaal Contract dat deze gang van zaken onwenselijk is? En zo ja, hoe gaat zij ervoor zorgen dat dit in de toekomst niet meer op deze manier gebeurt? Mijn fractie wil graag concrete maatregelen horen.

Dank u wel.

De voorzitter:

Dank u wel. Ik wil wel opmerken dat dit een tweeminutendebat is naar aanleiding van een gevoerd commissiedebat. Het is gebruikelijk om bij een tweeminutendebat aan te sluiten bij wat er …

De heer Van Oostenbruggen (NSC):

Dat is exact wat hier staat, voorzitter.

De voorzitter:

Oké, dan laten we het toe. Maar laten we wel proberen om hier niet een nieuw debat over nieuwe onderwerpen van te maken. Als dat niet zo is, dan is dat prima.

De heer Van Oostenbruggen (NSC):

Absoluut. Ik heb dit van tevoren ook gecheckt. Het gaat namelijk specifiek over een onderwerp waarover tijdens het debat is gesproken. Er is nu weer een incident sinds dat debat, vandaar dat we daar in de tweede termijn van hetzelfde debat op aanhaken.

De voorzitter:

Dan kan ik alleen maar mijn petje voor u afnemen. Dank u wel.

Dan staat nu de heer Valize op mijn lijst, maar ik begrijp dat hij geen inbreng heeft.

Dan geef ik graag het woord aan de heer Krul van het CDA.

De heer Krul (CDA):

Voorzitter, ik hoop dat u ook uw petje voor mij gaat afnemen.

De voorzitter:

Altijd.

De heer Krul (CDA):

Ik wil ook graag voortborduren op iets wat tijdens het commissiedebat is besproken. Dat is wel een beetje ongemakkelijk, omdat dat met name met de staatssecretaris van Financiën was. Het ging over het SCHUFA-arrest. De staatssecretaris is nu niet aanwezig, maar dit was wel degelijk een heel groot onderdeel van de beraadslaging van het commissiedebat. Ik heb daar nog wat vragen over. Ik hoop dat de staatssecretaris voor digitale zaken daar, zo goed en kwaad als dat kan, antwoord op kan geven.

We hebben bij het commissiedebat uitgebreid stilgestaan bij het SCHUFA-arrest en onze zorgen over de gevolgen van deze uitspraak voor het toezicht bij de Belastingdienst. Die zorgen zijn niet weggenomen. Wij hadden graag dit tweeminutendebat iets later gehad, omdat er dan meer duidelijkheid zou zijn, maar we hebben nu toch wat vragen. Is er al meer bekend over het advies dat is aangevraagd bij de Autoriteit Persoonsgegevens, bijvoorbeeld de eerste conclusies van de AP? Of over wanneer dat advies precies komt? We zouden graag een toezegging willen dat, als dat advies komt, wij dat ook meteen mogen ontvangen.

Tijdens het commissiedebat is aangegeven dat de staatssecretaris snel met wetgeving wil komen omdat het juridisch onontgonnen terrein betreft. Klopt het dat dit punt wordt meegenomen in de Wet waarborgen gegevensverwerking Belastingdienst, Toeslagen en Douane? Of komt er een apart wetgevingstraject? Ons is dat op dit moment nog niet duidelijk en we willen dat graag weten. We willen natuurlijk ook weten wanneer die wet klaar zou zijn. En is het, aangezien het onontgonnen terrein betreft, dan niet verstandig om een aantal onafhankelijke wetenschappers mee te laten kijken? Hoe erg zou het zijn als het daardoor ietsjes langer duurt? In een geval als dit is haastige spoed zelden goed.

Tot slot. De staatssecretaris heeft bevestigd dat deze uitspraak er in extremis toe kan leiden dat het toezicht door de Belastingdienst stil komt te liggen. Dat zou voor ons onacceptabel zijn. Toezicht houden is namelijk belangrijk voor de belastingmoraal. Ik voel een beetje ongemak, maar ik hoop toch een antwoord te kunnen krijgen. En anders heb ik dikke vette pech.

Dank u wel.

De voorzitter:

Dank u wel, meneer Krul. Dan geef ik graag het woord aan mevrouw Kathmann van de fractie van GroenLinks-PvdA.

Mevrouw Kathmann (GroenLinks-PvdA):

Dank u wel, voorzitter. We hebben een goed debat gehad over AI en data-ethiek. Ik wil de staatssecretaris nog een keer danken voor de toezegging en de beantwoording daar, maar de fractie van GroenLinks-Partij van de Arbeid heeft toch de noodzaak gezien om drie moties in te dienen. Het is een belangrijk onderwerp, dus helaas moest dat toch gebeuren.

Motie

De Kamer,

gehoord de beraadslaging,

constaterende dat er een onverminderd snelle toename is van algoritme- en Al-gebruik bij essentiële niet-publieke sectoren, zoals in de zorg, het onderwijs, de financiële sector en in het sociale domein;

overwegende dat, zolang er geen grenzen worden gesteld aan algoritme- en Al-gebruik in deze sectoren, organisaties eigen regels blijven hanteren met het risico dat onwenselijke gevolgen gewoonterecht worden;

van mening dat de kaders voor het ethische gebruik van algoritmes en Al een politieke keuze is en dat de Tweede Kamer aan zet moet zijn om hierover te besluiten;

verzoekt de regering om in kaart te brengen wat voor algoritmes en Al-toepassingen nu worden ingezet bij private organisaties waar mensen een grote mate van afhankelijkheid van hebben, waaronder in elk geval onderwijsinstellingen, zorgorganisaties, in de financiële sector en in het sociale domein;

verzoekt de regering om voor private sectoren waar mensen afhankelijk van zijn tot duidelijke kaders te komen over transparant en ethisch gebruik van algoritmes en Al, en per sector een passend stelsel van toezicht in te richten,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door het lid Kathmann.

Zij krijgt nr. 1170 (26643).

Motie

De Kamer,

gehoord de beraadslaging,

constaterende dat gezichtsherkenningssoftware in toenemende mate wordt gebruikt voor zaken als identiteitscontrole en leeftijdsverificatie bij publieke en private organisaties;

overwegende dat uit een analyse van de Autoriteit Persoonsgegevens blijkt dat de inzet van gezichtsherkenning in de meeste gevallen verboden is, maar die alsnog onrechtmatig in gebruik wordt genomen;

overwegende dat het Rathenau Instituut eerder heeft gepleit voor een algemeen verbod op het verwerken van biometrische gegevens in de publieke ruimte en voor het hanteren van een vergunningsplicht;

spreekt uit dat het gebruiken van gezichtsherkenning zonder duidelijke juridische grondslag onwenselijk is;

verzoekt de regering om het gebruik van gezichtsherkenningssoftware bij publieke en private organisaties in kaart te brengen, en toepassingen waarbij het gebruik niet expliciet is toegestaan door wetgeving maar wel gewenst is zo snel als mogelijk van een grondslag te voorzien en anders te doen beëindigen;

verzoekt de regering bovendien om een vergunningsplicht voor het gebruiken van gezichtsherkenning in de publieke ruimte te onderzoeken en de Kamer voor het kerstreces 2024 over de vorderingen te informeren,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door het lid Kathmann.

Zij krijgt nr. 1171 (26643).

Mevrouw Kathmann (GroenLinks-PvdA):

Dan de laatste motie.

De voorzitter:

Daar heeft mevrouw Kathmann eigenlijk geen tijd meer voor, maar ze doet zo haar best, dat ik het toelaat.

Mevrouw Kathmann (GroenLinks-PvdA):

Voorzitter, ik wil u daarvoor hartelijk bedanken. Ik zal alsnog heel erg snel zijn.

Motie

De Kamer,

gehoord de beraadslaging,

constaterende dat de politie gebruikmaakt van gezichtsherkenningssoftware conform een zelf opgesteld "inzetkader gezichtsherkenningstechnologie", maar een formele juridische grondslag nog altijd ontbreekt;

constaterende dat uit de AVG reeds volgt dat de persoonlijke levenssfeer slechts per wet mag worden beperkt en hier een juridische grondslag voor nodig is;

van mening dat de belangenafweging voor het proportioneel inzetten van gezichtsherkenning een zware politieke keuze betreft en deze democratisch vastgestelde kaders vereist;

verzoekt de regering om een juridische grondslag te ontwikkelen met kaders voor het gebruik van gezichtsherkenning door de politie en de mate waarin andere rechten mogen worden ingeperkt;

verzoekt de regering om te bevorderen dat het gebruik van gezichtsherkenning bij de politie altijd is voorzien van een juridische grondslag, uitbreidingen zonder grondslag niet toe te staan, en nieuwe toepassingen verplicht op te nemen in het Algoritmeregister,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door het lid Kathmann.

Zij krijgt nr. 1172 (26643).

Mevrouw Kathmann (GroenLinks-PvdA):

Voorzitter, nogmaals van harte dank.

De voorzitter:

Dat is geen probleem, mevrouw Kathmann. Maar ik verzoek wel alle fracties om wat meer discipline te betrachten bij de tweeminutendebatten. De spreektijd is daarbij echt maar twee minuten. Ik denk dat dat ook gedaan is om het aantal moties wat in te kaderen, zodat we dinsdag niet zo lang hoeven te stemmen over dingen die dan misschien ook in andere debatten gewisseld hadden kunnen worden. Maar oké.

Dan hebben we als laatste spreker van de zijde van de Kamer nog de heer Meulenkamp van de fractie van de VVD. Hij kan zich beroepen op mijn coulance, maar ik hoop niet dat hij dat doet.

De heer Meulenkamp (VVD):

Ik probeer tussendoor wél adem te halen en ik heb de neiging om wat langzamer te gaan praten.

Voorzitter. Laten we de inzet van algoritmes als een kans gaan zien. Ik kom trouwens niet met een motie. In de huidige tijd kan de overheid niet meer zonder het gebruik van algoritmes. Er kunnen gewoon sneller, en meer, beslissingen genomen worden. Hierdoor blijft de overheid effectief voor haar inwoners. Er zijn echter wel zorgen over de inzet van algoritmes. Mensen willen graag als mens gezien worden, en niet als een set van data. Als VVD willen we een goed functionerende overheid, met oog voor de individuele mens. Daarom hebben we de volgende vragen aan het kabinet. In een tijd waarin er veel wantrouwen is jegens de overheid en het vertrouwen historisch laag is, zullen algoritmes een belangrijke bijdrage moeten leveren om dit vertrouwen te herstellen. Simpel gezegd, zeggen wij: waar menselijk contact niet nodig is, laten we de computer doen wat de computer kan doen, zodat er voor ambtenaren weer veel meer tijd is om een-op-een met onze inwoners te praten. Dat geldt niet alleen voor de rijksoverheid, maar voor alle overheden. We willen dat mensen zich gehoord voelen en daardoor meer vertrouwen krijgen in de overheid. Dit vraagt om een andere manier van werken. Meer luisteren naar en praten met inwoners is daarbij cruciaal. We zijn dan ook benieuwd naar de reactie van de staatssecretaris op de motie van D66.

We leven in een digitaal tijdperk, wat voor prachtige kansen zorgt. We leven echter ook in een instabiele geopolitieke tijd. In dat kader is het extreem belangrijk dat we voor onze algehele veiligheid ook de digitale zaken goed op orde hebben. Mijn eigen gemeente, Hof van Twente, is een paar jaar geleden ook gehackt. Hierdoor dreigden inwoners hun maandelijkse geld om eten te kunnen kopen, niet te ontvangen. Ik heb van dichtbij gezien hoeveel paniek er dan uitbreekt. Als gemeente weet je niet wat je moet doen als alles stil komt te liggen. De VVD heeft in het verleden via een motie aangegeven dat analoge terugvalopties belangrijk zijn voor de bescherming van vitale infrastructuur. De VVD is blij dat de motie wordt uitgevoerd en dat we eind 2024 hierover een update krijgen. Neemt de staatssecretaris ook gemeenten en andere overheden hierin mee? Kijkt het ministerie ook hoe andere overheden in algemene zin geholpen kunnen worden vanuit het ministerie wanneer ze gehackt zijn? Heel vaak weten ze nu namelijk niet waar ze naartoe moeten. Alvast bedankt.

Voorzitter, excuus voor veertien minuten vertraging.

De voorzitter:

Dat is mijn eigen schuld; dat kan ik u niet kwalijk nemen. Dank u wel, meneer Meulenkamp. De staatssecretaris heeft aangegeven dat ze net voor de klok van 17.00 uur kan beginnen. We komen om 16.58 uur weer bij elkaar. We letten heel erg op de tijd vandaag.

De vergadering wordt van 16.46 uur tot 16.58 uur geschorst.

De voorzitter:

De staatssecretaris is sneller dan beloofd, waarvoor veel dank. Ik geef graag het woord aan de staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties. Zij zal met name de moties appreciëren en de vragen beantwoorden die zijn gesteld in de termijn van de Kamer.

Staatssecretaris Van Huffelen:

Ik begin met de gestelde vragen, voor zover ik ze op dit moment kan beantwoorden. Daarna zal ik de moties appreciëren.

Ik begin met de vraag die NSC stelde naar aanleiding van een krantenartikel dat onlangs is gepubliceerd over een wat langer lopende kwestie rondom een algoritme dat gebruikt wordt door het ministerie van Buitenlandse Zaken. Een van de vragen was of er betrokkenheid van de Autoriteit Persoonsgegevens is geweest. De AP is er inderdaad bij betrokken geweest, maar ik denk dat het, gegeven de gedetailleerdheid van de vragen, goed is dat ik mijn collega van Buitenlandse Zaken vraag om een brief te sturen over deze situatie, zodat er goed en uitgebreid kan worden ingegaan op wat er de afgelopen tijd is gebeurd. Er zijn ook Kamervragen over gesteld en die zijn inmiddels beantwoord door mijn collega, maar in die brief kan dan de laatste informatie worden meegenomen naar aanleiding van de vragen die u stelde.

De vraag van de heer Krul. Het debat was inderdaad een combinatiedebat met mijn collega, de staatssecretaris voor Fiscaliteit. Ik kan een deel van de vragen die de heer Krul stelde, nu namens de staatssecretaris beantwoorden. De vraag luidde: wanneer verwacht u dat het advies van de Autoriteit Persoonsgegevens komt? Dat verwachten wij voor de zomer en uiteraard zullen we zorgen dat u dat advies ook krijgt. De overige vragen zijn vragen over de combinaties met de wetgeving en de mogelijke consequenties voor de Belastingdienst. Ik stel ook nu voor dat ik mijn collega vraag die schriftelijk te beantwoorden. Hij kan namelijk meer details geven over de stand van zaken. Maar het advies komt dus op korte termijn.

De heer Meulenkamp ging vooral in op het grote belang van digitalisering en de potentiële gevolgen voor de rijksoverheid en zeker ook voor de gemeenten en andere overheden als het niet goed gaat. Wij zijn daar natuurlijk heel hard mee aan het werk gegaan. Dat doen we bijvoorbeeld in het kader van de implementatie van de zogenaamde NIS-verordeningen. Dat zijn de verordeningen op het gebied van cybersecurity en het realiseren van continuïteit in je digitale dienstverlening. Die voert de rijksoverheid samen met gemeenten, provincies en waterschappen uit. We zullen dat dus zeker doen en blijven doen. We kunnen daarover in de komende tijd zeker ook met elkaar van gedachten wisselen.

Dan wil ik nu overgaan naar de appreciatie van de moties. Ik begin met de motie op stuk nr. 1167 van mevrouw Van der Werf over dienstverlening. Die motie geef ik oordeel Kamer.

De voorzitter:

De motie op stuk nr. 1167: oordeel Kamer.

Staatssecretaris Van Huffelen:

De tweede motie, op stuk nr. 1168, is een motie van de heren Ergin en Van Baarle over algoritmen in het onderwijs. Die motie geef ik ook oordeel Kamer.

De voorzitter:

De motie op stuk nr. 1168: oordeel Kamer.

Staatssecretaris Van Huffelen:

De motie op stuk nr. 1169 is ook van de heren Ergin en Van Baarle van DENK. Deze motie moet ik helaas ontraden, maar ik wil daar wel graag iets bij zeggen. Er wordt gevraagd of er een Nederlands keurmerk kan worden opgesteld in het kader van de beoordeling en het gebruik van hoogrisicoalgoritmen. De reden waarom wij deze motie ontraden, is dat de AI-verordening al zo'n keurmerk introduceert, namelijk een zogenaamde CE-markering. Dat is een keurmerk dat moet worden gegeven voorafgaand aan de ingebruikname van die hoogrisicoalgoritmesystemen. De uitwerking daarvan vindt op dit moment plaats in het kader van de implementatie van de AI-verordening.

Zo'n keurmerk komt er dus al en daarom vinden wij het niet nodig om nog een apart Nederlands keurmerk te maken. U vraagt ook of er dan niet één keurmerk kan zijn. Dat zien wij in de implementatie niet. Ik heb overigens vandaag nog met alle toezichthouders op het gebied van de AI-verordening aan tafel gezeten, samen met de minister van EZK en het ministerie van JenV. En juist omdat AI heel veel verschillende verschijningsvormen kan hebben en in verschillende soorten toepassingen kan worden gebruikt, is het heel erg belangrijk dat de verschillende toezichthouders op deze producten en diensten betrokken blijven. Het loopt immers van producten voor het bedienen van klanten tot aan liften. Het zal dus ook niet zo zijn dat er maar één keurmerk komt. Waar je de AI voor gebruikt, maakt namelijk echt uit voor hoe het keurmerk er precies uit komt te zien. Maar de eisen in het keurmerk zijn altijd de eisen uit de verordening, dus bescherming tegen discriminatie, zorgen dat er wordt voldaan aan openheid en transparantie en al dat soort onderwerpen.

De voorzitter:

De motie op stuk nr. 1169 is ontraden.

Staatssecretaris Van Huffelen:

Ja, maar ik heb daar nog één laatste punt bij. Er staat in de motie namelijk ook iets over het goed opnemen van normuitleg en praktische waarborgen. Dat doen is nu juist wat ik vanochtend heb besproken met de toezichthouders. Ook ik vind het namelijk erg belangrijk dat voor iedereen die moet voldoen aan de eisen van de AI-verordening, of het nu publieke of private organisaties betreft, heel helder is hoe dat gedaan moet worden.

De voorzitter:

Dan de motie op stuk nr. 1170.

Staatssecretaris Van Huffelen:

Dan ga ik naar de motie op stuk nr. 1170 van mevrouw Kathmann over beter toezicht op algoritmes in de private sector. Die motie moet ik ontraden. Ook hier speelt eigenlijk hetzelfde. De AI-verordening reguleert AI-systemen zowel in de private als in de publieke sector. De systemen met hoge risico's moeten voldoen aan de vereisten en een keurmerk krijgen. Dan pas kunnen ze ook worden ingezet. Op deze manier wordt dus al invulling gegeven aan de AI-verordening.

De voorzitter:

Mevrouw Kathmann heeft een interruptie.

Mevrouw Kathmann (GroenLinks-PvdA):

Wat ik niet begrijp aan deze appreciatie, en daar hebben we het ook over gehad in het debat, is dat het gewoon zo lang wachten is op die verordening. Op dit moment is het zo dat het eigenlijk pas misgaat als wij van slecht gebruik een gewoonterecht maken. Als de staatssecretaris zegt "dit gaan we zo in de verordening regelen, dan is het ook geen nationale kop", dan betekent deze motie gewoon een betere en snellere voorbereiding. Dat lijkt me dan eigenlijk gewoon een hele goede deal.

Staatssecretaris Van Huffelen:

Nogmaals, dat ben ik niet helemaal met u eens. We zijn al bezig met die voorbereidingen. De toezichthouders zijn al aan het werk en de AI-verordening wordt ook al op redelijk korte termijn van toepassing, bijvoorbeeld in het kader van verboden systemen. Wat u vraagt, is om bij private partijen op te halen welke algoritmen en AI-systemen ze gebruiken enzovoorts enzovoorts. Dat werk kan overigens al met de huidige AVG gedaan worden. Dat kan de Autoriteit Persoonsgegevens doen, die nu ook al coördinerend toezichthouder is voor de AI Act. Maar dit verder uitwerken is iets wat wij niet willen doen.

Dan ga ik naar de motie op stuk nr. 1171 van mevrouw Kathmann over het naleven van het verbod op gezichtsherkenning. Laat ik er helder over zijn dat gezichtsherkennende software volgens de rechtshandhaving onder de AVG maar ook onder de Wet politiegegevens en justitiële strafvorderlijke gegevens van toepassing is. In het rapport dat de Autoriteit Persoonsgegevens uitbracht, geeft de AP ook aan dat dit rapport specifiek gericht is op de context van de AVG en de Wet politiegegevens. Er wordt in dit verband ook al ... Ik ben even aan het kijken of ik nu de goede ... Ja, sorry. Er wordt in dit verband dus al gewerkt. Ik wil u dan ook aangeven dat wij deze motie over de gezichtsherkenning willen ontraden. Dat heeft er veel mee te maken dat er al werk wordt gedaan.

De voorzitter:

Dus zowel de motie op stuk nr. 1170 als de motie op stuk nr. 1171 wordt ontraden.

Staatssecretaris Van Huffelen:

Ja. De motie op stuk nr. 1172 krijgt wat mij betreft oordeel Kamer.

De voorzitter:

Motie op stuk nr. 1172 oordeel Kamer.

Staatssecretaris Van Huffelen:

Want daaraan kan het kabinet verdere invulling geven op basis van de huidige grondslag.

De voorzitter:

Dank u wel. Ik zie mevrouw Kathmann nog met een korte interruptie.

Mevrouw Kathmann (GroenLinks-PvdA):

Ik ben heel blij met de toezegging dat dit werk wordt gedaan, maar betekent dat dan dat er een vergunningplicht komt voor het gebruiken van gezichtsherkenning in de publieke ruimte, dat we daar voor het kerstreces over worden geïnformeerd en dat er zo snel mogelijk een wettelijke grondslag komt voor het gebruik van gezichtsherkenning? Is dat "het werk"?

Staatssecretaris Van Huffelen:

Ja. Er wordt door de minister van JenV gewerkt aan dit onderwerp, in een halfjaarbericht dat naar uw Kamer wordt gestuurd.

De voorzitter:

Laatste interruptie.

Mevrouw Kathmann (GroenLinks-PvdA):

Dat vind ik dus lastig, want bij JenV gaat het dan over gezichtsherkenning bij de politie. Wij hebben het in onze commissie en ook in dat debat juist gehad over gezichtsherkenning in situaties waarin het onder de AVG valt, bijvoorbeeld bij tabakswinkels of gemeenten. Volgens mij staan wij voor de klus om dat goed te regelen. Daar gaat deze motie over. Ik heb eigenlijk weinig boodschap aan de vraag om dat aan JenV over te laten, want — dat gebeurt wel vaker — dan word ik weer van het kastje naar de muur gestuurd.

Staatssecretaris Van Huffelen:

Gezichtsherkenning, voor zover dat mag, is inderdaad onderdeel van de huidige AVG. Er wordt ook al uitvoering gegeven aan hoe en in welke gevallen dat mag. Overigens is het in de meeste gevallen gewoon verboden.

De voorzitter:

Mevrouw Kathmann, heel kort, want dit is al uw vierde interruptie in een tweeminutendebat. Heel kort.

Mevrouw Kathmann (GroenLinks-PvdA):

Deze motie zegt gewoon dat er nu heel veel gebruik van wordt gemaakt, ook door gemeenten en tabakswinkels, zonder juridische grondslag. De AVG-regels zeggen dat het niet mag, maar het gebeurt lekker toch. Het gaat er eigenlijk om dat we gaan handhaven daar waar het onwenselijk is en dat we zorgen voor een juridische grondslag bij die partijen waar we het misschien wel wenselijk vinden.

Staatssecretaris Van Huffelen:

Dat is natuurlijk wat er moet gebeuren. Daar waar het niet mag en het wel gebeurt, moet er ook gehandhaafd worden. Dat is helder. Je moet het ook niet inzetten als dat niet zo is. Daar waar je het wel wil inzetten, kan het alleen op basis van een wettelijke grondslag.

De voorzitter:

De heer Ergin van DENK heeft ook een interruptie.

De heer Ergin (DENK):

Ik wil even terugkomen op de ontraden motie op stuk nr. 1169. Ik ga proberen een beweging richting de staatssecretaris te maken. Ik hoop dat de staatssecretaris daar ook toe bereid is. In de motie wordt nu gevraagd om een centraal Nederlands keurmerk. De staatssecretaris heeft aangegeven dat er al een keurmerk is en dat een tweede keurmerk dus niet hoeft. Zou de staatssecretaris haar appreciatie willen aanpassen naar oordeel Kamer als ik daarvan zou maken dat ik de regering vraag om een sectorspecifieke normuitleg van de specifieke onderdelen, in plaats van om een centraal Nederlands keurmerk?

Staatssecretaris Van Huffelen:

Ja. Als dat het enige onderdeel is en het dus niet meer gaat over het keurmerk, maar als u zegt: het gaat er ons om op zo'n manier tot een normuitleg van die AI-verordening te komen dat partijen goed weten hoe ze aan de vereisten moeten voldoen. Dat is precies wat wij aan de toezichthouders hebben gevraagd, dus dan kan dat, ja. Dan moet ik wel even de nieuwe tekst zien, maar ik zeg het nu even zo.

De voorzitter:

De heer Ergin gaat de motie op stuk nr. 1169 dus wijzigen. Indien de staatssecretaris inderdaad … "Akkoord" is een groot woord, maar als de wijziging is zoals de staatssecretaris het net interpreteerde, dan is het oordeel Kamer?

Staatssecretaris Van Huffelen:

Ja.

De voorzitter:

Oké. Dank u wel.

Dan dank ik de staatssecretaris voor de beantwoording van de vragen en voor haar komst naar de Kamer.

De beraadslaging wordt gesloten.

De voorzitter:

Ik sluit dit debat, maar ik … schors de vergadering; ik was even het woord kwijt.

De vergadering wordt enkele ogenblikken geschorst.