Vergaderjaar 2024-2025
Tweede Kamer der Staten-Generaal
2
Kamerstukken
26 643

Informatie- en communicatietechnologie (ICT)
Nr. 1393

BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES
Aan de Voorzitter van de Tweede Kamer der Staten-Generaal
Den Haag, 4 september 2025
Hierbij bied ik u het rapport «Deceptive Design and Minors» aan. In opdracht van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) heeft dr. Mark Leiser onderzoek gedaan naar de juridische bescherming van kinderen tegen bedrieglijke verleidingstechnieken
(«deceptive design techniques»)
1
Deceptive design techniques, in het Nederlands ook wel bedrieglijke verleidingstechnieken genoemd, verwijst naar opzettelijke keuzes in de gebruikersinterface (UI) en -ervaring (UX) die erop gericht zijn gebruikers te misleiden tot gedrag dat ze anders misschien niet zouden kiezen. Deze misleidende technieken maken gebruik van psychologische principes zoals schaarste, urgentie en sociaal bewijs.
die worden gebruikt in digitale diensten die populair zijn onder kinderen. In het onderzoek is het huidige Europese juridische kader betrokken – waaronder de Digital Services Act (DSA), Algemene Verordening Gegevensbescherming (AVG), EU-consumentenwetgeving (Richtlijn Oneerlijke Handelspraktijken en de Richtlijn Consumentenrechten) en de nieuwe AI-verordening. Er is hierbij specifiek gekeken naar ontwerpkeuzes die gericht zijn op gedragsbeïnvloeding, zoals onder andere gepersonaliseerde nudges, oneindige scrollmechanismen, gamificatie, en verslavende prikkels in o.a. games en sociale mediaplatforms.
Het Ministerie van BZK heeft dit onderzoek laten doen omdat kinderen bijzonder kwetsbaar zijn voor digitale manipulatie vanwege hun beperkte vermogen om online content kritisch te beoordelen en hun beperkte vermogen om te doorzien wanneer subtiele gedragsbeïnvloedingsmechanismen worden toegepast. De nieuwste, vaak door AI-gedreven, technieken zoals dynamische personalisatie, gedragsnudging en gamificatie kunnen het gedrag van jonge gebruikers beïnvloeden, vaak zonder dat ze zich daarvan bewust zijn.
2
Voorbeelden hiervan zijn bijvoorbeeld op de situatie van de gebruiker aangepaste content of interfaces, bij gamificatie gaat het om spelachtige elementen zoals beloningen, punten en scoreborden bij het behalen van bijvoorbeeld streaks.
Het rapport komt tot de conclusie dat de juridische bescherming van kinderen tegen bedrieglijke verleidingstechnieken beperkingen kent. Hoewel het rapport laat zien dat er belangrijke stappen zijn gezet in Europese wetgeving, worden ook lacunes blootgelegd, met name wanneer het gaat om systematische manipulatie aangestuurd door AI-systemen. Dit zijn systemen die geavanceerde technieken gebruiken om gebruikersgedrag te manipuleren door zich autonoom en in realtime aan te passen op gebruikersgegevens en -gedrag. Deze systemen worden slechts gedeeltelijk gedekt door de huidige wetgeving:
- • Zo wordt in het rapport gewezen op de hoge bewijsdrempel in de AI-verordening. De bewijsdrempel vereist dat er duidelijke en aantoonbare schade is, bijvoorbeeld financieel verlies of lichamelijk letsel. Maar bij AI-systemen die kinderen op een subtiele manier beïnvloeden ontstaat de schade juist geleidelijk, zoals apps die kinderen met beloningen blijven aanzetten tot doorklikken of eindeloos scrollen. Dit maakt het moeilijk om precies vast te stellen wanneer en hoeveel schade er is.
- • Ook wijst het rapport op de beperkingen in de effectiviteit van transparantie- en toestemmingsvereisten onder de AVG, met name voor kinderen. Zo stelt Mark Leiser dat artikelen 5 en 7 van de AVG vrijelijk gegeven toestemming voor gegevensverwerking vereisen. Maar manipulatieve praktijken ondermijnen deze principes door te beïnvloeden hoe platforms toestemming verkrijgen en de gegevens op een later moment gebruiken. Daarnaast gaan de transparantie- en toestemmingsmechanismen uit van rationele besluitvorming en zijn daarom niet geschikt voor minderjarigen.
- •
Ook constateert het rapport dat de DSA zich vooral richt op manipulaties op het niveau van de gebruikersinterface
3
De gebruikersinterface is de visuele en interactieve laag die het mogelijk maakt voor gebruikers om met een systeem te interacteren.
en daarmee tekortschiet in het reguleren van dieperliggende, systeemniveau manipulaties, zoals algoritmische sturing en dynamische aanpassing van inhoud.
- • De Europese consumentenwetgeving biedt volgens het rapport onvoldoende bescherming tegen deze praktijken, doordat de nadruk ligt op individuele gedragingen van handelaren jegens de consument en niet op de algoritmische stelselmatige beïnvloeding van gedrag. In tegenstelling tot statische misleidende praktijken, zoals misleidende productclaims of onterechte meldingen over schaarste, ontwikkelt misleiding op basis van AI zich dynamisch. In het rapport wordt gesteld dat het handhavingsmodel van de Richtlijn oneerlijke handelspraktijken (UCPD) minder goed aansluit op AI-gestuurde manipulatie, omdat het werkt op basis van beoordeling per geval en pas na schade wordt toegepast. Bij AI-gestuurde manipulatie worden de uitbuitende ontwerpkeuzes juist voortdurend verfijnd via algoritmisch leren.
De onderzoeker doet diverse aanbevelingen, waaronder het ontwikkelen van kindgerichte ontwerpstandaarden, het verplicht stellen van algoritme-audits, en het verbieden van bepaalde manipulatieve praktijken zoals gepersonaliseerde urgentieprikkels en lootboxes. Deze aanbevelingen zullen worden betrokken in vervolgstappen die gezet worden om bedrieglijke verleidingstechnieken beter te reguleren.
Een stap hierin is eerder al gezet door de Nederlandse inzet op Europees niveau ten aanzien van verleidingstechnieken in games. Eerder heeft Nederland zich uitgesproken voor een verbod op lootboxes, aanvullende regulering van pay-to-win-mechanismen en het gebruik van digitale munten.
4
Kamerstukken II, 2022–2023, 27 879, nr. 90.
Aanvullend op onze eerdere inzet om verleidingstechnieken in games tegen te gaan, wil het kabinet zich conform de motie Kathmann
5
Kamerstuk II 2024/25, 26 643, nr. 1302
ook inzetten voor de aanpak van verslavend en polariserend ontwerp specifiek op sociale media-platforms.
Ik werk samen met de Minister van Economische Zaken aan onze inzet in aanloop naar de aangekondigde Digital Fairness Act om verslavend en polariserend ontwerp op sociale media op Europees niveau aan te pakken. Het rapport «Deceptive Design and Minors» laat echter ook zien dat de huidige verscheidenheid aan Europese wetgeving leidt tot overlap, lacunes en interpretatieverschillen. Dit bemoeilijkt effectieve handhaving en schept juridische onzekerheid voor zowel gebruikers als platforms. Het is daarom belangrijk dat zorgvuldig wordt gekeken hoe bestaande wetgeving kan worden versterkt of aangevuld, zonder verdere complexiteit te creëren.
Dit najaar kom ik bij uw Kamer terug met een beleidsreactie waarin ik onze inzet ten aanzien van verslavend en polariserend ontwerp op sociale media verder zal toelichten.
De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties,
E. van
Marum