26 643 Informatie- en communicatietechnologie (ICT)

Nr. 948 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 16 december 2022

Inleiding

Ook kinderen gebruiken digitale producten en diensten. Gezien hun kwetsbaarheid moeten die ontworpen en gemaakt worden in het belang van het kind. Zodat de kansen (zo kunnen games het probleemoplossend vermogen vergroten, het ruimtelijk inzicht versterken, maar ook helpen bij het tegengaan van depressie) worden benut maar ook de risico’s worden bestreden. Want onderzoek laat ook risico’s zien, zoals voor de mentale/sociale en lichamelijke gezondheid, gokken en gameverslaving.

Daarom zet ik stevig in op veilige digitale producten en diensten voor kinderen. Eerder is de Code kinderrechten online tot stand gekomen die handvatten biedt om bij het ontwerpen van digitale producten en diensten het belang van het kind voorop te stellen. Deze code wordt onderdeel van een meer integrale aanpak, waarbij ook de Europese ontwikkelingen een rol spelen. Begin volgend jaar zal ik uw Kamer door middel van een voortgangsbrief over de hele breedte informeren over de stand van zaken van het borgen van kinderrechten online.¹ Regulering en toezicht maken daar deel van uit. In aanloop daar naartoe reageer ik, mede namens de Minister van Economische Zaken en Klimaat, in deze brief op de specifieke aanbevelingen uit het onderzoeksrapport «Behavioral design in video games: A roadmap for ethical and responsible games that contribute to long-term consumer health and well-being» van het Trimbos-instituut (opgenomen in de bijlage).

Het rapport

Eind vorig jaar bracht het Trimbos-instituut het hierboven genoemde onderzoeksrapport uit over «Behavioral design in video games: A roadmap for ethical and responsible games that contribute to long-term consumer health and well-being». Ik omarm de aanbevelingen uit dit rapport en ga in deze brief in op de bevindingen en op de initiatieven die ik in gang zet om nadelige effecten van gamen tegen te gaan. Deze initiatieven hebben inmiddels hun weg gevonden in de lijn «Iedereen kan de digitale wereld vertrouwen» in de Werkagenda Waarden-gedreven Digitaliseren die op 4 november jl. aan uw Kamer is verzonden.

Het spelen van online games is een belangrijke activiteit onder kinderen. Zo blijkt uit onderzoek dat 89% van de Nederlandse basisschoolkinderen en 75% van de middelbare schoolkinderen online games spelen.² Daarnaast heeft de coronapandemie ervoor gezorgd dat gamen populairder is geworden.³ Dat is niet per se slecht. Onderzoek laat zien dat games allerlei kansen bieden voor kinderen en volwassenen. Zo kunnen games het probleemoplossend vermogen van mensen vergroten, het ruimtelijk inzicht versterken, maar ook helpen bij het tegengaan van depressie.⁴ Maar onderzoek⁵ laat ook belangrijke nadelen van gamen zien, zoals risico’s voor de mentale/sociale en lichamelijke gezondheid, de rol van in-game cultuur (bijvoorbeeld toxische gemeenschappen, vrouwonvriendelijkheid), gokken en gameverslaving. Deze nadelen vloeien voort uit schadelijke ontwerpkeuzes en manipulatieve verdienmodellen. Het ontwerp van games kan het gedrag van de gamer dus sturen: dit wordt «behavioral design» («gedragsontwerp») genoemd. Soms is dat heel zichtbaar. Bijvoorbeeld een tijdelijk evenement in een game dat je eigenlijk niet kan missen. Soms is de sturing onzichtbaar. Zo kan via algoritmen de beleving van de game onzichtbaar worden aangepast. Sommige games frustreren de gamer bewust om een aankoop te stimuleren, terwijl andere games positief gedrag juist aanmoedigen.

De inzet van geavanceerde technieken om mensen te verleiden en te beïnvloeden groeit.⁶ Het hierboven genoemde onderzoek van het Trimbos-instituut is in 2021 in samenwerking met de universiteit Leiden en de technische universiteit Eindhoven tot stand gekomen. Het onderzoek biedt aanbevelingen die in acht kunnen worden genomen om te zorgen voor een ethisch en verantwoord ontwerp van games.

Bevindingen en aanbevolen principes

Het onderzoek gaat in op verschillende verleidingstechnieken om spelers (onder wie kinderen als kwetsbare doelgroep) te verleiden tot langdurig gebruik van een app of tot aankopen in apps en games. Interfaces worden zo ontworpen dat zij leiden tot het opzettelijk verbergen van informatie (bijvoorbeeld pas bij het online betaalmoment extra kosten in rekening brengen) of dat zij een misleidend ontwerp hebben (bijvoorbeeld het melden dat het gewenste artikel bijna uitverkocht is, terwijl dat niet het geval is). Deze zogenaamde «dark patterns» sturen het gedrag van de consument/gebruiker.⁷

Er bestaan veel verschillende soorten technieken die tot gedragsverandering aanzetten in apps en games. Langdurig gebruik van een app of game wordt bijvoorbeeld gestimuleerd door notificaties die attenderen op nieuwe content of events of door negatieve of positieve ervaringen. Denk aan het beschikbaar stellen van virtuele items op het moment dat je de game langere tijd speelt. Het doen van aankopen wordt onder meer gestimuleerd door gebruikers te verleiden bijvoorbeeld extra content, digitale munten of virtuele items (met korting) te kopen. Bij sommige games leidt het kopen hiervan ook tot een grotere kans op winnen in het spel (pay-to-win).

De virtuele items kunnen worden aangeboden in een online store, maar ook door gebruikmaking van loot boxes. Loot boxes zijn virtuele objecten (zoals schatkisten) die gamers kunnen aanschaffen of verdienen door te spelen en waarin virtuele items zitten (zoals wapens) en waarbij het op voorhand niet duidelijk is wat de gamer krijgt (bijvoorbeeld welk wapen). Het financiële succes van loot boxes heeft tot een brede incorporatie van loot boxes in games geleid. Het Trimbos onderzoek laat zien dat loot boxes verslavingsgevoelige elementen bevatten zoals bijna-winst-effecten (het gevoel dat je bijna hebt gewonnen), visuele en geluidseffecten en de mogelijkheid om snel achter elkaar loot boxes te blijven openen. Daarmee krijgt de speler de neiging om door te blijven spelen en meer loot boxes te kopen. Het onderzoek geeft aan dat de verleidingstechnieken in het algemeen geavanceerder en subtieler worden en dat er een toename te zien is in het toepassen van de technieken.

Een andere conclusie van het onderzoek is dat de onderliggende verdienmodellen van games de afgelopen jaren zijn veranderd. Terwijl zo´n 15 jaar geleden met name aan aanschaf van games werd verdiend, zijn steeds meer games gratis en is het verdienmodel meer gestoeld op het verleiden van gamers tot het doen van micro-transacties. De transparantie ten aanzien van ontwerpbeslissingen om koopgedrag te beïnvloeden is beperkt.

Op basis van het onderzoek heeft het Trimbos-instituut de volgende principes geformuleerd die leidend moeten zijn voor het gedragsontwerp van games:

• 1) het ontwerp moet gemaakt worden in het belang van het kind;

• 2) er moet gezorgd worden voor kindvriendelijke gegevensbescherming;

• 3) het recht van het kind om te spelen moet naar behoren in acht worden genomen;

• 4) het profileren van kinderen voor commerciële doeleinden moet vermeden worden;

• 5) een ontwerp dat leidt tot uitbuiting en negatieve effecten op de ontwikkeling en gezondheid van kinderen moet vermeden worden;

• 6) er moet een positieve en een gezonde balans ondersteund worden in het gedragsontwerp;

• 7) er moeten negatieve effecten voorkomen worden, met name voor kwetsbaren en kinderen; en

• 8) een zorgplicht moet rekening houden met de gevolgen van de ontwerpkeuzes en er moeten kaders en grenzen worden ontwikkeld voor de industrie.

Aanbevelingen en initiatieven

In het rapport zijn vijf aanbevelingen opgenomen voor de overheid. Hieronder worden de aanbevelingen besproken, alsook mijn inzet. Ik merk hierbij nog op dat het inzetten van verleidingstechnieken niet alleen kinderen raakt, maar ook volwassenen. Een andere opmerking is dat veel games worden gemaakt buiten Nederland, waarmee de vraag zich voordoet of een nationale aanpak volstaat. Ik kom daarop terug bij het onderwerp loot boxes.

Alle initiatieven staan in de Werkagenda Waardengedreven Digitaliseren, in de programmalijn «Iedereen kan de digitale wereld vertrouwen» en worden in deze brief verder uitgewerkt. Over de realisatie van de Werkagenda zal ik uw Kamer ieder najaar rapporteren.

Aanbeveling 1: samenwerking met NGO’s en platforms

Ten eerste is de aanbeveling aan de overheid om meer (internationaal) samen te werken met NGO’s om kinderen online te beschermen, de industrie aan te moedigen om zich ethisch en verantwoord te gedragen en de dialoog te stimuleren en een gedragscode op te stellen. Dat geldt ook voor het bilaterale contact tussen de industrie en de overheid dat verbeterd kan worden.

Verbod op loot boxes

Ik steun dat er intensiever contact kan plaatsvinden met NGO’s en de game-industrie om ethisch en verantwoord ontwerp van games te stimuleren. Het kabinet gaat daarom dialoogtafels organiseren. Hieronder ga ik daar verder op in, bij de aanbeveling over uitoefenen van invloed op interne processen in de game industrie.

Tegelijkertijd zie ik ook de beperkte impact van zelfregulering tot nu toe en (niet verplichtend) beleid zoals de Code Kinderrechten Online. Hoewel het debat over schadelijk ontwerp van online producten en diensten (waaronder games) al een aantal jaar gevoerd wordt en handvatten voor ethisch ontwerp (zoals de Code Kinderrechten Online) aanwezig zijn, laat het onderzoek van het Trimbos-instituut zien dat het ontwerp van games nog steeds tegen het belang van gebruikers in kan gaan. Met de motie Bontenbal c.s. heeft uw Kamer mij gevraagd om te zoeken naar een mogelijkheid om loot boxes in Nederland te verbieden en daarvoor waar nodig de wet aan te passen.⁸ Ook de Autoriteit Consument en Markt is voorstander van regulering.⁹ Het Trimbos onderzoek laat zien dat deze loot boxes niet in het belang zijn van gebruikers en zeker niet als het gaat om kinderen. De technieken die worden ingezet om gebruikers te verleiden loot boxes aan te schaffen en te openen kunnen een verslavend karakter hebben.

Er is daarom verkend hoe tot regulering kan worden gekomen. Bij deze verkenning naar het verdergaand reguleren van loot boxes, is naar verschillende typen wetgeving gekeken, zoals de wet op de kansspelen (Wok), verslavingswetgeving en het consumentenrecht. Uit deze verkenning blijkt dat het Europees consumentenrecht qua reikwijdte en scope de beste mogelijkheden biedt voor de regulering van loot boxes. Voor wat betreft de Wok bepaalde de Afdeling bestuursrechtspraak van de Raad van State in maart 2022 dat een loot box van Electronic Arts (EA) geen kansspel is waarvoor een vergunning nodig is. Naar het oordeel van de Afdeling bestuursrechtspraak is het verkrijgen en het openen van deze loot boxes («packs») geen opzichzelfstaand spel. Daardoor kunnen de betreffende loot boxes niet worden aangemerkt als kansspel en is er geen vergunning nodig. Omdat loot boxes bijna altijd onderdeel zijn van een breder spel, zal het moeilijk zijn deze via de Wok verdergaand te reguleren.

Wat betreft wetgeving ten aanzien van verslavende middelen – zoals de Opiumwet – kwam uit de verkenning dat ook deze wetgeving niet voor de hand ligt. Deze wetgeving richt zich met name op verslavingen aan fysieke goederen (zoals drugs), die een andere achterliggende problematiek (productie, verspreiding, context) kennen dan loot boxes.

Beide typen wetgeving – kansspelwetgeving en verslavingswetgeving – zijn bovendien grotendeels nationaal, terwijl een Europese benadering bij loot boxes de voorkeur biedt, gegeven de internationale aard van games. Bij nationale regulering kunnen loot boxes makkelijker worden omzeild bijvoorbeeld door middel van het installeren van een VPN met registratie op een server in een ander land met minder strikte wetgeving. De richtlijn voor oneerlijke handelspraktijken heeft wel een Europese reikwijdte en daarnaast kan verkend worden of loot boxes, de verleidingstechnieken die daar in zitten of andere verleidingstechnieken met een negatief effect op consumenten als oneerlijke handelspraktijk kunnen worden aangemerkt. De Europese Commissie is gestart met een consultatie over consumentenbescherming in de online omgeving.¹⁰ De Commissie gaat onderzoeken of aanvullende maatregelen nodig zijn om consumenten online beter te beschermen. In het kader hiervan is de Minister van Economische Zaken en Klimaat voornemens aan de Europese Commissie voor te leggen of loot boxes als oneerlijke handelspraktijk kunnen worden aangemerkt. Behalve loot boxes worden ook andere verleidingstechnieken in dit kader bekeken; pay-to-win en het gebruik van digital currencies.

Een Europese aanpak vergroot tevens de kans dat game-industrie daadwerkelijk het ontwerp van hun spellen aanpast. Een verbod op loot boxes ertoe kan leiden dat deze worden verruild voor andere ontwerptechnieken om gebruikers te verleiden tot het doen van financiële (micro) transacties. Daarom zal ik ook andere acties ondernemen, die hieronder beschreven worden.

Aanbeveling 2: versterken informatie en controle cyclus

Ten tweede schrijft het Trimbos-instituut dat de overheid de effectiviteit van zelfregulering van bedrijven kan controleren door middel van monitoren en toezicht, door het game- en digitaal beleid van de overheid te evalueren en het financieren en faciliteren van onderzoek.

Coderingssysteem als onderdeel van een keurmerk Publieke waarden

Ik zie dat meer informatie over welke ontwerptechnieken game-ontwikkelaars toepassen, kan helpen om het debat te voeren over wat we ethisch verantwoord vinden en wat niet. Daarnaast is het voor gamers (of voor hun omgeving, waaronder hun ouders) van belang om te weten welke verleidingstechnieken in een game aanwezig zijn om een weloverwogen beslissing te kunnen nemen over het wel of niet spelen van een game.¹¹ Ik zal daarom een coderingssysteem ontwikkelen dat voor games in kaart brengt welke verleidingstechnieken in een game aanwezig zijn. Dit systeem zal in overeenstemming en in aanvulling op bestaande systemen – zoals PEGI¹² – ontwikkeld worden. Onderdeel van dit coderingssysteem is dat ontwikkelingen in de toepassing van verleidingstechnieken in kaart worden gebracht, zoals de vervanging van loot boxes door andere beïnvloedingstechnieken. Ook wordt in dit coderingssysteem de mate van borging van kinderrechten opgenomen. Dit systeem zal worden ondergebracht in een meer omvattend keurmerk publieke waarden dat is opgenomen in de programmalijn «Iedereen kan de digitale wereld vertrouwen», «publieke waarden borgen» van de Werkagenda.

Daarnaast ga ik met ontwikkelaars van onlineproducten en diensten in gesprek over het verstrekken van data over problematisch gebruik van onlineproducten en diensten door minderjarigen aan onafhankelijke onderzoekers. Ontwikkelaars van digitale producten en diensten beschikken over grote hoeveelheden data over de omvang en het type gebruik door minderjarigen en hebben hierdoor relevante informatie over problematisch gebruik en schade wat kan optreden. Deze informatie is van groot belang voor onafhankelijke onderzoekers en hulpverleners die zich bezighouden met schadelijke effecten van digitale producten en diensten.

Aanbeveling 3: preventie en behandeling van schade en/of stoornissen door gamen

Ten derde geeft het Trimbos-instituut aan dat er maatregelen ter preventie kunnen worden genomen voor onder andere de behandeling van problemen zoals gaming stoornissen. Zo heeft het Trimbos-instituut een Gamen Infolijn (http://www.gameninfo.nl/) ingericht en een aanbeveling geschreven over preventie van problematisch gamen.¹³ Mediawijsheid.nl besteedt op hun website ook aandacht aan verschillende aspecten van gamen. Zo worden voor- en nadelen van gamen behandeld en zijn er tips en instrumenten te vinden die behulpzaam zijn bij het bereiken van een gezonde houding ten opzichte van gamen.

Publieksvoorlichting

In het kader van preventie en bewustwording organiseert ik in aanvulling hierop een brede publieksvoorlichting over de risico’s van (langdurig) online zijn. Dit betreft niet alleen het spelen van games maar bijvoorbeeld ook social media gebruik. De primaire doelgroep zijn jongeren omdat zij meer risico lopen op problematisch gamen in vergelijking met de algemene populatie¹⁴ maar ook ouders worden betrokken. Op basis hiervan kunnen ouders en jongeren signalen herkennen, weten waar zij hulp en informatie kunnen krijgen en kunnen zij acties ondernemen.

Daarnaast zal dit ouders stimuleren om over dit onderwerp na te denken en hierover het gesprek aan te gaan met hun kind. Het zal ook bijdragen aan de bespreekbaarheid van het probleem in de samenleving. Dit beleidsinitiatief is in lijn met eerder advies over problematische games door het Trimbos-instituut.¹⁵

Evenals de Europese Commissie ben ik van mening dat het betrekken van kinderen essentieel is voor hun eigen bewustwording en de effectiviteit van voorlichting.¹⁶ Daarnaast betrek ik kinderen bij het ontwikkelen van een tech-etiquette over «do’s-and-don’ts» online.

In het kader van preventie zet ik ook actief in op de ontwikkeling en het verplichten van de «age appropriate design code» zoals door de Europese Commissie is aangekondigd in de BIK+ strategie (Better Internet for Kids). De BIK+ strategie heeft tot doel om kinderen te beschermen tegen illegale of niet op hun leeftijd afgestemde inhoud, hen mondiger te maken via digitale vaardigheden en hen inspraak te geven in de digitale wereld. De age appropriate design code wil de kinderen beschermen tegen schadelijke en illegale inhoud, gedragingen, contacten en gebruikersrisico’s en hun welzijn online verbeteren.

Ook is, in reactie op de motie Ceder/Dekker-Abdulaziz¹⁷, de doorontwikkeling en versterking van de Code kinderrechten online ter hand genomen. Dit wordt bezien in het licht van de totstandkoming van de age appropriate design code. De age appropriate design code lijkt op de Code Kinderrechten Online in de zin dat het ook principes definieert voor ontwerp van digitale producten en diensten (waaronder games) die kinderrechten respecteren. De Code kinderrechten online wordt doorontwikkeld tot een praktisch instrument dat ontwikkelaars van online diensten en -producten behulpzaam is bij het ontwerpproces. Ten slotte zal de Code worden geactualiseerd.

Daarnaast zet ik in op een effectievere leeftijdsverificatie. In dit kader zijn de ontwikkelingen ten aanzien van de Europese Wallet van belang maar ook alternatieven daarvoor. Vanzelfsprekend wordt bij het zoeken naar betere leeftijdsverificatie gekeken naar de mate waarin de privacy van kinderen bij de verificatie geborgd is, bijvoorbeeld door toepassing van privacy by design principes.

Ten slotte zal ik op verzoek van Uw Kamer¹⁸ de aanbevelingen meenemen uit een rapport van UNICEF¹⁹ uit 2019 die zien op het bereiken van een gezonde wijze van spelen van games, voor zover deze niet in deze brief worden meegenomen.

Aanbeveling 4: juridische interventies door de overheid

Het Trimbos-instituut beveelt aan om juridische maatregelen te nemen om ongezond en schadelijk ontwerpgedrag te ontmoedigen door bijvoorbeeld deze ontwerpen te verbieden en strenger te handhaven op dergelijke ontwerpen. Ook kan de overheid de maatschappij informeren en kennis delen over schadelijk gedrag online.

Kinderrechten impact assessment

Ik laat een kinderrechten impact assessment ontwikkelen dat dient om, voordat het ontwerpproces in gang wordt gezet, inzicht te krijgen in het risico van schending van kinderrechten in het finale ontwerp. Ik bekijk, ook in Europees verband, of en hoe een dergelijk assessment kan worden verplicht. In de Digital Service Act is al een assessmentplicht opgenomen voor hele grote online platforms en zoekmachines maar veel online games zullen niet als een online platform in de zin van de Digital Service Act zijn aan te merken. Het informeren en delen van kennis in de zin van bewustwording is hierboven al aan de orde gekomen bij de aanbeveling over preventie en behandeling van schade en/of stoornissen door gamen.

Aanbeveling 5: uitoefenen van invloed op interne processen in de game industrie

De laatste aanbeveling ziet op het uitoefenen van invloed op de interne processen in de game industrie. De overheid kan bijvoorbeeld positief gedrag belonen, schade monitoren en advies geven aan de industrie over ethisch en verantwoord gedragsontwerp.

Dialoogtafels

Ik pak dit op in de vorm van het organiseren van de hiervoor genoemde tafels om samenwerking en dialoog met het maatschappelijk middenveld, de industrie en relevante toezichtautoriteiten te stimuleren en kennis te delen. Daarbij zal ik het ethisch en verantwoord gedrag blijven aanmoedigen.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, A.C. van Huffelen

---

1 Kamerstuk 36 200 VII, nr. 116.

2 Rombouts, S., Van Dorsselaer S., Scheffers-van Schayck T., Tuithof M., Kleinjan M., Monshouwer K.(2020) Jeugd en riskant gedrag 2019: kerngegevens uit het Peilstationsonderzoek Scholieren. https://www.trimbos.nl/?act=winkeldl.download&prod=1298.

3 Facebook IQ, Facebook Gaming. (2021) Games Marketing Insights for 2021: insights to Inform Game Development, Growth and Monetization. Facebook Gaming. https://www.facebook.com/fbgaminghome/marketers/gaming-marketing-insights-2021.

4 https://www.folia.nl/wetenschap/128054/uva-onderzoek-gamen-maakt-intelligenter en https://www.eur.nl/nieuws/games-schadelijk-voor-jongeren-ze-kunnen-juist-helpen-bij-behandelen-depressies.

5 Bijvoorbeeld het onderzoek van de Noorse Consumentenraad over loot boxes: 2022-05-31-insert-coin-publish.pdf (forbrukerradet.no).

6 Tuijnman, A., Andree, S., van Rooij, A. (2021) Risico’s, voordelen en regulering van games. https://www.trimbos.nl/wp-content/uploads/2021/12/AF1924-Risicos-voordelen-en-regulering-van-videogames.pdf; van Rooij, A., Birk, M., van der Hof, S., Ouburg, S., van Hilten, S. (2021) Behavioral design in video games: A roadmap for ethical and responsible games that contribute to long-term consumer health and well-being. https://www.trimbos.nl/wp-content/uploads/2021/12/AF1965-Behavioral-design-in-video-games.pdf; van Huijstee, M., Nieuwenhuizen, W., Sanders, M., Masson, E., van Boheemen, P. (2021) Online ontspoord: een verkenning van schadelijk en immoreel gedrag op het internet in Nederland. https://www.rathenau.nl/sites/default/files/2021-07/Rathenau_instituut_Rapport_Online_ontspoord.pdf.

7 Het ontwerp van een interface kan een overtreding op van consumentenregelgeving opleveren, zoals in het geval van de twee genoemde voorbeelden.

8 Motie Bontenbal c.s, Kamerstuk 26 643, nr. 890.

9 Zie non-paper dat de ACM 21 november 2022 publiceerde, waarin dit standpunt is verwoord: https://www.acm.nl/system/files/documents/acm-reactie-op-eu-fitness-check-on-digital-fairness.pdf.

10 Digital fairness – fitness check on EU consumer law (europa.eu).

11 COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS EU strategy on the rights of the child. COM/2021/142 final. https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52021DC0142&from=en; van Huijstee, M., Nieuwenhuizen, W., Sanders, M., Masson, E., van Boheemen, P. (2021) Online ontspoord: een verkenning van schadelijk en immoreel gedrag op het internet in Nederland. https://www.rathenau.nl/sites/default/files/2021-07/Rathenau_instituut_Rapport_Online_ontspoord.pdf; Tuijnman, A., Andree, S., van Rooij, A. (2021) Risico’s, voordelen en regulering van games. https://www.trimbos.nl/wp-content/uploads/2021/12/AF1924-Risicos-voordelen-en-regulering-van-videogames.pdf.

12 Pan European Game Information (PEGI) is een Europees leeftijdsclassificatiesysteem.

13 https://www.trimbos.nl/aanbod/webwinkel/af1447-problematisch-gamen-aanbevelingen-voor-preventie/.

14 Van Leeuwen, L., Goossens, F. (2016) Problematisch gamen: aanbevelingen voor preventie. https://www.trimbos.nl/wp-content/uploads/sites/31/2021/09/af1447-problematisch-gamen-aanbevelingen-voor-preventie.pdf.

15 Van Leeuwen, L., Goossens, F. (2016) Problematisch gamen: aanbevelingen voor preventie. https://www.trimbos.nl/wp-content/uploads/sites/31/2021/09/af1447-problematisch-gamen-aanbevelingen-voor-preventie.pdf.

16 COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, THE COUNCIL, THE EUROPEAN ECONOMIC AND SOCIAL COMMITTEE AND THE COMMITTEE OF THE REGIONS EU strategy on the rights of the child. COM/2021/142 final. https://eur-lex.europa.eu/legal content/EN/TXT/PDF/?uri=CELEX:52021DC0142&from=en.

17 Kamerstuk 36 200 VII, nr. 78.

18 Verzoek van dhr. Bontenbal (CDA) van 14 november 2022 (Kamerstuk 36 200 VII, nr. 116).

19 Pietikäinen M, Nyman E, Kardefelt Winther D. Online gaming and children’s rights: Recommendations for The Online Gaming Industry on Assessing Impact on Children. Geneva: United Nations Children’s Fund (UNICEF); 2020. Available: https://sites.unicef.org/csr/css/Recommendations_for_Online_Gaming_Industry.pdf.