Vragen van het lid Mutluer (GroenLinks-PvdA) aan de Minister van Justitie en Veiligheid over extreemrechtse memes (ingezonden 29 mei 2024).

Antwoord van Minister Yeşilgöz-Zegerius (Justitie en Veiligheid) (ontvangen 28 juni 2024). Zie ook Aanhangsel Handelingen, vergaderjaar 2023–2024, nr. 2013.

Vraag 1

Bent u bekend met het artikel «Grappig, maar gevaarlijk: NCTV wil maatschappij wapenen tegen extreemrechtse «meme»»¹?

Antwoord 1

Ja.

Vraag 2

Deelt u de mening dat dit soort memes veel impact kunnen hebben op de samenleving en in het bijzonder op jongeren en hun gedachtenontwikkeling?

Antwoord 2

Memes zijn een belangrijk online communicatiemiddel voor extreemrechts² en worden op diverse manieren en met verschillende functies ingezet. De stelselmatige verspreiding van extreemrechtse memes draagt bij aan de normalisering en sociale acceptatie van een onverdraagzaam gedachtegoed, leidt tot (online) groeps- en identiteitsvorming binnen een radicale subcultuur en biedt mogelijk inspiratie voor geweld of ander extremistisch handelen. Zo kan de normalisering van extremistisch gedachtegoed leiden tot racisme, uitsluiting en discriminatie van minderheden en andersdenkenden. Memes kunnen daarnaast bijdragen tot niet-gewelddadige extremistische acties als haatzaaien, angst verspreiden, doelbewust desinformatie verspreiden, demoniseren en intimideren, verwerpen van wet- en regelgeving, en pogingen om een parallelle samenleving tot stand te brengen waarbij het gezag van de Nederlandse overheid en het rechtssysteem worden afgewezen. Dit zijn ongewenste ontwikkelingen die de sociale cohesie aantasten en de democratische rechtsorde en daarmee ook de nationale veiligheid op termijn kunnen ondermijnen.

Via memes kan extremistisch gedachtegoed op een laagdrempelige manier verspreid worden richting jongeren. Zo bereiken aanhangers van extreemrechts vooral jongeren in het online domein, die in de eerste instantie niet ontvankelijk zijn voor ingewikkelde ideologische extremistische theorieën. Omdat memes de extreemrechtse boodschap – zoals antidemocratische, racistische en onverdraagzame uitingen – juist op een zogenaamd humoristische en subtiele manier verpakken, bestaat het risico dat jongeren op deze manier toch geïnteresseerd raken in het extreemrechtse gedachtegoed. Op deze manier kunnen jongeren van grotere sociale media platformen en gamefora gelokt worden naar alternatieve en besloten platformen, waar veel explicietere rechts-extremistische ideeën worden gedeeld, waaronder kwaadaardige complottheorieën, geweldsfantasieën, antisemitisme en boodschappen die aanzetten tot haat.

Vraag 3

Hoe gaat u de samenleving en in het bijzonder jongeren weerbaarder maken tegen extreemrechtse memes waarvan de inhoud vergaande radicalisering en extremisme of zelfs terrorisme beoogt en verheerlijkt³?

Antwoord 3

Het kabinet is van mening dat er in onze democratische rechtsorde absoluut geen plaats is voor rechts-extremistische uitingen of opvattingen. Het is zorgelijk en kwalijk dat extreemrechts gedachtegoed onder andere via memes breed verspreid wordt en een aantrekkingskracht uitoefent op met name kwetsbare, jonge mannen, niet zelden minderjarig. Het kabinet is er alles aan gelegen om jongeren hiertegen te beschermen en weerbaar te maken, niet alleen vanwege de dreiging van extremistisch en/of terroristisch geweld maar ook voor de kansen en toekomst van deze jongeren. Dit vergt een aanpak van twee kanten; het vergroten van de (online) weerbaarheid van jongeren en, het tegengaan van de online verspreiding van deze extremistische en soms zelfs terroristische content. Het is binnen onze democratie een grondrecht om een open discussie te voeren, waarin mensen hun mening vrij kunnen uiten. Maar dat betekent niet dat er in onze democratische rechtsorde plaats is voor rechts-extremistische uitingen.

Het is allereerst belangrijk om bewustzijn te creëren voor online content die wellicht onschuldig lijkt, maar dat zeker niet is. Daarom is het van belang om de mediawijsheid en digitale weerbaarheid van met name jongeren te versterken. Het vergroten van digitale weerbaarheid gebeurt nu vooral via diverse cursussen en programma’s gericht op jongeren. Er wordt ingezet op het verhogen van mediawijsheid ten aanzien van online bronnen, het herkennen van extremistische boodschappen, en middels de Rijksbrede strategie voor de effectieve aanpak van desinformatie.⁴ Zo is er het lesprogramma «Under Pressure» dat zich richt op het vergroten van weerbaarheid tegen desinformatie en het vergroten van democratisch burgerschap onder jongeren om zo de voedingsbodem voor polarisatie en radicalisering te verminderen.⁵ De inzet op het vergroten van digitale weerbaarheid via (lokale) interventies en het ondersteunen van professionals en gemeenten wordt de komende jaren verder versterkt. Daarnaast wordt de adequate inzet van de versterkingsgelden die gemeenten kunnen aanvragen voor de aanpak van radicalisering, extremisme en terrorisme benut om meer bewustzijn te creëren over de online aspecten van extremisme en terrorisme. Zo maken diverse gemeenten reeds gebruik van online (weerbaarheids)cursussen en projecten die hiervoor aandacht vragen.

Ook het tegengaan van de online verspreiding van extremistische en terroristische content heeft prioriteit. In de beantwoording van de vragen 7, 8 en 9 ga ik hier verder op in.

Vraag 4

Wat zijn de huidige mogelijkheden om te handhaven op extremistische memes of memes die oproepen tot geweld? Op welke vlakken schieten het strafrecht of mogelijkheden tot online contentbeheer tekort?

Antwoord 4

Het kabinet werkt aan een Versterkte Aanpak Online (VAO) inzake extremistische en terroristische content. De contourenbrief hierover is op 12 december 2023 naar uw Kamer is gestuurd.⁶ Eén van de prioriteiten binnen deze Versterkte Aanpak Online is het tegengaan van zogenoemde borderline («legal yet harmful») content waartoe memes vaak kunnen worden gerekend. De uitwerking van de Versterkte Aanpak Online inzake extremistische en terroristische content kunt u na de zomer 2024 verwachten.

Indien er wel sprake is van online terroristisch materiaal, kan de Autoriteit online Terroristisch en Kinderpornografisch Materiaal (hierna: ATKM) verwijderingsbevelen sturen op basis van de Verordening Terroristische Online Inhoud⁷ en de Uitvoeringswet Terroristische Online Inhoud.⁸ Aanbieders van hostingdiensten zijn verplicht om specifiek materiaal op aanwijzing van de ATKM binnen een uur te verwijderen of ontoegankelijk te maken. Memes die niet in strijd zijn met de Verordening Terroristische Online Inhoud kunnen niet door de ATKM worden verwijderd (zie ook de beantwoording van vragen 7, 8 en 9).

Wanneer er sprake is van memes die strafbare feiten of strafbare uitlatingen bevatten, zoals bedreiging, is strafrechtelijke opsporing van de personen achter (anonieme) accounts mogelijk. Het is aan het Openbaar Ministerie om dit te beoordelen.

Zie ook het antwoord op vraag 7.

Vraag 5

Is er voldoende kennis en capaciteit bij de politie om dit soort memes te herkennen? Zo nee, welke acties worden of kunnen worden ondernomen om die kennis bij de politie te doen toenemen? Is hier tijdens de opleiding aandacht voor? Zo nee, wordt dit in de toekomst wel opgenomen in het curriculum?

Antwoord 5

In de opleidingen bij de politie is er aandacht voor actuele ontwikkelingen op het gebied van extreemrechts, waaronder rechts-extremisme en rechtsterrorisme. In het kader van de aanpak contraterrorisme, extremisme en radicalisering heeft de politie samen met de NCTV een digitale symbolenbank ingericht. Deze symbolenbank is beschikbaar voor politieagenten en helpt bij het herkennen van rechts-extremistische verschijningsvormen, waaronder memes. Binnen de politie is er thans voldoende expertise aanwezig om dit soort memes te herkennen en om de organisatie hierover breed te kunnen adviseren.

Vraag 6

Ziet u mogelijkheden om jongerenwerkers in te zetten om jongeren hier online op aan te spreken of voor te behoeden? Welke best practices bestaan al in het lokale veld?

Antwoord 6

Jongerenwerkers zijn onmisbare professionals om preventieve maatregelen ten aanzien van (online) extremisme uit te voeren. Zo werken diverse gemeenten reeds met online jongerenwerkers die via sociale mediaplatformen in contact staan met jongeren en hen zo ondersteunen. Bij zorgelijk online gedrag, zoals ondermijning, georganiseerde criminaliteit, radicalisering en extremisme, kunnen jongerenwerkers daarover in gesprek gaan met jongeren en zo nodig interveniëren. Het is van belang dat personen die een voorbeeldfunctie bekleden – zo ook jongerenwerkers – zich bewust zijn van dit soort memes en zich actief uitspreken tegen extremistische uitingen om de normalisering hiervan tegen te gaan.

Daarnaast worden er in samenwerking met gemeenten en professionals door het Rijk handelingsperspectieven opgesteld om hen te ondersteunen bij het versterken van digitale weerbaarheid in preventie van o.a. extremisme. Ook wordt er naar manieren gekeken om jongeren zelf te betrekken bij het versterken van de digitale weerbaarheid. Verder werkt het Ministerie van Sociale Zaken en Werkgelegenheid aan een overzicht van interventies gericht op preventie van radicalisering, waarbij specifiek aandacht wordt gegeven aan interventies in het online domein. Aanvullend, zoals benoemd in de beantwoording van vraag 3, ondersteunt de NCTV gemeenten via de versterkingsgelden om meer bewustzijn te creëren over de online aspecten van extremisme en terrorisme. Uiteraard zullen eventuele nieuwe online interventies getoetst worden aan alle relevante wettelijke en juridische kaders waaronder die met betrekking tot de privacy.

De komende jaren zal er bijzondere aandacht uitgaan naar het integreren van het online domein in de lokale aanpak van radicalisering en extremisme. Daarom blijven de Ministeries van Justitie en Veiligheid en van Sociale Zaken en Werkgelegenheid in overleg met gemeenten en (jeugd)professionals, om het delen van best practices te stimuleren en faciliteren, de ervaren knelpunten verder te onderzoeken, effectieve methoden voor een lokale (preventieve) aanpak van online extremisme en terroristische activiteiten verder te ontwikkelen en waar mogelijk uit te breiden.

Vraag 7, 8 en 9

Hoe kijkt u aan tegen de rol van platforms in contentmoderatie van extremistische content, met name de berichten-applicaties (WhatsApp, Telegram, Signal), Alt-tech of alternatieve platformen (Gab, Parler, Bitchute, Minds, RocketChat) en rechts-extremistische en terroristische websites, fora en online netwerken?

Heeft u deze platforms aangesproken op hun rol? Zo ja, hoe verliepen deze gesprekken? Zo nee, bent u bereid dit te doen? Welke rol hebben de providers hier volgens u in?

Welke rol ziet u voor de Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) bij het aanspreken van platforms die dit soort memes toestaan en bij het laten verwijderen van dit soort content, mede in het licht van de Verordening terroristische online-inhoud?

Antwoord 7, 8 en 9

Ik deel de zorgen ten aanzien van de verspreiding van extremistische online content op platforms en berichtendiensten. De mate waarin deze diensten content (kunnen) modereren verschilt aanzienlijk. Bij sommigen is (stevige) verbetering nodig. Dit geldt met name ten aanzien van alternatieve platformen zoals door het lid Mutluer genoemd, waar contentmoderatie in veel gevallen vrijwel geheel afwezig is. Hierdoor kan extremistische content veelvuldig voorkomen.

Daar waar sprake is van memes die terroristische online content bevatten, kan de Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) op basis van de Verordening Terroristische Online Inhoud⁹ en de Uitvoeringswet Terroristische Online Inhoud¹⁰ hostingbedrijven en platformen verplichten deze content binnen één uur te verwijderen of ontoegankelijk te maken. Ook heeft de ATKM de bevoegdheid om boetes te versturen naar aanbieders van hostingdiensten indien zij een verwijderingsbevel niet opvolgen. Deze boete kan oplopen tot 4% van de jaarlijkse omzet van de betreffende hosting provider.

De mate waarin sociale media bedrijven zich inspannen om de verspreiding van terroristische online inhoud te beperken is onderdeel van de dialoog met de internetsector, die ik in het kader van de eerdergenoemde Versterkte Aanpak Online ben gestart over deze thema’s. Tijdens deze gesprekken heb ik mijn zorgen over de verspreiding van extremistische online content geuit en de platforms aangesproken op hun rol in het veilig houden van hun online omgeving. De inzet blijft gericht op een structurele dialoog met de internetsector over specifiek deze onderwerpen.

Vraag 10

Hoe beziet u het spanningsveld tussen de vrijheid van meningsuiting enerzijds en het gevaar van extreemrechtse memes (met name de groep extremistische memes) anderzijds? Hoe wordt hierin onderscheid gemaakt tussen extremisme, terrorisme en activisme?

Antwoord 10

In de fenomeenanalyse van de NCTV wordt een meme gedefinieerd als een idee, uiting of mening gevat in tekst of in visueel materiaal zoals een foto, video of gif-bestand al dan niet voorzien van tekst of geluid, die online wordt gekopieerd en verspreid. Het gaat dus om (een onderdeel van) uitingen van personen, die in beginsel beschermd worden door de vrijheid van meningsuiting. De vrijheid van meningsuiting is een kernwaarde van de democratie. Zij kan slechts worden beperkt op grond van een wettelijke bepaling en wanneer die beperking een gerechtvaardigd doel dient en noodzakelijk is in een democratische samenleving. Voorbeelden van dat soort beperkingen zijn er voor onder meer kinderpornografie, terroristische inhoud en haatzaaien, die allen strafbaar zijn gesteld.¹¹ Daarbij wordt geen onderscheid gemaakt tussen uitingen in de fysieke wereld en online content: dat wat strafbaar en onrechtmatig is in de fysieke wereld is dat ook online. Om ontoelaatbare beperkingen van de vrijheid van meningsuiting te voorkomen is het beleid voor dit soort memes primair gericht op het verhogen van bewustwording, kennis en weerbaarheid.

In algemene zin geldt dat in een democratische rechtsorde personen te allen tijde binnen de grenzen van de wet hun grondrechten moeten kunnen uitoefenen. In de praktijk kan dit leiden tot een botsing van grondrechten, waarbij de uitoefening van een grondrecht door de ene persoon of groep leidt tot een botsing met een grondrecht van een andere persoon of groep. Grondrechten zijn echter niet absoluut. In de Grondwet en in verdragen zoals het Europese Verdrag van de Rechten van de Mens is vastgelegd dat grondrechten onder voorwaarden kunnen worden beperkt voor een zwaarwegender doel in het kader van het algemeen belang. Vanuit het oogpunt van algemeen belang is er wetgeving met daarin beperkingen van het recht van vrijheid van meningsuiting, zoals het antidiscriminatieverbod of het verbod tot haatzaaien of opruiing. Daarnaast is soms voor deze botsing van grondrechten een contextuele rechtsstatelijke toets (door de rechter) nodig om te bepalen welke grondrecht in het specifieke geval voorrang heeft ten opzichte van andere grondrechten. Het is uiteindelijk aan de rechter om te bepalen of bepaalde uitingen al dan niet worden beschermd door het recht op de vrijheid van meningsuiting of andere grondrechten.

Daarbij hecht ik eraan te benadrukken dat extremisme niet in het verlengde van activisme ligt, maar wezenlijk iets anders is. Men dient ervoor te waken om een directe causale lijn te zien waarbij uitgegaan wordt dat maatschappelijke onrust en allerlei vormen van activisme uiteindelijk tot extremisme zouden kunnen leiden. De doelen die extremisten nastreven en/of de middelen zijn inherent antidemocratisch of ondemocratisch. Bij activisten is dit niet het geval. Om te bepalen of iets extremistisch is, worden deze gedragingen nooit geïsoleerd bezien, maar altijd binnen de context van een ideologisch motief en gepaard gaande met geweld of stelselmatige en doelbewuste gedragingen die de democratische rechtsorde ondermijnen. Voor een uitgebreidere toelichting op extremisme, het onderscheid met activisme en terrorisme, verwijs ik u naar de onlangs verschenen Nationale Extremismestrategie 2024–2029.¹²

Vraag 11

Wat zijn naar aanleiding van de fenomeenanalyse van de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV) de volgende stappen die u op dit onderwerp gaat nemen?

Antwoord 11

De conclusies uit de fenomeenanalyse zullen betrokken worden bij de verdere uitwerking van de Versterkte Aanpak Online en de uitvoering van de Nationale Extremismestrategie 2024–2029.¹³ Deze strategie schetst een overzicht en de kaders voor de beleidsinzet op extremisme, waaronder ook de inzet op weerbaarheid.

Vraag 12

Bent u bereid te onderzoeken of een publiekscampagne over extreemrechtse memes eraan kan bijdragen dat burgers de beeldtaal en symboliek van memes beter leren herkennen, waarin nadrukkelijk wordt gepoogd om de groep jongeren te bereiken die door extreemrechtse memes geïnteresseerd raken in het gedachtegoed en daardoor mogelijk radicaliseren?

Antwoord 12

Een van de doelen van de publieke fenomeenanalyse naar het gebruik van memes door extreemrechts is het informeren van burgers over de gevaren omtrent extreemrechtse memes. Hierbij is het vooral zaak om bewustzijn te creëren dat sommige memes niet zo onschuldig zijn als ze lijken. Via het netwerk van de NCTV worden met de analyse professionals bereikt die met jongeren werken. Daarnaast neemt de NCTV in gesprekken met zijn communicatiepartners mee wat de toegevoegde waarde kan zijn van een jongerencampagne aanvullend op de bestaande communicatie inzet.

Vraag 13

Kunt u deze vragen beantwoorden voorafgaand aan het commissiedebat over terrorisme/extremisme op 20 juni a.s.?

Antwoord 13

Ja.

---

1 Telegraaf, 21 mei 2024, Grappig, maar gevaarlijk: NCTV wil maatschappij wapenen tegen extreemrechtse «meme» (www.telegraaf.nl/nieuws/1253978450/grappig-maar-gevaarlijk-nctv-wil-maatschappij-wapenen-tegen-extreemrechtse-meme).

2 Met «extreemrechts» wordt hier, overeenkomstig met het gebruik van de term in het Dreigingsbeeld Terrorisme Nederland, de ideologie bedoeld waarmee zowel activisme, extremisme als terrorisme kan worden gemotiveerd. Allen handelen vanuit extreemrechts gedachtegoed, waartoe denkbeelden worden gerekend als vreemdelingenhaat, haat jegens vreemde (cultuur)elementen en ultranationalisme.

3 NCTV, 21 mei 2024, Fenomeenanalyse «Memes als online wapen» (www.nctv.nl/documenten/publicaties/2024/05/21/fenomeenanalyse-memes-als-online-wapen).

4 Kamerstukken II, 2022/23, 30 821, nr. 173.

5 «Werken aan weerbaarheid tegen desinformatie en eenzijdige meningsvorming» (2022), Verwey-Jonker Instituut & RadarAdvies.

6 Kamerstuk 29 754, nr. 708.

7 Vanaf 7 juni 2022 is de Europese Verordening 2021/784 van toepassing die uniforme regels vaststelt om de verspreiding van online terroristisch materiaal tegen te gaan.

8 De Uitvoeringswet Terroristische Online Inhoud is per 1 september 2023 in werking getreden.

9 Vanaf 7 juni 2022 is de Europese Verordening 2021/784 van toepassing die uniforme regels vaststelt om de verspreiding van online terroristisch materiaal tegen te gaan.

10 De Uitvoeringswet Terroristische Online Inhoud is per 1 september 2023 in werking getreden.

11 Kamerstukken II, 2021/22, 26 643, nr. 782

12 Tweede Kamer 2023–2024, 29 754, nr. 708.

13 Tweede Kamer 2023–2024, 29 754, nr. 708.