29 754 Terrorismebestrijding

Nr. 690 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 10 oktober 2023

Om online radicalisering beter te kunnen begrijpen en tegen te gaan heeft het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC) op verzoek van de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV) onderzoek laten uitvoeren naar de wijze waarop rechts-extremistische radicalisering kan optreden en welke rol sociale media daarbij spelen. Het is een grote en belangrijke studie geworden, waarvoor ik de onderzoekers zeer erkentelijk ben. Om recht te doen aan het omvangrijke eindrapport zal mijn departement de komende tijd benutten om de bevindingen en aanbevelingen verder te bestuderen en mee te nemen in de uitwerking van de Versterkte Aanpak Online van extremistische en terroristische content online. Uw Kamer ontvangt binnenkort de eerste hoofdlijnen in de vorm van de Contourenbrief Versterkte Aanpak Online inzake extremistische en terroristische content. Hierin worden de ambities ten aanzien van het verstevigen van de online aanpak geschetst. Deze brief fungeert als opmaat naar een verdere uitwerking van de Versterkte Aanpak Online voor extremistische en terroristische content die in het voorjaar van 2024 met uw Kamer wordt gedeeld.

In onderhavig onderzoek is specifiek gekeken naar de verschillende ontwikkelingspaden voor het optreden van rechts-extremistische radicalisering in de richting van gewelddadig en of terroristisch gedachtengoed en de rol van aanbevelingsalgoritmen binnen sociale mediaplatforms. Ook is onderzocht in welke mate, naast online invloeden, ook offline contacten een noodzakelijke voorwaarde zijn voor rechts-extremistische radicalisering. Relevante wet en -regelgeving, zoals de Verordening Terroristische Online Inhoud (TOI-Verordening) en de Digital Services Act zijn daarbij betrokken, waarmee ik ook tegemoetkom aan de toezegging aan het lid van der Werf.¹ Zo staat in dit WODC-onderzoek uiteengezet in welke mate en op welke wijze online platforms aansprakelijk zijn voor de content die zij verspreiden.² Het onderzoek is uitgevoerd door het Verwey-Jonker Instituut in samenwerking met Textgain. Het onderzoeksrapport «rechts-extremisme op sociale media platforms? Ontwikkelingspaden en handelingsperspectieven» treft u als bijlage aan. Hiermee voldoe ik aan de toezegging aan het Kamerlid van der Werf om de uitkomsten van het onderzoek met uw Kamer te delen.³

Hieronder ga ik in op de belangrijkste bevindingen van het onderzoek, de door de onderzoekers geschetste handelingsperspectieven om gewelddadige rechts-extremistische radicalisering via online platforms tegen te gaan en mijn reactie daarop.

Bevindingen en aanbevelingen

Volgens de onderzoekers draagt een grote variëteit aan risicofactoren, op zowel individueel niveau als op groeps- en samenlevingsniveau, bij aan het ontstaan van radicaliseringsprocessen. Belangrijke noties hieruit wil ik meenemen in de opvolging van het WODC-rapport over ideologische duidingen die ik uw kamer voor de zomer aanbood.⁴ Daarin is aanbevolen om meer aandacht te hebben voor andere ideologieën dan jihadistisch extremisme om bij het duiden van personen tunnelvisie en ongelijke behandeling, in onder meer het strafrecht en de lokale aanpak, te voorkomen. De onderhavige studie naar factoren van radicalisering vanuit rechts-extremistische ideologie draagt hieraan bij. Daarnaast blijken de ontwikkelingspaden van radicalisering uiterst complex, waarbij zowel online als offline factoren een rol spelen en op elkaar inwerken. Om de invloed van de online context op extremistische overtuigingen en geweld te kunnen begrijpen, dient volgens de onderzoekers te worden gekeken naar deze wisselwerking tussen online en offline factoren. In dit verband is het goed om te vermelden dat er volgend jaar een onderzoek verschijnt, uitgevoerd door het WODC, waarin processen van online rekrutering door en voor extremistische groepen, alsmede naar de preventie daarvan worden onderzocht.

Een van de factoren die kan bijdragen aan (online) radicalisering is het in aanraking komen met extremistische content. De onderzoekers geven aan dat rechts-extremistische individuen en netwerken diverse online strategieën hanteren om hun gedachtengoed de leefwereld van personen te laten binnendringen. Zo kan het vermommen van content, bijvoorbeeld door het gebruik van humor, ironie en dog whistles, bijdragen aan (langdurige) blootstelling en daarmee normalisering, gewenning en acceptatie van rechts-extremistische content.

Volgens de onderzoekers hebben de grote mainstreamplatforms zoals Facebook, TikTok en Youtube in de laatste jaren stappen in de goede richting gezet om extremistische content te modereren. Zij stellen dat er dikwijls streng is opgetreden tegen kanalen en pagina’s die gelinkt zijn aan rechts-extremistische groepen. Daarentegen zijn alternatieve, kleinere («alt-tech» of «fringe») platforms populairder geworden. Daar deze minder goed gereguleerd en gemodereerd worden, kan hier meer extremistische content worden gepost. Internetgebruikers met extremistische boodschappen die het bereik van hun content op deze kleinere platforms willen vergroten, maken soms gebruik van grotere platforms om met gematigder materiaal (via internetlinks) door te verwijzen naar de extremistische content op deze kleinere platforms. Niet-extremistische online subculturen en populaire online influencers kunnen zo fungeren als ingang naar rechts-extremistisch gedachtengoed of bepaalde gemeenschappen.

De rol van aanbevelingsalgoritmen en sociale mediafuiken, bij rechts-extremistische radicalisering binnen de online context daarbij, is volgens de onderzoekers genuanceerder dan in het publieke discours soms wordt voorondersteld. Zij stellen dat er andere factoren en mechanismen zijn die kunnen bijdragen aan rechts-extremistische radicalisering. Zo stellen de onderzoekers dat persoonlijke keuzes en het zoekgedrag van gebruikers minstens zo belangrijk zijn, zoals het in de eigen sociale omgeving delen van links naar extremistische content, het abonneren en/of volgen van bepaalde kanalen op sociale mediaplatforms met extreme content en het ontmoeten van gelijkgestemden in echokamers.

De onderzoekers merken op dat er een grijs gebied overblijft van content die als onwenselijk kan worden gezien, maar die niet op grond van wettelijke kaders verwijderd kan worden. Zij noemen dit «borderline content», boodschappen op het randje die polariserend zijn maar niet extremistisch. Extremistische content op de grote sociale media platforms lijkt grotendeels vervangen te zijn door deze borderline content. Volgens de onderzoekers wordt borderline content op de grote sociale mediaplatforms maar in beperkte mate gemodereerd. Zij lichten toe dat er een gebrek aan expertise is om deze content correct te identificeren. Nederland zou «Trusted Flaggers⁵» kunnen identificeren, aanwijzen, en ondersteunen om daarbij te helpen, zo stellen de onderzoekers. Tevens raden zij aan toe te werken naar meer co-regulering tussen platforms en de overheid, waarbij ze aanraden vanuit de overheid terughoudendheid te betrachten in het beoordelen van «harmful content».

Volgens de onderzoekers is het handelingsperspectief van de Nederlandse overheid ten aanzien van de zeer grote online platforms of overige online platforms met hoofdvestiging in het buitenland beperkt, aangezien de Europese Commissie respectievelijk het land van vestiging van het desbetreffende online platform hier de rol van toezichthouder heeft. Nederland kan de Europese Commissie wel vragen om bij het toezicht en handhaving van de Digital Services Act specifiek aandacht te besteden aan de bestrijding van extremistische content.

Meer mogelijkheden heeft de Nederlandse overheid ten aanzien van de minder grote platforms, zo constateren de onderzoekers. In de eerste plaats is het volgens de onderzoekers van belang in te zetten op het sneller verwijderen van extremistische, illegale content op de kleinere platforms. In de tweede plaats wijzen de onderzoekers op het belang te investeren in samenwerking tussen overheden, online platforms en onderzoekers.

De onderzoekers wijzen daarnaast op de rol van de Autoriteit Consument en Markt (ACM) in het handhaven van de Digital Services Act voor kleinere platforms. Ook wijzen zij op het belang van het stimuleren van niet-Engelstalige contentmoderatie op online platforms, omdat zij constateren dat deze minder effectief is. Wat betreft de commentsecties van artikelen in de nieuwsmedia merken de onderzoekers op dat hier veelvuldig links worden geplaatst naar extremere content.

Ten behoeve van continue kennisopbouw ten aanzien van borderline content adviseren de onderzoekers overheden (ministeries) om meer samen te werken. Tevens adviseren de onderzoekers meer te experimenteren en mogelijkheden te onderzoeken of steun te geven aan initiatieven voor lokaal werkende online platforms of non-profit sociale media. Voorts wordt door de onderzoekers gesteld dat het beleid omtrent sociale media platforms niet alleen gebaseerd moet zijn op economische en juridische uitgangspunten, maar ook op publieke waarden. De onderzoekers bevelen tot slot aan dat de overheid meer moet investeren in kritisch denken, digitale weerbaarheid en mediawijsheid.

Beleidsreactie

Diverse aanbevelingen van de onderzoekers komen terug in reeds lopende beleidsinitiatieven. Een belangrijk instrument dat ons gaat helpen terroristische content op het internet tegen te gaan, is de oprichting van de Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM). De ATKM is sinds 1 september 2023 van start gegaan en zal aanbieders van hostingdiensten een verwijderbevel sturen indien er sprake is van content die terroristisch van aard is.

Het stimuleren van non-profit platforms gebaseerd op publieke waarden, wat de onderzoekers aanbevelen, wordt gedaan door mijn collega van Binnenlandse Zaken en Koninkrijksrelaties. Via alternatieve platforms als PubHub en Pol.is worden maatschappelijke debatten aangejaagd. Voor wat betreft de aanbevelingen ten aanzien van het versterken van mediawijsheid en digitale weerbaarheid zijn reeds meerdere geëvalueerde lesprogramma’s beschikbaar, welke breder ingezet kunnen worden om de online weerbaarheid en mediawijsheid van met name jongeren te vergroten. Maar ik acht het ook van belang om te investeren in het bevorderen van inzicht bij ouders, docenten, jeugdprofessionals en gezagsdragers in de online leefwereld van jongeren. Deze zaken komen tevens aan bod in de Contourenbrief Versterkte Aanpak Online inzake extremistische en terroristische content.

Met de onderzoekers ben ik van mening dat normalisering van rechts-extremisme door middel van zogenaamd humoristische memes en dog whistles zorgelijk en onwenselijk is. Daarom acht ik het op peil houden van contentmoderatie van groot belang blijft om dit tegen te gaan. Want ondanks de constatering van de onderzoekers dat de grote sociale mediaplatforms stappen in de goede richting hebben gezet in het modereren van content verwacht ik van hen toch meer dan zij nu laten zien. Ook deel ik met de onderzoekers de zorgen die worden aangekaart rondom kleinere platforms. Een ambitieuze internationale inzet (zoals bij de Commissie) en aansluiting bij reeds bestaande coalities is daarbij wezenlijk.

In de Contourenbrief Versterkte Aanpak Online van extremistische en terroristische content wordt uitgebreider ingegaan op mijn ambities inzake bovenstaande kwesties en zal ik ook stilstaan bij de rol van aanbevelingsalgoritmen en de significante verantwoordelijkheid die grote sociale media platforms daar wat mij betreft in hebben. Want hoewel ik met de onderzoekers deel dat het zoekgedrag van internetgebruikers zelf aandacht verdient, acht ik het wel van belang nog meer inzicht te krijgen in de werking van aanbevelingsalgoritmen van grote sociale mediaplatforms. Deze transparantie is nu namelijk gebrekkig. De Digital Services Act, die voor VLOPs (Very Large Online Platforms) reeds is ingegaan, biedt verdere mogelijkheden om onderzoek te verrichten naar de invloed van algoritmen.

Overige aanbevelingen worden meegenomen in de verdere uitwerking van de Versterkte Aanpak Online van extremistische en terroristische content die in 2024 met uw Kamer zal worden gedeeld.

Tot slot

De komende jaren zal ik in samenwerking met andere ministeries de inspanningen verhogen om rechts-extremistische content en radicalisering online tegen te gaan. Daarnaast is een groot deel van de bevindingen en aanbevelingen zeer nuttig voor een grote groep professionals die zich bezighoudt met het tegengaan van rechts-extremistische radicalisering, zowel op lokaal, landelijk als internationaal vlak. Ik zal ervoor zorgdragen dat hier maximaal van gebruik wordt gemaakt.

De Minister van Justitie en Veiligheid, D. Yesilgoz-Zegerius

---

1 Zie Handelingen II 2022/23, nr. 103, item 51, p. 1 en 3.

2 Zie WODC-rapport rechts-extremistische radicalisering op sociale mediaplatforms? Ontwikkelingspaden en handelingsperspectieven, p. 123–126.

3 Kamerstuk 29 754, nr. 687.

4 Kamerstuk 29 279, nr. 806.

5 Dit zijn meldpunten met een bepaalde specialisatie op het gebied van illegale content die een melding of verwijderverzoek bij een platform kunnen doen.