30 950 Rassendiscriminatie

Nr. 158 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 21 december 2018

In vervolg op de voortgangsbrief Nationaal Actieprogramma Discriminatie 2018¹ en het verzoek van het lid Azarkan (DENK) inzake de aanpak van haatberichten op sociale media als Facebook zend ik uw Kamer hierbij deze brief met de aanpak van online hate speech.

Europese aanpak

In Nederland en in andere Europese landen is een significante toename van illegale online content waar te nemen, bijvoorbeeld waar het gaat om discriminatoire uitingen waaronder het aanzetten tot haat en geweld («hate speech»), pedopornografische afbeeldingen en strafbare terroristische of extremistische uitingen. Er is een toenemende wens bij enkele EU-lidstaten om bestaande wet- en regelgeving die de vrijheid van meningsuiting beperkt in de fysieke wereld mede van toepassing te verklaren op online activiteiten, zoals bij de discussie over de uitbreiding van de reikwijdte van de Audiovisuele Mediadiensten Richtlijn tot aanbieders van videoplatforms. Bij diverse gelegenheden hebben de Europese Raad en de (JBZ-)Raad zich uitgesproken over illegale online content en de risico’s erkend die voortvloeien uit het toenemende gebruik van social media, zoals de snelle verspreiding van nepnieuws en het zich discriminerend uitlaten tegenover migranten. Nederland onderstreept daarbij steeds weer het belang van een gezamenlijke Europese aanpak, samenwerking bij strafrechtelijke vervolging en de belangrijke rol van onderwijs ten aanzien van het ontwikkelen van kritisch denkvermogen en mediawijsheid.

Gedragscode

Tijdens het Nederlandse voorzitterschap van de Raad van de Europese Unie in 2016 werd door de Europese Commissie, gezamenlijk met Facebook, Microsoft, Twitter en Google/YouTube een Gedragscode gepresenteerd om online hate speech tegen te gaan. De belangrijkste inspanningsverplichting die uit de Gedragscode voortvloeit betreft de afdoening en eventuele verwijdering van haatzaaiende uitingen na meldingen van gebruikers binnen 24 uur. Daarnaast bevat de Gedragscode afspraken over monitoring van de afspraken. Ter gelegenheid van de derde bijeenkomst van de EU-Groep op Hoog Niveau aangaande het tegengaan van racisme, vreemdelingenhaat en andere vormen van intolerantie op 31 mei en 1 juni 2017 heeft de Europese Commissie gerapporteerd over de resultaten van deze monitoring. De resultaten laten zien dat significante vooruitgang is geboekt ten aanzien van de efficiëntie en snelheid van afdoening van meldingen, verbetering van de rapportagesystematiek, een betere opleiding van medewerkers, verbeterde samenwerking met betrokken partijen en verbetering van de eenduidigheid in behandeling, ongeacht wie de melder is. Tegelijkertijd zijn ook verbeterpunten geconstateerd, vooral waar het de transparantie over de criteria van afdoening en de terugkoppeling naar gebruikers betreft.

In EU-verband heeft het kabinet zich, gezien de vooruitgang die is geboekt onder de Gedragscode, uitgesproken voor de voortzetting en uitbreiding van de Gedragscode, inclusief de monitoring door de Europese Commissie. Daarnaast dringt het kabinet aan op meer transparantie van de betrokken sociale-mediabedrijven ten aanzien van interne procedures en de aantallen verzoeken om verwijdering van illegale inhoud en de afdoening daarvan, analoog aan de transparantie-rapportages die sommige van deze ondernemingen publiceren inzake verzoeken die zij van overheden ontvangen.

Mededeling bestrijding illegale content

Op 28 september 2017 heeft de Europese Commissie een «Mededeling over de bestrijding van illegale online content – Naar een grotere verantwoordelijkheid voor online platformen» uitgebracht (COM(2017)555). De mededeling formuleert richtsnoeren en uitgangspunten voor online platforms om – in samenwerking met nationale autoriteiten in lidstaten en andere relevante belanghebbenden – illegale online content tegen te gaan. Wat in de fysieke wereld illegaal is, is dat ook online. Daarbij kan gedacht worden aan het verspreiden van terroristische en extremistische uitingen, hate speech, pedopornografisch materiaal, het schenden van auteursrechten en het online aanbieden van illegale goederen als wapens en drugs. De mededeling richt zich op het faciliteren en intensiveren van de implementatie van succesvolle werkwijzen om illegale content te voorkomen, op te sporen, te verwijderen en de toegang ertoe onmogelijk te maken; tevens moet dat zorgen voor meer transparantie en bescherming van fundamentele rechten online. De mededeling legt een grote verantwoordelijkheid bij online platforms om illegale online content te bestrijden, met inachtneming van de artikelen 14 en 15 van de e-commerce-richtlijn. Online platforms worden met deze mededeling opgeroepen een effectief meldingssysteem operationeel te hebben, bij voorkeur door middel van een Notice-and-Take-Action-(NTA-)procedure, waarbij oordelen over toelaatbaarheid zijn gebaseerd op Europees en nationaal geldend recht. Waar mogelijk dienen ook technieken te worden ingezet om proactief op te kunnen treden en (her)plaatsing van illegale content te voorkomen. De samenwerking tussen platforms en rechtshandhavingsautoriteiten dient te worden geoptimaliseerd, vooral om snel en effectief te kunnen optreden bij een rechterlijk bevel tot verwijdering en om signalen van criminele activiteiten te kunnen delen met rechtshandhavingsautoriteiten. Deze dienen op hun beurt voldoende te zijn uitgerust om deze signalen vervolgens op te pakken en waar nodig tot vervolging over te gaan. Daarnaast zou het verwijderen van illegale content veel sneller en betrouwbaarder kunnen geschieden als online platformen het opzetten van een geprivilegieerd kanaal ondersteunen voor gecertificeerde instanties die met gezag de aanwezigheid van illegale content onder de aandacht van platformen kunnen brengen («trusted flaggers»). Om «oververwijdering» tegen te gaan dienen platforms het verwijderen van content te motiveren en een bezwaarprocedure in te richten, waarbij wordt opgeroepen deze onder te brengen bij bijvoorbeeld een geschilbeslechtingscommissie. De Commissie kondigde ten slotte aan tot mei 2018 de toepassing van deze richtsnoeren en uitgangspunten te monitoren om tot een afweging te komen of aanvullende, mogelijk wetgevende, maatregelen nodig zijn. Op de conclusies van de Commissie zal ik later in deze brief ingaan.

Het kabinet staat positief ten aanzien van de mededeling. Bij diverse gelegenheden hebben de Europese Raad en de JBZ-Raad zich uitgesproken over illegale online content en de risico’s erkend die voortvloeien uit het toenemende gebruik van social media, zoals de risico’s van radicalisering via internet, de snelle verspreiding van nepnieuws en het zich discriminerend uitlaten tegenover migranten. Nederland onderstreept daarbij het belang van een gezamenlijke Europese aanpak en de belangrijke rol van onderwijs en het ontwikkelen van kritisch denkvermogen en mediawijsheid.

Aanbeveling effectieve aanpak illegale online content

Op 1 maart 2018 heeft de Europese Commissie een «Aanbeveling voor een effectieve aanpak van illegale online content» opgesteld. De aanbeveling roept lidstaten en hosting service providers op effectieve, toepasselijke en proportionele maatregelen te nemen om illegale online content tegen te gaan, in overeenstemming met het mensenrechtencharter en wettelijke EU-bepalingen, met name op het gebied van de bescherming van persoonsgegevens, mededinging en elektronische handel. De aanbeveling bouwt voort op de Gedragscode voor IT-platformen om illegale content tegen te gaan en op de voortgang die is geboekt in het kader van het EU Internet Forum.

De aanbeveling roept op tot het inrichten van toegankelijke en gebruikersvriendelijke elektronische meldingsmechanismen en werkt uit hoe transparantie kan worden geboden richting gebruikers, melders en content providers over de inhoudelijke beoordeling van de content. Tegen een besluit tot verwijdering of blokkering van een uiting dient bezwaar aangetekend te kunnen worden. Dat betekent dat verwijderde of geblokte content ook weer zichtbaar moet kunnen worden gemaakt. De aanbeveling roept lidstaten op om in dit kader een systeem van buitengerechtelijke geschillenbeslechting op te zetten. Waar mogelijk dienen service providers technieken in te zetten om proactief illegale content te weren.

Lidstaten en hosting service providers worden opgeroepen contactpunten aan te wijzen en snelle procedures op te zetten voor meldingen van competente autoriteiten. Lidstaten worden aangemoedigd om de samenwerking tussen hosting service providers en rechtshandhavingsautoriteiten een wettelijke basis te geven. De samenwerking met zogenoemde «trusted flaggers» dient te worden bevorderd, evenals informatie-uitwisseling en het delen van technische oplossingen tussen hosting service providers. De aanbeveling bevat tenslotte enkele aandachtspunten ten aanzien van het tegengaan van terroristische content.

Verordening aanpak terroristische content

Naar aanleiding van de monitoring van richtsnoeren en uitgangspunten om illegale online content te verwijderen, heeft de Commissie aangegeven dat aanvullende wetgeving door middel van een verordening enkel toegevoegde waarde heeft ten aanzien van terroristische content online. In september 2018 heeft de Europese Commissie een voorstel gedaan voor een verordening waarmee binnen de Europese Unie terroristische online content binnen één uur verwijderd kan worden. De voorgestelde verordening beoogt de oprichting van een grensoverschrijdend systeem waarmee terroristische uitlatingen zo snel mogelijk van het internet worden verwijderd. Nederland verwelkomt wetgeving om het verwijderen van terroristische content te bevorderen. Nederland heeft echter significante zorgen over de juridische en praktische implicaties van een grensoverschrijdend verwijderingsbevel, met name ten aanzien van effectieve rechtsmiddelen voor internetbedrijven. Hier heeft het kabinet tijdens de onderhandelingen veelvuldig aandacht voor gevraagd. Uw Kamer is hier op gebruikelijke wijze, door middel van het BNC fiche, en tijdens de technische briefing van 31 oktober jl. over geïnformeerd. Begin december was er reeds voldoende steun voor een algemene oriëntatie binnen de Europese Raad. Gezien de omstandigheid dat de verordening onze zorgen met betrekking tot de grensoverschrijdende rechtsmacht niet voldoende weg kon nemen, heeft Nederland de algemene oriëntatie niet kunnen steunen.

Zelfregulering en onafhankelijke juridische toetsing

Voor het kabinet geldt in eerste instantie het uitgangspunt dat de online community zichzelf reguleert en controleert. Wat dat betreft beoordeelt het kabinet de systematiek waarbij sociale-mediabedrijven zelf klachten over ongewenste content toetsen als positief. Het verwijderen moet echter niet doorslaan naar ongewenste, maar niet strafbare content. Dan wordt de vrijheid van meningsuiting onnodig ingeperkt. Met de dreiging van boetes bij het onjuist beoordelen neemt het risico daarop toe. Het kabinet staat huiverig tegenover het laten toetsen van uitingen door belangenorganisaties of overheidsinstellingen met een specifiek belang, maar zoekt de balans in een onafhankelijke juridische toetsing. In Nederland kan naast het direct melden bij een sociale-mediaplatform momenteel ook melding worden gedaan bij het Meldpunt internetdiscriminatie (MiND), dat is ondergebracht bij de Stichting NL Confidential. Dit Meldpunt beoordeelt meldingen door het maken van een inschatting of de gewraakte uiting op het internet als een strafbaar feit kan worden aangemerkt vanwege strijdigheid met de discriminatie- en aanverwante artikelen in het Nederlandse wetboek van strafrecht. Wordt strijdigheid geconstateerd, dan volgt een verzoek tot verwijdering van de uiting. Wordt hieraan geen gehoor gegeven dan kan binnen de sociale-media-bedrijven worden opgeschaald. Krijgt een melding dan nog geen opvolging, dan volgt doormelding naar het Openbaar Ministerie.

Ons land kent een fenomeengerichte aanpak van illegale activiteiten die zich (ook) online kunnen voordoen. Binnen de aanpak van terrorisme, pedopornografie, discriminatie, illegale wapenhandel, schendingen van het auteursrecht is dan ook veel aandacht voor de online component. Ook vanuit het beleid rond het aanbod van audiovisuele mediadiensten en bevorderen van het economische verkeer bestaat aandacht voor de online aspecten.

Ten aanzien van het tegengaan van online kinderporno en online discriminatie («hate speech») geldt voor het kabinet als uitgangspunt vrijwillige – doch geen vrijblijvende – samenwerking tussen overheid en IT-platformen. Indien deze samenwerking niet tot de gewenste resultaten leidt, zal Europese of nationale wetgeving in overweging worden genomen.

Aanpak online dynamiek extremistische sprekers

In mijn brief van 28 mei (Kamerstuk 29 614, nr. 76) over de Integrale aanpak van extremistische sprekers, ben ik ingegaan op de relevante uitingsmisdrijven en mijn beeld bij de online dynamiek aangaande extremistische uitingen. In de bijlage bij deze brief ga ik uitgebreid in op de belangrijkste strafbepalingen inzake groepsbelediging (artikel 137c Sr), aanzetten tot haat, discriminatie of geweld (artikel 137d Sr), opruiing (artikelen 131 en 132 Sr), eenvoudige belediging (artikel 266 Sr) en bedreiging (artikel 285 Sr). Ook hierbij geldt wat offline illegaal is, is dat ook online. Verder noem ik de maatregelen gericht op het verwijderen van extremistische uitingen en de inzet in de komende jaren op een integrale multidisciplinaire aanpak van extremistische en terroristisch gebruik van digitale media.

Herbezinning

De Europese ontwikkelingen ten aanzien van de aanpak van illegale online content nopen tot een herbezinning op de aanpak van illegale content online, waaronder de aanpak van online hate speech. Zoals eerder met uw Kamer gecommuniceerd in de voortgangsbrief over het Nationaal Actieprogramma Discriminatie (Kamerstuk 30 950, nr. 156), is in de Rijksbegroting vanaf 2020 geen budget meer gereserveerd voor een zelfstandig meldpunt internetdiscriminatie. Bij de herbezinning zal naast samenloop met andere vormen van illegale online content ook worden gekeken naar een rechtsbasis voor verwijderverzoeken, buitengerechtelijke geschillenbeslechting, privacyaspecten en rapportageverplichtingen.

Het laten voldoen van de huidige meldpunten aan de eisen van de Commissie zal een forse investering vragen. Tegelijkertijd moeten de werkwijze en afdoening van verwijderverzoeken worden gestroomlijnd en geüniformeerd. Daarom zal het kabinet zich richten op bundeling van de bestaande expertise in één organisatie, die dan ook kan worden ingericht conform de eisen vanuit Europa. Een dergelijke beweging ligt het meest voor de hand en past ook in de ambitie die is uitgesproken ten aanzien van de bestuurlijksrechtelijke aanpak binnen de hernieuwde aanpak van kinderporno waarover ik uw Kamer heb geïnformeerd in mijn brief van 13 december jl.²

Bij een dergelijke organisatie kan ook een functie worden ondergebracht waarbij content wordt beoordeeld op onrechtmatigheid voor een individuele burger, bijvoorbeeld omdat deze geen toestemming (meer) geeft voor het online gebruik en verspreiding van beeldmateriaal waarmee deze persoon in verband kan worden gebracht. Daarmee kan de huidige vereiste civiele procedure worden aangevuld met een simpele administratieve kortgedingprocedure, waarbij ervan uit wordt gegaan dat er geen toestemming is gegeven om de getoonde beelden online toegankelijk te maken, tenzij degene die de beelden heeft geplaatst een bezwaarprocedure start en het tegendeel aantoont.

Om het bovenstaande te toetsen op haalbaarheid laat het kabinet op dit moment onderzoeken of het takenpakket bij de rechtbank of bij een reeds bestaande toezichthouder kan worden ondergebracht en welke kosten hiermee gemoeid zouden zijn. Deze studie zal naar verwachting in het voorjaar van 2019 worden afgerond. Met een voorziening als hier beoogd, zou ook uitvoering worden gegeven aan de motie Van Nispen,³ waarin de regering wordt verzocht een voorstel uit te werken voor een snelle, laagdrempelige procedure die slachtoffers niet met hoge kosten confronteert, met als doel privacy-schendingen snel te beëindigen en slachtoffers beter te ondersteunen, voor zover het om privacy-schendend materiaal op internet gaat. Over de civielrechtelijke aanpak van onrechtmatige online content wordt uw Kamer begin 2019 nader geïnformeerd.

De Minister van Justitie en Veiligheid, F.B.J. Grapperhaus

---

1 Bijlage bij Kamerstuk 30 950, nr. 156

2 Kamerstuk 31 015, nr. 160

3 Kamerstuk 34 926, nr. 6.