22 112 Nieuwe Commissievoorstellen en initiatieven van de lidstaten van de Europese Unie

Nr. 2420 BRIEF VAN DE MINISTER VAN BUITENLANDSE ZAKEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 3 november 2017

Overeenkomstig de bestaande afspraken ontvangt u hierbij 3 fiches, die werden opgesteld door de werkgroep Beoordeling Nieuwe Commissievoorstellen (BNC).

Fiche: Mededeling Een eerlijk en efficiënt belastingstelsel in de EU voor de digitale eengemaakte markt; (Kamerstuk 22 112, nr. 2418)

Fiche: Herschikking verordening passagiersrechten spoor; (Kamerstuk 22 112, nr. 2419)

Fiche: Mededeling bestrijding illegale online content.

De Minister van Buitenlandse Zaken, H. Zijlstra

Fiche: Mededeling bestrijding illegale online content

1. Algemene gegevens

• a) Titel voorstel

  Mededeling de bestrijding van illegale online-inhoud – Naar een grotere verantwoordelijkheid voor online platforms

• b) Datum ontvangst Commissiedocument

  28 september 2017

• c) Nr. Commissiedocument

  COM (2017) 555

• d) EUR-Lex

  http://eur-lex.Europa.eu/legal-content/EN/TXT/?qid=1507036248155&uri=CELEX:52017DC0555

• e) Nr. impact assessment Commissie en Opinie Raad voor Regelgevingstoetsing

  Niet opgesteld.

• f) Behandelingstraject Raad

  Raad Justitie en Binnenlandse Zaken

• g) Eerstverantwoordelijke ministeries

  Ministerie van Justitie en Veiligheid in nauwe samenwerking met het Ministerie van Economische Zaken en Klimaat

2. Essentie voorstel

De mededeling formuleert richtsnoeren en uitgangspunten voor online platforms (als Facebook, Twitter, Google/Youtube) om – in samenwerking met nationale autoriteiten in lidstaten en andere relevante belanghebbenden – illegale online content tegen te gaan. Wat offline illegaal is, is dat ook online. Daarbij kan gedacht worden aan het verspreiden van jihadistisch gedachtengoed en aanzetten tot radicalisering, hate speech, pedopornografisch materiaal, het schenden van auteursrechten en het online aanbieden van illegale goederen als wapens en drugs. De mededeling richt zich op het faciliteren en intensiveren van de implementatie van succesvolle werkwijzen om illegale content te voorkomen, op te sporen, te verwijderen en de toegang ertoe onmogelijk te maken; tevens moet dat zorgen voor meer transparantie en bescherming van fundamentele rechten online.

De mededeling legt een grote verantwoordelijkheid bij online platforms om illegale online content te bestrijden, met inachtneming van de artikelen 14 en 15 van de e-commerce-richtlijn¹. Online platformen worden met deze mededeling opgeroepen een effectief meldingssysteem operationeel te hebben, bij voorkeur door middel van een Notice-and-Take-Action-(NTA-)procedure, waarbij oordelen over toelaatbaarheid zijn gebaseerd op Europees en nationaal geldend recht. Waar mogelijk dienen ook technieken te worden ingezet om proactief op te kunnen treden en (her)plaatsing van illegale content te voorkomen. De samenwerking tussen platformen en rechtshandhavingsautoriteiten dient te worden geoptimaliseerd, vooral om snel en effectief te kunnen optreden bij een rechterlijk bevel tot verwijdering en om signalen van criminele activiteiten te kunnen delen met rechtshandhavingsautoriteiten. Deze dienen op hun beurt voldoende te zijn uitgerust om deze signalen vervolgens op te pakken en waar nodig tot vervolging over te gaan. Daarnaast zou het verwijderen van illegale content veel sneller en betrouwbaarder kunnen geschieden als online platformen het opzetten van een geprivilegieerd kanaal ondersteunen voor gecertificeerde instanties die met gezag de aanwezigheid van illegale content onder de aandacht van platformen kunnen brengen («trusted flaggers»). Om «over verwijdering» tegen te gaan dienen platformen het verwijderen van content te motiveren en een bezwaarprocedure in te richten, waarbij wordt opgeroepen deze onder te brengen bij bijvoorbeeld een geschilbeslechtingscommissie. De Commissie kondigt ten slotte aan tot mei 2018 de toepassing van deze richtsnoeren en uitgangspunten te monitoren om tot een afweging te komen of aanvullende, mogelijk wetgevende, maatregelen nodig zijn.

3. Nederlandse positie ten aanzien van het voorstel

a) Essentie Nederlands beleid op dit terrein

De essentie van het Nederlandse beleid ten aanzien van de aanpak van illegale online content is neergelegd in de Kamerbrief naar aanleiding van de motie Segers/Van Dam². Daarin wordt de regering gevraagd naar de wenselijkheid en haalbaarheid van een wet die sociale-mediabedrijven dwingt om duidelijke meldingsprocedures in te richten en snel actie te ondernemen tegen strafbare gedragingen of uitingen op hun platforms, zoals discriminatie, naar Duits model.

Nederland kent een fenomeengerichte aanpak van illegale activiteiten die zich (ook) online kunnen voordoen. Binnen de aanpak van terrorisme, pedopornografie, discriminatie, illegale wapenhandel, schendingen van het auteursrecht is dan ook veel aandacht voor de onlinecomponent. Ook vanuit het beleid rond het aanbod van audiovisuele mediadiensten en bevorderen van het economische verkeer bestaat aandacht voor de online aspecten.

Cybercrime algemeen

Voor illegale content (bijvoorbeeld het aanzetten tot de jihad, pedopornografie en aanbod van illegale goederen) gelden in Nederland reeds Notice-and-Take-Down (NTD) en/of Notice-and-Take-Action (NTA)-procedures. Voor verwijdering van niet-illegale content (bijvoorbeeld schelden of pesten) staat de mogelijkheid van een civiele procedure open.³

Terrorisme

Net als voor andere EU-lidstaten, is de snelle verwijdering van terroristische online content voor Nederland van groot belang. Hiertoe is in Nederland een Internet Referral Unit (IRU) van de politie opgericht, die zich richt op het herkennen en verwijderen van jihadistische content in open bronnen. De IRU kan aangetroffen opruiend materiaal en propaganda via een NTA-procedure melden bij sociale mediaplatforms, met het oog op vrijwillige verwijdering. De IRU werkt nauw samen met de EU IRU die bij Europol is onder gebracht. Met de internetindustrie wordt in EU-verband een permanente dialoog op ministerieel en ambtelijk niveau gevoerd over de verdere verbetering van de samenwerking voor de aanpak van terroristische online content in het EU Internetforum. Hierin komen lidstaten en vertegenwoordigers van de internetindustrie onder voorzitterschap van de Europese Commissie periodiek samen. Deze aanpak, die de eigen verantwoordelijkheid van de sector centraal stelt en gericht is op vrijwilligheid en samenwerking heeft recentelijk onder meer geleid tot de instelling van een «joint referral platform», dat het mogelijk maakt om illegale content op meerdere platforms te signaleren, en een door de industrie ingericht Global Internet Forum to Combat Terrorism gericht op samenwerking, onderzoek en ondersteuning van kleinere internetbedrijven.

Kindermisbruik en -pornografie

Overheidsorganisaties, internetaanbieders, en brancheorganisaties voor hostingdiensten zijn in 2008 een NTD-Gedragscode⁴ overeen gekomen. In deze vrijwillige gedragscode is afgesproken hoe bedrijven in de onlinesector binnen de geldende wettelijke kaders omgaan met meldingen over onrechtmatige of strafbare inhoud op internet, zoals online seksueel kindermisbruik materiaal, plagiaat, discriminatie en aanbod van illegale goederen. Naar aanleiding van een melding van illegale content, of content in strijd met de voorwaarden van het bedrijf, onderzoeken de bedrijven die melding en verwijderen op basis van dat onderzoek de content als de content als illegaal of als in strijd met de voorwaarden wordt gezien. Bijvoorbeeld op het moment dat een host wordt genotificeerd door het Expertise Centrum Online Kindermisbruik (onderdeel van Inhope netwerk van meldpunten kinderporno), over online seksueel kindermisbruik materiaal, wordt het beeldmateriaal – na beoordeling door deze host – verwijderd. Het Expertisecentrum Online Kindermisbruik is een voorbeeld van een reeds bestaande trusted flagger in Nederland voor online seksueel kindermisbruik materiaal. Dit expertisecentrum maakt onderdeel uit van het Inhope-netwerk van meldpunten waarnaar de Commissie in de mededeling verwijst.

Discriminatie en hate speech

Ten aanzien van online hate speech geldt dat in Nederland naast het direct melden bij een sociale-mediaplatform ook melding van discriminatoire uitingen kan worden gedaan bij het Meldpunt internetdiscriminatie (MiND), dat is ondergebracht bij de Stichting NL Confidential. MiND is een onafhankelijke organisatie die toetst op objectiveerbare criteria (namelijk de discriminatie-artikelen in het Wetboek van Strafrecht). Het Meldpunt beoordeelt meldingen door het maken van een inschatting of de gewraakte uiting op het internet als een strafbaar feit kan worden aangemerkt vanwege strijdigheid met de discriminatie- en aanverwante artikelen in het Nederlandse wetboek van strafrecht. Wordt strijdigheid geconstateerd, dan volgt een verzoek tot verwijdering van de uiting. Wordt hieraan geen gehoor gegeven dan kan binnen de sociale-mediabedrijven worden opgeschaald. Krijgt een melding dan nog geen opvolging, dan volgt doormelding naar het Openbaar Ministerie.

Tijdens het Nederlandse voorzitterschap van de Europese Raad in 2016 werd door de Europese Commissie, samen met Facebook, Microsoft, Twitter en Google/YouTube een Gedragscode gepresenteerd om online hate speech tegen te gaan. De belangrijkste inspanningsverplichting die uit de Gedragscode voortvloeit betreft de afdoening en eventuele verwijdering van haat zaaiende uitingen na meldingen van gebruikers binnen 24 uur. Daarnaast bevat de Gedragscode afspraken over monitoring van de afspraken.

Auteursrecht

De handhaving van het auteursrecht is primair een privaatrechtelijke aangelegenheid, waarvoor rechthebbenden zelf verantwoordelijk zijn. Rechthebbenden en internet service providers kunnen afspraken met elkaar maken over NTD-procedures. Het strafrecht is optimum remedium. Dat is ten aanzien van online inbreuken op het auteursrecht niet anders.

b) Beoordeling + inzet ten aanzien van dit voorstel

Nederland staat positief ten aanzien van de mededeling. Bij diverse gelegenheden hebben de Europese Raad en de JBZ-Raad zich uitgesproken over illegale online content en de risico’s erkend die voortvloeien uit het toenemende gebruik van social media, zoals de risico’s van radicalisering via internet, de snelle verspreiding van nepnieuws en het zich discriminerend uitlaten tegenover migranten. Nederland onderstreept daarbij het belang van een gezamenlijke Europese aanpak en de belangrijke rol van onderwijs en het ontwikkelen van kritisch denkvermogen en mediawijsheid.

Context

Voor Nederland is van groot belang dat wordt vastgehouden aan de uitgangspunten van de e-commerce Richtlijn, en met name de uitsluiting van aansprakelijkheid van dienstverleners zoals geregeld in artikel 14. Nederland beziet de voornemens tot proactieve verplichtingen die monitoring van te plaatsen content betreft daarom met enige reservering. Hoewel technische middelen die effectief voorkomen dat illegale content opnieuw online wordt geplaatst worden toegejuicht, en waar mogelijk verder gestimuleerd en ontwikkeld dienen te worden, bestaat ook het besef dat dit met de huidige stand der techniek slechts in een zeer beperkt aantal gevallen mogelijk is. Voorkomen moet worden dat experimenten uiteindelijk ten koste gaan van mensenrechten als het recht op privacy en het recht op vrije meningsuiting.

Ook al geeft deze mededeling richtsnoeren en wijzigt zij als zodanig niet enig toepasselijk wettelijk kader, toch moet gelet worden op de mogelijke samenloop van de mededeling met de herziening van de audiovisuele mediadiensten richtlijn (AVMD-richtlijn – COM (2016)287), waarin wordt voorgesteld om via co- en zelfregulering schadelijke content voor minderjarigen, haat zaaien en het aanzetten tot terrorisme op video deelplatformen te voorkomen. Ook moet worden gelet op een mogelijke overlap met het voorstel voor een richtlijn inzake auteursrechten in de digitale eengemaakte markt (COM (2016)593. Daarin wordt onder andere door de Europese Commissie voorgesteld om online platforms die grote hoeveelheden informatie ter beschikking stellen te verplichten maatregelen te nemen om auteursrechtinbreuk tegen te gaan.

Opsporing en melden van illegale content

Voor Nederland is van belang dat NTD- en NTA-procedures zich beperken tot illegale content; voor verwijdering van niet-illegale content (bijvoorbeeld schelden of pesten) staat de mogelijkheid van een civiele procedure open.

Per lidstaat zullen verschillende partijen aangewezen moeten kunnen worden als trusted flagger. Bij de certificering van partijen dient onafhankelijkheid en het toetsen vanuit juridisch perspectief het uitgangspunt te zijn. Gezien de specialistische kennis die van trusted flaggers wordt verlangd, ligt het voor de hand per fenomeen trusted flaggers te benoemen. Lidstaten zullen een rol moeten krijgen in het certificatieproces. Certificatie dient te allen tijde samen te hangen met de inrichting van een goede bezwaarprocedure.

Verwijdering van illegale content

Nederland meent dat internetbedrijven meer moeten en kunnen doen om illegale content te verwijderen, waarbij tevens aandacht dient te zijn voor opsporing en vervolging van degenen die content uploaden en goede samenwerking met opsporingsautoriteiten. Vooralsnog is ook de verwachting dat online platforms de komende periode bereid zijn tot verdere inzet en gebruik van technologie om het opnieuw verschijnen van illegale content te voorkomen. De mededeling is een belangrijk instrument dit te realiseren.

Wetgeving

In EU-verband heeft Nederland zich, gezien de vooruitgang die is geboekt onder de Gedragscode, uitgesproken voor de voortzetting en uitbreiding van de Gedragscode, inclusief de monitoring door de Europese Commissie. Daarnaast dringt Nederland aan op meer transparantie van de betrokken sociale-mediabedrijven ten aanzien van interne procedures en de aantallen verzoeken om verwijdering van illegale inhoud en de afdoening daarvan, analoog aan de transparantie-rapportages die sommige van deze ondernemingen publiceren inzake verzoeken die zij van overheden ontvangen.⁵

Nederland is in beginsel geen voorstander van codificatie van procedures en in te zetten technische middelen om illegale content tegen te gaan. Gevreesd wordt, dat wetgeving juist een tegengesteld effect zal hebben, mede gezien de zich razendsnel ontwikkelende alternatieve oplossingen en innovatieve nieuwe ideeën op dit terrein. Omdat wetgeving het van geval tot geval maken van inschattingen bemoeilijkt (false negatives/false positives) ligt ook oververwijdering op de loer.

Nederland zal de positieve resultaten van de Nederlandse niet-wetgevende aanpak proactief delen met de Europese Commissie en de gedachtenvorming over mogelijke aanvullende maatregelen actief volgen. Gelet op de geboekte vooruitgang in het overleg met de sector biedt de aanpak op basis van vrijwilligheid, die de mededeling voorstaat, vooralsnog voldoende aanknopingspunten. Een van de aanknopingspunten die Nederland met de betreffende sector wil onderzoeken is het inzetten van (gecertificeerde) trusted flaggers op het gebied van civielrechtelijke handhaving van het auteursrecht op het internet. Bij een voornemen tot wetgeving zal Nederland aandringen op het uitvoeren van een impact assessment, waarvan in ieder geval een toets op de impact op mensenrechten als de vrijheid van meningsuiting en privacy deel zal uitmaken, maar ook een toets op de regeldruk/administratieve lasten.

c) Eerste inschatting van krachtenveld

De mededeling is nog niet besproken in één van de Raadswerkgroepen. In algemene zin dringen verschillende lidstaten in toenemende mate aan op een verdere intensivering van de aanpak van illegale content door online platformen – onder meer binnen het kader van de onderhandelingen over de herziening van de AVMD-richtlijn – waarbij de vaststelling van wetgeving op dit terrein niet wordt uitgesloten. Enkele lidstaten bereiden momenteel nationale wetgeving voor, dan wel hebben recent wetgeving vastgesteld. Andere lidstaten zijn geen voorstander van wetgeving, vooral omdat wetgeving naar het oordeel van deze lidstaten de vrijheid van meningsuiting zou schaden.

4. Grondhouding ten aanzien van bevoegdheid, subsidiariteit, proportionaliteit, financiële gevolgen en gevolgen op het gebied van regeldruk en administratieve lasten

a) Bevoegdheid

Op het terrein van de interne markt en de ruimte van vrijheid, veiligheid en recht (RVVR) heeft de Unie een gedeelde bevoegdheid met de lidstaten (zie artikel 4, lid 2, onder a en onder j, VWEU).

In de mededeling worden geen extra bevoegdheden voor de Unie voorzien, maar de Commissie geeft richtsnoeren en uitgangspunten voor online platforms om binnen het bestaande wettelijke kader – in samenwerking met nationale autoriteiten in lidstaten en andere relevante belanghebbenden – illegale online content tegen te gaan. Daartoe is de Commissie bevoegd. De mededeling heeft geen bindende werking tegenover de lidstaten. Eventuele verbindende besluiten die ten vervolge op de mededeling worden voorgesteld zullen op dat moment worden beoordeeld op het bestaan van een deugdelijke bevoegdheidsgrondslag.

b) Subsidiariteit

De grondhouding van het kabinet ten aanzien van de subsidiariteit van de mededeling is positief. De mededeling bouwt voort op bestaande Europese bindende en niet-bindende maatregelen, die gedeeltelijk afspraken met grote grensoverschrijdende IT-ondernemingen als Facebook, Twitter, Google/YouTube en Windows bevatten. Een gezamenlijke Europese aanpak is een voorwaarde om tot afspraken met zulke grote spelers te kunnen komen. Indien ten vervolge op deze mededeling verbindende maatregelen worden voorgesteld zullen deze op dat moment beoordeeld worden op de subsidiariteit.

c) Proportionaliteit

De grondhouding van het kabinet ten aanzien van de proportionaliteit van de mededeling is positief. Het kabinet acht deze mededeling een geschikt instrument om richting te geven aan de afspraken met online platforms. De mededeling voorziet voorts in niet-bindende afspraken die de onderlinge dialoog, de totstandkoming van gestandaardiseerde procedures en de ontwikkeling van technische middelen bevorderen, waarbij een balans wordt gezocht tussen het publieke belang, het belang van de gebruikers als de belangen van de platformen. De mededeling heeft betrekking op alle vormen van illegale online content, met ruimte voor fenomeen-specifieke aanpak. Indien ten vervolge op deze mededeling verbindende maatregelen worden voorgesteld zullen deze op dat moment beoordeeld worden op de proportionaliteit.

d) Financiële gevolgen

Ten aanzien van illegale online content gerelateerd aan terrorisme, pedopornografie en andere vormen van cybercrime beschrijft de mededeling de feitelijke situatie zoals die ook in Nederland bestaat, waardoor in Nederland geen additionele maatregelen nodig zijn. Ten aanzien van online hate speech geldt dat de mededeling een systeem van trusted flaggers voorstaat. Indien tot implementatie van deze aanbeveling over zou worden gegaan, zal een meldpunt internetdiscriminatie een structureel karakter krijgen. De precieze kosten die daarmee gepaard gaan zijn afhankelijk van de uiteindelijke borging van dit meldpunt binnen de rijksoverheid, maar zullen naar verwachting structureel € 250.000 per jaar bedragen.

De mededeling vraagt tevens om een single point of contact bij nationale rechtshandhavingsautoriteiten. Indien daaraan uitvoering wordt gegeven ligt het voor de hand deze taak binnen het Openbaar Ministerie te beleggen bij een discriminatieofficier van justitie met als aandachtsgebied online discriminatie. Daarbij dient tevens in beeld te worden gebracht welke ketenconsequenties de extra vervolgingscapaciteit zal hebben. Naar verwachting zal het gaan om een structurele extra investering van € 750.000 per jaar.

De budgettaire gevolgen worden ingepast op de begroting van het/de beleidsverantwoordelijk (e) departement(en), conform de regels van de budgetdiscipline.

e) Gevolgen voor regeldruk en administratieve lasten

De oproep tot het hebben van een mechanisme om meldingen te ontvangen en te verwerken en daarover te rapporteren aan rechtshandhavingsautoriteiten zal – zeker voor kleinere online platformen – aanmerkelijke financiële en administratieve lasten met zich meebrengen. Bij de uitvoering zal daarom rekening gehouden moeten worden met aanzienlijke verschillen in grootte, functie en organisatiestructuur van de verschillende platformen. Concreet gaat het dan om het toepassen van het «think small first-principle» dat de Europese Commissie hanteert in het kader van het better regulation-beleid). Tegelijkertijd vloeit de noodzaak voor het hebben van een procedure voor het omgaan met illegale content voort uit artikel 14 van de e-commerce Richtlijn. Ten behoeve van de grensoverschrijdende handel binnen de Digitale Interne Markt is verduidelijking van hetgeen dat artikel vereist gunstig.

---

1 Richtlijn 2000/31 van 8 juni 2000 inzake elektronische handel.

2 Kamerstukken II, 2016/17, 30 950, nr. 108.

3 De civiele rechtsgang staat overigens ook open in geval van (strafrechtelijke) belediging of bij het onrechtmatig openbaren van privéinformatie.

4 https://www.rijksoverheid.nl/documenten/rapporten/2008/10/09/gedragscode-notice-and-take-down.

5 https://govtrequests.facebook.com/.