36 244 Voorstel voor een Verordening van het Europees Parlement en de Raad tot vaststelling van regels ter voorkoming en bestrijding van seksueel misbruik van kinderen

C BRIEF VAN VICEVOORZITTER ŠEFČOVIČ VAN DE EUROPESE COMMISSIE EN LID JOHANSSON

Aan de voorzitter van de vaste commissie voor Justitie en Veiligheid

Cc: Aan de Voorzitter van de Eerste Kamer der Staten-Generaal

Brussel, 2 maart 2023

De Commissie dankt de Eerste Kamer voor haar advies over het voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van regels ter voorkoming en bestrijding van seksueel misbruik van kinderen (COM(2022) 209 final).

Het voorstel is een van de initiatieven uit hoofde van de EU-strategie voor de bestrijding van seksueel misbruik van kinderen van 2020. Deze strategie benadert het misdrijf vanuit een holistisch perspectief, waarbij alle relevante instrumenten worden ingezet en alle belanghebbenden – van de overheid tot de particuliere sector – worden ingeschakeld. Het voorstel strekt tot aanvulling van andere wetgevingsinstrumenten op het gebied van seksueel misbruik van kinderen, met name de richtlijn ter bestrijding van seksueel misbruik van kinderen van 2011, door aanbieders van onlinediensten te verplichten om het risico te beoordelen dat hun diensten worden gebruikt voor kinderpornografische doeleinden en tegenmaatregelen te nemen, online seksueel misbruik van kinderen op hun diensten te melden, te verwijderen en te blokkeren, en online seksueel misbruik van kinderen proactief op te sporen als een gerechtelijke autoriteit of een onafhankelijke administratieve autoriteit dat gelast. Het voornaamste doel van het voorstel is te waarborgen dat aanbieders van onlinediensten de verantwoordelijkheid op zich nemen kinderen op hun diensten te beschermen tegen online seksueel misbruik van kinderen.

De Commissie waardeert het dat de Eerste Kamer heeft besloten dit voorstel te analyseren en is het ermee eens dat het belangrijk is het juiste evenwicht te vinden tussen de bescherming van kinderen en andere grondrechten.

De Commissie onderschrijft het fundamentele belang dat de Eerste Kamer hecht aan het recht op privacy en ook zij acht het noodzakelijk ervoor te zorgen dat elke inmenging in dat recht beperkt blijft tot hetgeen noodzakelijk en evenredig is met het oog op het nagestreefde doel. Wat betreft de in het advies verwoorde zorg met betrekking tot de vraag of het voorstel strookt met de beginselen van evenredigheid en subsidiariteit, zou de Commissie willen benadrukken dat het voorstel wel degelijk met beide beginselen in overeenstemming is.

Naar aanleiding van de betrokken vraag en de meer technische opmerkingen die de Eerste Kamer in haar advies aan de orde heeft gesteld, verwijst de Commissie naar de toelichting in de bijlage bij deze brief. Het advies is ter beschikking gesteld van de vertegenwoordigers van de Commissie bij de lopende onderhandelingen van de medewetgevers – het Europees Parlement en de Raad – en zal als input dienen voor de besprekingen in dat kader.

De Commissie hoopt dat zij met de toelichting in dit antwoord voldoende is ingegaan op de door de Eerste Kamer aan de orde gestelde punten en zij kijkt ernaar uit de politieke dialoog in de toekomst voort te zetten.

Maroš Šefčovič, Vicevoorzitter

Ylva Johansson, Lid van de Commissie

Bijlage

De Commissie heeft alle punten die de Eerste Kamer in haar brief aan de orde stelt, zorgvuldig bestudeerd en wenst de volgende verduidelijkingen onder haar aandacht te brengen.

1)

Het voorstel houdt niet in dat communicatie zonder enige differentiatie mag worden gescand.

De Commissie is zich ervan bewust dat moet worden gewaarborgd dat elke inmenging in het recht op privacy en gegevensbescherming die zou kunnen voortvloeien uit de uitvoering van opsporingsbevelen, noodzakelijk en evenredig moet zijn, met name waar het gaat om opsporing in het kader van interpersoonlijke communicatie. Het voorstel bevat een reeks waarborgen voor de strikte noodzakelijkheid en evenredigheid van opsporingsbevelen.

Ten eerste is opsporing volgens het voorstel een uiterst middel. Indien de regels worden vastgesteld zoals voorgesteld, moeten alle aanbieders die binnen het toepassingsgebied vallen, voldoen aan de verplichtingen inzake risicobeoordeling en risicobeperking. Pas wanneer ondanks de genomen risicobeperkende maatregelen een aanzienlijk risico blijft bestaan dat de betrokken dienst wordt benut voor seksueel misbruik van kinderen, zou aanbieders kunnen worden gelast online seksueel misbruik van kinderen op te sporen.

Ten tweede houdt het voorstel er rekening mee dat, zodra de noodzaak van een opsporingsbevel zich voordoet, moet worden gezorgd voor een juist evenwicht tussen alle grondrechten die in het geding zijn, en dat met name de inmenging in het recht op privacy van onlinegebruikers tot een minimum moet worden beperkt. Daarom zal de procedure voor het uitvaardigen van een opsporingsbevel verschillende stappen omvatten en zullen er meerdere entiteiten bij betrokken zijn. Meer bepaald:

• Alvorens om een opsporingsbevel te verzoeken, moet de coördinerende autoriteit van vestiging een ontwerpverzoek opstellen en dit ter kennis van de betrokken aanbieder en het Europees Centrum ter voorkoming en bestrijding van seksueel misbruik van kinderen (hierna «het EU-centrum» genoemd) brengen.

• Het EU-centrum kan advies uitbrengen, onder meer op basis van zijn technologische expertise.

• De aanbieder stelt een uitvoeringsplan op en vraagt de bevoegde gegevensbeschermingsautoriteit om advies.

• Rekening houdend met het ontwerp van uitvoeringsplan, het advies van de gegevensbeschermingsautoriteit en het advies van het EU-centrum, moet de coördinerende autoriteit beslissen of zij om de uitvaardiging van het bevel verzoekt. Daarbij moet de coördinerende autoriteit nagaan of i) het bevel zo gericht mogelijk is, ii) het bevel noodzakelijk en evenredig is, en iii) er technologieën beschikbaar zijn waarmee de specifieke soort dienst in kwestie doeltreffend kan worden opgespoord zonder dat dit leidt tot een onevenredige inmenging in de privacy met betrekking tot elektronische communicatie.

• De definitieve beslissing over het al dan niet uitvaardigen van een opsporingsbevel berust bij een gerechtelijke autoriteit of een onafhankelijke administratieve autoriteit. Gezien het onafhankelijke karakter van deze laatste autoriteiten, vormt hun betrokkenheid een belangrijke aanvullende waarborg, aangezien zij de beoordeling door de coördinerende autoriteit op onpartijdige en objectieve wijze toetsen. De uitvaardigende autoriteiten moeten met name zorgen voor een billijk evenwicht tussen alle betrokken grondrechten.

• De opsporingsbevelen hebben een beperkte geldigheidsduur en moeten nadat zij zijn uitgevaardigd regelmatig het voorwerp zijn van rapportage en toetsing. De verhaalrechten van de betrokken dienstenaanbieders en gebruikers zijn eveneens gewaarborgd.

• Opsporingsbevelen worden uitgevaardigd aan de hand van indicatoren die worden aangereikt door het EU-centrum, dat deze creëert en beheert, met inachtneming van een aantal waarborgen voor de nauwkeurigheid en betrouwbaarheid ervan. Wanneer er een verplichting tot scannen is, moet die bovendien worden uitgevoerd door gebruik te maken van technologie die aan strenge eisen voldoet.

Ten derde beoogt het voorstel ervoor te zorgen dat met name opsporingsbevelen met betrekking tot het benaderen van kinderen («grooming») zo gericht mogelijk zijn. Dergelijke opsporingsbevelen kunnen alleen betrekking hebben op communicatie als een van de gebruikers een kind is dat jonger is dan 17 jaar (de hoogste leeftijd in de EU waarop iemand seksueel meerderjarig is). Bovendien gaat het voorstel verder dan wat vereist is op grond van artikel 36 van de algemene verordening gegevensbescherming¹ (AVG), door aanbieders te verplichten i) de gegevensbeschermingsautoriteiten om advies te vragen over elk ontwerp van uitvoeringsplan met betrekking tot de opsporing en ii) dit te doen al voordat een coördinerende autoriteit de uitvaardigende autoriteiten om het opsporingsbevel verzoekt. Voorts gelden voor opsporingsbevelen met betrekking tot het benaderen van kinderen specifieke vereisten en waarborgen, bijvoorbeeld met betrekking tot de specifieke wijze waarop het vereiste «significante risico» wordt gedefinieerd en de geldigheidsduur van dergelijke bevelen.

In het licht van het bovenstaande is de Commissie van mening dat het voorstel – en met name de bepalingen inzake opsporing, die als uiterste middel zijn bedoeld en gerichte maatregelen inhouden – in overeenstemming is met de beginselen van noodzakelijkheid en evenredigheid. In dit verband moet ook rekening worden gehouden met de aard en de ernst van de strafbare feiten die met de voorgestelde verplichtingen moeten worden bestreden en met de noodzaak om de betrokken aanbieders van onlinediensten daarbij te betrekken.

2)

De Commissie is van mening dat de in het voorstel gemaakte keuzes de meest doeltreffende methode inhouden om seksueel misbruik van kinderen te voorkomen en te bestrijden.

Ten eerste benadrukt het voorstel het belang van preventie, door een algemene verplichting vast te stellen met betrekking tot diensten die het risico lopen te worden misbruikt met het oog op seksueel misbruik van kinderen, om een dergelijk risico te beoordelen en risicobeperkende maatregelen vast te stellen. In 2020 was ongeveer 95% van de meldingen van seksueel misbruik van kinderen bij het Amerikaanse Centre for Missing and Exploited Children (NCMEC) afkomstig van slechts één dienstenaanbieder, en 99% van slechts vijf dienstenaanbieders. De meeste dienstenaanbieders melden seksueel misbruik van kinderen niet vrijwillig. Daarom is de Commissie van mening dat de veiligheid van kinderen aanzienlijk zal verbeteren als de verplichting om een risicobeoordeling uit te voeren en risicobeperkende maatregelen vast te stellen, wordt uitgebreid tot alle relevante dienstenaanbieders die actief zijn op de digitale eengemaakte markt van de EU.

Ten tweede wordt in het voorstel afgestapt van een model van vrijwillige opsporing, waarbij dienstenaanbieders zelf kunnen kiezen of en hoe zij hun eigen belangen, het belang van kinderbescherming en de belangen van de gebruikers tegen elkaar afwegen. In plaats daarvan wordt een model vastgesteld van verplichte opsporingsbevelen, die per geval door rechters of onafhankelijke administratieve autoriteiten moeten worden uitgevaardigd. Volgens het voorstel is het aan deze onafhankelijke overheidsinstanties – en niet aan particuliere ondernemingen – om vast te stellen wanneer een opsporingsbevel noodzakelijk en evenredig is (ook wat betreft reikwijdte en geldigheidsduur). Gezien het delicate evenwicht tussen de grondrechten in de onlineruimte alsook de waarborgen waarin wordt voorzien, beschouwt de Commissie dit als een aanzienlijke verbetering ten opzichte van het huidige model.

3)

De Commissie zal in het kader van het voorstel geen gegevens verzamelen of verwerken.

Wanneer de risicobeperkende maatregelen ontoereikend blijken en een rechter of onafhankelijke administratieve autoriteit heeft vastgesteld dat de uitvaardiging van een opsporingsbevel in voorkomend geval noodzakelijk en evenredig is, zal de betrokken dienstenaanbieder overgaan tot opsporing, na raadpleging van de bevoegde gegevensbeschermingsautoriteit. Indien mogelijk seksueel misbruik van kinderen wordt opgespoord, zal een melding worden gezonden aan het EU-centrum, dat volgens het voorstel zal worden opgericht als een onafhankelijk, gedecentraliseerd EU-agentschap. De Commissie zal geen gegevens ontvangen of verzamelen. Het EU-centrum zal onder meer tot taak hebben i) te controleren op kennelijke vals-positieven, zodat alleen meldingen met onderzoekswaarde de rechtshandhaving bereiken, ii) de aanbieders feedback te geven over de kwaliteit van hun meldingen, zodat de opsporingsnauwkeurigheid mettertijd kan worden verbeterd, en iii) de indicatoren te creëren en te beheren die voor opsporingsdoeleinden moeten worden gebruikt.

Bruikbare meldingen worden vervolgens doorgeleid naar het Agentschap van de Europese Unie voor samenwerking op het gebied van rechtshandhaving (Europol) en de nationale rechtshandhavingsinstanties. De gegevens worden door deze entiteiten gewist of opgeslagen, naargelang het toepasselijke rechtskader.

4)

Het voorstel is niet bedoeld om de huidige meldings- en actiemechanismen en de relevante activiteiten van hulplijnen te vervangen.

Integendeel, het voorstel bouwt voort op deze mechanismen en versterkt ze. Hulplijnen kunnen seksueel misbruik van kinderen op de diensten van aanbieders blijven signaleren en blijven verzoeken om verwijdering ervan. Indien aanbieders niet vrijwillig meewerken, zullen hulplijnen het materiaal van seksueel misbruik van kinderen onder de aandacht van de te benoemen coördinerende autoriteiten kunnen brengen, die op hun beurt een verwijderingsbevel kunnen uitvaardigen wanneer aan de toepasselijke voorwaarden is voldaan. De activiteiten van de hulplijnen zullen met andere woorden aan doeltreffendheid winnen en door het voorgestelde handhavingsmechanisme worden bevorderd.

Als onderdeel van de voorgestelde taken van het EU-centrum met betrekking tot het delen van kennis en deskundigheid voor de preventie en bestrijding van seksueel misbruik van kinderen, zal het EU-centrum ook kunnen samenwerken met hotlines.

Het voorstel geeft de coördinerende autoriteiten en, in sommige gevallen, het EU- centrum ook uitdrukkelijk de bevoegdheid om relevante dienstenaanbieders in kennis te stellen van inhoud die als materiaal van seksueel misbruik van kinderen wordt beschouwd. Ook op deze manier bouwt het voorstel voort op meldings- en actiemechanismen.

5)

Het voorstel maakt deel uit van een bredere EU-strategie ter voorkoming en bestrijding van seksueel misbruik van kinderen.

De Commissie houdt voortdurend toezicht op de vooruitgang van de lidstaten bij de uitvoering van de richtlijn ter bestrijding van seksueel misbruik van kinderen van 2011², met name in het kader van inbreukprocedures. Daarnaast is de Commissie de richtlijn van 2011 aan het herzien in het licht van de maatschappelijke en technologische ontwikkelingen van de afgelopen elf jaar, om ervoor te zorgen dat kinderen voldoende worden beschermd. In het kader van deze herziening onderzoekt de Commissie alle mogelijkheden om seksueel misbruik van kinderen beter te voorkomen en te bestrijden, bijvoorbeeld door middel van verdere harmonisatie van minimumnormen, betere bijstand en ondersteuning van slachtoffers, en krachtigere preventieprogramma’s.

6)

Het proces dat tot de goedkeuring van het voorstel door de Commissie heeft geleid, vond plaats in overleg met een zo breed mogelijke groep belanghebbenden.

De Commissie heeft meermaals van gedachten gewisseld met vertegenwoordigers van rechtshandhavingsinstanties, nationale hotlines, dienstenaanbieders en overlevenden van seksueel kindermisbruik.

Een deel van de betrokken dienstenbieders uitte bezorgdheid over de technische haalbaarheid van opsporing waar het gaat om eind-tot-eindversleutelde diensten. De Commissie heeft de mogelijkheid om deze diensten van het toepassingsgebied van het voorstel uit te sluiten om ten minste twee redenen van de hand gewezen. Ten eerste moet in de hele digitale eengemaakte markt een evenwicht worden gevonden tussen de belangen van de dienstenaanbieders, het belang van de bescherming van kinderen en de belangen van de gebruikers, en mogen eind-tot-eindversleutelde diensten in dit opzicht geen blinde vlek vormen. Ten tweede zou, wanneer eind-tot-eindversleutelde diensten buiten het toepassingsgebied van opsporingsbevelen gelaten zouden zijn, dat tot gevolg hebben gehad dat opsporing van iedere nuttige werking zijn ontdaan: dienstaanbieders zouden zich aan elke vorm van verplichte detectie hebben kunnen onttrekken door over te stappen op eind-tot-eindversleuteling.

Sommige aanbieders van diensten voor interpersoonlijke communicatie hebben de Commissie verzocht in het voorstel een rechtsgrondslag op te nemen voor de vrijwillige opsporing van seksueel misbruik van kinderen. Dit verzoek werd niet ingewilligd, aangezien het bieden van een rechtsgrondslag voor vrijwillige opsporing naast verplichte, op een bevel gebaseerde opsporing de logica van het voorstel zou hebben ondermijnd. Het voorstel zorgt ervoor dat altijd een opsporingsbevel wordt uitgevaardigd wanneer dat in een specifiek geval noodzakelijk en evenredig is. Wanneer geen opsporingsbevel wordt uitgevaardigd, wil dat zeggen dat niet wordt voldaan aan de criteria van noodzakelijkheid en evenredigheid van de opsporing; in dat geval mogen aanbieders niet op vrijwillige basis tot opsporing overgaan. Zoals hierboven vermeld, moet de vereiste afweging van alle betrokken grondrechten worden gemaakt door de bevoegde autoriteiten, binnen een wettelijk kader, in plaats van aan de dienstverleners te worden overgelaten.

Tot slot hebben bepaalde bedrijven gesuggereerd dat het opsporen van het benaderen van kinderen zou kunnen worden uitgevoerd door het verzamelen en scannen van metagegevens, in plaats van opsporing op basis van tekst. Volgens de huidige kennis is het scannen van metagegevens echter een zeer indringende en onvoldoende doeltreffende methode om dergelijke benaderingspogingen op te sporen. Om op basis van metagegevens te kunnen aannemen dat kinderen worden benaderd, zou een aanzienlijke hoeveelheid metagegevens van beide partijen moeten worden verzameld en gescand, waardoor waarschijnlijk hun locatie, vriendschapsnetwerk, frequentie van interactie en gewoonten gedurende een lange periode aan het licht komen. Dit is misschien wel even ingrijpend als het gericht scannen van tekst op bevel van een rechter of een onafhankelijke administratieve autoriteit na zorgvuldige afweging van alle betrokken rechten en belangen. Bovendien is het aanzienlijk minder doeltreffend om aan de hand van op metagegevens gebaseerde opsporing vast te stellen dat kinderen worden benaderd, aangezien het benaderen doorgaans plaatsvindt in dialogen die geen kenmerkend patroon vertonen. Ten slotte levert het scannen op basis van metagegevens geen bewijs van een mogelijke benadering op. Het kan er dus niet toe leiden dat de rechtshandhavingsinstanties een bruikbare melding krijgen met aanwijzingen voor seksueel misbruik van kinderen.

7)

De Commissie hecht het grootste belang aan ondersteuning van en bijstand aan slachtoffers en aan preventie, met bijzondere aandacht voor zowel potentiële slachtoffers als potentiële daders.

De richtlijn ter bestrijding van seksueel misbruik van kinderen van 2011 bevat reeds bepalingen inzake preventie en bijstand aan slachtoffers en de Commissie houdt nauwlettend toezicht op de programma’s en maatregelen die de lidstaten hebben vastgesteld om aan deze bepalingen te voldoen. De komende herziening van de richtlijn ter bestrijding van seksueel misbruik van kinderen is dan ook de passende gelegenheid om onopgeloste problemen in verband met de preventie van het misdrijf en ondersteuning van en bijstand aan slachtoffers aan te pakken. De Commissie evalueert hoe deze twee aspecten kunnen worden versterkt en onopgeloste problemen kunnen worden verholpen, zoals de problemen waarmee verschillende lidstaten worden geconfronteerd bij het opstellen van specifieke en doeltreffende programma’s en maatregelen op het gebied van daderpreventie.

Anders dan de richtlijn ter bestrijding van seksueel misbruik van kinderen werd de voorgestelde verordening vastgesteld met een rechtsgrondslag op het stuk van de interne markt. De verordening is dan ook niet het aangewezen rechtsinstrument om de lidstaten ertoe te verplichten nieuwe preventieve programma’s vast te stellen of maatregelen in verband met ondersteuning van en bijstand aan slachtoffers te nemen. Niettemin maakt het voorstel gebruik van de coördinerende autoriteiten en het EU-centrum om slachtoffers een specifieke vorm van bijstand te bieden, namelijk ondersteuning bij het vinden van informatie en het laten verwijderen van materiaal betreffende het seksueel kindermisbruik waarmee zij te maken kregen.

Kortom, het voorstel voor deze verordening en de bestaande richtlijn uit 2011 vullen elkaar aan en moeten samen worden bekeken bij de beoordeling van de huidige inspanningen van de EU ter bestrijding van seksueel misbruik van kinderen.

8

Het voorstel voorziet in waarborgen om ervoor te zorgen dat de uitvoering van opsporingsbevelen zich niet leent voor enige vorm van «functieverschuiving».

Ten eerste zijn opsporingsbevelen zo gericht mogelijk, hebben zij een beperkte geldigheidsduur en worden zij uitgevoerd op basis van een plan dat door de betrokken aanbieder bij zowel de uitvaardigende rechter als de bevoegde gegevensbeschermingsautoriteiten is ingediend.

Ten tweede kan opsporing alleen worden uitgevoerd aan de hand van de verplichte lijst van indicatoren van seksueel misbruik van kinderen die door het EU-centrum wordt bijgehouden. Deze indicatoren werken op «hit/no hit»-basis. De aanbieders kunnen hieraan dus geen andere informatie ontlenen dan dat er een match bestaat tussen een indicator enerzijds en een beeld-, video- of tekstpatroon in hun diensten anderzijds.

Ten derde kunnen opsporingsbevelen alleen worden uitgevaardigd door een rechter of een onafhankelijke administratieve autoriteit wanneer er technologieën bestaan die i) seksueel misbruik van kinderen doeltreffend opsporen, ii) inzetbaar zijn ten aanzien van de specifieke dienst en iii) de privacy en andere gebruikersrechten voldoende beschermen. Om te helpen beoordelen of dit het geval is, houdt het voorstel in dat het EU-centrum en de bevoegde gegevensbeschermingsautoriteit in verband met geplande opsporingsbevelen worden geraadpleegd.

9)

Hoewel het voorstel een reeks waarborgen bevat voor de ontwikkeling en het beheer door het EU-centrum van de digitale identificatiemiddelen die worden gebruikt als indicatoren van seksueel misbruik van kinderen, bevat het geen uitputtende lijst van die middelen. Voor laatstgenoemde optie is gekozen omdat het voorstel toekomstbestendig moet zijn en technologische ontwikkelingen nieuwe soorten indicatoren kunnen opleveren, met een hogere nauwkeurigheidsgraad dan de huidige.

Momenteel worden voor vrijwillige opsporing de volgende indicatoren gebruikt:

• i) hashcodes (d.w.z. numerieke «vingerafdrukken» in verband met materiaal waarvan reeds is vastgesteld dat het seksueel misbruik van kinderen betreft) en Uniform Resource Locators (URL’s) die betrekking hebben op specifieke voorwerpen («deep links») in verband met bekend materiaal betreffende seksueel misbruik van kinderen;

• ii) AI-classificatoren voor nieuw materiaal betreffende seksueel misbruik van kinderen (numerieke vingerafdrukken, gegenereerd door artificiële intelligentie die aan de hand van databanken van bekend materiaal betreffende seksueel misbruik van kinderen getraind is in het vinden van vergelijkbaar materiaal); alsmede

• iii) natuurlijke tekstpatronen voor het benaderen van kinderen.

10)

Noch het EU-centrum noch de dienstverleners krijgen op grond van het voorstel enige rechtshandhavingstaak of -bevoegdheid.

Het EU-centrum beoordeelt niet het strafrechtelijke karakter van het online ontvangen materiaal van seksueel misbruik van kinderen. Het heeft tot taak te controleren op kennelijke fout-positieven, die per vergissing zijn opgespoord, en te voorkomen dat deze de rechtshandhavingsinstanties bereiken. Alle andere verslagen zullen aan de bevoegde nationale rechtshandhavingsinstanties worden toegezonden en door hen worden beoordeeld op hun strafrechtelijke relevantie. Het staat aan elke autoriteit om overeenkomstig het toepasselijke recht na te gaan of materiaal seksueel misbruik van kinderen betreft en de facto illegaal is. Daarnaast voorziet het voorstel in een mechanisme dat ervoor zorgt dat, wanneer deze autoriteiten vaststellen dat een nieuwe melding betrekking heeft op materiaal van seksueel misbruik van kinderen, zij het resultaat van hun beoordeling meedelen aan het EU-centrum, zodat een overeenkomstige indicator kan worden toegevoegd aan de databank van indicatoren van bekend seksueel misbruik van kinderen.

De beoordeling van de strafrechtelijke aard van de door dienstverleners gemelde inhoud wordt dus volledig uitgevoerd door de bevoegde autoriteiten op nationaal niveau. Het EU-centrum heeft ook geen handhavingsbevoegdheden. Met name mogen bevelen zoals die tot opsporing of verwijdering van materiaal van seksueel misbruik van kinderen alleen door de bevoegde nationale autoriteiten worden uitgevaardigd.

Evenmin hoeven dienstverleners bij de uitvoering van een opsporingsbevel de strafrechtelijke aard van het mogelijke seksueel misbruik van kinderen te beoordelen. Zij moeten – na ontvangst van een opsporingsbevel – alleen de technologie die nodig is om een controle uit te voeren aan de hand van de database van indicatoren, toepassen op de betrokken diensten en vervolgens via het EU-centrum elke match melden aan de bevoegde rechtshandhavingsinstanties.

Overigens melden sommige dienstverleners al op vrijwillige basis opgespoord mogelijk materiaal van seksueel misbruik van kinderen aan het Amerikaanse Centre for Missing and Exploited Children (NCMEC), dat relevante verslagen doorstuurt naar Europol. Het voorstel voorziet in een opsporings- en meldingsplicht, die inhoudt dat aanbieders de verantwoordelijkheid moeten nemen ervoor te zorgen dat hun diensten niet worden gebruikt voor dit soort zeer ernstige illegale activiteiten.

De Commissie is van mening dat bij het nieuwe systeem van verplichte en gerichte opsporingsbevelen het risico van oneigenlijk gebruik en van onterechte melding nog kleiner zal zijn dan bij het huidige systeem van vrijwillige opsporing. Momenteel beslissen dienstverleners zelf of zij activiteiten willen ontplooien voor het opsporen van seksueel misbruik van kinderen, in overeenstemming met hun eigen beoordeling van wat noodzakelijk en evenredig is en zonder een volledig rechtskader dat deze besluiten en activiteiten reguleert. De invoering van een systeem waarbij verplichte opsporing alleen door een rechter of een onafhankelijke administratieve autoriteit binnen de EU dient te worden gelast wanneer dit noodzakelijk en evenredig is, met betrokkenheid van gegevensbeschermingsautoriteiten en met de hierboven beschreven waarborgen, zal het risico op instrumentalisering van opsporing aanzienlijk verminderen. Hetzelfde geldt voor de betrokkenheid van het EU-centrum, dat als EU-agentschap op objectieve wijze moet handelen en volledig aan de EU-normen inzake gegevensbescherming moet voldoen.

11)

De Commissie is van mening dat doeltreffende preventie van seksueel misbruik van kinderen een holistische aanpak vereist, waarbij terdege rekening wordt gehouden met zowel de offline- als de onlinedimensie van dit misdrijf. Het voorstel is om ten minste drie redenen een belangrijke stap vooruit op het gebied van preventie. Ten eerste moeten alle aanbieders van onlinediensten die een risico lopen op misbruik van hun diensten met het oog op online seksueel misbruik van kinderen, dit risico beoordelen en «safer-by- design»-maatregelen met preventieve doelstellingen nemen. Ten tweede beoogt de verordening de verspreiding van materiaal van seksueel misbruik van kinderen aanzienlijk te beperken, wat niet alleen revictimisatie voorkomt, maar ook een belangrijk onderdeel van daderpreventie vormt (aangezien uit onderzoek blijkt dat een aanzienlijk aantal personen dat onlinemateriaal van seksueel misbruik van kinderen bekijkt, in een later stadium feitelijk misbruik pleegt). Ten derde verplicht het voorstel coördinerende autoriteiten, dienstverleners en het EU-centrum om statistieken bij te houden over verschillende aspecten van het misdrijf, alsook over meldingen en de follow-up daarvan door de nationale autoriteiten. Deze informatie is van essentieel belang om de nationale preventieprogramma’s doeltreffender te maken.

Ook zij erop gewezen dat de lidstaten volgens de richtlijn ter bestrijding van seksueel misbruik van kinderen van 2011 preventieprogramma’s moeten vaststellen en ervoor moeten zorgen dat de rechtshandhavingsinstanties over doeltreffende onderzoeksinstrumenten beschikken. Bij de lopende herziening van die richtlijn wordt ook beoordeeld of de bepalingen inzake preventie en onderzoek moeten worden aangescherpt, bijvoorbeeld door de lidstaten uitdrukkelijk te verplichten undercoveronderzoeken op het «dark web» toe te staan. Zoals uiteengezet, is die richtlijn in beginsel het juiste instrument voor dergelijke maatregelen.

12)

De Commissie is van mening dat alleen een holistische aanpak doeltreffend kan zijn in de strijd tegen seksueel misbruik van kinderen. Daarom is de identificatie van zowel slachtoffers als daders van cruciaal belang en moeten de lidstaten ervoor waken dat inspanningen voor het ene aspect ten koste gaan van het andere aspect.

13)

De Commissie heeft geen opmerkingen over de vraag of Nederland beter door middel van zijn bestuursrecht dan wel door middel van zijn strafrecht uitvoering kan geven aan de voorgestelde verordening.

14)

Bij de keuze van passende technologieën voor het uitvoeren van opsporingsbevelen op hun diensten moeten aanbieders niet alleen voldoen aan de vereisten van het voorstel, maar ook aan de vereisten van elk horizontaal wetgevingsinstrument van de EU dat op de sector van toepassing is, zoals de AVG, maar ook de richtlijn inzake elektronische handel³. Dit hoeft niet te worden gespecificeerd in het voorstel, dat geen afwijking van de bepalingen van de richtlijn inzake elektronische handel inhoudt.

15)

De voorgestelde verordening is een sectoraal instrument dat slechts betrekking heeft op bepaalde vormen van seksueel misbruik van kinderen, zoals gedefinieerd in de richtlijn ter bestrijding van seksueel misbruik van kinderen van 2011, waarin de geharmoniseerde EU-minimumnorm op dit gebied is vastgesteld. Andere vormen van schade die kinderen online kan worden toegebracht, vallen buiten het toepassingsgebied ervan. Het voorstel definieert, onder verwijzing naar de richtlijn, wat voor de toepassing van de voorgestelde verordening moet worden verstaan onder materiaal van seksueel misbruik van kinderen of het benaderen van kinderen is. Het voorstel is geen strafrechtelijk instrument, maar een instrument voor de interne markt dat de betrokken aanbieders van onlinediensten verplicht de verantwoordelijkheid op zich te nemen ervoor te zorgen dat hun dienst geen materiaal en activiteiten omvat die volgens de richtlijn ter bestrijding van seksueel misbruik van kinderen van 2011 illegaal zijn.

16)

De oprichting van het EU-centrum zal niet leiden tot vertragingen bij het doen van meldingen bij de nationale rechtshandhavingsinstanties. Momenteel worden meldingen in de praktijk verzameld door het Amerikaanse Centre of Missing and Exploited Children (NCMEC), dat meldingen die relevant lijken te zijn voor de EU aan Europol doorzendt. Als het EU-centrum deze verslagen rechtstreeks ontvangt, zou de behandeling sneller en doeltreffender worden. De betrokkenheid van het EU-centrum zal helpen het meldingsproces te stroomlijnen, zowel door het volstrekt duidelijk te maken voor dienstverleners aan wie zij meldingen moeten toezenden, als door ervoor te zorgen dat de nationale rechtshandhavingsinstanties niet onnodig worden belast met kennelijk onjuiste meldingen. Bij de invulling van het personeelsplan en de structuur van het EU- centrum zal het belang van de kinderen vooropstaan, uitgaande van de dringende noodzaak voor doelmatigheid en objectiviteit te zorgen. Bovendien houdt het voorstel reeds rekening met de noodzaak om de behandeling van dringende meldingen te bespoedigen, door van aanbieders te verlangen dat zij bij het indienen van dergelijke meldingen aangeven of er dringend optreden moet worden ondernomen.

17)

Het voorstel is technologieneutraal. Het is niet bedoeld om het gebruik van eind-tot-eindversleuteling te ontmoedigen, maar veeleer om ervoor te zorgen dat zowel de privacy als de veiligheid van kinderen overal in de onlineruimte wordt gewaarborgd – ook op eind-tot-eindversleutelde diensten. Het voorstel bevat geen enkele vorm van willekeurige scanning en vereist niet dat de communicatie van alle gebruikers systematisch wordt ontsleuteld, zoals hierboven is uitgelegd.

18)

Het EU-centrum is nog niet opgericht en beschikt dus nog niet over een databank van indicatoren en evenmin over een lijst van technologieën. Het is onduidelijk op welk soort indicatoren, inhoud en opsporingstechnologie de Eerste Kamer doelt wanneer zij een foutenpercentage van 12% noemt. Er zij op gewezen dat het foutenpercentage voor de opsporing van bekend materiaal van seksueel misbruik van kinderen uiterst laag is (aanzienlijk minder dan 1%). Het aanvaardbare foutenpercentage voor nieuw materiaal is volledig afhankelijk van politieke keuzes, aangezien AI-classificatoren worden getraind om materiaal op te sporen dat met een vooraf bepaald waarschijnlijkheidspercentage materiaal van seksueel misbruik van kinderen betreft. Dit percentage kan worden verhoogd of verlaagd, afhankelijk van de politieke keuze die in dit verband wordt gemaakt. Zo kan de AI-classificator van Thorn worden ingesteld op een precisiepercentage van 99,9%. Met dit nauwkeurigheidscijfer betreft 99,9% van de inhoud die de classificator als seksueel misbruik van kinderen aanmerkt, daadwerkelijk seksueel misbruik van kinderen.

---

1 Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG.

2 Richtlijn 2011/93/EU van het Europees Parlement en de Raad van 13 december 2011 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en kinderpornografie, en ter vervanging van Kaderbesluit 2004/68/JBZ van de Raad.

3 Richtlijn 2000/31/EG van het Europees Parlement en de Raad van 8 juni 2000 betreffende bepaalde juridische aspecten van de diensten van de informatiemaatschappij, met name de elektronische handel, in de interne markt.