26 643 Informatie- en communicatietechnologie (ICT)

Nr. 1043 BRIEF VAN DE MINISTER VAN JUSTITIE EN VEILIGHEID

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 28 juni 2023

Op 9 mei jongstleden (Handelingen II 2022/23, nr. 78, item 23) nam uw Kamer de motie-Van Ginneken c.s. aan.¹ De motie verzoekt de regering ervoor te zorgen dat een door de Europese Commissie voorgestelde concept-Verordening over het tegengaan van online seksueel kindermisbruik geen chatcontrol of client-side scanning bevat en anders het voorstel voor de Verordening niet te steunen. Deze motie richt zich hiermee op de vertrouwelijkheid van communicatie, en vooral op het zogeheten detectiebevel dat in de concept-Verordening wordt voorgesteld.

Zoals tijdens de stemmingen op 9 mei verzocht door het lid Van Ginneken, informeer ik uw Kamer met deze brief over de uitvoering van deze motie. Het kabinet heeft alles afwegende besloten aan de motie geen uitvoering te geven. Door middel van deze brief licht ik dat besluit toe.

Deze beslissing is niet licht genomen. Het kabinet is geen voorstander van het detectiebevel in zijn huidige vorm en de zorgen die aan de motie ten grondslag liggen, zijn ook die van het kabinet. Het opleggen van een detectiebevel, waarbij beeldmateriaal van individuele burgers in de privésfeer wordt gescand, heeft grote gevolgen voor fundamentele grondrechten, waaronder de bescherming van de persoonlijke levenssfeer en het communicatiegeheim.

Echter, tegen de achtergrond van de duizelingwekkende aantallen waarmee online beeldmateriaal van seksueel kindermisbruik rondgaat, zijn extra maatregelen tegen het misbruik van bepaalde diensten voor de verspreiding van dit beeldmateriaal hard nodig, juist ook om de grondrechten van kinderen te beschermen. Een aanzienlijk deel van het nu al gemelde materiaal wordt namelijk nog steeds niet of niet tijdig verwijderd. Ook wordt gesignaleerd dat verspreiding van dit materiaal in toenemende mate gebeurt via zogeheten «interpersoonlijke communicatiediensten», zoals Whatsapp en Signal. Het detectiebevel biedt bovendien de mogelijkheid om niet alleen op meldingen van gesignaleerd online seksueel kindermisbruik te reageren, maar ook om op een strikt gereguleerde wijze proactief inzichtelijk te maken welke diensten daarvoor kwetsbaar zijn en daarnaar in voorkomende gevallen te kunnen handelen. Het kabinet ziet en deelt de noodzaak om aanvullende maatregelen te nemen om dit materiaal te onderkennen en stelt daarbij voorop dat steeds een balans moet worden gevonden tussen het belang van het tegengaan van de verspreiding van dit materiaal en de inbreuk die daarmee wordt gemaakt op de grondrechten die aan de orde zijn.

Huidige voorstel

Het huidige voorstel van de Europese Commissie bevat verschillende verplichtingen voor hostingdiensten en interpersoonlijke communicatiediensten om misbruik van dergelijke diensten voor de verspreiding van beeldmateriaal van seksueel kindermisbruik tegen te gaan. Zo worden dienstverleners in het huidige voorstel verplicht onderzoek te doen naar het risico dat de eigen diensten worden gebruikt voor de verspreiding van online seksueel misbruik van kinderen en, indien nodig, risicobeperkende maatregelen te nemen. Ook zijn in het huidige voorstel verplichtingen opgenomen ten aanzien van het door deze bedrijven detecteren, verwijderen, blokkeren en ontoegankelijk maken van dit materiaal.

Met de mogelijkheid tot het uitvaardigen van een detectiebevel, opgenomen in artikel 7 van de concept-Verordening, wordt een bevoegdheid in het leven geroepen om bedrijven te verplichten om in hun diensten materiaal van seksueel kindermisbruik te detecteren. Bedrijven kunnen zelf bepalen welke technologieën zij hiertoe gebruiken. Het uitvaardigen en uitvoeren van een detectiebevel wordt in het voorstel van de Europese Commissie aan voorwaarden gebonden. Zo is het detectiebevel in de regel pas aan de orde als de verplichte risicoanalyse, en de naar aanleiding daarvan genomen risicobeperkende maatregelen, te weinig hebben opgeleverd en een significant risico blijft bestaan dat de desbetreffende dienst wordt gebruikt voor de verspreiding van online seksueel kindermisbruik. Het detectiebevel zou enkel als «last resort» ingezet moeten worden: een middel dat pas in zicht komt als andere maatregelen niet hebben gewerkt. Nederland zet zich ervoor in om dit zo duidelijk mogelijk in de verordening op te nemen.

Het detectiebevel is een maatregel die inbreuk maakt op verschillende grondrechten. Ik benadruk graag dat Nederland geen voorstander is van het voorstel voor het detectiebevel in zijn huidige vorm. In het huidige voorstel betreft het detectiebevel ook het opsporen van onbekend materiaal van seksueel kindermisbruik en grooming («online kinderlokkerij»), ook ten aanzien van interpersoonlijke communicatiediensten. Daarvoor moeten technologieën worden gebruikt met een grote kans op een relatief hoog percentage vals-positieve uitkomsten (materiaal dat achteraf geen materiaal van seksueel misbruik blijkt te zijn, waarmee mensen ten onrechte in verband worden gebracht met de verspreiding van dit materiaal). Nederland acht het huidige voorstel onder andere op deze onderdelen disproportioneel in het licht van de grondrechten die hier in het geding zijn en acht daarom de hieruit voortvloeiende inbreuk op die grondrechten niet gerechtvaardigd. Het gaat dan onder meer om het recht op eerbiediging van de persoonlijke levenssfeer en het recht op eerbiediging van het brief- en telecommunicatiegeheim, opgenomen in respectievelijk artikel 10 en artikel 13 van de Grondwet.

Inzet Nederland ten aanzien van de concept-Verordening

De onderhandelingen zijn nog niet afgelopen, en de Nederlandse inzet is erop gericht om tot een Verordening te komen waarmee ingestemd kan worden. Een detectiebevel kan, indachtig alle waarborgen waarmee het detectiebevel volgens de Nederlandse inzet moet worden omkleed, volgens het kabinet worden gerechtvaardigd indien dat zich beperkt tot het scannen van bestaand materiaal van beeldmateriaal van seksueel kindermisbruik. Ook in die gevallen wordt inbreuk gemaakt op genoemde grondrechten, maar acht ik die inbreuk proportioneel en gerechtvaardigd. Daarbij heb ik het nut en de noodzaak van het instrument – het effectief bestrijden van online materiaal van seksueel kindermisbruik – afgewogen tegen de inbreuk die op de betreffende grondrechten wordt gemaakt. In het bijzonder is in dit kader van belang dat het detectiebevel ten aanzien van bestaand materiaal kan worden uitgevoerd op een wijze die proportioneel is.

Die proportionaliteit hangt onder andere samen met het risico op vals-positieve uitkomsten. Een werkwijze die ik hierbij – onder voorwaarden – proportioneel acht, is het gebruik van zogeheten «hashing-technologie», waarbij het gevonden materiaal op basis van hashes wordt «gematcht» met hashes in een database met geverifieerd materiaal van online seksueel kindermisbruik. Deze technologie heeft zich de afgelopen jaren bewezen en kan worden ingezet op een wijze die gekenmerkt wordt door een zeer hoge mate van betrouwbaarheid.

Voorop staat wel ook dat het detectiebevel alleen kan worden uitgevoerd op een wijze die end-to-endencryptie niet onmogelijk maakt, conform de in juli 2022 (Handelingen II 2021/22, nr. 100, item 28) aangenomen motie-Van Raan c.s..² Het gebruik van client-side scanning blijkt daarbij noodzakelijk en de enige technische manier om het bevel ten aanzien van interpersoonlijke communicatiediensten uit te voeren op een manier die end-to-endencryptie niet onmogelijk maakt. Omdat bij het gebruik van client-side scanning het communicatiegeheim moet worden gewaarborgd, vind ik wel dat zeer kritisch moet worden bezien welke nadere waarborgen aan het bevel moeten worden verbonden, met name ten aanzien van de vraag wat er met gedetecteerde informatie moet gebeuren.

Tijdens de onderhandelingen in Brussel is de Nederlandse inzet gericht op het in dit voorstel goed borgen van de grondrechten en het voorkomen dat grondrechten onevenredig zwaar worden ingeperkt, in samenwerking met like minded-landen. Tegelijkertijd streef ik naar een Verordening die lidstaten, waaronder Nederland, in staat stelt om een volgende slag te slaan tegen de verspreiding van online materiaal van seksueel kindermisbruik. Aangezien de door het lid Van Ginneken c.s. ingediende motie geen ruimte laat voor de reeds beperkte inzet van Nederland ten aanzien van het detectiebevel, zoals hierboven beschreven, is het uitvoeren daarvan niet wenselijk. Ik hoop dat deze brief wel in voldoende mate uitdrukt dat de zorgen die aan de motie ten grondslag liggen, ook die van het kabinet zijn. En dat het kabinet die zorgen in Brussel zal blijven uitdragen en adresseren.

De Minister van Justitie en Veiligheid, D. Yeşilgöz-Zegerius

---

1 Kamerstuk 26 643, nr. 1011. Naar deze motie wordt in deze brief verwezen als de motie-Van Ginneken c.s.

2 Kamerstuk 26 643, nr. 885.