26 643 Informatie- en communicatietechnologie (ICT)

33 826 Mensenrechten in Nederland

Nr. 858 BRIEF VAN DE MINISTERS VAN BUITENLANDSE ZAKEN EN VAN ECONOMISCHE ZAKEN EN KLIMAAT EN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 6 mei 2022

Hierbij bieden wij u de kabinetsreactie op het advies van de Adviesraad Internationale Vraagstukken (AIV) «Regulering van Online Content, naar een herijking van het Nederlands internetbeleid» (Kamerstuk 26 643, nr. 694) aan. In deze brief informeren wij u hoe het kabinetsbeleid zich tot het AIV-advies verhoudt en aan welke punten het kabinet de komende jaren opvolging geeft.

De AIV was verzocht onderzoek te doen naar handelingsopties voor Nederland om online content regulering zo vorm te geven, dat democratische waarden en mensenrechten geborgd zijn op het internet. Reden hiervoor was dat de Nederlandse inzet op het behouden en stimuleren van een open, vrij en veilig internet op gespannen voet kan staan met de bredere internationale roep tot het reguleren van online content, om bijvoorbeeld de verspreiding van terroristische en discriminerende content tegen te gaan.

Op 24 juni 2020 verscheen het AIV-advies «Regulering van online content», waarin de door het kabinet geformuleerde vragen werden beantwoord. In het advies worden tien aanbevelingen gedaan:

• 1. Herijk het Nederlandse internetbeleid.

• 2. Verdedig en bevorder het open en vrije karakter van het internet op basis van democratische en rechtsstatelijke waarden.

• 3. Versterk de Nederlandse vertegenwoordiging in internationale internetorganisaties.

• 4. Stimuleer internationale normstelling voor de aanpak van schadelijke online content met een stevige verankering in bestaande mensenrechtenstandaarden.

• 5. Initieer maatregelen gericht op transparantie en toezicht.

• 6. Stimuleer value sensitive design en digital commons.

• 7. Betrek onafhankelijke nationale expertorganen bij de beoordeling van schadelijke online content.

• 8. Pleit voor een zorgplicht voor internetplatformen, onder duidelijke randvoorwaarden.

• 9. Maak de gebruikersvoorwaarden van internetplatformen mensenrechten-inclusief.

• 10. Vergroot de digitale weerbaarheid van internetgebruikers.

Het kabinet dankt de AIV voor zijn analyse van de thematiek en de beantwoording van de vragen, waarmee een waardevolle bijdrage is geleverd aan de gedachtenvorming van het kabinet hierover. In de voorbereiding van deze kabinetsreactie, heeft het kabinet het maatschappelijk middenveld geconsulteerd door middel van een internetconsultatie. De reacties op deze consultatie zijn online terug te lezen¹. In deze brief wordt kort beschreven hoe het kabinet van plan is om opvolging te geven aan deze adviezen, of dat reeds heeft gedaan. In de bijlage worden de verschillende aanbevelingen in meer detail besproken.

De AIV stelt dat Nederland keuzes moet maken over internet governance. Aan die keuzes ligt een politieke afweging ten grondslag, waarbij meer regulering ter bescherming van democratische en rechtstatelijke waarden ten koste gaat van vrijheid op het internet. Het is van belang om hier de juiste balans te vinden. Het kabinet werkt momenteel aan een nieuwe internationale cyberstrategie waar internet governance een belangrijk thema is. In deze strategie zal het onderscheid gemaakt worden tussen regulering van het internet en regulering op het internet. Voor het kabinet is dit onderscheid van belang voor de mate waarin het regulering nastreeft. Als het gaat om regulering van het internet, doelt het kabinet op het internet als wereldwijde communicatie-infrastructuur. Inzet is dat deze structuur open, vrij en wereldwijd verbonden moet blijven en met de multi-stakeholder gemeenschap vormgegeven moet worden. Met regulering op het internet doelt het kabinet op de notie dat de rechten en plichten die offline gelden, ook online van toepassing zijn. Zo is bijvoorbeeld content die offline verboden is, dat online ook.

Verder zal deze strategie ook beschrijven hoe de Nederlandse vertegenwoordiging in internationale internetorganisaties versterkt kan worden, zoals ook door de AIV aanbevolen.

Vanwege het grensoverschrijdende en multi-stakeholder karakter van het internet zullen de keuzes over internet governance verder strekken dan het Nederlandse domein. Om te komen tot grote, structurele beleidswijzigingen bij tech bedrijven is samenwerking in EU-verband noodzakelijk.

Daarnaast kunnen de gevolgen hiervan ook in andere opzichten verstrekkend zijn. Het is van groot belang dat er in het Nederlandse en Europese beleid ten aanzien van content-moderatie heldere definities gebruikt worden. Het gebruik van deze definities door tech bedrijven mag geen onevenredig effect op de vrijheid van meningsuiting hebben. Ook moeten we bij het reguleren van online content waken voor het risico dat onze beleidskeuzes door andere landen aangegrepen worden voor het legitimeren van verregaande stappen, zoals censuur.

De aanbeveling van de AIV om dit aan de hand van mensenrechtelijke en democratische normen te doen, is daarom relevant. Nederland zal zich in de EU en in de VN hard blijven maken voor een open, vrij en veilig internet en fundamentele burgerrechten online.

Een deel van de aanbevelingen van de AIV² wordt reeds ten uitvoer gebracht via EU (wetgevings)voorstellen, zoals de Digital Services Act en de nieuwe Code of Practice on Disinformation. Mede daarom heeft het kabinet deze voorstellen gesteund en zich er gedurende de onderhandelingen voor ingezet om de elementen die uitvoering geven aan het AIV-advies te behouden of te versterken.

Deze voorstellen laten een accentverschuiving zien ten aanzien van het open, vrije en veilige internet: minder zelfregulering, maar een open en vrij internet binnen duidelijke rechtsstatelijke grenzen gebaseerd op democratische en rechtsstatelijke waarden. Dit draagt bij aan het borgen van Europese normen en waarden op het internet, waaronder een bescherming van fundamentele rechten, zoals de vrijheid van meningsuiting.

Deze voorstellen dragen ook bij aan internationale normstelling voor de aanpak van schadelijke online content. Mede door inzet van het kabinet moeten hierbij bestaande mensenrechtenstandaarden betrokken worden. Deze standaarden worden ook betrokken bij het opstellen en toepassen van de gebruiksvoorwaarden van internetplatformen.

Verder legt de Digital Services Act diverse transparantie-eisen op, en creëert het een systeem voor toezicht en handhaving. Al met al verplicht de Digital Services Act internetplatformen tot het dragen van meer zorg voor hetgeen er met hun diensten gebeurt, en de invloed die dat heeft op de maatschappij en publieke belangen.

Uw kamer is via meerdere BNC-fiches geïnformeerd over de Nederlandse inzet rondom deze voorstellen.³ Middels deze en toekomstige Europese initiatieven zullen grote online platformen verantwoordelijkheid krijgen voor de bestrijding van desinformatie en haatzaaien op hun platforms, zoals ten doel gesteld in het regeerakkoord. De verdere ambities en doelen van het kabinet op het gebied van digitalisering en regulering van online content zijn verder uitgewerkt in een hoofdlijnenbrief.⁴

Ook met deze Europese wetgeving zullen de vrijheid van meningsuiting en de veiligheid van burgers online soms botsen. Zo zullen er gevallen zijn van ongewenste maar niet illegale content. Voor die gevallen zal kabinet een afweging moeten maken en een balans moeten vinden. Hierbij verwijzen wij tevens naar de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties over het reguleren online content van 21 september.⁵

De AIV stelt voor om geld beschikbaar te stellen voor onderzoek naar value sensitive design en digital commons en te investeren in alternatieven voor internetdiensten. In het coalitieakkoord heeft het kabinet laten weten het voortouw te willen nemen om in Europees verband in zetten op versterking van de samenwerking tussen lidstaten op het gebied van digitalisering, waaronder «open source». In het kader daarvan zal Nederland deelnemen de EU-werkgroep «European Initiative for Digital Commons», waarin initiatieven worden geformuleerd hoe digital commons te ondersteunen zodat ze hun onafhankelijkheid ten opzichte van grote online platforms behouden. De werkgroep zal haar resultaten presenteren in juni 2022.

Het kabinet zet in op een open, vrij en veilig internet waar rechtsstatelijke, democratische en grondrechtelijke waarborgen geboden worden. De uitgangspunten voor een herijkt internetbeleid zoals die door de AIV zijn geformuleerd bieden hiervoor een duidelijke richting. Het kabinet zal blijven werken om opvolging te geven aan deze aanbevelingen.

De Minister van Buitenlandse Zaken, W.B. Hoekstra

De Minister van Economische Zaken en Klimaat, M.A.M. Adriaansens

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, A.C. van Huffelen

Bijlage bij de Kabinetsreactie AIV Advies Regulering van Online Content.

In deze bijlage worden de individuele adviezen van de AIV naast de beleidspraktijk gelegd.

1. Herijk het Nederlandse internetbeleid

De AIV stelt dat het huidige Nederlandse internetbeleid traditioneel leunt op zelfregulering door de internetsector. Dit draagt het risico met zich mee dat internetplatforms, hosting- en tech bedrijven een te grote zeggenschap krijgen over zowel regelgeving als handhaving en toezicht. Om dit tegen te gaan, adviseert de AIV een herijking van het Nederlandse internetbeleid, waarbij een verschuiving plaatsvindt van zelfregulering naar vormen van co-regulering en een actieve rol voor de overheid.

De inzet van het Nederlandse internetbeleid is de afgelopen jaren altijd een open, vrij en veilig internet geweest. Naar aanleiding van het AIV advies ziet het kabinet dat binnen deze inzet twee onderdelen beter gearticuleerd moeten worden, overigens zonder dat daarmee wordt afgeweken van het bestaande beleid. Het betreft het onderscheid tussen regulering van het internet en regulering op het internet. Als het gaat om regulering van het internet, doelt het kabinet op het internet als wereldwijde communicatie-infrastructuur. Inzet is dat deze open, vrij en wereldwijd verbonden moet blijven. Met regulering op het internet doelt het kabinet op de notie dat de rechten en plichten die offline gelden, ook online van toepassing zijn. Zo is bijvoorbeeld content die offline verboden is, online ook.

Het internet als wereldwijde communicatie-infrastructuur, regulering van het internet.

Het kabinet wil het internet als wereldwijde open communicatie-infrastructuur behouden. Het gaat dan over de standaarden, protocollen en procedures voor de kernfunctionaliteit van het internet: wat nodig is om veilig communicatie plaats te laten hebben vanaf ieder willekeurige internetaansluiting naar ieder gewenste internetaansluiting. Zo zet het kabinet in op behoud van de gedecentraliseerde structuur van het internet en de besturing daarvan via multi-stakeholder processen en multilaterale instellingen. Het kabinet onderstreept het belang van het open, vrij en veilig blijven van deze technische kern, die geen geopolitieke speelbal of strijdtoneel mag worden. Bij het vormgeven van deze technische kern moeten multi-stakeholder organisaties zoals bijvoorbeeld ICANN⁶, IETF⁷ en IEEE⁸ aan zet blijven. Deze wereldwijde technische infrastructuur is een noodzakelijke voorwaarde voor het goed functioneren van de verbindingen tussen en met alle toepassingen en content op het internet.

Nederland heeft zich de afgelopen jaren op verschillende wijzen ingezet voor een vrij, veilig en open internet. Zo maakte Nederland zich sterk in de VN om de kern van het internet te beschermen, en sinds afgelopen jaar is door de VN aangenomen dat deze kritieke infrastructuur niet aangevallen mag worden met hack-aanvallen.⁹ Ook heeft de mensenrechtenraad bevestigd dat toegang tot het internet als een mensenrecht moet worden gezien, mensenrechten offline ook online gelden en de toegang tot het internet niet door staten bemoeilijkt zou mogen worden.¹⁰

Online rechten en regels: regulering op het internet

De afgelopen jaren zijn de zorgen over de impact van online content flink gegroeid. Dit komt onder meer door de inzet van dergelijke content bij het beïnvloeden van democratische verkiezingen, de verspreiding van terroristische online content, hate speech en desinformatie. Nieuwe Europese voorstellen (Digital Services Act en de nieuwe gedragscode ter bestrijding van desinformatie) markeren een accentverschuiving van zelfregulering naar een samenspel van regels die Europese normen en waarden centraal stellen en meer verantwoordelijkheid eisen van online platformen.

Het blijft voor het kabinet van belang dat deze wetsvoorstellen geen afbreuk doen aan fundamentele rechten zoals de vrijheid van meningsuiting, maar die juist waarborgen. Overheidsingrijpen moet bijdragen aan een open, vrij, veilig én democratischer internet.

In een kamerbrief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties is onlangs uiteengezet wat de randvoorwaarden zijn voor platformen om zelf te bepalen welke content zij op hun diensten toestaan en hoe zij dat modereren. Ook is het toepasselijk juridisch kader beschreven en uitgelegd welke rol de overheid speelt. Verder besteedt de brief aandacht aan de noodzakelijke verschillen in aanpak van illegale content enerzijds en die van overige vormen van ongewenste content¹¹ anderzijds.

Zoals ook in die brief is beschreven stelt de Digital Services Act (DSA) nieuwe kaders voor de wijze waarop online platformen om moeten gaan met hun verantwoordelijkheid voor de uitoefening van grondrechten op hun diensten. Zo bepaalt het voorgestelde artikel 12 van de DSA dat online platformen bij het toepassen van hun gebruiksvoorwaarden gepaste aandacht moeten hebben voor de rechten en gewettigde belangen van alle betrokken partijen, waaronder de van toepassing zijnde, in het Handvest verankerde, grondrechten van de afnemers van de dienst.

Verder verplicht de DSA zeer grote online platforms om te onderzoeken of hun dienstverlening bepaalde systemische risico’s in zich heeft, en zo ja, daar maatregelen tegen te nemen. Als automatische content-moderatie door deze ondernemingen bijvoorbeeld een negatief effect heeft op de uitoefening van de grondrechten, de vrijheid van meningsuiting en van informatie en non-discriminatie, dan moeten deze ondernemingen maatregelen nemen om dit te adresseren. Het kabinet steunt deze benadering.

Tenslotte wordt er in de Digital Services Act een verdere basis gelegd voor meer co-regulering van deze platformen. Het kabinet ziet daarin mogelijkheden om samen met internetbedrijven normen en standaarden te blijven ontwikkelen om het open en vrije internet te blijven waarborgen.

2. Verdedig en bevorder het open en vrije karakter van het internet op basis van democratische en rechtsstatelijke waarden

De AIV stelt dat het open en vrije karakter van het internet onder druk staat door pogingen van landen om het nationale internet af te schermen of los te koppelen van de rest van de wereld. Nederland zou in moeten zetten op het verdedigen en bevorderen van het open en vrije karakter van het internet, maar dat moet wel plaatsvinden binnen de grenzen van democratische en rechtsstatelijke waarden (waaronder in het bijzonder de bescherming van mensenrechten).¹²

Hierboven, in reactie op de eerste aanbeveling, is het kabinet ingegaan op hoe het de democratische en rechtsstatelijke waarden binnen Europa wil blijven beschermen. In die Europese context (met name de Digital Services Act) gaat het voornamelijk om regulering op het internet. Echter, de organisatie van het internet zou idealiter ook moeten voldoen aan democratische, rechtsstatelijke en mensenrechtelijke waarden.

Dat het van belang is dat de organisatie van het internet – dus op het niveau van protocollen en beheer van de fysieke infrastructuur – hieraan voldoet, komt duidelijk naar voren wanneer men ziet dat het internet ook gebruikt wordt door antidemocratische en anti-rechtsstatelijke actoren om hun doelen na te streven. Zie bijvoorbeeld de toename van het aantal internet shutdowns¹³ en het aantal overheden dat Internet Service Providers verplicht om de bandbreedte zodanig in te perken dat het internet niet praktisch meer functioneert, of het monitoren van het surfgedrag van het internet gebruikers.

Daarbij is het onwenselijk wanneer onbetrouwbare, autoritaire staten technologie in handen krijgen die van groot belang is voor de veiligheid van Nederland en de EU, zoals cybersurveillancegoederen en -technologieën. Bovendien is het van belang om geen technologie te verhandelen met autoritaire staten, die gebruikt kan worden om het vrije internet verder te ondermijnen. Nederland spant zich internationaal in om aanvullend cybersurveillancegoederen in relatie tot mensenrechtenschendingen onder exportcontrole te brengen.

3. Versterk de Nederlandse vertegenwoordiging in internationale internetorganisaties.

De AIV beschrijft dat Nederland sterker kan worden vertegenwoordigd bij organisaties als de Internet Corporation for Assigned Names and Numbers (ICANN), de Internet Engineering Task Force (IETF), het Internet Governance Forum (IGF) en de International Telecommunications Union (ITU). Omdat internet governance van grote invloed is op de online content die beschikbaar is, is het van groot belang dat Nederland invloed uit blijft oefenen op internet governance, om zo een vrij, open en veilig internet te beschermen.

Dankzij de verdere digitalisering van de wereld, neemt ook het (geopolitieke) belang van deze internationale internetorganisaties toe. Onderhandelingen over de technische inrichting van het internet zijn meer en meer onderdeel van het geopolitieke spel geworden. Deze ontwikkeling maakt regulering van het internet kwetsbaarder voor een (te) grote rol van overheden.

Nederland moet hierin niet naïef zijn, en zal in besprekingen in de ITU naast de beleidsmatige en technische kant ook het geopolitieke perspectief moeten meewegen. Hierbij moet goed in beeld blijven wat de internationaal (mensen)rechtelijke risico’s zijn ten aanzien van nieuwe protocollen of standaarden.

Nederland zal samen met gelijkgezinde landen tegenwicht blijven bieden in organisaties als ITU om te voorkomen dat stappen in de richting van centralisatie van het internet gezet worden. Overheden moeten de kernfunctionaliteit van het internet beschermen, juist door afspraken te maken dat zij zich niet vanuit de invalshoek «statelijke controle» mengen in het technisch beheer en de besturing van het internet. Het gedeelde publieke belang wordt het best geborgd in het multi-stakeholder model dat ipso facto recht doet aan de belangen van alle betrokkene partijen, publiek en privaat.

Zoals in de brief beschreven, zal het kabinet zich bij het uitwerken van de nieuwe internationale cyberstrategie ook buigen over een mogelijke versterking van Nederlandse vertegenwoordiging in deze internationale internetorganisaties. Hierbij zal ook gekeken worden naar het stimuleren van deelname door Nederlandse non profit organisaties of het Nederlandse bedrijfsleven.

4. Stimuleer internationale normstelling voor de aanpak van schadelijke online content met een stevige verankering in bestaande mensenrechtenstandaarden.

De AIV adviseert dat er internationale normen moeten komen voor de aanpak van schadelijke content online, met een stevige verankering in bestaande mensenrechtenstandaarden. Ten eerste zou Nederland dit op Europees niveau moeten propageren, en daarnaast ook nog in de Raad van Europa of de VN mensenrechtenraad.

Het kabinet is voor duidelijke internationale normen in de aanpak van schadelijke content online en onderschrijft het belang dat deze verankerd zijn in mensenrechtenstandaarden. De Europese Unie heeft hierin een belangrijke functie en geeft daar bijvoorbeeld invulling aan met de voorgestelde Digital Services Act. De steun van het kabinet voor dat voorstel diende mede ter uitvoering van deze aanbeveling.

Internationale normstelling voor de aanpak van schadelijke online content is vooral een uitdaging wanneer het gaat om ongewenste, maar niet illegale content. Dit is een ingewikkelde afweging omdat de vrijheid van meningsuiting het uitgangspunt is en bijzonder zwaar weegt, maar ook omdat tech platformen in beginsel veel vrijheid hebben om zelf te bepalen wat de gebruiksvoorwaarden van hun diensten zijn.

Zoals de Minister van Binnenlandse Zaken en Koninkrijksrelaties in de bovengenoemde kamerbrief schreef: «Een komend kabinet moet de spanning tussen de vrijheid van meningsuiting en de bewegingsruimte en veiligheid van burgers online, en de rol van de overheid daarbij verder onderzoeken. Wat in ieder geval van belang is, is dat gebruiksvoorwaarden, en vooral ook de toepassing ervan, de grondrechten van gebruikers niet ontoelaatbaar beperkt. Daarom is het positief dat in artikel 12 van de DSA wordt geregeld dat online platformen bij het toepassen van hun gebruiksvoorwaarden gepaste aandacht moeten hebben voor de rechten en gewettigde belangen van alle betrokken partijen, waaronder de van toepassing zijnde, in het Handvest verankerde, grondrechten van de afnemers van de dienst.»¹⁴

Vanwege de reikwijdte van het internet en de verschillende online platforms is het van belang dat de platforms en tech bedrijven betrokken zijn bij het vormgeven van internationale normen rondom content-moderatie en internet governance. Alleen met hun ondersteuning kan ervoor gezorgd worden dat aanpak van schadelijke content ook technisch mogelijk, uitvoerbaar, en handhaafbaar is. Daarbij doen verschillende maatschappelijke organisaties en onderzoekers onderzoek naar de (onbedoelde) effecten van dergelijk beleid. Deze Nederlandse multi-stakeholder aanpak moet er voor zorgen dat er duidelijke normen gesteld worden die zowel technisch haalbaar, uitvoerbaar en handhaafbaar zijn, en aan bestaande mensenrechtenstandaarden voldoen. Nederland acht de inbreng van onafhankelijke onderzoekers onmisbaar bij de vormgeving van dit soort normen en zet zich ervoor in dat hen ook toegang tot platformdata gegeven wordt.

5. Initieer maatregelen gericht op transparantie en toezicht

Cruciaal in deze beoogde normstelling is de bepaling welke online content wanneer gerechtvaardigd door wie verwijderd mag worden. De AIV merkt in zijn advies terecht op dat het moeilijk is om hier een duidelijke lijn te trekken. Wanneer content illegaal is, is dit relatief eenvoudig: zo is discriminatie, het verspreiden van online terroristische content of kindermisbruik altijd illegaal. Hier gaan de online en offline wereld gelijk op. Daar waar platformen ongewenste, maar niet illegale- content op basis van hun gebruiksvoorwaarden verwijderen of op andere wijze modereren, moet dit transparant gebeuren en er bezwaar gemaakt kunnen worden.

De AIV stelt dat platformen verplicht moeten worden om transparantierapporten op te stellen. Dit is onderdeel van de DSA. Deze transparantierapporten moeten duidelijkheid verschaffen in de aanpak van onrechtmatige en schadelijke content. Ook moeten zij inzicht geven in de gebruikte advertentiesystemen. Verder moeten online platformen onder de DSA hun beslissingen om bijvoorbeeld informatie te verwijderen duidelijk motiveren. Dat leidt tot meer transparantie. Gebruikers moeten verder de mogelijkheid hebben om tegen die beslissingen in beroep te gaan. Onder de DSA moet het modereren van informatie gebeuren op grond van voorwaarden die publiekelijk kenbaar en begrijpelijk zijn. Er moet verantwoording over worden afgelegd en het moet voor mensen makkelijk zijn tegen deze beslissingen in beroep te gaan. Op de naleving van deze verplichting zal onafhankelijk toezicht moeten worden gehouden. Ter uitvoering van deze aanbeveling steunt het kabinet de DSA op deze onderdelen.

6. Stimuleer value sensitive design en digital commons

De AIV stelt voor om middelen beschikbaar te stellen voor onderzoek naar value sensitive design en deze te investeren in alternatieven voor internetdiensten. Nederland zet zich in voor naleving van de United Nations Guiding Principles on Business and Human Rights door tech bedrijven. Ook bestaan er tal van Nederlandse en Europese initiatieven en duurzame alternatieven voor bestaande private internetdiensten, die value sensitive design, privacy by design en digital commons al implementeren.

Op Europees niveau zou wet- en regelgeving die interoperabiliteit tussen platformen afdwingt ook een verschil kunnen maken. Veel gebruikers willen wel overstappen naar duurzame alternatieven voor bestaande internetdiensten, maar ervaren het probleem dat al hun contacten mee zouden moeten overstappen. Op deze wijze zijn de gebruikers ingesloten bij een bepaalde aanbieder. Door interoperabiliteit te stimuleren of verplicht te maken, krijgen duurzame alternatieven voor bestaande internet diensten een kans.

7. Betrek onafhankelijke nationale expertorganen bij de beoordeling van schadelijke online content

De AIV stelt terecht dat de beoordeling of content illegaal of schadelijk is, afhankelijk is van de context waarin die uitlatingen zijn gedaan. De AIV raadt aan dat onafhankelijke expertorganen een rol kunnen spelen bij het bepalen van de criteria voor de beoordeling en verwijdering schadelijke content die tevens illegaal is.

Het tegengaan van illegale/onrechtmatige content ligt enerzijds bij internetdiensten zelf en anderzijds bij bevoegde toezichthouders. Zij zullen adequaat en transparant op moeten treden, met heldere (beroeps)procedures voor de gebruikers wier content verwijderd is.

Het kabinet is inmiddels in een vergaand stadium om een autoriteit op te richten die erop zal toezien dat evident strafbare content wordt verwijderd: de Autoriteit Online Terroristisch en Kinderpornografische Materiaal (ATKM). Deze autoriteit zal inzetten op twee taken: de bestrijding van online kinderpornografisch materiaal én de bestrijding van verspreiding van online terroristisch materiaal.¹⁵ Gelet op de waarborgen die mensenrechtenverdragen en de Grondwet bieden met betrekking tot (beperking van) de vrijheid van meningsuiting is gekozen voor een zelfstandig bestuursorgaan, waarmee het op grote afstand van de regering staat.

Bij andere schadelijke, maar niet illegale content, ligt het initiatief bij de online platformen. Zij kunnen hun gebruiksvoorwaarden zo formuleren en toepassen dat zij content die zij onwenselijk vinden kunnen tegengaan. Bij het toepassen hiervan zullen deze partijen aandacht moeten hebben voor de (fundamentele) rechten en gewettigde belangen van alle betrokken belanghebbenden, waaronder de gebruikers van de dienst. Hier valt de vrijheid van meningsuiting ook onder.

8. Pleit voor een zorgplicht voor internetplatformen, onder duidelijke randvoorwaarden

De AIV stelt voor dat Nederland zich inspant om duidelijke regels te ontwikkelen in het vormgeven van de zorgplicht van internet platformen. Bij het opstellen van de deze regels voor zorgplicht en aansprakelijkheid dient volgens de AIV rekening gehouden te worden met de aard, omvang en markmacht van de internetplatformen. Ook moet er nadrukkelijk rekening worden gehouden met neveneffecten zoals (zelf)censuur. Het kabinet heeft dit ook overwogen in reactie op een rapport van de Radboud Universiteit over de bestrijding van illegale inhoud online.¹⁶ Naar aanleiding hiervan zijn er voorstellen gedaan tijdens de onderhandelingen over de DSA en is het draagvlak bij andere lidstaten onderzocht. Uw kamer is hierover geïnformeerd via de geannoteerde agenda’s voor de Raad voor Concurrentievermogen van 27–28 mei en 25–26 november en de Commissiedebatten daarover.¹⁷

9. Maak de gebruikersvoorwaarden van internetplatformen mensenrechten-inclusief

De AIV stelt dat internetplatformen via hun gebruiksvoorwaarden in belangrijke mate bepalen in hoeverre en in welke situaties online content verwijderd kan worden. Hierbij hebben zij een ruimte discretionaire bevoegdheid. Nederland zet zich in voor naleving van de United Nations Guiding Principles on Business and Human Rights door tech bedrijven. Zo is bij de onderhandelingen over de DSA in de Raad voorgesteld om duidelijk te maken dat bedrijven bij het uitvoering geven aan het eerder genoemde artikel 12 hier gebruik van kunnen maken. In de tekst die de Raad voor Concurrentievermogen op 25 november 2021 heeft vastgesteld is dit geborgd.

10. Vergroot de digitale weerbaarheid van internetgebruikers

De AIV wijst op het belang van het vergroten van de digitale weerbaarheid van internetgebruikers. Voor hen is het immers niet altijd eenvoudig om schadelijke content te herkennen of de gevolgen van bepaalde content te overzien. Het kabinet zet in op onderwijs en voorlichting om burgers digitaal weerbaarder te maken. Zo werkt het Ministerie van Binnenlandse Zaken samen met het Netwerk Mediawijsheid om burgers te informeren over de werking van mis- en desinformatie en hoe je kan herkennen of een bericht betrouwbaar is, onder meer via de website www.isdatechtzo.nl. Ook werkt de Curriculumcommissie op verzoek van het Ministerie van Onderwijs Cultuur en Wetenschap aan een herziening van het curriculum voor het onderwijs; hierin krijgen digitale geletterdheid en mediawijsheid een prominente rol.

---

1 Overheid.nl | Consultatie Kabinetsreactie Regulering van online content (internetconsultatie.nl).

2 In het bijzonder de aanbevelingen 1, 2, 4, 5, 8, en 10.

3 Kamerstuk 22 112, nr. 3049.

Kamerstuk 22 112, nr. 3050.

Kamerstuk 22 112, nr. 3159.

4 Kamerbrief hoofdlijnen beleid voor digitalisering | Kamerstuk | Rijksoverheid.nl.

5 Kamerstukken 26 643 en 33 826, nr. 782.

6 Internet Corporation for Assigned Names and Numbers.

7 Internet Engineering Task Force.

8 Institute of Electrical and Electronics Engineers.

9 A/RES/76/19, Developments in the field of information and telecommunications in the context of international security.

10 A/HRC/RES/20/8, The promotion, protection and enjoyment of human rights on the Internet.

11 Kamerstukken 26 643 en 33 628, nr. 782.

12 AIV, Regulering van online content, p 11.

13 Zie bijvoorbeeld de website Internet Shutdowns van Internet Society (https://pulse.internetsociety.org/shutdowns).

14 Kamerstukken 26 643 en 33 628, nr. 782.

15 Kamerstukken 31 015 en 29 754, nr. 208.

16 Bijlage bij Kamerstuk 22 112 nr. 3141.

17 Kamerstuk 21 501-30, nr. 533 en Kamerstuk 21 501-20, nr. 542.