35 295 EU en de rechtsstaat

AN VERSLAG VAN EEN SCHRIFTELIJK OVERLEG

Vastgesteld 19 juli 2023

De leden van de vaste commissie voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning¹ hebben kennisgenomen van de brief van de Minister van Binnenlandse Zaken en Koninkrijksrelaties van 31 maart 2023 met de antwoorden op de vragen over de hernieuwde Rijksbrede strategie voor het beschermen van het vrije en open publieke debat tegen desinformatie.² De leden van de fractie van de PvdD hebben naar aanleiding daarvan een aantal nadere vragen, verdeeld in subvragen.

Naar aanleiding hiervan is op 3 mei 2023 een brief gestuurd aan de Minister van Binnenlandse Zaken en Koninkrijksrelaties.

De Minister heeft op 31 mei 2023 en 23 juni 2023 uitstelberichten gestuurd en op 13 juli 2023 inhoudelijk gereageerd.

De commissie brengt bijgaand verslag uit van het gevoerde schriftelijk overleg.

De griffier van de vaste commissie voor Binnenlandse Zaken, Bergman

BRIEF VAN DE VOORZITTER VAN DE VASTE COMMISSIE VOOR BINNENLANDSE ZAKEN EN DE HOGE COLLEGES VAN STAAT / ALGEMENE ZAKEN EN HUIS DER KONING

Aan de Minister van Binnenlandse Zaken en Koninkrijksrelaties

Den Haag, 3 mei 2023

De leden van de vaste commissie voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning hebben kennisgenomen van uw brief van 31 maart 2023 met de antwoorden op de vragen over de hernieuwde Rijksbrede strategie voor het beschermen van het vrije en open publieke debat tegen desinformatie.³ De leden van de fractie van de PvdD hebben naar aanleiding daarvan enkele nadere vragen, verdeeld in subvragen.

De leden van de fractie van de PvdD danken de Minister voor de antwoorden, die zij met belangstelling hebben gelezen. Zij hebben nog vervolgvragen, met name ook omdat de antwoorden deze leden de indruk geven dat het beleid tot het tegengaan van mis- en desinformatie nog onvoldoende in de steigers staat om bij ontwrichtende mis- en desinformatie een tegenoffensief te ontplooien. Ook vragen zij zich af of de Minister zich wel bewust is van de ernst van de situatie.

Vraag 1

In het jaarverslag 2022 van de AIVD wordt op pagina 8 het volgende opgemerkt: «Rechts-extremisten, links-extremisten en anti-institutionele extremisten hebben dan wel verschillende lezingen over de rol van de overheid – ze zien die respectievelijk als marionet van een «joods complot», onderdeel van het «kapitalistisch, autoritair systeem», of «een elite die van Nederland een totalitaire staat wil maken». Maar op hun eigen manier en in hun eigen mate verspreiden ze elk de ondermijnende boodschap dat je de overheid en andere democratische instituties niet kunt vertrouwen. Sommige landen, zoals Rusland, buiten soms het wantrouwen tegen democratische instituties uit en dragen bij aan maatschappelijke onrust in het Westen.» De leden hadden u in de brief van 17 februari 2023 de volgende vragen voorgelegd:

• a. Wordt van overheidswege gemonitord of via sociale media een complottheorie verspreid wordt?

• b. Wie beoordeelt of een complottheorie een bedreiging vormt voor de democratische rechtsstaat en/of een maatschappelijk ontwrichtende werking heeft?

• c. Als wordt geoordeeld dat dat het geval is, welke overheidsinstanties hebben dan bevoegdheden en taken om de als desinformatie aangemerkte complottheorie tegen te spreken en op welke wijze zal dat volgens de bewindslieden dienen te geschieden?

Op deze drie afzonderlijke vragen bent u summier ingegaan zonder een duidelijk antwoord te geven. Zoals u uit het jaarverslag van de AIVD kan opmaken, is de AIVD zeer ongerust. Daarom hechten de leden aan een uitvoerige reactie.

Vraag 1a

Kunt u nogmaals op elk van deze drie vragen afzonderlijk ingaan en daarbij ook ingaan op het rapport van het Rathenau Instituut en de daarin vervatte advies om monitoring te realiseren.⁴

Vraag 1b

U wijst op «kleine communicatie-acties». Past dat bij het gevaar dat de AIVD heeft geschetst? Zijn er bij ontwrichting geen grotere acties nodig?

Vraag 1c

Waarom is een terughoudende opstelling gewenst als er complottheorieën worden verspreid die leiden tot een maatschappelijke ontwrichting?

Vraag 1d

Welke acties worden ondernomen als andere landen – zoals de AIVD schrijft – «het wantrouwen tegen democratische instituties uitbuiten en bijdragen aan maatschappelijke onrust in het Westen.»?

Vraag 1e

Waarom wordt er niet de oprichting van een – van de overheid onafhankelijke – autoriteit of instelling overwogen die wettelijk tot taak krijgt om mis- en desinformatie te monitoren en daartegen actie te ondernemen indien het parlement heeft geoordeeld dat deze aantoonbaar een bedreiging vormen voor de maatschappelijke en economische stabiliteit of de nationale veiligheid?

Vraag 2

Op de vragen over de inhoud en het taalgebruik op de site www.isdatechtzo.nl antwoordt u dat Netwerk Mediawijsheid verantwoordelijk is voor alle inhoud. De vragen waren erop gericht om van u te vernemen of u zelf van oordeel bent dat deze site – die zoals u zelf schrijft «is ontwikkeld in opdracht van» BZK – effectief zal zijn.

Vraag 2a

Deelt u de vrees van de leden van de fractie dat voor grote groepen in de samenleving deze site wat betreft inhoud van de informatie en taalgebruik niet voldoende toegankelijk is?

Vraag 2b

Is er ooit en publiekscampagne gevoerd om de site onder de aandacht van het publiek te brengen? Zo nee, waarom niet? En bent u bereid die publiekscampagne alsnog te realiseren?

Vraag 2c

Kent u de wijze waarop in Finland leerlingen in het onderwijs worden getraind in het herkennen van fake news en desinformatie? Finland wordt al vijf jaar op rij genoemd als het meest weerbare land op het vlak van misinformatie en fake news.⁵ Kunt u aangeven hoe dat systeem in Finland werkt en of het van belang is dit in Nederland ook in te voeren? Deelt u de opvattingen zoals verwoord in het in vraag 1a genoemde rapport van het Rathenau Instituut over het belang van technologisch burgerschap?

Vraag 2d

Hoe gaan andere landen in Europa om met het bestrijden van mis- en desinformatie? Kunt u daarvan een overzicht geven? Kunt u daarbij ingaan op de functie van Miviludes in Frankrijk en op de vraag of het wenselijk is een vergelijkbaar instituut in Nederland op te richten?

Vraag 3

De laatste tijd staat het programma ChatGPT in de aandacht. Bij het voldoen aan een vraag/opdracht zoekt ChatGPT het hele internet af, zo hebben de leden van de fractie begrepen.

Vraag 3a

Stel dat op internet allerlei misinformatie voorkomt, bijvoorbeeld over de Holocaust of over racisme. Is het dan mogelijk dat bijvoorbeeld een student of scholier die over dat onderwerp een scriptie moet schrijven, met toepassing van ChatGPT allerlei onjuiste gegevens (bijvoorbeeld dat de Holocaust een verzinsel is) in de aangeleverde tekst krijgt? Zo ja, deelt u de mening van de leden van de fractie dat het bestaan van misinformatie op internet en sociale media in dat licht nog een ander (mogelijk ernstiger) gevaar in zich draagt dan bij directe kennisneming van die misinformatie?

Vraag 3b

Ziet u het niet als taak om te voorkomen dat via programma’s als ChatGPT onjuiste feiten in teksten worden aangeleverd, zonder dat de betrokkene die de tekst gevraagd heeft een fact-check op de specifieke informatie die «verwerkt» is heeft kunnen uitvoeren?

Vraag 4

De laatste vraag waar u antwoord op gaf, had betrekking op het gebruik van het programma «Aims» door het Israelische «Team Joirge». U geeft toe dat zulke programma’s ook kunnen worden toegepast in Nederland. Wat doet de Nederlandse overheid als dat het geval is en als blijkt dat de grote onlineplatformen de verplichtingen waarnaar u verwijst, niet (kunnen) nakomen? Welke middelen staan ter beschikking? Welke overheidsorganen gaan tot actie over?

Vraag 5

In een essay van Caroline de Gruyter in de NRC van 14 april 2023 wordt ingegaan op de ondergang van Credit Suisse.⁶ Een citaat: «Het lot van Credit Suisse werd bezegeld door een tweet die viraal ging. Silicon Valley Bank (SVB) bezweek binnen twee dagen – een recordtijd. Fondsmanagers adviseerden hun klanten in paniek om hun geld van de bank te halen.».

Stel de volgende situatie doet zich voor. Op sociale media gaat een bericht rond dat de ABN Amro op omvallen staat omdat grote klanten hun geld hebben weggehaald aangezien ze op de hoogte zijn van een groot schandaal dat binnenkort in het nieuws komt. Mensen raden elkaar aan hun rekening van die bank leeg te maken. Op de beurs kelderen bij opening de aandelen van ABN Amro. Een half uur later gaat een (deep)fakebericht van Klaas Knot viraal waarin hij zegt dat klanten zich geen zorgen moeten maken. Fakefilmpjes van lange rijen voor bankfilialen van ABN Amro gaan vervolgens rond op de sociale media. Grote groepen rekeninghouders nemen geld op of schrijven hun rekeningtegoed over naar andere banken. Aandelen worden verkocht. De ontwikkeling gaat razendsnel.

We laten even in het midden wie dit in gang gezet heeft (een vijandige mogendheid, criminelen, iemand die de ABN Amro een poets wil bakken of een onnadenkende grapjas), maar het gebeurt. En dat allemaal in een paar uur.

Vraag 5a

Is er een overheidsorgaan dat zo’n ontwikkeling monitort?

Vraag 5b

Deelt u het oordeel van de leden van de fractie dat de kans dat zo’n ontwikkeling leidt tot een economische en financiële ontwrichting, reëel is en dat dit tot grote financiële ingrepen zal moeten leiden die voor rekening van de Nederlandse belastingbetaler zullen komen?

Vraag 5c

Is de overheid op zo’n ontwikkeling voorbereid? Hoe, en waar blijkt dat uit? Welke organen zijn bevoegd tegenactie te ondernemen en op welke wijze?

Vraag 5d

Denkt u dat zenuwachtige bankrekeninghouders eerst de site www.isdatechtzo.nl gaan raadplegen in dat geval?

Vraag 5e

Deelt u het oordeel van de leden van de fractie dat als in Nederland op dit moment tegen zo’n ontwikkeling geen effectieve tegenmaatregel kan worden genomen, ons land bijzonder kwetsbaar is omdat iedere kwaadwillende mogendheid of criminele organisatie met weinig middelen zo’n ontwrichtende actie kan ontketenen?

De commissie voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis van de Koning ziet met belangstelling uit naar uw reactie en ontvangt deze graag binnen vier weken na dagtekening van deze brief.

De voorzitter van de vaste commissie voor Binnenlandse Zaken en de Hoge Colleges van Staat / Algemene Zaken en Huis der Koning, B.O. Dittrich

BRIEF VAN DE MINISTER VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Eerste Kamer der Staten-Generaal

Den Haag, 31 mei 2023

Hierbij informeer ik u dat de Kamervragen van de leden van de Eerste Kamerfractie van de PvdD over de hernieuwde Rijksbrede strategie effectieve aanpak van desinformatie, ingezonden op 3 mei 2023 met kenmerk 172562.05U, niet binnen de gebruikelijke termijn van vier weken kunnen worden beantwoord. De reden van het uitstel is dat er vanwege de benodigde interdepartementale afstemming meer tijd nodig is voor de beantwoording van de vragen.

De Minister van Binnenlandse Zaken en Koninkrijksrelaties, H.G.J. Bruins Slot

BRIEF VAN DE MINISTER VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Eerste Kamer der Staten-Generaal

Den Haag, 23 juni 2023

Hierbij informeer ik u dat de Kamervragen van de leden van de Eerste Kamerfractie van de PvdD cgezonden op 3 mei 2023 met kenmerk 172562.05U, niet binnen de termijn van zeven weken (inclusief drie weken uitstel) kunnen worden beantwoord. De reden van het uitstel is dat er vanwege de benodigde interdepartementale afstemming meer tijd nodig is voor de beantwoording van de vragen. De beantwoording van de vragen zal uiterlijk 10 juli 2023 (voor aanvang van het reces) met uw Kamer worden gedeeld.

De Minister van Binnenlandse Zaken en Koninkrijksrelaties, H.G.J. Bruins Slot

BRIEF VAN DE MINISTER VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Eerste Kamer der Staten-Generaal

Den Haag, 13 juli 2023

Hierbij bied ik u, mede namens de Minister van Financiën, de antwoorden aan op de schriftelijke vragen die zijn gesteld door de fractieleden van de PvdD over de over de hernieuwde Rijksbrede strategie effectieve aanpak van desinformatie. Deze vragen werden ingezonden op 3 mei 2023, met kenmerk 172562.05U.

De Minister van Binnenlandse Zaken en Koninkrijksrelaties, H.G.J. Bruins Slot

Beantwoording

Nadere vragen over de hernieuwde Rijksbrede strategie voor het beschermen van het vrije en open publieke debat tegen desinformatie ingediend door de leden van de fractie van de PvdD.

Vraag 1

In het jaarverslag 2022 van de AIVD wordt op pagina 8 het volgende opgemerkt: «Rechts-extremisten, links-extremisten en anti-institutionele extremisten hebben dan wel verschillende lezingen over de rol van de overheid – ze zien die respectievelijk als marionet van een «joods complot», onderdeel van het «kapitalistisch, autoritair systeem», of «een elite die van Nederland een totalitaire staat wil maken». Maar op hun eigen manier en in hun eigen mate verspreiden ze elk de ondermijnende boodschap dat je de overheid en andere democratische instituties niet kunt vertrouwen. Sommige landen, zoals Rusland, buiten soms het wantrouwen tegen democratische instituties uit en dragen bij aan maatschappelijke onrust in het Westen.» De leden hadden u in de brief van 17 februari 2023 de volgende vragen voorgelegd:

a. Wordt van overheidswege gemonitord of via sociale media een complottheorie verspreid wordt?

Antwoord

Het uitgangspunt is dat complottheorieën van overheidswege niet worden gemonitord. Voor de ontwikkelingen rondom online monitoring door overheden verwijs ik u naar Kamerbrief Monitoring sociale media en naleving AVG door overheden⁷.

b. Wie beoordeelt of een complottheorie een bedreiging vormt voor de democratische rechtsstaat en/of een maatschappelijk ontwrichtende werking heeft?

Antwoord

Het onderzoeken van personen en groeperingen waarvan een ernstig vermoeden bestaat dat zij een gevaar vormen voor het voortbestaan van de democratische rechtsorde, dan wel voor de veiligheid of voor andere gewichtige belangen van de staat, is voorbehouden aan de Inlichtingen- en Veiligheidsdiensten (artikel 8 Wet op de Inlichtingen- en Veiligheidsdiensten). Indien een complottheorie een ondermijnend effect heeft op de democratische rechtsorde, dan kunnen de diensten onderzoek doen.

c. Als wordt geoordeeld dat dat het geval is, welke overheidsinstanties hebben dan bevoegdheden en taken om de als desinformatie aangemerkte complottheorie tegen te spreken en op welke wijze zal dat volgens de bewindslieden dienen te geschieden?

Antwoord

Zoals aangegeven in de Rijksbrede strategie effectieve aanpak van desinformatie⁸, kan de overheid bij een dreiging voor de politieke, economische stabiliteit, volksgezondheid of nationale veiligheid besluiten desinformatie tegen te spreken. Het komt voor dat de overheid berichten tegenspreekt wanneer die onjuiste of misleidende informatie bevatten, zonder dat de overheid daarbij een uitspraak doet over de intentie van de verspreider/producent. Afhankelijk van het onderwerp waarover onjuiste informatie wordt verspreid, heeft het verantwoordelijke departement de mogelijkheid om dit tegen te spreken via bijvoorbeeld de eigen sociale mediakanalen.

Op deze drie afzonderlijke vragen bent u summier ingegaan zonder een duidelijk antwoord te geven. Zoals u uit het jaarverslag van de AIVD kan opmaken, is de AIVD zeer ongerust. Daarom hechten de leden aan een uitvoerige reactie.

Vraag 1a

Kunt u nogmaals op elk van deze drie vragen afzonderlijk ingaan en daarbij ook ingaan op het rapport van het Rathenau Instituut en de daarin vervatte advies om monitoring te realiseren.⁹

Antwoord

Zie hierboven voor de afzonderlijke antwoorden op de drie vragen. Voor de laatste stand van zaken omtrent monitoring verwijs ik u naar de Kamerbrief Monitoring sociale media en naleving AVG door overheden¹⁰.

Vraag 1b

U wijst op «kleine communicatie-acties». Past dat bij het gevaar dat de AIVD heeft geschetst? Zijn er bij ontwrichting geen grotere acties nodig?

Antwoord

De Rijksoverheid handelt vanuit de waarde dat vrijheid van meningsuiting en persvrijheid centraal moeten staan bij de aanpak van desinformatie.

Het uitgangspunt is dat het bestempelen van desinformatie als zodanig en factchecken primair geen taak is van overheden. Wanneer de nationale veiligheid, volksgezondheid, maatschappelijke en/of economische stabiliteit in het geding is, kan de overheid wel optreden en desinformatie tegenspreken.

Ik ben mij ervan bewust dat desinformatie een ontwrichtend effect kan hebben op onze samenleving als geheel en op het leven van individuele mensen daarin. Om dit ontwrichtende effect tegen te gaan zet het kabinet in op het versterken van het publieke debat en het verminderen van de invloed van desinformatie op de samenleving. Voor een nadere uitwerking van de kabinetsaanpak verwijs ik u naar de Rijksbrede strategie.

Vraag 1c

Waarom is een terughoudende opstelling gewenst als er complottheorieën worden verspreid die leiden tot een maatschappelijke ontwrichting?

Antwoord

De vrijheid van meningsuiting is een kernwaarde van democratie. Een terughoudende opstelling van de overheid is gewenst om voldoende ruimte te laten voor kritiek en het publieke debat. Het adresseren van desinformatie is primair een taak van journalistiek en wetenschap, al dan niet in samenwerking met internetdiensten. De vrijheid van meningsuiting staat daarbij te allen tijde voorop. Wel geldt dat de overheid kan optreden als de nationale veiligheid, volksgezondheid, maatschappelijke en/of economische stabiliteit in het geding is.

Vraag 1d

Welke acties worden ondernomen als andere landen – zoals de AIVD schrijft – «het wantrouwen tegen democratische instituties uitbuiten en bijdragen aan maatschappelijke onrust in het Westen.»?

Antwoord

Voor informatie over het tegengaan van ongewenste buitenlandse inmenging en het beschermen van democratische processen en instituties, verwijs ik u naar de Kamerbrief Aanpak statelijke dreigingen en aanbieding dreigingsbeeld statelijke actoren 2.¹¹

Vraag 1e

Waarom wordt er niet de oprichting van een – van de overheid onafhankelijke – autoriteit of instelling overwogen die wettelijk tot taak krijgt om mis- en desinformatie te monitoren en daartegen actie te ondernemen indien het parlement heeft geoordeeld dat deze aantoonbaar een bedreiging vormen voor de maatschappelijke en economische stabiliteit of de nationale veiligheid?

Antwoord

Het kabinet kiest voor een whole of society approach, met een belangrijke rol voor de media en wetenschap. Een terughoudende opstelling van de overheid is gewenst om voldoende ruimte te laten voor kritiek en het publieke debat. Het uitgangspunt is dat het bestempelen van desinformatie als zodanig

en factchecken primair geen taak is van overheden. Wanneer de nationale

veiligheid, volksgezondheid, maatschappelijke en/of economische stabiliteit in het

geding is, kan de overheid wel optreden en desinformatie tegenspreken. Voor informatie omtrent monitoring door overheidsinstanties verwijs ik u naar het antwoord gegeven op vraag 1.

Vraag 2

Op de vragen over de inhoud en het taalgebruik op de site www.isdatechtzo.nl antwoordt u dat Netwerk Mediawijsheid verantwoordelijk is voor alle inhoud. De vragen waren erop gericht om van u te vernemen of u zelf van oordeel bent dat deze site – die zoals u zelf schrijft «is ontwikkeld in opdracht van» BZK – effectief zal zijn.

Antwoord

Isdatechtzo.nl is een goedbezochte, toegankelijke landingspagina voor Nederlandse burgers die meer willen weten over de werking van desinformatie. Dit is terug te zien in de bereikcijfers van 2022. De twee vastgestelde doelstellingen (communicatiebereik van 20 miljoen en 300.0000 bezoeken) zijn behaald.

Wel blijft er ruimte om de effectiviteit van de site te vergroten. Netwerk Mediawijsheid geeft aan dat er kansen liggen voor het vergroten van het bereik en de naamsbekendheid door nog meer samen te werken met andere organisaties. Zo zal de website bijvoorbeeld worden gepromoot in bibliotheken, om de naamsbekendheid te vergroten bij een zo breed mogelijk publiek.

Vraag 2a

Deelt u de vrees van de leden van de fractie dat voor grote groepen in de samenleving deze site wat betreft inhoud van de informatie en taalgebruik niet voldoende toegankelijk is?

Antwoord

Nee die vrees deel ik niet. Het is belangrijk dat de inhoud van de informatie en taalgebruik van isdatechtzo.nl voldoende toegankelijk is. Netwerk Mediawijsheid houdt rekening met mensen met een opleidingsniveau vanaf mbo en taalniveau B1.

Vraag 2b

Is er ooit en publiekscampagne gevoerd om de site onder de aandacht van het publiek te brengen? Zo nee, waarom niet? En bent u bereid die publiekscampagne alsnog te realiseren?

Antwoord

Het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties heeft geen publiekscampagne gevoerd om de site onder de aandacht te brengen. Deze keuze is gemaakt om de onafhankelijkheid van Netwerk Mediawijsheid te waarborgen. Wel heeft het ministerie via verschillende sociale media kanalen de website onder de aandacht gebracht bij haar volgers. Het Netwerk Mediawijsheid ziet zelf toe op een advertentieplan en communicatieaanpak.

Vraag 2c

Kent u de wijze waarop in Finland leerlingen in het onderwijs worden getraind in het herkennen van fake news en desinformatie? Finland wordt al vijf jaar op rij genoemd als het meest weerbare land op het vlak van misinformatie en fake news¹². Kunt u aangeven hoe dat systeem in Finland werkt en of het van belang is dit in Nederland ook in te voeren? Deelt u de opvattingen zoals verwoord in het in vraag 1a genoemde rapport van het Rathenau Instituut over het belang van technologisch burgerschap?

Antwoord

Steeds meer scholen in Nederland besteden aandacht aan een onderwerp zoals desinformatie, binnen de context van digitale geletterdheid en mediawijsheid. Vanuit het Ministerie van OCW is er geen (vaste) samenwerking met Finland op dit punt. Het delen van interessante voorbeelden uit andere (Europese) landen kan altijd dienen ter inspiratie. Zo vindt er samenwerking en uitwisseling tussen lidstaten plaats op het gebied van digitaal onderwijs in het kader van de Europese onderwijsruimte en publiceerde de Europese Commissie vorig jaar mede op basis hiervan een handreiking voor leerkrachten over hoe mediawijsheid te stimuleren met het oog op desinformatie.

Het Netwerk Mediawijsheid biedt belangrijke informatie overzichtelijk aan: voor scholen, maar ook voor het brede publiek. Voor scholen gebeurt dat bijvoorbeeld door lesmateriaal dat al bestaat overzichtelijk te bundelen. Op die manier worden scholen geholpen met het vormgeven van hun lessen over deze onderwerpen. De website isdatechtzo.nl is meer gericht op het algemene publiek.

Verder is het belangrijk dat de overheid blijft inzetten op technologisch burgerschap. Technologisch burgerschap houdt in dat Nederlanders de vaardigheden hebben om de mogelijkheden van digitalisering te begrijpen, de kennis en de weerbaarheid hebben om met de risico’s van digitale technologie om te gaan, en kunnen deelnemen aan het democratisch debat en de politieke besluitvorming over nieuwe digitale technologie.

Vraag 2d

Hoe gaan andere landen in Europa om met het bestrijden van mis- en desinformatie? Kunt u daarvan een overzicht geven? Kunt u daarbij ingaan op de functie van Miviludes in Frankrijk en op de vraag of het wenselijk is een vergelijkbaar instituut in Nederland op te richten?

Antwoord

Er is geen centraal overzicht van de manier waarop andere landen in Europa omgaan met het bestrijden van mis- en desinformatie. Wel werkt Nederland op dit gebied samen met internationale partners in onder andere de EU. Een goed voorbeeld is het Rapid Alert System (RAS), waarbij EU-lidstaten inzichten delen over een effectieve aanpak van desinformatie.

Daarnaast is er in Nederland geen agentschap dat zich specifiek focust op sektarisch extremisme (zoals Miviludes). De aanpak van sektarisch extremisme past binnen de bredere definitie en aanpak van extremisme. Naast dat sektes extremistische kenmerken kunnen vertonen, is het ook mogelijk dat extremistische groeperingen sektarische kenmerken hebben.

Vraag 3

De laatste tijd staat het programma ChatGPT in de aandacht. Bij het voldoen aan een vraag/opdracht zoekt ChatGPT het hele internet af, zo hebben de leden van de fractie begrepen.

Vraag 3a

Stel dat op internet allerlei misinformatie voorkomt, bijvoorbeeld over de Holocaust of over racisme. Is het dan mogelijk dat bijvoorbeeld een student of scholier die over dat onderwerp een scriptie moet schrijven, met toepassing van ChatGPT allerlei onjuiste gegevens (bijvoorbeeld dat de Holocaust een verzinsel is) in de aangeleverde tekst krijgt? Zo ja, deelt u de mening van de leden van de fractie dat het bestaan van misinformatie op internet en sociale media in dat licht nog een ander (mogelijk ernstiger) gevaar in zich draagt dan bij directe kennisneming van die misinformatie?

Antwoord

Het programma ChatGPT is getraind op basis van een zeer grote hoeveelheid tekstgegevens die op het internet beschikbaar zijn.

Als er over een bepaald onderwerp veel misinformatie voorkomt in de trainingsdatasets, dan kan het gebeuren dat het taalmodel zich baseert op onjuiste informatie bij het formuleren van een antwoord. Modellen als ChatGPT maken echter ook vaak gebruik van «Reinforcement Learning with Human Feedback (RLHF)», waarbij mensen het model corrigeren door telkens de beste antwoorden selecteren. Het is de verantwoordelijkheid van ontwikkelaars om betrouwbare informatie te presenteren, en om zich aan geldende wet- en regelgeving te houden.

Het gevaar is er inderdaad dat generatieve AI modellen zoals ChatGPT kunnen bijdragen aan de verspreiding van misinformatie op het internet. Daarom is het van grote waarde dat de modellen verantwoordelijk en met inachtneming van publieke waarden worden ontwikkeld. Het is bemoedigend om te zien dat veel ontwikkelaars zeggen deze verantwoordelijkheid ook te voelen, en er naar te handelen¹³. Desondanks zijn er zorgwekkende signalen¹⁴. Regulering via wet-en-regelgeving is daarom noodzakelijk om verantwoordelijkheid van ontwikkelaars te borgen, waarmee wij in Europa vooroplopen met de AVG, de Digital Services Act en met het werken aan de AI Act. Zo moeten ontwikkelaars de impact en de risico’s van hun diensten op het publieke debat en op mensenrechten in kaart brengen om toegang te kunnen behouden tot de Europese markt.

Vraag 3b

Ziet u het niet als taak om te voorkomen dat via programma’s als ChatGPT onjuiste feiten in teksten worden aangeleverd, zonder dat de betrokkene die de tekst gevraagd heeft een fact-check op de specifieke informatie die «verwerkt» is heeft kunnen uitvoeren?

Antwoord

In het geval dat informatie op het internet niet te herleiden is tot de bron, zorgt dit voor een gebrek aan context. Wanneer informatie wel herleidbaar is tot de bron, is het makkelijker om informatie te kunnen vertrouwen.¹⁵

De overheid wil de impact van online desinformatie verminderen. Daarbij is het uitgangspunt dat platforms zelf zorgvuldig modereren en zorg dragen voor verantwoorde training van modellen en de herleidbaarheid en betrouwbaarheid van informatie, dat Europese wet- en regelgeving wordt nageleefd en dat bedrijven in ieder geval richting toezichthouders transparant zijn over gebruik van data. Ze moeten ook oog blijven houden voor mensenrechten, waaronder de vrijheid van meningsuiting en persvrijheid.

Daarbij staat voorop dat de overheid niet bepaalt wat wel of niet betrouwbare informatie is. Daar zijn grote platforms, onafhankelijke media, ontwikkelaars en burgers in eerste instantie zelf verantwoordelijk voor.

Het is een taak van platformen en ontwikkelaars zelf om ervoor te zorgen dat de informatie die te vinden is op het internet zo betrouwbaar mogelijk is, maar ook om ervoor te zorgen dat gebruikers beter in staat zijn om foutieve of misleidende informatie te herkennen en signaleren. Regelgeving zoals de DSA en de AI Act verplichten zeer grote online platforms onder meer om de systeemrisico’s die voortvloeien uit hun diensten in kaart te brengen, te beperken en dit onafhankelijk te laten toetsen. Tot dergelijke systeemrisico’s behoort ook de verspreiding van desinformatie, al dan niet via nepaccounts/bots. Onder de AI Act moeten bedrijven en ontwikkelaars van hoog-risico AI vooraf een risicoanalyse uitvoeren op het gebied van gezondheid, veiligheid en fundamentele rechten en deze ter beschikking te stellen aan de toezichthouder.

Vraag 4

De laatste vraag waar u antwoord op gaf, had betrekking op het gebruik van het programma «Aims» door het Israelische «Team Joirge». U geeft toe dat zulke programma’s ook kunnen worden toegepast in Nederland. Wat doet de Nederlandse overheid als dat het geval is en als blijkt dat de grote online-platformen de verplichtingen waarnaar u verwijst, niet (kunnen) nakomen? Welke middelen staan ter beschikking? Welke overheidsorganen gaan tot actie over?

Antwoord

De Digital Services Act (DSA) en de Praktijkcode tegen Desinformatie verplichten zeer grote online platforms om zogenaamde systeemrisico’s die voortvloeien uit (het gebruik of de werking van) hun diensten te identificeren en beperken. Tot dergelijke systeemrisico’s behoort ook de verspreiding van desinformatie, al dan niet via nepaccounts/bots. De Europese Commissie is exclusief bevoegd voor het toezicht op en de handhaving van de verplichtingen uit de DSA die enkel gelden voor zeer grote online platforms – en zoekmachines. De Europese Commissie heeft onder meer de bevoegdheid om inspecties op te leggen en boetes op te leggen wanneer zeer grote online platformen deze verplichtingen niet nakomen. Boetes kunnen oplopen tot maximaal 6% van de wereldwijde jaaromzet.

Als het gaat om overtredingen gebaseerd op het strafrecht of civiele recht, verwijs ik u naar de antwoorden op eerder gestelde vragen¹⁶.

Vraag 5

In een essay van Caroline de Gruyter in de NRC van 14 april 2023 wordt ingegaan op de ondergang van Credit Suisse.¹⁷ Een citaat: «Het lot van Credit Suisse werd bezegeld door een tweet die viraal ging. Silicon Valley Bank (SVB) bezweek binnen twee dagen – een recordtijd. Fondsmanagers adviseerden hun klanten in paniek om hun geld van de bank te halen.».

Stel de volgende situatie doet zich voor. Op sociale media gaat een bericht rond dat de ABN Amro op omvallen staat omdat grote klanten hun geld hebben weggehaald aangezien ze op de hoogte zijn van een groot schandaal dat binnenkort in het nieuws komt. Mensen raden elkaar aan hun rekening van die bank leeg te maken. Op de beurs kelderen bij opening de aandelen van ABN Amro. Een half uur later gaat een (deep)fakebericht van Klaas Knot viraal waarin hij zegt dat klanten zich geen zorgen moeten maken. Fakefilmpjes van lange rijen voor bankfilialen van ABN Amro gaan vervolgens rond op de sociale media. Grote groepen rekeninghouders nemen geld op of schrijven hun rekening-tegoed over naar andere banken. Aandelen worden verkocht. De ontwikkeling gaat razendsnel. We laten even in het midden wie dit in gang gezet heeft (een vijandige mogendheid, criminelen, iemand die de ABN Amro een poets wil bakken of een onnadenkende grapjas), maar het gebeurt. En dat allemaal in een paar uur.

Vraag 5a

Is er een overheidsorgaan dat zo’n ontwikkeling monitort?

Antwoord

Het uitgangspunt is dat desinformatie niet door de overheid wordt gemonitord, ook niet in de financiële sector. Wel wordt er op financiële instellingen en de financiële markten in Nederland toezicht uitgeoefend door, in dit voorbeeld, de Europese Centrale Bank (ECB), De Nederlandsche Bank (DNB) en de Autoriteit Financiële Markten (AFM). Signalen zoals omschreven in deze vraag zullen bij de uitoefening van het toezicht worden betrokken.

Vraag 5b

Deelt u het oordeel van de leden van de fractie dat de kans dat zo’n ontwikkeling leidt tot een economische en financiële ontwrichting, reëel is en dat dit tot grote financiële ingrepen zal moeten leiden die voor rekening van de Nederlandse belastingbetaler zullen komen?

Antwoord

Het genoemde voorbeeld laat zien dat desinformatie en specifiek de snelle digitale verspreiding hiervan via (sociale) media een ontwrichtend effect kan hebben op de samenleving. De recente gebeurtenissen bij Silicon Valley Bank (SVB) in de Verenigde Staten hebben, hoewel meer factoren in die casus een rol speelden, laten zien dat de snelheid waarmee informatie verspreid kan worden in de financiële sector risico’s kan opleveren.

Vertrouwen in het bankenstelsel is en blijft essentieel om het risico op bankruns en maatschappelijke en economische ontwrichting te voorkomen. Hiervoor is het van belang om goede en strenge eisen aan banken te stellen. Zo moet regelgeving omtrent liquiditeitsbuffers er voor zorgen dat banken voldoende liquiditeit hebben om een deposito-uitstroom onder stress op te kunnen vangen. Verder zijn de kapitaalseisen cruciaal om te zorgen dat banken voldoende buffers hebben om financiële tegenvallers op te vangen. In het geval een bank toch in de problemen komt, dienen verschillende mechanismes, zoals het crisisraamwerk voor banken en het depositogarantiestelsel, te voorkomen dat de rekening van een falende bank bij de belastingbetaler terecht komt.

Vraag 5c

Is de overheid op zo’n ontwikkeling voorbereid? Hoe, en waar blijkt dat uit? Welke organen zijn bevoegd tegenactie te ondernemen en op welke wijze?

Antwoord

In dit specifieke voorbeeld, waarin desinformatie onrust veroorzaakt op de financiële markten of bij financiële instellingen, zou er als gezegd een rol zijn weggelegd voor de ECB, DNB en de AFM. Deze autoriteiten houden toezicht op financiële instellingen en de financiële markten in Nederland. In het kader van dit toezicht worden actuele relevante (markt)ontwikkelingen gemonitord. Zo kunnen actuele cijfers over liquiditeitsuitstroom worden opgevraagd bij banken. Hierdoor kan snel worden ingespeeld op actuele ontwikkelingen en kan de toezichthouder eventueel maatregelen nemen.

Op dit moment wordt wereldwijd door toezichthouders op financiële instellingen en markten als ook door overheden gekeken naar de lessen die we kunnen trekken uit de recente ontwikkelingen rondom het falen van SVB en andere banken. Hierbij wordt onder andere gekeken naar de rol van sociale media bij bankruns en mogelijke beleidsaanbevelingen op dit vlak.

Vraag 5d

Denkt u dat zenuwachtige bankrekeninghouders eerst de site www.isdatechtzo.nl gaan raadplegen in dat geval?

Antwoord

De weerbaarheid van burgers kan worden versterkt door ze mediawijs te maken, zodat ze zelf desinformatie kunnen herkennen. Op bijvoorbeeld isdatechtzo.nl en op Crisis.nl kunnen burgers informatie en tips over desinformatie en nepnieuws vinden. Hiermee dragen deze initiatieven bij aan het verminderen van de voedingsbodem voor desinformatie. Initiatieven als isdatechtzo.nl focussen zich op een breder publiek dan enkel rekeninghouders die met spoed hun geld willen opnemen. Daarnaast kunnen klanten ook hun eigen bank raadplegen

Vraag 5e

Deelt u het oordeel van de leden van de fractie dat als in Nederland op dit moment tegen zo’n ontwikkeling geen effectieve tegenmaatregel kan worden genomen, ons land bijzonder kwetsbaar is omdat iedere kwaadwillende mogendheid of criminele organisatie met weinig middelen zo’n ontwrichtende actie kan ontketenen?

Antwoord

Voor informatie over het tegengaan van ongewenste buitenlandse inmenging, verwijs ik u naar de Kamerbrief Aanpak statelijke dreigingen en aanbieding dreigingsbeeld statelijke actoren 2.¹⁸ Verder kan de overheid wel optreden en desinformatie tegenspreken wanneer de nationale veiligheid, volksgezondheid, maatschappelijke en/of economische stabiliteit in het geding is.

Prudentiële wet- en regelgeving voor de bankensector en het toezicht hierop moet in algemene zin de weerbaarheid van banken in tijden van onrust waarborgen, ongeacht de oorzaak van deze onrust. Dus ook wanneer deze is ontstaan als gevolg van desinformatie.

---

1 Samenstelling:

Kox (SP), Ganzevoort (GL), De Boer (GL), Van Hattem (PVV), Pijlman (D66), Rombouts (CDA), Schalk (SGP), Koole (PvdA), Klip-Martin (VVD), Baay-Timmerman (50PLUS), Bezaan (VVD), Van den Berg (VVD), Crone (PvdA), Dittrich (D66) (voorzitter), Doornhof (CDA), Frentrop (Fractie-Frentrop), Meijer (VVD), Nicolaï (PvdD) (ondervoorzitter), Rietkerk (CDA), Rosenmöller (GL), De Vries (Fractie-Otten), Keunen (VVD), Van der Linden (Fractie-Nanninga), Van Pareren (Fractie-Nanninga), Raven (OSF), Talsma (CU) en Dessing (FVD).

2 Kamerstukken I 2022/23, 35 295, AK.

3 Kamerstukken I 2022/23, 35 295, AK.

4 Desinformatie bestrijden, censuur vermijden, Rathenau Instituut via: https://www.rathenau.nl/sites/default/files/2020-10/BAP_Desinformatie_bestrijden_censuur_vermijden_Rathenau_Instituut.pdf.

5 «How Finland Is Teaching a Generation to Spot Misinformation» via https://www.nytimes.com/2023/01/10/world/europe/finland-misinformation-classes.html.

6 C. de Gruyter, «De instorting van Credit Suisse is te herleiden naar één tweet. Wat zegt dat over de toekomst van de bankenwereld?», NRC 14 april 2023.

7 Kamerstukken II, 2021–2022, nr. 224, 32 761.

8 Kamerstukken I 2022–2023, 35 295, AG.

9 Desinformatie bestrijden, censuur vermijden, Rathenau Instituut via: Desinformatie bestrijden, censuur vermijden (rathenau.nl).

10 Kamerstukken II, 2021–2022, nr. 224, 32 761.

11 Kamerstukken II, 2022–2023, nr. 175, 30 821.

12 How Finland Is Teaching a Generation to Spot Misinformation» via https://www.ny-times.com/2023/01/10/world/europe/finland-misinformation-classes.html.

13 Zie bijvoorbeeld https://www.anthropic.com/index/claudes-constitution, https://openai.com/research/forecasting-misuse en https://blog.google/technology/ai/google-responsible-ai-io-2023/.

14 https://www.newsguardtech.com/misinformation-monitor/jan-2023/.

15 https://blog.google/products/search/about-this-image-google-search/.

16 Kamerstukken I 2022–2023, 35 295, AK.

17 C. de Gruyter, «De instorting van Credit Suisse is te herleiden naar één tweet. Wat zegt dat over de toekomst van de bankenwereld?», NRC 14 april 2023.

18 Kamerstukken II, 2022–2023, nr. 175, 30 821.