Vergaderjaar 2024-2025
Eerste Kamer der Staten-Generaal
1
Kamerstukken
CLXXII

Digitale transformatie
B

VERSLAG VAN EEN DESKUNDIGENBIJEENKOMST
Vastgesteld 30 juni 2025
De vaste commissie voor Digitalisering
1
Samenstelling:
Van Gasteren (BBB) (ondervoorzitter), Goossen (BBB), Oplaat (BBB), Fiers (GroenLinks-PvdA), Roovers (GroenLinks-PvdA), Veldhoen (GroenLinks-PvdA) (voorzitter), Ramsodit (GroenLinks-PvdA), Recourt (GroenLinks-PvdA), Van der Linden (VVD), Van de Sanden (VVD), Prins (CDA), Belhirch (D66), Dittrich (D66), Van Hattem (PVV), Nicolaï (PvdD), Nanninga (JA21), Janssen (SP), Talsma (ChristeUnie), Van den Oetelaar (FVD), De Vries (SGP), Hartog (Volt), Van Rooijen (50PLUS), Kemperman (Fractie-Kemperman)
, de vaste commissie voor Binnenlandse Zaken
2
Samenstelling:
Kroon (BBB), Lagas (BBB) (voorzitter), Van Langen-Visbeek (BBB), Lievense (BBB), Fiers (GroenLinks-PvdA), Recourt (GroenLinks-PvdA), Janssen-Van Helvoort (GroenLinks-PvdA), Van Gurp (GroenLinks-PvdA), Roovers (GroenLinks-PvdA), Van de Sanden (VVD), Meijer (VVD) (ondervoorzitter), Doornhof (CDA), Prins (CDA), Van Toorenburg (CDA), Dittrich (D66), Aerdts (D66), Van Hattem (PVV), Nicolaï (PvdD), Nanninga (JA21), Janssen (SP), Talsma (ChristenUnie), Dessing (FVD), Schalk (SGP), Perin-Gopie (Volt), Van Rooijen (50PLUS), Van der Goot (OPNL), Kemperman (Fractie-Kemperman)
, de vaste commissie voor Justitie en Veiligheid
3
Samenstelling:
Marquart Scholtz (BBB) (ondervoorzitter), Heijnen (BBB), Griffioen (BBB), Van Gasteren (BBB), Veldhoen (GroenLinks-PvdA), Recourt (GroenLinks-PvdA), Kluit (GroenLinks-PvdA), Ramsodit (GroenLinks-PvdA), Martens (GroenLinks-PvdA), Vogels (VVD), Van de Sanden (VVD), Meijer (VVD), Doornhof (CDA), Van Toorenburg (CDA), Dittrich (D66) (voorzitter), Belhirch (D66), Croll (D66), Bezaan (PVV), Nicolaï (PvdD), Van Bijsterveld (JA21), Janssen (SP), Talsma (ChristenUnie), Van den Oetelaar (FVD), Schalk (SGP), Hartog (Volt), Van Rooijen (50PLUS), Van der Goot (OPNL), Kemperman (Fractie-Kemperman)
en de vaste commissie voor Buitenlandse Zaken, Defensie en Ontwikkelingshulp
4
Samenstelling:
Oplaat (BBB), Marquart Scholtz (BBB), Goossen (BBB), Van Gasteren (BBB), Karimi (GroenLinks-PvdA), Roovers (GroenLinks-PvdA), Crone (GroenLinks-PvdA), Martens (GroenLinks-PvdA), Thijssen (GroenLinks-PvdA), Petersen (VVD) (voorzitter), Vogels (VVD), Van Ballekom (VVD), Van Toorenburg (CDA), Prins (CDA), Belhirch (D66), Moonen (D66), Van Strien (PVV), Koffeman (PvdD), Van Bijsterveld (JA21), Van Apeldoorn (SP), Huizinga-Heringa (CU) (1^e ondervoorzitter), Dessing (FVD) (2^e ondervoorzitter), De Vries (SGP), Hartog (Volt), Van Rooijen (50PLUS), Van der Goot (OPNL), Kemperman (Fractie-Kemperman)
hebben op 26 mei 2025 gesprekken gevoerd over de weerbaarheid van de democratische rechtsstaat in tijden van digitale transformatie.
Van deze gesprekken brengen de commissies bijgaand geredigeerd woordelijk verslag uit.
De voorzitter van de vaste commissie voor Digitalisering,
Veldhoen
De voorzitter van de vaste commissie voor Binnenlandse Zaken,
Lagas
De voorzitter van de vaste commissie voor Justitie en Veiligheid,
Dittrich
De voorzitter van de vaste commissie voor Buitenlandse Zaken, Defensie en Ontwikkelingshulp,
Petersen
De griffier van de vaste commissie voor Digitalisering,
Van Dooren
Voorzitter: Veldhoen
Griffier: Van Dooren
Aanwezig zijn achttien leden der Kamer, te weten: Belhirch, Bruijn, Dittrich, Fiers, Van Gasteren, Janssen, Janssen-van Helvoort, Kemperman, Lagas, Marquart Scholtz, Nicolaï, Perin-Gopie, Prins, Recourt, Roovers, Van de Sanden, Veldhoen en De Vries,
alsmede mevrouw Arentze, mevrouw Bryan, de heer Passchier, mevrouw Schaake en mevrouw Stikker.
Aanvang 16.33 uur.
De voorzitter:
Goedemiddag. Welkom allemaal bij deze bijzondere bijeenkomst, moet ik zeggen, op maandagmiddag. Het is een deskundigenbijeenkomst van de commissies Digitalisering, Binnenlandse Zaken, J&V en BDO. Ik denk dat een hele mooie, brede voorbereidingscommissie deze middag heeft voorbereid. Alle leden van de Eerste Kamer zijn uitgenodigd. We zijn heel blij dat zo veel leden ook daadwerkelijk tijd hebben gemaakt om hier vanmiddag aanwezig te zijn. De bijeenkomst wordt ook gelivestreamd, dus wellicht kijken er op afstand ook mensen mee. We geven met deze bijeenkomst invulling aan een van de opdrachten van de commissie Digitalisering: kennisbijeenkomsten voor alle leden van de Eerste Kamer organiseren. Ik denk dat we dat vandaag aan het doen zijn.
Blok 1: Big tech en de weerbaarheid van de democratische rechtsstaat
Gesprek met:
- − Reijer Passchier, Open Universiteit/Universiteit Leiden
- − Marietje Schaake, Stanford University
- − Marleen Stikker, Waag Futurelab
De voorzitter:
We hebben vandaag twee blokken. In het eerste blok hebben we een drietal sprekers. Dat zijn Reijer Passchier, Marietje Schaake en Marleen Stikker. Zij zullen ieder en in die volgorde een inleiding van tien minuten verzorgen. We hebben ook hele mooie positionpapers van hen ontvangen, waarvoor veel dank. Dat geeft ons namelijk altijd inzicht in waar we ons op moeten voorbereiden. Dat werkt heel prettig, dus dank daarvoor. Na de inleidingen van tien minuten per persoon zullen we de leden de gelegenheid geven om vragen te stellen. Daarna hebben we een hele korte pauze. Daarna gaan we naar blok 2. Daar zal ik zo meteen iets meer over vertellen. Na afloop van deze bijeenkomst ontvangen wij u allen graag beneden, in de lunchroom, voor een borrel, waarbij we kunnen napraten, hopelijk ook met de deskundigen die daarbij aanwezig zullen blijven. Daar staat ook een maaltijd klaar, mocht iemand daarvan gebruik wensen te maken. Dat is even in het kort de agenda van de middag.
Ik denk dat we gewoon meteen maar gaan beginnen. Ik geef het woord aan Reijer Passchier. Hij begint en doet de aftrap.
De heer Passchier:
Hartelijk dank. Veel dank voor de uitnodiging om hier iets over mijn onderzoek naar big tech te vertellen. In verband met die bigtechbedrijven is er al jaren heel veel aandacht voor allerlei specifieke issues. U kent allemaal debatten rondom privacy, de vrijheid van meningsuiting van burgers, de betrouwbaarheid van informatie en de verslavende werking van de diensten van big tech. Inmiddels is heel veel regulering aangenomen, vooral binnen de Europese Unie, om daar iets aan te doen, om die waarden die in verband met big tech op het spel staan, beter te beschermen. Die bigtechbedrijven zijn ondertussen echter zo groot en machtig geworden dat met de opkomst van deze bedrijven niet alleen die specifieke waarden op het spel staan, maar ook de fundamentele ofwel constitutionele instituties, die de bescherming van waarden als privacy en de vrijheid van meningsuiting überhaupt mogelijk maken.
Waar heb ik het dan concreet over? Ik heb het dan over bijvoorbeeld soevereiniteit, staatssoevereiniteit en de soevereiniteit van de Europese Unie, heel erg belangrijk in een democratische rechtsstaat. Ik heb het over het onderscheid tussen publiek en privaat. Wat zijn dit nou eigenlijk voor bedrijven? Puur juridisch gezien zijn ze privaat, maar ze spelen zo’n belangrijke rol in de samenleving dat je het eigenlijk ook over publieke entiteiten hebt. Burgerschap staat enorm onder druk, omdat de meeste burgers geen eigenaar van deze technologie zijn, geen substantieel aandeelhouder zijn en eigenlijk heel weinig over die technologie te vertellen hebben. Ze kunnen, als iets ze niet zint in relatie tot die technologie, eigenlijk heel weinig doen om daar verandering in te brengen. Ook de civil society staat door big tech enorm onder druk. Dan heb ik het niet alleen over de cultuursector, die trouwens ook enorm onder druk staat, vooral door AI, maar ook over bijvoorbeeld het verdien- en innovatiemodel van het mkb. Inmiddels zijn die bigtechbedrijven namelijk zo dominant in de samenleving dat je, als je wil ondernemen, je eigenlijk in eerste instantie moet verhouden tot deze bedrijven en iets moet doen wat past in hun verdienmodel, in hun ecosysteem, met name in hun advertentie-ecosysteem. Als je echt iets nieuws wil als mkb’er, iets wil betekenen voor de samenleving, dan wordt dat steeds moeilijker.
Hoe staan die fundamentele waarden, die constitutionele waarden, dan onder druk? Denk ook aan de enorme lobby’s die deze bedrijven optuigen. Deze bedrijven maken winsten tot 100 miljard dollar per jaar en kunnen die volledig vrij besteden. Ze hebben daarna verder geen ecologische of sociale verplichtingen zoals staten die hebben. Ze kunnen dus lobby’s van miljoenen optuigen in bijvoorbeeld de Europese Unie, maar ook hier in Den Haag, onder ambtenaren. Misschien spreekt u ook weleens een lobbyist van big tech. Daar is op zich helemaal niks mis mee – dat mag in een democratie – maar deze lobby’s zijn zo groot dat die allerlei andere lobby’s en belangen overschaduwen en je dus als beleidsmaker, als politicus, een enorm risico loopt om te denken dat het belang van big tech gelijkstaat aan het publieke belang of dat er zelfs eigenlijk geen andere belangen meer zijn. Dan kun je je niet meer kritisch verhouden tot het verhaal van big tech, bijvoorbeeld tot het verhaal dat big tech innovatief is, waar heel veel op af te dingen valt.
Als goede regels al tot stand komen, zoals tot op zekere hoogte in de Europese Unie wel is gebeurd, met de AVG, de Digital Markets Act, de Digital Services Act en de AI-wet, dan is het, ook weer in verband met de enorme omvang en financiële kracht van deze bedrijven, enorm moeilijk om die regels daadwerkelijk te handhaven en daarmee het beoogde effect te creëren. De machtsverhoudingen tussen big tech en de rest van de samenleving, tussen big tech en overheden, zijn zo scheef dat die nieuwe regels volgens sommige auteurs zelfs een averechts effect hebben, omdat kleinere bedrijven en potentiële concurrenten van big tech veel meer last van deze regels hebben dan big tech zelf. De bigtechbedrijven kunnen in eerste instantie die regels ontwijken vanwege hun internationale mobiliteit. Zij kunnen eindeloos advocaten inhuren om te procederen tegen die regels. Als ze dan toch een boete krijgen, kunnen ze het risico op die boete eenvoudig incalculeren, zeker als die boete pas zeven jaar na het vergrijp komt. Als je een start-up wilt beginnen in de Europese Unie, moet je eerst, steeds meer, compliance officers, juristen en dergelijke inhuren voordat je überhaupt aan iets technisch toekomt. Big tech kan dat, maar voor een kleiner bedrijf is dat veel moeilijker; laat staan voor een nieuw initiatief.
Daarnaast zijn die regels enorm moeilijk te handhaven vanwege de enorme afhankelijkheid van big tech. Overheden, maar ook grote bedrijven, bijvoorbeeld in de vitale infrastructuur, zoals PostNL, zijn extreem afhankelijk van bigtechbedrijven. We zouden eigenlijk een keer een dagje Microsoft uit moeten zetten om te kijken wat er dan nog van de vitale infrastructuur overblijft. Ik denk zelf vrijwel niets, en ik sta daar niet alleen in. De bigtechbedrijven worden in de literatuur ook wel «pseudostaten» genoemd. Ze zijn in veel opzichten net zo machtig als of nog machtiger dan staten. Ze nemen met hun investeringsbeslissingen, de code in hun software en de standaarden die ze zetten, beslissingen die van het allergrootste maatschappelijk belang zijn, die heel dwingend zijn voor burgers, die misschien wel de toekomst van de mensheid bepalen. Dan worden allerlei keuzes gemaakt omtrent privacy en technologie: wat voor technologie willen we ontwikkelen en welke waarden moet die technologie dienen omtrent de vrijheid van meningsuiting? Die beslissingen worden niet genomen hier in Den Haag, in het min of meer democratische Brussel of in de dynamiek van een vrije, competitieve markt, maar gewoon in Silicon Valley of Seattle, en om nog specifieker te zijn: in de hoofden van de enkele leiders die binnen die bedrijven de dienst uitmaken. Want als je deze bedrijven als staten gaat zien, dan zijn het, zo moet je constateren, autocratieën. Binnen de meeste van die bigtechbedrijven heeft een heel klein aantal mensen alle touwtjes in handen – in het geval van Meta is dat zelfs maar één iemand, namelijk Mark Zuckerberg – omdat ze zowel CEO zijn als de meerderheid van de aandelen van de stemgerechtigde aandeelhouders in handen hebben. Voor zover er dus checks-and-balances binnen deze bedrijven zijn, blijft daar op deze manier vrijwel niets van over.
Wat te doen? Je kunt je afvragen of je eigenlijk wel moet reguleren als dat averechts werkt. Ik denk van wel, want als je niet reguleert, zou er volgens mij sowieso niets terechtkomen van de waarden die je wilt reguleren, zoals het waarborgen van de privacy, het tegengaan van desinformatie et cetera. Maar om die Europese regulering te laten werken, is het heel urgent om onze afhankelijkheid van big tech terug te dringen. Met «onze afhankelijkheid» bedoel ik de afhankelijkheid van de overheid en van de vitale infrastructuur en misschien ook wel van de rest van de samenleving, van universiteiten en de zorgsector. Want als we geen autonomie hebben ten opzichte van de software, die compleet verweven is met onze instituties, als wij geen plan B hebben en niet op elk moment dat we willen, kunnen overstappen op alternatieven, zijn we vatbaar geworden voor uitval, maar ook voor manipulatie en zelfs chantage, zoals het Internationaal Strafhof recent is overkomen toen het Microsoftaccount van de hoofdaanklager na een sanctie van de Amerikaanse regering gewoon uitgezet werd en de hoofdaanklager überhaupt geen onderzoek meer kon doen en dus niet meer kon functioneren.
Probeer niet, zou ik nog willen meegeven, weer een eigen Europese big tech te laten ontstaan, zoals bijvoorbeeld Mario Draghi in de Europese Commissie wil, want dan zitten we over 30 jaar met hetzelfde probleem als de VS of China nu: een veel te machtig en groot bedrijfsleven. De Amerikaanse regering heeft dat zelf ook nauwelijks onder controle. Maar probeer dan deze crisis, want dat is het, aan te grijpen om kleinere en innovatieve bedrijven te stimuleren, meer diversiteit in de markt te brengen en een echte, werkelijke digitale markt te laten ontstaan, want van een markt kun je nu eigenlijk niet spreken. Dat zal nog niet makkelijk zijn, want dan moet je tot in de haarvaten van organisaties allerlei beleid veranderen. Je kan wel zeggen «we willen onafhankelijk worden», maar dan heb je ook een ander inkoopbeleid, andere aanbestedingsregels en een andere omgang met aanbestedingsregels nodig. Mensen die in belangrijke organisaties werken, hebben een andere opleiding nodig. Die moeten ook af van hun verslaving aan Microsoft en andere hele grote techbedrijven. Het zou heel mooi zijn als u vanuit de Kamer uw instrumenten kunt aangrijpen om dat dichterbij te brengen. Dat is vooral in het belang van de democratische rechtsstaat, zou ik willen zeggen. Hou dat in het oog.
Dank u wel.
De voorzitter:
Veel dank, meneer Passchier. Dan gaan we meteen door naar Marietje Schaake. U heeft het woord.
Mevrouw Schaake:
Hartelijk dank, voorzitter, geachte leden. Maar ook dank aan de ondersteunende teams, die altijd net iets harder werken om dit soort bijeenkomsten te faciliteren. Ik begrijp dat het ongewoon is om deze op maandag te houden, maar het feit dat u allen bijeenkomt, is toch wellicht een teken van de urgentie die ook u voelt. Met die urgentie heb ik althans het paper geschreven en ingediend. Daarin zet ik vooral de problemen uiteen, vergelijkbaar met wat Reijer Passchier zojuist deed, maar dan kijk ik naar de buitensporige macht van private technologiebedrijven in wat bredere zin. In het paper wordt eigenlijk uiteengezet dat het een systeemprobleem is dat de democratische rechtsstaat bedreigt, omdat technologie inmiddels een laag is die alle aspecten van ons leven, onze samenleving en de geopolitiek raakt. Alle onderwerpen die binnen uw portefeuilles vallen, zullen beïnvloed worden door de technologie, of het nou om landbouw, onderwijs, zorg, nationale veiligheid, de economie of onze innovatieve capaciteiten gaat. De lijst kan nog doorgaan. Technologie zit in, onder en over alles heen.
Dat maakt ook meteen dat de situatie zoals we die hebben zien ontstaan in de Verenigde Staten nadat Donald Trump voor de tweede maal als president is geïnaugureerd, zo’n enorme impact heeft op ons, omdat wij in Europa en in Nederland vrijwel volledig afhankelijk zijn van Amerikaanse private technologie. Voorheen was dat al een uitdaging vanuit economisch perspectief, maar nu komt daar ook regelrechte dreiging bij. Ik zeg dit met pijn in mijn hart, maar de trans-Atlantische verhouding zoals die bestond sinds de Tweede Wereldoorlog, bestaat niet meer. Daaruit volgt dus een enorme urgentie wat betreft de weerbaarheid van onze democratische rechtsstaat, maar uiteraard ook wat betreft de nationale veiligheid.
Ik wilde mijn interventie vandaag ter inleiding richten op twee vervolgstappen. Ten eerste: wat zijn de randvoorwaarden die nodig zijn om deze macht te beteugelen? Daarna wil ik een aantal beleidsrichtingen aangeven. Het zal geen volledige lijst zijn, a omdat het uw functie niet is om wetgeving te initiëren en b omdat het simpelweg te veel is om in zo’n korte tijd aan te geven. Maar ik vind het fijn dat er straks ruimte is voor een interactief deel, waarbij we dieper op de materie in kunnen gaan.
Allereerst de randvoorwaarden, want die zijn ook niet goed op orde. Techbedrijven hebben niet alleen een significante marktpositie, zoals Reijer aangaf, maar technologiebedrijven hebben ook een significante informatiepositie. Daar moet meer transparantie in komen, zodat bijvoorbeeld overheden en politici, maar denk ook aan journalisten, vertegenwoordigers van het maatschappelijk middenveld en academische onderzoekers, betere toegang tot informatie krijgen. Het gaat hier dus niet alleen om een kennisachterstand, maar ook echt om een probleem met de toegang tot informatie, omdat private bedrijven zich verschuilen achter de bescherming van het intellectueel eigendom. Daarmee hebben ze eigenlijk een totale muur opgetrokken als het gaat om cruciale informatie in het algemeen, democratisch belang.
Ten tweede wordt er, denk ik, terecht met grote urgentie gesprokken over de gevaren van onze enorme afhankelijkheid van Amerikaanse commerciële technologieproducten en -diensten, maar is het helemaal niet zo makkelijk om helder te krijgen hoe die afhankelijkheid eruitziet. Ik noem eens wat. Wat geeft het land Nederland in een jaar uit aan cloudcomputing? Wat wordt er door een universiteit precies gedaan op het gebied van contracten met techbedrijven? Wat doet een provincie, of misschien een stad? Het is zo belangrijk dat de informatie helderder in beeld is.
Als tweede randvoorwaarde voor verbetering zou ik dus voorstellen dat er wat ik een «mapping» noem, moet bestaan. Maar goed, ik begrijp dat dat een Engels woord is. Er zou een soort overzicht kunnen bestaan van waar die afhankelijkheid hem precies in zit. Alleen op basis van die informatie is het makkelijker om in kaart te brengen waar de grootste risico’s precies zitten en om alternatieven aan te sturen. Ik ben daar ook mee bezig met collega’s vanuit de academische wereld. Maar ik denk dat de overheid en de politiek hier ook op kunnen aansturen, in elk geval in Nederland en hopelijk zelfs op Europees niveau.
Ten derde wil ik toezicht noemen als goede randvoorwaarde voor het terugbrengen van de balans in de relatie tussen private tech en de democratische rechtsstaat. We hebben een groot probleem met toezicht. Eigenlijk zijn onze toezichthouders niet meer geëquipeerd om opgewassen te zijn tegen niet alleen de macht van de techbedrijven, maar ook het type technologie dat nu eenmaal vraagt om een hele andere aanpak. Het toezicht moet dus worden aangepast.
Daar is uiteraard politieke visie voor nodig. Er zou bijvoorbeeld meer van de begroting naar toezichthoudende organen kunnen gaan. Maar er moet ook vanuit de praktijk beter worden gekeken naar wat er nodig is, bijvoorbeeld om toezicht te houden op kunstmatige intelligentie en op technologie die steeds verandert en die voor elk individu andere resultaten laat zien die zelfs niet te voorspellen zijn voor de mensen die ervoor hebben doorgeleerd en er bedrijven in runnen. Het is daarmee gewoon een heel ander type technologie en dienst dan we in het verleden hebben gezien. Dat heeft gevolgen voor toezicht.
Uiteraard is het ook nodig om ervoor te zorgen dat onze toezichthoudende organen voldoende kennis hebben. De vraag wat hun mandaat is, moet misschien ook nog eens onder de loep worden genomen. De mandaten zijn vaak namelijk erg nauw, terwijl we hierbij met systeemtechnologieën te maken hebben. Daarom is er dus opnieuw een ander soort capaciteit en rol nodig om het toezicht goed te organiseren.
Dit waren drie randvoorwaarden. Dan wil ik graag nog een aantal beleidslenzen voorstellen. Ik hoop eigenlijk dat u met een andere bril naar al die aspecten van de samenleving, de economie, onze veiligheid en onze democratie zult kijken als u hier na vandaag weer uiteengaat. Nogmaals, dit is dus een systeemprobleem. Daarom denk ik dat er in elk wetsvoorstel dat op uw tafel belandt, wel aspecten zitten die te maken hebben met de vragen: welke rol speelt technologie, welke rol spelen bedrijven en hoezeer is dit een probleem voor de democratie? Als u ook naar dit probleem kijkt met een systematische lens, dan zullen er niet alleen vragen, maar ook oplossingen naar boven komen in de materie die u voor u krijgt.
Ten tweede denk ik dat er heel veel werk nodig is om de publieke rol, maar ook het publieke belang te verstevigen in relatie tot de macht van de private techbedrijven. Ik denk daarbij aan alles wat te maken heeft met communicatie, media en informatie. Dan moet u echt denken van satellieten tot sociale media. Die hele toren van diensten en bedrijven is in private handen. Stelt u zich eens voor dat belangrijke delen daarvan niet meer werken op het moment dat die ertoe doen. Maar denk ook aan onderwijs en zorg, het openbaar bestuur zelf en de veiligheid; dat zijn allemaal belangrijke publieke taken waarbij private belangen vanuit techbedrijven een steeds belangrijkere rol spelen.
Dan over het laatste, de veiligheid. Ik doe opnieuw een voorstel om er met een bepaalde lens naar te kijken. Bij defensie of nationale veiligheid is het eigenlijk niet mogelijk om een harde scheidslijn tussen militaire technologie en civiele technologie aan te brengen. Dat loopt allemaal in elkaar over. Dat betekent dat ook civiele technologie geïnstrumentaliseerd wordt, bijvoorbeeld in geopolitieke conflicten. Dat zien we bijvoorbeeld bij desinformatie op sociale media van statelijke actoren. Het is daarom echt belangrijk om niet te proberen om, laten we zeggen, een soort mandje van defensie te maken dat bestaat uit technologie, dan lange tijd niets en dan weer civiele technologie. Die lopen namelijk vloeiend in elkaar over. In ieder geval kunnen en zullen degenen die de democratie en de rechtsstaat willen ondermijnen álle instrumenten en technologieën als wapens gebruiken. We moeten er dus ook naar kijken vanuit het idee van het vergroten van de weerbaarheid van de democratische rechtsstaat.
Als laatste – dat is misschien toch goed om expliciet te maken – is het belangrijk dat wij onze afhankelijkheid van commerciële Amerikaanse technologieën verminderen en ons ervan ontvlechten. Dat is om allerlei redenen belangrijk, maar zoals gezegd heeft de geopolitieke verandering daar nieuwe urgentie aan toegevoegd.
Het is belangrijk om regels die er zijn, te handhaven. Ook dat staat op Europees niveau onder druk. Veel techbeleid is Europees. Dat komt onder druk te staan, onder andere vanuit de Verenigde Staten, aangemoedigd door technologiebedrijven die zeggen: als wij een boete krijgen, vinden we dat niet eerlijk en zullen Europese bedrijven daar een prijs voor moeten betalen. Het wordt de handelsoorlog in gesleept.
Digitale soevereiniteit gaat zeker over Europese alternatieven voor technologie. Maar het zou ook echt moeten gaan over het soeverein handhaven van democratische wetten die op Europees niveau of Nederlands niveau zijn aangenomen. Er zal, behalve over regelgeving, de komende periode veel gesproken worden over investeringen, over adviezen uit het Draghi-rapport en het Letta-rapport en over een manier om Europese alternatieve technologieën te realiseren. Maar ik denk bijvoorbeeld ook dat het anders uitgeven van overheidsmiddelen via aanbestedingen een hele belangrijke en onderbelichte weg is om een signaal af te geven aan de markt en om een beter voorbeeld te geven als overheid. Het gebruik van aanbestedingen is volgens mij dus ontzettend belangrijk.
Dan sluit ik af door te benadrukken dat dit urgent is. Wij zitten in een crisis die moet worden opgelost. Het ontvlechten van onze enorme afhankelijkheid van Amerikaanse technologie, het ontwikkelen van Europese alternatieven en het versterken van de democratische rechtsstaat ten opzichte van digitalisering in brede zin en van onze afhankelijkheid van techbedrijven, bieden een enorme kans om de rol van technologie in onze samenleving op een betere manier vorm te geven, kritisch tegen het licht te houden, Europese alternatieven te ontwikkelen, talent aan te trekken en een boost aan onze economie te geven. Het zou dus vervelend zijn als u allemaal met een hele donkere wolk boven het hoofd zou vertrekken, omdat er namelijk echt heel erg veel kansen liggen. Ik hoop ook dat u er door die lens naar wil kijken.
Om die kansen te realiseren zal kapitaal nodig zijn, of in ieder geval makkelijkere toegang tot kapitaal, ook voor Europese bedrijven. Dit is echt een systematische hindernis. Maar er zal bijvoorbeeld ook opnieuw moeten worden gekeken of het nou wel zo verstandig is om te bezuinigen op hoger onderwijs, omdat talent, ondernemerschap en innovatie met elkaar interacteren in een ecosysteem. Het zou jammer zijn als we onze geopolitieke positie verslechteren door daar niet in te investeren.
Hartelijk dank.
De voorzitter:
Dank. Fijn dat u ook eindigde met een aantal hoopvolle mededelingen over wat we zouden kunnen en moeten doen. We gaan meteen door naar Marleen Stikker. Zij heeft nu voor tien minuten het woord.
Mevrouw Stikker:
Het is altijd lastig om nog iets te zeggen nu de donkere wolken al geschetst zijn, zij het met ergens wat hoop. Kies ik ervoor om het erger te maken of breng ik meer hoop in het gezelschap?
Eerst nog even het volgende. Het is kort genoemd, maar ik wil het nog even aanscherpen. Onze voormalige Minister-President zegt: prepare for war. Dat nemen mensen serieus. Men heeft mariakaakjes en wat water opgeslagen, en batterijen omdat de energie ook zomaar kan uitvallen, of dat nou door oorlog is of door andere omstandigheden. We hebben in Spanje en Portugal gezien wat er gebeurt als de communicatie uitvalt: mensen raken redelijk in paniek en hele steden en alle systemen raken ontregeld. Dit was waarschijnlijk een kwestie van het energienetwerk. Overigens zijn dat natuurlijk problematische vraagstukken, maar dat netwerk kan ook door technologie uitgeschakeld worden. Wat er ook gebeurt in die regelkamers: de technologie achter de energietransitie is van dezelfde big tech. Ik denk dat we soms vergeten hoe ongelofelijk «interwoven» het allemaal is. Een groot deel van het kapitaal, de private equity, de eigenaren van big tech, de mannen die achter Trump stonden, hebben al die systemen ingezet. De conglomeraten zijn niet alleen big tech, maar ook big pharma en big energy en dergelijke. Dat spel is best heel complex om te begrijpen.
We zeggen dat we in onze defensie moeten investeren, in bommen, granaten en allerlei gevechtsvliegtuigen, en dat we ons moeten prepareren voor drones. Maar die oorlog is allang gaande op sociale media. Als wij als samenleving niet meer hetzelfde vijandbeeld hebben, waar richten we dan al dat oorlogstuig op? Dat is gaande op dit moment. Elke dag, op elk moment van de dag, worden mensen gemanipuleerd en krijgen mensen dingen te zien. Die cultural war, die culturele oorlog, wordt door statelijke actoren bewust gevoerd op sociale media. Dat is al enige jaren, tientallen jaren, gaande. Die situatie is heel erg ernstig.
De weerbaarheid van onze samenleving staat al veel langer op het spel. Ik zou zeggen dat er drie vormen van weerbaarheid zijn. De vorm waarover we het veel hebben is technologische weerbaarheid. Zijn we in staat om over onze eigen systemen te gaan? Gaan we daar nog over? Hebben we nog zeggenschap over de technologie die we inzetten? Als Musk, Trump of Vance het wil, dan staan onze computers stil. Zo simpel zou je het kunnen zeggen. Dat zien we. Je kunt buitengesloten worden uit primaire systemen. Daar zien we nu de voorbeelden van. Die migratie naar de cloud moet stoppen. We moeten daaruit terug. We moeten weer terug migreren. Dat is een enorme exercitie. Dat vinden mensen ongemakkelijk.
Maar het gaat niet alleen om het vraagstuk of wij als instituties afhankelijk zijn geworden van big tech. Het gaat ook om the whole of society. Zijn we maatschappelijk weerbaar? Zijn we in staat om met elkaar een samenleving te vormen? Worden we niet tegen elkaar opgezet? Die mechanismes zien we terug en benoemen we vaak, maar we zien ze zelden in samenhang met elkaar. Technologische weerbaarheid is cruciaal, maar maatschappelijke weerbaarheid is ook cruciaal omdat je anders niet weet voor welk land je eigenlijk opkomt, of voor wat voor Europa of voor wat voor waarden.
Ik denk dat we ook de ecologische weerbaarheid vaak uit het zicht verliezen als het over technologie gaat. Als wij op deze planeet niet kunnen blijven leven en op Mars moeten gaan zitten, wat een zeer onaangenaam perspectief is overigens, waar moet de mensheid dan naartoe? Dat heeft niks te maken met mensen. Dat moeten we heel goed onderscheiden. Het verhaal van Musk is dat de mensheid overleeft, maar wij allemaal doen er dan niet meer echt toe. Die ecologische weerbaarheid is wel belangrijk als het straks gaat over investeren in AI. Gaan we honderden miljarden investeren in AI en in datacenters als die het probleem van de klimaatcrisis alleen maar vergroten? Wat voor afwegingen gaan we maken? Als we het hebben over de stikstofproblematiek vragen we ons af: mogen er varkens of koeien bij of niet? Moet je ook zo gaan praten over data? Beslissen we straks: die data wel en die data niet? Een soort milieueffectrapportage over databeleid en AI-beleid lijkt mij heel erg relevant, want dat gaat over hoe je gebruikmaakt van de ruimte in dit land, maar ook over de vraag wat je met energie en water gaat doen.
Die drie vormen van weerbaarheid zijn cruciaal als we praten over welke lens je nodig hebt om naar die ontwikkelingen te kijken.
Reijer had het net over regels. Ik denk dat er op dit moment ten onrechte door bedrijven in Europa gezegd wordt dat we geen regels op mogen stellen omdat dit voor hen zo moeilijk is. Het hangt ervan af welke regels het zijn. Daar zijn vrij simpele principes voor. De technologie die je ontwikkelt, moet interoperabel zijn. Je mag dus niet locked-in raken in de technologie die wordt gebruikt. Het moet decentraal zijn, dus geen centrale macht die centraal ergens iets ontwikkelt. Het gaat om open standaarden, open source en data commons. Het zijn een aantal technische voorwaarden zoals je ook aan financiële systemen financiële technische voorwaarden kunt stellen. Op het moment dat je zegt dat dát de regels zijn, dan zorg je ervoor dat nieuwe partijen daaraan voldoen. Als daar vervolgens in aanbestedingen naar gevraagd wordt, zullen zij de eersten zijn die daaraan voldoen. Dus je creëert een markt die juist open en vrij is. Het tegendeel is dus waar: ik denk dat die regels er juist voor gaan zorgen dat er een gezonde middenstand ontstaat. In Duitsland heet dat een gesunder Mittelstand. Dit kan ongelofelijk belangrijk zijn voor nieuwe toetreders en nieuwe bedrijven. Ik denk dat er over die regels ten onrechte wordt gezegd dat ze Nederlandse of Europese bedrijven in de weg zouden zitten. Ik denk dat ze juist een enorm breekijzer kunnen zijn om de markt te openen. De grote partijen zullen veel minder snel op interoperabiliteit inzetten omdat dat echt hun businessmodel ondermijnt.
Een deel van dat nieuwe internet is er al. Er is vanuit Europa al flink geïnvesteerd in wat dan het «Next Generation Internet» heet. Dat voldoet aan deze principes. Er zijn bedrijven die dit al leveren. Universiteiten hebben laatst de oproep gedaan om helemaal weg te gaan uit de Amerikaanse cloud. Nou, zorg er in ieder geval voor dat je er minder afhankelijk van bent. Ik ben dus niet van de rigoureuze stappen. Ik snap hoe ongelofelijk complex heel veel van die vraagstukken zijn. Maar je kunt wel een migratieplan opzetten waar je een aantal jaren over doet en waarmee je stevige stappen zet. Die oproep is nu bij de universiteiten terechtgekomen vanuit hoogleraren. Daar kan al op gehandeld worden. Er zijn namelijk alternatieven waar SURFnet mee aan de slag kan. Het Internationaal Strafhof kon met zijn data naar een andere cloud. Voor andere diensten is het complexer. Ik zeg niet dat het een easy fix is. Maar ik wil wel zeggen dat de route er is en dat die begaanbaar is. Ik zou dit echt omarmen. In het Next Generation Internet zitten technische standaarden die ervoor zorgen dat je niet locked-in kan raken en dat je niet in deze afhankelijkheden terecht kan komen.
Dan kom ik op een laatste punt. Als een ministerie of een beleidsterrein iets met financiën doet, dan moet het langs het Ministerie van Financiën. Daar heb je accountants die je helemaal doorzagen en je moet aan allerlei regels voldoen. Het lijkt mij logisch dat het technologiedomein precies dezelfde positie in zou moeten nemen. Dan kun je je niet iets voornemen op het gebied van data, software of AI zonder dat je langs zo’n soort extreme bootcamp moet en moet je er dus voor zorgen dat je het allemaal op orde hebt. Dat zie je op dit moment een heel klein beetje gebeuren. Het zijn generieke principes die overal op doorwerken, in elk beleidsdomein. Je zou een soort toets willen hebben, zowel op strategische autonomie als op de effecten op milieu, regelgeving en water- en energiegebruik. Qua strategische autonomie stel je dan de vragen of we strategisch autonoom blijven als we deze weg inslaan, of het interoperabel is en of het privacy by design is. Het gaat om dat soort subvraagstukken. Een toets voor de effecten op milieu, regelgeving en water- en energiegebruik lijkt me ook heel logisch.
Het laatste wat ik nog wil noemen, is het volgende. Ik denk dat de overheid op dit moment heel goed voor zichzelf zorgt. Als je kijkt hoeveel geld de overheid aan zichzelf besteedt, bijvoorbeeld voor digitalisering, dan is dat enorm. Je zou dat eens bij elkaar op moeten tellen. Als je dat alleen al ziet als inkoopkracht, dan heb je een ongelofelijk krachtige kans om verandering teweeg te brengen. Voor het bedrijfsleven geldt dat grotendeels ook, zeker als men dat met adventure capital en private equity en dat soort typen geld wil optuigen. Ik denk trouwens dat we ervoor moeten oppassen dat we al ons talent met adventure capital op pad sturen, want de exit is uiteindelijk weer de muil van Amazon. Alles wat je met een start-up, stay-up, scale-up en uiteindelijk een unicorn doet, leidt uiteindelijk naar de exit, namelijk bij diezelfde big tech waarvan we nu steeds zeggen dat we dat niet moeten doen. Je moet ook nadenken over andere vormen van financiering. Maar het belangrijkste is dat er voor de samenleving op dit moment geen enkele investering is. Het programma Digitale samenleving is min of meer gekild en bestaat op dit moment eigenlijk niet. De culturele, maatschappelijke en zorgorganisaties en het verenigingsleven zijn volledig overgeleverd aan big tech. Die kunnen de stappen niet zetten die overheden zelf wel kunnen zetten. Als we dus vanuit het perspectief van the whole of society, het beginsel dat ook in Finland heel erg speelt, willen werken en hier met z’n allen in willen staan, dan is het ook belangrijk dat we die rol van maatschappelijke organisaties meenemen. Die ontbreken op dit moment grotendeels in het afwegingskader.
Dank u wel.
De voorzitter:
Veel dank aan alle deskundigen. Ik denk dat het voldoende voer is om door te vragen. Ik stel voor dat iedere fractie in de eerste ronde één vraag mag stellen. Gelukkig zijn er van sommige fracties meerdere leden, want dat is natuurlijk fantastisch. Maar laten we proberen om in de eerste ronde iedere fractie één vraag te laten stellen.
We verzamelen even drie vragen achter elkaar. Geeft u verder aan op wie u de vraag in het bijzonder richt. Daarna kunnen de deskundigen de vragen beantwoorden.
Ik kijk even rond: wie van u kan ik het woord geven? Ik begin hier op rechts bij de heer Nicolaï van de Partij van de Dieren.
De heer Nicolaï (PvdD):
Met mij begint u in ieder geval op links! Ik hoor de SP zeggen: het wordt tijd.
Ik ben een beetje in verwarring. Als ik het goed begrepen heb, hoor ik de heer Passchier zeggen: de regels die er nu voor de privacybescherming zijn, zitten de nieuwe aanbieders eigenlijk gewoon in de weg, want het is daardoor bijna onmogelijk om als kleine aanbieder op de markt te komen. Maar ik hoor mevrouw Stikker vervolgens zeggen: er is al zo veel en we moeten wat er al is nu eerst gaan benutten. Hoe verhoudt zich dat tot elkaar? Ik weet niet wie van de twee dat wil beantwoorden.
Ik ben verder heel benieuwd wat we als Nederland zelf kunnen doen. We zitten nu in de Eerste Kamer van Nederland. Ik hoor wat u zegt over de sancties die we kunnen opleggen, maar moeten we niet à la Trump wat brutaler worden? We hebben allerlei datacenters in Nederland en zouden we niet eens een wet kunnen aannemen die zegt «als die big tech zich niet aan de regels houdt, grijpen we bij die datacenters in»? Dan raak je ze in de portemonnee en dat is precies waar je ze moet hebben. Dat was een vraag van links.
De voorzitter:
Een vraag van de man op links. Dank u wel. Dan kom ik bij de heer Janssen van de SP.
De heer Janssen (SP):
Gehoord de inleiding vraag ik me even af hoe we tot een doorbraak kunnen komen en dan vooral op het gebied van toezicht en handhaving. Ik vraag dat, want bij big tech versus publiek lopen we natuurlijk zwaar op achterstand. Mijn vraag is of AI daar niet een rol bij kan spelen. Ik denk dan aan een andere AI dan die in handen is van big tech, namelijk aan een eigen kunstmatige intelligentie waarmee we tot een doorbraak kunnen komen om die ongelijke strijd toch in het publieke voordeel te beslissen.
De voorzitter:
En aan wie in het bijzonder stelt u die vraag?
De heer Janssen (SP):
Wie zich aangesproken voelt.
De voorzitter:
Prima. Er is nog ruimte voor een derde vraag. Collega Van de Sanden van de VVD.
De heer Van de Sanden (VVD):
Ik hoor alle drie de deskundigen pleiten voor meer regulering van big tech. Tegelijkertijd is er al de nodige regulering, niet in de laatste plaats op Europees niveau: de DSA, DMA, GDPR en AI Act. Vindt u deze bestaande regulering onvoldoende, en, zo ja, waarom? Wat zou er volgens u aan nadere regelgeving nodig zijn? Denkt u in dat verband aan het vaker en steviger inzetten van het mededingingsrecht, zoals onlangs door een aantal hoogleraren op het gebied van informatierecht en mededingingsrecht is bepleit?
De voorzitter:
Dank u wel. Drie mooie vragen. Ik begin maar gewoon bij de heer Passchier en dan gaan we, zoals we net ook hebben gedaan, daarna het rijtje af.
De heer Passchier:
Dank u wel voor de mooie vragen.
De verwarring met betrekking tot de regels. Over het algemeen ben ik enthousiast over de regels die tot nu toe in de Europese Unie zijn gemaakt. Er valt van alles over op te merken, maar we lopen daarmee ver voor op de rest van de wereld. Ik denk ook dat die regels nodig zijn.
Mijn punt was: om die regels te laten werken en te laten doen wat die regels beogen te doen moeten we tegelijkertijd de machtspositie van big tech structureel aanpakken. We moeten daarom onze onafhankelijkheid van big tech vergroten. Er is onlangs een filmpje opgenomen met Mark Zuckerberg waarin met zoveel woorden de oorlog werd verklaard aan Europese regels en waarden. Als bigtechbedrijven zich op die manier zeer onbetrouwbaar tonen, moeten we net als in de negentiende eeuw zo’n bedrijf met pek en veren Europa uit gooien.
In een wat gelijker speelveld, waarin daadwerkelijk sprake is van een markt en waarin nieuwkomers een kans maken, kunnen die regels hele nuttige effecten hebben en juist de goede innovatie stimuleren. Maar dan moet het mes wel aan twee kanten snijden. Daarbij spelen overheden, denk ik, een cruciale rol. Westerse overheden beheersen met hun uitgaven immers ongeveer de helft van hun economieën. Je kan start-ups stimuleren wat je wil en proberen om goed onderzoek aan te moedigen bij de universiteiten, maar op het moment dat je zelf geen klant wordt van die start-ups of van bedrijven die al wat meer zijn gegroeid, dan maken die uiteindelijk geen kans om een betekenisvolle rol te spelen.
Kunnen we die datacenters niet confisqueren? Ik vind dat op zichzelf wel een leuk idee! Ze staan in de Wieringermeerpolder en je kan er zo naartoe. Je hebt niet eens veel mensen nodig om dat te doen en ... Maar dan krijg je natuurlijk wel een enorme internationale rel en ik weet daarom niet of het de beste strategie is om het zo te doen.
De vraag over AI laat ik graag aan Marietje Schaake.
Hebben we meer regulering van big tech nodig? Ik denk dat Europa over het algemeen al heel goede regels heeft gemaakt, maar daar kan best wat bij, zeker op het gebied van het mededingingsrecht. Een van de dingen die bijvoorbeeld niet verboden is en heel moeilijk tegen is te gaan met de huidige regels, is de zogenaamde killer acquisition. Frankrijk had een AI-kampioen, Mistral. Iedereen in Europa was daar heel enthousiast over, maar dat bedrijf is de facto een jaar geleden overgenomen door Microsoft. Dat gebeurde tot verbijstering van het Europees Parlement, maar met het huidige mededingingsrecht kun je daar eigenlijk niet zo veel aan doen.
Het is een beetje kort door de bocht, maar in het Europese mededingingsrecht zijn monopolies dus niet verboden. Alleen misbruik van monopoliemacht is verboden en dat is weer heel moeilijk te bewijzen. Dat alles maakt dat het mededingingsrecht heel waardevol zou kunnen zijn en dat je er veel meer mee zou kunnen doen. Dat ben ik met u eens. Je moet het dan ook als instrument gebruiken, maar er is nog een heel pakket andere maatregelen nodig om de macht van big tech daadwerkelijk terug te dringen.
De voorzitter:
Dank. We gaan door naar mevrouw Schaake.
Mevrouw Schaake:
Ik begin met de vraag van meneer Van de Sanden, want die sluit mooi aan bij het antwoord van Reijer Passchier. We zouden, denk ik, een lange discussie kunnen hebben over nut en noodzaak van regelgeving, maar feit is dat de op regels gebaseerde internationale orde door de Verenigde Staten niet meer wenselijk wordt geacht. Dat betekent dat wij in Europa überhaupt te maken krijgen met een smaller draagvlak voor het fenomeen «regels». Tot voor kort werd op Europees en Amerikaans niveau redelijk vergelijkbaar gedacht over regels, ook in het kader van mededinging, maar dat is niet meer zo. Het betekent dat Europa wat meer alleen komt te staan.
De Digital Markets Act is een nieuw pakket wetgeving, waarmee we proactiever proberen om te gaan met de verantwoordelijkheid van de grootste spelers in de markt. Je wilt niet alleen achteraf corrigeren met sancties, maar ook vooraf zeggen dat de interoperabiliteit op orde moet zijn enzovoort, enzovoort. Maar zelfs met dergelijke fantastische mededingingsregels ben je er nog niet.
Wat volgens mij nú ter discussie staat en wat ook dat moment van urgentie creëert, is de veranderende geopolitiek. Met regels probeer je bij te sturen, maar wat er nu aan de orde is, is dat we een alternatief moeten creëren. En daar zijn die regels in algemene zin maar in zeer beperkte mate toe in staat, want die gaan uit van bijsturen en niet van het bouwen van alternatieven. Daarom verwacht ik ook dat er de komende vijf jaar op EU-niveau veel minder gereguleerd zal worden. Er zal in plaats daarvan veel meer aandacht zijn voor investeringen. En dat is dus ook belangrijk.
In dat kader hebben we een probleem op Europees niveau, want nationale veiligheid is een nationale competentie. Maar we hebben tegelijkertijd onze markten tot één markt gemaakt en vooralsnog streeft de meerderheid van de Europeanen en van de politieke partijen daar ook naar. Dat is ook de macht die we gezamenlijk hebben, maar anders dan in de VS en anders dan in China kunnen wij niet met een soort strategische lens kijken naar investeringen en naar een combinatie tussen economie, geopolitiek en democratie. Maar dat is echt wel iets wat met politiek leiderschap overwonnen kan worden.
Reijer zei iets over overnames door techbedrijven en daar is met het instrument van foreign direct investment op Europees niveau een soort bruggetje gemaakt, want eigenlijk screenen alle lidstaten nu afzonderlijk. Alle lidstaten kijken afzonderlijk of er een risico kleeft aan een buitenlandse investering in cruciale technologie. Om dat toch wat te harmoniseren en om die blokvorming en die markt niet uit elkaar te laten vallen is er een tijdelijk instrument gekomen. Maar eigenlijk zou er veel meer gezamenlijk moeten worden opgetreden om dat snijvlak van economie en veiligheid beter op elkaar aan te laten sluiten.
De heer Janssen vroeg of AI een rol kan spelen bij het creëren van een doorbraak. Eerlijk gezegd ligt dat vooral aan de politiek. Er moet nu heel veel daadkracht getoond worden om het momentum waar we in terecht zijn gekomen, te gebruiken om daadwerkelijke alternatieven te creëren. Ik wil daar wel bij zeggen: als het nu niet gebeurt, zal het waarschijnlijk nooit gebeuren. Ik meen dat heel serieus, want AI is de volgende golf technologie en die gaat gepaard met behoorlijk wat hype. Terwijl we hier zitten, wordt het al door alles en iedereen gebruikt, van studenten, die zelfs op de beste universiteiten tegenwoordig nauwelijks meer kunnen lezen en schrijven, tot aan de rechtszaal aan toe.
Vermoedelijk wordt het ook al in uw kantoren gebruikt. U ziet allemaal icoontjes dansen op uw beeldscherm die u verleiden om de AI-assistent in te roepen. Zo gaan we dus van big tech naar big AI. Er moet echt met een hele duidelijke nadruk op het gevoel van urgentie, die gecreëerd wordt door een combinatie van economische afhankelijkheid en nieuwe politieke dreiging, door mensen gekozen worden voor een alternatief pad. En dat kan! Ik denk dat een van de grootste obstakels op weg naar verbetering de attitude is, het idee dat het niet meer anders kan. Maar het kan wel anders. Het kan wel anders!
Kort iets over de datacenters. De heer Nicolaï heeft de verbeelding aangeraakt! Maar ik wil het graag wat minder spannend houden dan «eruit gooien» of «op slot doen». Ik wil in plaats daarvan een handvat geven waarmee Nederlandse politici echt iets kunnen verbeteren. In Nederland wordt niet gezamenlijk nagedacht over de wenselijkheid van datacenters en over de plekken waar ze zouden moeten staan. De stad Amsterdam vindt het bijvoorbeeld niet wenselijk om nog nieuwe datacenters binnen de stadsgrenzen te krijgen, maar in de provincie kan er weer wel van alles. De optelsom wordt te weinig gemaakt, terwijl er in Nederland, een klein en dichtbevolkt land, veel datacenters staan. Je kan dan zeggen dat dat nodig is omdat ons midden- en kleinbedrijf ook servers heeft en omdat we die datacenters daarom nou eenmaal willen hebben. Maar we zien dat met name grote techbedrijven systematisch intransparant opereren op het moment dat ze een licentie willen voor datacenters. Hun ware identiteit laten ze niet zien! Dat is slecht voor het democratisch debat, maar er zijn bovendien bijvoorbeeld ook geen standaarden voor elektriciteits- en watergebruik.
Dat alles maakt onderzoek naar en het begrijpen van techbedrijven ook zo lastig. Het ene bedrijf rapporteert misschien wel het totale elektriciteitsgebruik wereldwijd in een jaar, terwijl het andere bedrijf dan weer helemaal niets rapporteert. Daardoor weten we dus eigenlijk niet of beloften nagekomen worden en of het ene bedrijf vergelijkbaar is met het andere bedrijf. Bovendien is het uiterst merkwaardig dat bedrijven die ofwel duurzame energie willen inkopen ofwel in ons land water en elektriciteit willen gebruiken, niet met open vizier opereren.
Dat zijn echt dingen waarover op Nederlands niveau gezegd kan worden: dat accepteren we niet. Bovendien willen we een soort landelijke datacenterstrategie ontwikkelen. En weet u wat: als dat zo’n goed plan wordt dat we het ook op Europees niveau willen inbrengen, dan wordt er veel meer naar het totaalplaatje gekeken. En daardoor kunnen bedrijven niet langer zoals nu gaan shoppen: lukt het niet in Zeewolde, dan lukt het twee weken later wel in Denemarken. Dat is een manier om langs het algemeen belang steeds die weg van de minste weerstand te kiezen en uiteindelijk hebben we daar op Europees niveau dus te weinig tegenkracht voor georganiseerd.
De voorzitter:
Dank u wel. Ik kijk even naar mevrouw Stikker: heeft u hier nog iets aan toe toevoegen?
Mevrouw Stikker:
Een van de dingen die ik nog zou willen zeggen, betreft de vraag of je met regels nieuwe of jonge bedrijven in de weg zit. Of bied je ze daarmee juist de kans om toe te treden, omdat je een snelle start kunt hebben doordat iedereen die regels moet naleven?
Het gaat natuurlijk om het verdienmodel van die bedrijven. Dat is de crux. Waarom is big tech zo problematisch? Omdat hun verdienmodel zo problematisch is. Zuboff heeft dat «surveillance capitalism» genoemd. Er worden nog steeds ongelofelijk veel data over ons verzameld. Er worden per dag via de telefoon 20.000 datapunten van ieder van ons opgehaald: waar je bent en hoe je leest, bijvoorbeeld. Doe je dat liggend of niet liggend? Dat kunnen ze zien met een sensor in je telefoon die registreert of je ligt of staat en of je beweegt of niet. We weten dat alle apps die we gebruiken, ook Buienradar, problematisch zijn. Bedrijven die zeggen privacy by design toe te passen en al die data niet te hoeven hebben, omdat het niet hun verdienmodel is om al die data te verkopen, hoeven niet eens die cookies te vragen. Die cookies komen voortdurend op ons scherm terecht omdat die bedrijven meedoen aan die datahandel. Het probleem is dus niet per se dat wij vanuit de GDPR hebben gevraagd om toestemming te vragen; het probleem is dat al die bedrijven op hetzelfde verdienmodel zitten. We moeten dus naar andere economische modellen toe gaan. Dat is natuurlijk ook de economie van het internet.
Daar gaat ook de discussie over AI over. Als wij willen dat AI iets gaat betekenen in Europa, zullen we daar zeggenschap over moeten hebben. We hebben nu het Nederlandse taalmodel. Ik zat laatst op een AI-conferentie. Op het scherm achter ons werden de teksten die wij uitspraken getranscribeerd. Die transcriptie was in slecht Nederlands. In elke zin ging er wel ergens iets mis. En als je nu die ondertitelingen op Netflix ziet, zie je dat die bijna allemaal niet lekker gaan. Dat is allemaal OpenAI, of Grok, of iets Amerikaans. We hebben onze taal uit handen gegeven, dus wat hebben wij in Nederland dan eigenlijk? Het Nederlands is toch iets, zou je zeggen, waar wij hier met z’n allen verantwoordelijkheid voor dragen? Wij moeten toch in ieder geval nog zeggenschap over de Nederlandse taal hebben, als het in het digitale domein is? We hebben het initiatief GPT-NL. Dat sturen we met veel te weinig geld op pad, en bovendien vragen zij dan al die mensen die die woorden hebben om met nog eens 10 miljoen goede woorden te komen. Dan zie je dus dat we ook dat weer veel te veel alleen maar als technologie aanvoeren.
Wie maken die woorden, waar komen ze vandaan? Ze komen uit boeken, uit schrijvers en uit de wetenschap. Maar die zijn we vergeten uit te nodigen bij dat gesprek. Dan kom je dus op iets wat «commons» heet. We kunnen naar een economie waar heel veel bedrijvigheid omheen kan ontstaan, maar dan moet je de kern daarvan wel in gemeenschapshanden houden en dus niet in die van de overheid leggen. We moeten weer doordenken in dat model. Het is dus niet een keuze tussen de staat en het bedrijfsleven, of tussen publiek, van de overheid, en privaat. We hebben allerlei modellen. In de jaren vijftig was het heel normaal dat je dingen in stichtingen, verenigingen en trusts organiseerde. Ik denk dat er echt wel moeite voor gedaan moet worden om dat economische weer terug te brengen, want dan kun je heel veel van die vraagstukken die nu onoplosbaar lijken te zijn, oplossen. Het is zo klassiek om te denken dat de overheid alles maar moet gaan doen. Nee, liever niet; ik vind niet dat de staat of de overheid alles moet gaan doen. Maar ik vind zeker niet dat heel veel van dit soort fundamentele vragen over AI en data in de handen van private partijen moet zijn. We moeten dus naar een ander ecosysteem. Ik denk dat dat ongelofelijk kan helpen om dat Next Generation Internet ook werkelijk te laten landen.
De voorzitter:
Dank voor alle antwoorden. We gaan meteen door, ook gelet op de tijd. Wie van de fractie van BBB kan ik het woord geven? Het woord is aan collega Van Gasteren van BBB.
De heer Van Gasteren (BBB):
Dank u wel. U begon met een heel lijstje, dus ik dacht: nou, ik ben wel wakker nu. Gelukkig zei uw buurvrouw dat we het allemaal niet zo heel somber moeten inzien. Ik ben op één manier wel blij met meneer Trump, want hij veroorzaakt wel een wake-upcall. Ik had het in het begin eigenlijk allemaal niet zo gezien. Big tech is inderdaad wellicht een probleem, maar er is nog een probleem. Dat noem ik «sneaky tech». Dat komt uit China en zit ook overal, vaak op kleinere componenten. Ergo, zij houden zich vooral bezig met het beheren en beheersen van de resources die je nodig hebt om big tech te worden. Mijn vraag is dus of het niet eens tijd is dat er toch een soort deltaplan komt, niet alleen op Europees niveau maar ook op Nederlands niveau, waarbij je ook dat soort componenten meeneemt? Heeft u daar wellicht over nagedacht? We zijn natuurlijk ontzettend kwetsbaar geworden bij van alles en nog wat. Het is dus goed van die wake-upcall. Ik zie het ook als een wake-upcall richting big tech. Die blijken allemaal uit een hoekje te komen van «goh, nu laten ze eens zien wie we echt zijn».
De tweede vraag is de volgende. Het ziet er allemaal heel ernstig en angstig uit. Maar is het niet ook tijdelijk? Jullie hebben het over Amerika. Het is natuurlijk in principe niet Amerika, maar wel een bepaalde richting in Amerika. Dat kan over vier jaar ook gewoon weer anders zijn, terwijl het routeplan dat wij moeten hebben waarschijnlijk tien jaar kost, of misschien wel twintig. Dat wil niet zeggen dat je het niet moet hebben, maar moeten we niet ook een beetje een pas op de plaats maken en pragmatisch kijken naar wat we op de korte termijn kunnen doen? Misschien kunnen we iets doen met investeringswetten, met overname- of mededingingswetten of met allerlei andere zaken. Dus hoe komen we van die grote olifant hapje voor hapje naar een behapbare oplossing?
De voorzitter:
Dank u wel. Dat waren twee vragen; u heeft er één bij gesmokkeld. Ik kijk vervolgens naar collega Kemperman. Heeft u een vraag?
De heer Kemperman (Fractie-Kemperman):
Ja. Dank u wel, voorzitter. Dank aan alle deskundigen voor de onheilspellende woorden. Dat onheilspellende is helaas wat ik een beetje uit de boodschap oppik. Ik heb gehoord over de financiële en juridische aspecten, maar ik heb eigenlijk een vraag over de fysieke aspecten. Zonder dat we er wellicht erg in hebben gehad, heeft er namelijk ook een geruisloze transitie van onze infrastructuur plaatsgevonden, dus van onze fysieke infrastructuur. Dan bedoel ik de bekabeling, leidingsystemen en zendmasten. Onze leefomgeving is gewoon veranderd. Die is gewoon ingevuld met de benodigde hardware om al die data te verzamelen, of het nou gaat om een smart telefoonpaal of een stoplicht of zendmast waarmee data verzameld worden. Ik heb daar in de Kamer vragen over gesteld aan de Minister. Ze hebben er veertien maanden over gedaan om daar antwoorden op te geven. Dat is nog niet echt geland op de agenda van de Kamer. Kunnen we niet iets via de link met volksgezondheid en de fysieke infrastructuur? Er is inmiddels zo veel bekend over de cumulatie van elektromagnetische velden om al die data te verzamelen en het beslag daarvan op de grondwaterstand. Zouden we langs die weg niet veel meer grip kunnen krijgen op iets dat zich bancair, financieel en juridisch boven onze hoofden afspeelt? Maar dit gaat over onze grond. Wij geven voor deze plek omgevingsvergunningen af voor de palen die die data verzamelen. Zien de deskundigen daar mogelijkheden om wat meer controle op dit construct te krijgen? Dat is mijn vraag.
De voorzitter:
Dank u wel. Een andere invalshoek. Ik hoop dat de deskundigen daar ook iets over kunnen zeggen. Collega Roovers, van GroenLinks-Partij van de Arbeid.
Mevrouw Roovers (GroenLinks-PvdA):
Ik wil even terugkomen op het incident dat de heer Passchier al noemde, namelijk het feit dat een van de hoofdaanklagers van het Strafhof niet meer bij zijn mail kon omdat Microsoft hem eruit gedonderd had. Ik denk dat dat een wake-upcall is geweest voor velen van ons, althans dat hoop ik. Ik hoorde een van u – dat was mevrouw Stikker, geloof ik – zeggen dat de overheid op verschillende manieren invloed kan uitoefenen, namelijk door wet- en regelgeving, maar ook door met onze grote inkoopkracht de overgang naar nieuwe initiatieven te vergemakkelijken. Dan is mijn vrij praktische vraag: wat zijn die alternatieven dan? Wij zitten hier ook allemaal op e-mail van Microsoft. Dat geldt voor de hele overheid. Wat zou u ons adviseren op dat gebied als het gaat om onze eigen infrastructuur?
De voorzitter:
Dank. We gaan maar gewoon weer de rij af, want er zijn van iedere deskundige steeds weer mooie nieuwe perspectieven. Aan u eerst het woord, meneer Passchier.
De heer Passchier:
Dank u wel. Ja, Trump is een wake-upcall, maar het probleem is al veel ouder. Shoshana Zuboff, die net al even door Marleen Stikker is genoemd, beschrijft in haar boek over surveillancekapitalisme ook uitgebreid hoe bijvoorbeeld de Obamaregering en de top van Alphabet, bekend van Google, met elkaar verweven waren, en hoe schadelijk dat was voor de democratische rechtsstaat en hoe het de verhouding publiek-privaat compleet zoekmaakte. Het is dus zeker niet bij Trump begonnen. Over het probleem met big tech wordt al zeker twintig jaar geschreven.
Het probleem van het veel te grote bedrijf – «bigness», zoals dat in de Verenigde Staten zo mooi wordt genoemd – wordt al zeker sinds 1912 aangekaart, van links tot rechts trouwens. Een Amerikaanse rechter had het al in 1912 in relatie tot hele grote banken over the curse of bigness. Ik zou dus zeggen: we zitten nu met een nog veel grotere vloek van big tech. We hebben die literatuur eigenlijk nooit echt serieus genomen. Een ander bekend voorbeeld is Friedrich Hayek, ook niet bekend als een hele linkse denker. Die nam dat grootbedrijf als probleem heel serieus. Hij zag dat ook als collectivisme, een weg naar afhankelijkheid en serfdom, zoals hij zo mooi beschreef; dat spreekt boekdelen. Dit is dus al een oud probleem.
Is het niet tijd voor een deltaplan? Ik zou zeggen: het is eigenlijk tijd voor een deltaplan soevereiniteit, omdat we aan alle kanten onze grip op met name grote bedrijven verloren zijn. Dat is dus een ontwikkeling van al 100 jaar. Het is prima om big tech aan te grijpen, maar eigenlijk hebben we nu een bredere opgave. Daarbij kunnen we trouwens niet buiten de Europese Unie, omdat die bedrijven inmiddels zo groot en machtig zijn en zo wereldwijd opereren dat Nederland, maar zelfs Duitsland, geen enkele kans maakt om dat op een goede en structurele manier te beteugelen. Ik denk dat de EU hier onze enige hoop is, of je het nou leuk vindt of niet. Overigens schreven we over dat deltaplan waar u het over heeft – ik werk nu zelf bij de Open Universiteit, maar daarvoor werkte ik bij de Wetenschappelijke Raad voor het Regeringsbeleid – in 2019 al een rapport dat «Voorbereiden op digitale ontwrichting» heette. Daarin pleitten we ... Daarin pleitte de raad, moet ik netjes zeggen, voor iets dergelijks als wat u voorstelt. Het Rathenau Instituut heeft het daar bijvoorbeeld ook al heel lang over. Dus ja, daar kunnen we Trump misschien af en toe stiekem voor bedanken: hij heeft het zo expliciet gemaakt dat politici hopelijk ook iets met dit probleem kunnen en we er een brede maatschappelijke discussie over kunnen voeren.
Is het over vier jaar weer anders? Nee. Ik denk sowieso dat je in de Verenigde Staten continu het risico loopt op figuren als Trump. Daar moeten we misschien nu niet over uitweiden, maar daar zitten hele structurele oorzaken onder, die al een heel lange geschiedenis hebben. Die worden vaak onder de noemer «imperial presidency» besproken in het debat in de Verenigde Staten. Ook dat zal dus blijven terugkomen. Maar nogmaals, die verwevenheid tussen big tech en Amerikaanse regeringen, waarbij ik denk dat big tech steeds de boventoon voert en uiteindelijk meestal het laatste woord heeft, zie je dus ook al heel erg lang.
Het punt over fysieke aspecten is heel aardig. Inderdaad, digitale technologie is ook heel erg verweven met fysieke technologie, bijvoorbeeld met bruggen en de trein. Maar ik heb me er nog niet in verdiept hoe dat precies zit met die – waar had u het over? – elektromagnetische velden. Ongetwijfeld zitten er allerlei haakjes om ook iets met volksgezondheid te doen. Digitalisering is geen specialisme; het is een probleem, een vraagstuk dat door al het andere heen loopt. Daarom is het zo mooi dat u hier met zo veel commissies zit. Je zal dus ook al het andere nodig hebben om allerlei vraagstukken die digitalisering met zich meebrengt, adequaat te kunnen adresseren.
Dank u wel.
De voorzitter:
Dank u wel. Mevrouw Schaake.
Mevrouw Schaake:
Dank u wel. Ik pak er even een ander punt uit. Er werd namelijk ook iets gezegd over Chinese technologie. Daarbij is afhankelijkheid natuurlijk ook een vraagstuk, maar daar wordt wel met veel meer argwaan naar gekeken. Dat maakt het wel anders. Er is niet met wantrouwen en zorg van vergelijkbare strekking naar Amerikaanse afhankelijkheid gekeken. Dat wreekt ons allen nu, denk ik. Is dit van tijdelijke aard? We zouden kunnen zeggen «dat hopen we», maar hope is not a strategy. We kunnen niet wachten tot dit voorbijgaat.
Daarbij houden de techbedrijven die inderdaad op de voorste rij van de inauguratie van de Amerikaanse president zaten, er nadrukkelijk anti-Europese, maar ook antidemocratische idealen op na. Het is niet per se leuk om te lezen, maar het is wel heel interessant om eens te duiken in de denkers die een aantal van de grootste steunverleners aan Trump uit Silicon Valley omarmen. Het gaat daarbij echt om gedachten als: we moeten de overheid ontmantelen en vervangen door een bedrijfsmodel dat de maatschappij stuurt, geleid door een CEO-koning. Er is dus ook technodenken rondom het herinrichten van een soort van koninkrijk, maar dan dus met een leider uit het zakenleven, de techsector, aan de leiding.
Dit zijn dus echt ideologieën die nu heel veel ruimte krijgen en die ook via een verkiezing niet per se naar de achtergrond gedrongen zijn. Bovendien is er – dat zeg ik ook met pijn in het hart – steeds meer zorg over hoe het er bij de volgende verkiezingen aan toe zal gaan, omdat er tegen de Amerikaanse Grondwet in wordt gespeculeerd over nog een kandidatuur door de heer Trump in 2028. Er zijn al petjes uit China besteld met het jaartal erop. Zelfs als bepaalde kopstukken het veld ruimen, zoals nu ook lijkt te gebeuren met Elon Musk, die een stap terug deed uit het Department of Government Efficiency, zijn die ideeën dus nog niet weg en is onze afhankelijkheid zeker nog niet opgelost.
Dan nog kort over wat mevrouw Roovers onder de aandacht bracht. Het is op een bepaalde manier een beetje schrijnend dat het niet meer toegankelijk zijn van het e-mailadres van één persoon voor zo veel mensen ineens de grootsheid van dit probleem duidelijk maakt. De macht van Amerikaanse tech als pressiemiddel is precies waarover het gaat. Die is systematisch. Het gaat over honderden miljoenen e-mailadressen in Europa, het gaat over eindeloos veel data. Marleen zei het al: 20.000 datapunten per dag. Probeer maar op te tellen. Het feit dat het een mogelijk pressiemiddel is, in handen van de Amerikaanse staat, is een risico. Dan hebben we het niet over hoe CEO’s zich gaan gedragen, maar over hoe de staat de techbedrijven tot instrument van geopolitieke macht kan dwingen. Sommige mensen zeggen: we moeten allemaal nog maar zien hoe het uit de hand zal lopen. Maar het risico is reëel. De handelsoorlog is er al. Het gaat ook om het verminderen van het risico. We gaan geen weddenschap afsluiten over wat er wel of niet zal gebeuren, maar het risico is groot. Dat wordt geïllustreerd aan de hand van talloze individuele voorbeelden. Ik zou u allen willen uitnodigen om eens de optelsom van die voorbeelden te maken. Dan wordt dat systeemprobleem helderder.
De voorzitter:
Dank u wel. Mevrouw Stikker, wellicht heeft u nog een toevoeging.
Mevrouw Stikker:
Als je die optelsom maakt, kun je je afvragen of we in Amerika niet zien wat we in Rusland al heel lang zien, namelijk dat de staat en het kapitaal in één hand zijn. Als je het rijtje CEO-mannen achter Trump ziet, kun je je afvragen of hij ze erbij heeft gehaald of dat hij de uitvoerder is van hun programma. Trump is zelf ook lekker op weg om biljonair te worden, met alle lucratieve dealtjes die hij maakt met mensen die voor een miljoen mogen praten met hem. De facto is het al een bedrijf dat gerund wordt, bezien vanuit het perspectief van een bedrijf. Het is heel ver weg van wat wij, in ieder geval tot dusver, onder democratie verstaan.
De vraag was of dat zal veranderen als de Democraten of een andere vorm van de Republikeinen aan de macht zijn. Palantir en SpaceX hebben enorm geprofiteerd van de Democraten. Dat soort grote bedrijven bestaat bij de gratie van contracten van de overheid. Wat betreft de ideologie, waar Marietje Schaake het over heeft, is het volgens mij goed om echt tot je door te laten dringen wat het betekent als iemand zegt: vrijheid en democratie gaan niet samen. Dat zeggen mensen als Peter Thiel en JD Vance, die gepositioneerd is door Peter Thiel. We hebben gewoon te maken met een heel bizar, beangstigend wereldbeeld.
De vraag over het fysieke domein hangt voor mij samen met de vraag over de milieueffectrapportage. Wij doen het voor alles, bijvoorbeeld voor vee en voor bouwen. Het is eigenlijk heel erg raar dat we het niet hebben voor al die ambities met data en AI. Je kan zeggen: we willen datacenters. Maar waar willen we die dan voor hebben? Willen we die voor externe bedrijven of voor voorzieningen die wij hier gemeenschappelijk willen neerzetten? Het gaat erom dat er grip op komt. Ik denk dat je ook naar de ruimtelijke effecten moet kijken; die vergeten we vaak.
Dan de vraag over de alternatieven die er zijn, gecombineerd met een deltaplan. Is het begrip «EuroStack» bekend of langzamerhand geland? Het begint wel enigszins tractie te krijgen in Europa. Het is een manier van denken waarbij je over de hele stack, de hele stapel, van technologie analyseert wat in Europa onze technologiepositie is. Als je die analyse ziet, merk je dat we toegang hebben tot grondstoffen waarmee je chips kunt maken. Dat is heel problematisch, want we hebben bijna geen grondstoffenpositie. Dan kom je China tegen. In Europa gaat de strijd over Groenland en Oekraïne op dit moment over grondstoffen. We moeten ons realiseren dat een heel groot deel van de oorlogssituatie waarin we verkeren, te maken heeft met de volgende generatie grondstoffen die we nodig hebben, de volgende generatie technologie. Het is dus al een technologiestrijd, een economische strijd die we aan het voeren zijn. Het is dus een groot vraagstuk. Als je die stack oploopt naar infrastructuren, naar satellietinfrastructuur en dergelijke, kun je zien dat we in Europa op heel veel plekken gewoon al ons spel kwijt zijn, dat we onze kansen niet voldoende benutten. We hebben in Nederland natuurlijk ASML. Dat wordt echt als een soort vlaggetje ... Dan is het zo van: hé, daar komt Nederland tevoorschijn. Zelfs ASML zit al flink onder de plak. Ik doel op de begrenzing die Amerika aangeeft als het gaat om wat ze wel of niet mogen verhandelen. Ik denk dat er op die hele stack zeker posities zijn waarvoor alternatieven zijn die we zouden kunnen gebruiken.
Laten we even teruggaan naar de vraag of er een alternatief is voor de cloud. Cloud Kootwijk is misschien bekend. Dat is een initiatief van Bert Hubert, die daarover sprak. Ik heb daar ook een paar sessies over gevolgd. Als je dezelfde ontzorging wil hebben die Amazon je biedt, zullen alle IT-afdelingen zeggen: nee, dan moet u toch echt naar Amazon. Als je een IT-afdeling en een CEO hebt die getraind zijn in Microsoft, zullen ze zeggen: dat kan niet. Daar hebben zij namelijk hun certificaten voor gehaald. Capgemini zal ook adviseren om het met Microsoft te doen, want ze krijgen een kickback als zij Microsoft, Teams of Google gebruiken. Je zou kunnen zeggen: iedereen die een opleiding volgt, wordt getraind in een van die drie grote Amerikaanse softwareconglomeraten. Als je wil dat wij over kunnen stappen, moet er dus ook iets aan die kant gebeuren. Dan moeten we op een andere manier mensen gaan trainen. Dat betekent ook een soort hertraining of zomerkampen voor mensen die nu de IT uitzetten. Die zullen allemaal tegen je zeggen: dat kan niet; dat vind ik eng en gevaarlijk.
De Duitse overheid heeft al grote stappen gezet, richting Nextcloud. Matrix is een voorbeeld dat de Amerikaanse overheid en de Duitse overheid gebruiken voor direct messaging. Dat is gewoon veilig en bevat end-to-endencryptie. Het voldoet aan alle voorwaarden en is niet in handen van big tech. Er zijn dus alternatieven waarop je kunt overstappen, maar dan zul je er wel rekening mee moeten houden dat de IT-afdeling van de Tweede en Eerste Kamer zal zeggen: dat is een flinke klus. Ten eerste gaan ze het afraden en «nee, dat kan niet» of «dat bestaat niet in Europa» zeggen. Dat is niet omdat het niet bestaat, maar omdat we er te weinig kennis over hebben of omdat mensen er nog te weinig moeite voor hebben gedaan. Het tweede wat zal gebeuren, is interessant. De Tweede Kamer riep op tot een moratorium in de migratie naar de Amerikaanse cloud. Vanaf dat moment kon je in gesprek met de cloudaanbieders in Europa. Dan ga je dat gesprek aan en dan zeggen ze: «Dit hebben we wel, dat nog niet. Maar als er vraag naar komt, als er een inkoopvraag komt, kunnen we het leveren of gaan we het samen leveren, want wij kunnen dat interoperabel en samen leveren. We kunnen samen optrekken.» Dat wordt «het Bijenkorfmodel» genoemd. Je kan dus kiezen voor een Amazon die alles doet, alles in één kolom, of je kan kiezen voor het Bijenkorfmodel, voor samenwerkende bedrijven die de diensten samen kunnen leveren.
Je moet echt anders nadenken over hoe je de IT-infrastructuur inricht. Ik heb een paar criteria genoemd. Het lastige is dat heel veel mensen – ik heb het over de CEO’s, de colleges van bestuur, de sg’s en de dg’s – technologie over het algemeen een lastig onderwerp vinden. Dat willen ze eigenlijk het liefst uitbesteden. Het is een beetje de hete aardappel die iedereen doorgeeft, want voor je het weet, heb je te maken met overschrijdingen of een databreuk, een data leak. Iedereen vindt het dus een lastig onderwerp. Maar je kunt echt strategisch de juiste keuzes maken en de juiste dingen sturen. Het vraagt dus om een soort herscholing. Het is chefsache geworden. Strategische autonomie is iets wat echt in de boardrooms thuishoort en wat je niet kan afwentelen op mensen door te zeggen: nou, voer het maar uit. Ik voer regelmatig gesprekken in boardrooms. Dan vraagt iemand soms: het is toch raar dat dit gebeurd is? Dan zeg ik: «Nee, dat komt omdat je de verkeerde opdracht hebt gegeven. Je hebt gezegd: maak keuzes op basis van geld of kosten. Maar als je op strategische autonomie stuurt, gaan jouw CTO, jouw CIO en jouw IT zich anders gedragen.» Dus ja, er zijn alternatieven. Het zal echt niet van de ene op de andere dag kunnen gebeuren, maar op het moment dat je gaat sturen op strategische autonomie en interoperabiliteit – denk ook aan een paar andere begrippen die ik net heb gebruikt – ga je vrij snel, vermoed ik. Tussen twee en vijf jaar kan je voor een groot deel van je afhankelijkheden afkomen, maar het is niet van vandaag op morgen gebeurd.
De voorzitter:
Maar het is in ieder geval een perspectief; dank daarvoor. We hebben nog een klein kwartier en volgens mij nog vier fractieleden die een vraag willen stellen. Ik ga dus snel door. Wie van D66 zou ik het woord kunnen geven? Collega Belhirch.
Mevrouw Belhirch (D66):
Dank u wel. Er werd net aangegeven dat er een verschuiving is van de geopolitieke verhoudingen. Het gaat eigenlijk om de democratische waarden die verschuiven. Dan gaat het niet alleen om onze trans-Atlantische verhouding. We zien die verschuiving van democratische waarden namelijk ook binnen de Europese Unie. Ik wil het hebben over de toezichthouders in Nederland. Het is juist belangrijk dat we in Nederland toezichthouders hebben die toezicht houden en monitoren op die democratische waarden. We hebben begin vorig jaar vragen gesteld aan de Staatssecretaris naar aanleiding van het rapport van de AP over grip op algoritme. We hebben gevraagd of we de toezichthouders niet verder moeten versterken en of er niet veel meer handhaving plaats zou moeten vinden. Mevrouw Schaake zei het net ook: er moet eigenlijk meer capaciteit komen, er moeten meer middelen komen. Zou er ook niet meer handhavingspower moeten komen en misschien een overkoepelende toezichthouder, juist om een sterkere hand te bieden met betrekking tot het beschermen van onze democratische waarden en onze tech?
De voorzitter:
Dank. Collega De Vries, SGP.
De heer De Vries (SGP):
Dank u, voorzitter. Ik heb een vraag die aanhaakt bij de opmerking van mevrouw Stikker over de relatie tussen artificiële intelligentie en duurzaamheid. Dat is een conflict dat ik zelf ook altijd zie en uitdraag als ik over ethiek van AI mag spreken. Ik heb dat punt dan altijd als laatste slide. Ik ben er een beetje bang voor dat de samenleving toch zal zeggen: we vallen voor al die gemakken die AI biedt, dus we zijn bereid om andere waarden, zoals duurzaamheid, een beetje in te leveren. Dat zie je ook bij privacy. Als je een dubbeltje terug kunt krijgen voor een potje pindakaas, vul je op een website gegevens in, waarvoor je je hele ziel en zaligheid inlegt. Dan kieper je je privacy helemaal overboord om een dubbeltje terug te krijgen. Ik ben weleens bang dat wij als samenleving gewoon gaan voor het gemak. Heeft het succes van de big tech nou niet juist te maken met het feit dat zij grote R&D-afdelingen hebben en daardoor diensten kunnen leveren die kleinere bedrijven niet kunnen bieden, omdat die gewoon over minder slagkracht beschikken? Is de reden dat het niet onuitroeibaar is niet dat zij gemakken kunnen bieden waar de samenleving voor gaat? Als wij als politiek zouden zeggen «we willen toch die andere waarden», hebben wij dan straks niet de samenleving tegenover ons? Hoe krijgen we de samenleving zover dat die in gaat zien dat je niet altijd voor het gemak moet gaan, maar dat je ook de andere waarden scherp krijgt? Het is een weinig praktische vraag, maar het komt uit de mond van een filosoof, dus ik kan het ook niet helpen. Maar ik zou ’m toch wel willen stellen. Is het inderdaad zo dat de ongemakkelijke boodschap wordt: als wij van die big tech af willen, zou het weleens kunnen betekenen dat we allemaal kleine ongemakjes krijgen en niet meer de gemakken die je kunt krijgen als je een bigtechbedrijf zijn gang laat gaan? Hoe brengen we die boodschap dan?
De voorzitter:
Mevrouw Stikker zei daar al het een en ander over, maar misschien kan zij nog wat aanvullen. Collega Perin-Gopie van Volt.
Mevrouw Perin-Gopie (Volt):
Dank u wel. Ik dank alle drie hartelijk voor de informatie. Ik heb een vraag over hoe AI tegenwoordig gebruikt wordt in oorlogsvoering, en de rol van big tech daarin. Wat zijn jullie opvattingen daarover? Hoe kunnen we dat voorkomen? Ik hoorde jullie alle drie iets zeggen over de aanbesteding, dat we daar iets in kunnen doen. Speelt dat ook een rol bij Defensie? Ik ben heel benieuwd hoe jullie daarnaar kijken.
De voorzitter:
Last but not least collega Prins. U was een van de aanjagers van deze bijeenkomst, en dan kom ik als laatste bij u. U heeft de laatste vraag.
Mevrouw Prins (CDA):
Geen enkel probleem. In ieder geval iedereen bedankt voor de verhalen en de toelichting. Ik heb een vraag. Afgelopen zaterdag stond in NRC een interview met een voormalig hoofd van MI6. Die zei: natuurlijk moeten wij, gezien alle geopolitieke spanningen, zorgen voor een eigen Europees systeem. Hij zei: wij zitten echter met onze eigen regels innovatie en ontwikkeling in de weg. Ik zou graag jullie mening daarover willen weten. Hij zei namelijk exact het tegenovergestelde van wat wij hier beogen.
De voorzitter:
Dank u wel. Ik ga nogmaals het rijtje af. Het verzoek is om kort en bondig antwoord te geven, omdat we veel interessante vragen hebben maar kort de tijd. Allereerst de heer Passchier.
De heer Passchier:
Dank u wel voor de mooie vragen. Ik wil wel iets zeggen over dat interview met de oud-MI6-directeur. Ik denk dat hij het punt over Europa een beetje overdreef. Misschien zitten sommige regels Europese innovatie in de weg, maar op zich kunnen goede regels de juiste innovatie aanjagen. Wat bedoel ik met «de juiste innovatie»? Ik heb het dan over innovaties waar je echt wat aan hebt, die sociale cohesie niet ondermijnen maar ondersteunen, die klimaatproblematiek tegengaan in plaats van nog erger maken et cetera. Om te bereiken wat hij wil, namelijk dat je als Europa weer, of eindelijk, enigszins technologisch soeverein wordt, moet je de big tech juist een beetje weren, want die zit Europese innovatie nu vooral in de weg. De big tech is zo dominant in Europa dat innovaties eigenlijk alleen een kans maken als ze passen in dat hele ecosysteem van de big tech.
Stel dat innovaties enigszins bedreigend worden voor het bigtechmodel, zoals Mistral, dat ik net al noemde. Er is ook een voorbeeld van een Amsterdamse AI-start-up waar Jeff Bezos heel veel in heeft geïnvesteerd; dat stond ook in de krant zaterdag. Ongetwijfeld was dat niet zozeer omdat hij die start-up zo’n warm hart toedraagt, maar omdat hij een vinger aan de pols wil houden. Dat zit ons juist enorm in de weg, denk ik. Dan zijn die paar regels die misschien dwarsliggen – daar zou je een nadere analyse van moeten maken, maar ik denk dat het wel meevalt – klein bier in vergelijking met de anti-innovatieve effecten van de aanwezigheid van big tech.
De voorzitter:
Dank voor dit antwoord. Mevrouw Schaake.
Mevrouw Schaake:
Ik zal proberen om het kort te houden. Volgens mij is de omschakeling van de gedachte over gemak van technologie naar de gedachte over gevaar van technologie gaande in de samenleving. Op het schoolplein, bij de koffiezetautomaat en aan de keukentafel wordt dit besproken. Alleen, wat mist, is een helder perspectief, zo van: «We hebben een probleem en dit kunnen we oplossen. Dat gaat wat frictie opleveren, maar daar komen we overheen. Dat wordt ook een kans voor onze economie.» Daarin is toch ook echt de politiek aan zet. Wat mij betreft gaat het om een breder spectrum – daarin ben ik het helemaal met u eens – dan alleen binnen de marges, zo van: een beetje meer of minder voor de toezichthouder. Het gaat ook over de vraag die eerder werd gesteld door mevrouw Belhirch. Ik meen dat de AP na het verhaal over grip op algoritmes 1 miljoen euro extra kreeg om toezicht te houden op algoritmes. Ik weet niet of ik moet huilen of lachen, maar als je dat in Europa vertelt, zeggen mensen: dat is meer dan wat onze toezichthouder krijgt. We maken het die miljardenbedrijven echt veel te makkelijk.
Daarbij is er ook wel wat te leren over toezicht. Er gaat binnenkort een omnibuswetgeving in Europa komen waarin de AVG herzien gaat worden. Ik denk dat daar risico’s aan kleven. Het kan namelijk ook afgezwakt worden. Maar het is, denk ik, wel goed om eens te kijken hoe het kan dat er geen proportionaliteit in de wet zit. Als bovenaan de stapel het zwembad om de hoek ligt en daaronder Google, moet eerst een boete uitgedeeld worden aan het zwembad om de hoek en dan aan degene die de gegevens van een x-aantal miljoen mensen verkeerd behandelt.
Dan over het snijvlak van proportionaliteit, ook van sancties. Ik dacht dat dit punt terugkwam bij de heer Van de Sanden. Op het moment dat een sanctie niet echt pijn doet, is het een middel dat de regel ondermijnt. Daarom wordt er op Europees niveau steeds meer gekeken naar sancties die een percentage zijn van de jaaromzet wereldwijd. Dat vinden bedrijven dan weer niet zo gezellig. Wat ze dan wel doen, is een paar miljoen of een paar honderd miljoen extra uitgeven aan de lobby. Ook daar moeten we heel scherp op zijn. Waar halen we onafhankelijke kennis over technologie vandaan? Kunnen we die ook, behalve in een zitting zoals deze ... Het is natuurlijk heel fijn dat het kan, maar dat is niet voor iedere dag. Ik zou ervoor pleiten om uit te zoeken hoe er permanent, bijvoorbeeld in Den Haag voor beide Kamers, of nog wat breder, een onafhankelijke hub voor kennis kan zijn.
Als laatste nog wat over AI en oorlogsvoering. Techbedrijven zien, anders dan de meesten van ons, oorlog als een kans om nieuwe AI-producten uit te proberen in een omgeving waarin regels terzijde worden geschoven. Je ziet dat de durfinvesteerders uit Silicon Valley massaal naar Oekraïne trekken. Hoe dat precies in Nederland zit met de aanbestedingen bij Defensie weet ik niet, maar ik denk dat waakzaamheid in brede zin altijd heel erg belangrijk is. Hoe voorkomen we verdere vervlechting? Hoe versterken we onze soevereiniteit, maar ook onze democratische weerbaarheid, zeker in het kader van Defensie?
Laat ik opnieuw met een optimistische noot eindigen. Wie vijf jaar geleden had gezegd dat Oekraïne wereldwijd een aanvoerder zou zijn in de productie van drones en andere hightechtoepassingen voor oorlogsvoering, was waarschijnlijk lachend naar de bar verwezen. Maar dat heeft Oekraïne onder verschrikkelijke druk en afgrijselijke omstandigheden toch voor elkaar gekregen. Wij moeten onszelf als Europeanen in brede zin niet kleiner maken dan we zijn. Onder druk kan er een heleboel. Die druk is er nu, maar we moeten dan wel in actie komen en investeren in ons eigen vermogen om oplossingen te verzinnen. Ik hoop dat we over vijf jaar terugkijken en zeggen: als iemand vijf jaar geleden had gezegd dat Europa digitaal soeverein zou worden, hadden we het niet geloofd, maar kijk eens waar we nu zijn.
De voorzitter:
Dat zijn hoopvolle woorden, maar daarmee gaan we nog niet afsluiten. Eerst nog mevrouw Stikker.
Mevrouw Stikker:
Dat was eigenlijk wel voldoende geweest, maar ik heb nog wel een paar dingen. Het probleem van wat we met de GDPR en privacywetgeving hebben gedaan, is dat wij zijn uitgegaan van consumentenrecht. Consumenten moeten een beetje beschermd worden; dat is altijd goed. Ik denk dat het vraagstuk veel dieper ligt en dat we daarom nog steeds toestaan dat er data over mensen verzameld worden en dat het aan een persoon is om «ja» of «nee» te zeggen of «soms wel» of «soms niet». Er is sprake van een analogie met de integriteit van het lichaam. We hebben met elkaar afgesproken dat je niet in de positie moet komen waarin je je lichaamsdelen verkoopt om te kunnen leven. Ons lichaam is geen handel. Dat is de lichamelijke integriteit die we hebben afgesproken. Dat is een morele positie die we hebben ingenomen. We zijn het digitale bestaan vergeten. Je zou kunnen zeggen: dat is de integriteit van de persoon. Dat schenden we gewoon dagelijks, permanent. We hebben dat hele digitale domein veel te veel als een markt gezien en alleen maar als een markt benaderd om daar wetgeving op los te laten. Bijna alle wetgeving – denk aan de Digital Services Act, de Digital Markets Act en de AI Act – maakt deel uit van de consumentenmarkt. Maar heel veel andere fundamentele vragen over wat we nou precies beschermen, hebben we eigenlijk niet gesteld. Als het over wetgeving gaat, denk ik dat er een heel scala aan mogelijkheden is om het over de integriteit van de persoon, of personhood, te hebben. Dan zou je bijna alle dataverzameling op dit moment verbieden, volledig verbieden. Je mag het dan niet eerst eruit gaan trekken en vervolgens zeggen: wat mag ik er wel of niet mee doen? Dan houdt dat echt op. Er zijn gelukkig bedrijven en organisaties die zeggen: we houden ons aan de integriteit van de persoon; we willen mensen niet manipuleren op basis van data en we kunnen daar een hele nette boterham mee verdienen. Je kunt hele goede economische diensten of bedrijven oprichten zonder dit bizarre verdienmodel, dat permanent de integriteit van onze persoon beschadigt.
Vervolgens gaat de vraag over gemak. Op het moment dat er een goed ontwerp komt, een oplossing die netjes is en niet die surveillance capitalism-modellen gebruikt waar big tech bekend om is, gaat die overstap vrij makkelijk, relatief makkelijk. Mensen zijn gewoontedieren, dus het liefst wil niemand veranderen. Maar onder druk van wat er nu allemaal gebeurt, zijn mensen wel bereid om over te stappen. We hebben dat gezien met de overstap van WhatsApp naar Signal. Dat doet nog niet iedereen, maar het gebeurt grotendeels. Omdat het door werkgevers en omgevingen gevraagd wordt, zie je die beweging wel in gang komen. Waarom werkt dat? Omdat het goed is ontworpen. Het werkt gewoon goed. Het is vrij eenvoudig, niet zo ingewikkeld. Wij denken steeds: het is alleen maar technologie. Maar het is natuurlijk ook ontwerp. Hoe zorg je dat je het goed ontwerpt? De creatieve industrie is dus echt cruciaal om ervoor te zorgen dat die technologie goed werkt. Ik denk dat daar veel meer mogelijk is. Nextcloud is gewoon goed ontworpen. Dat is die grote stap niet. Dus ja, gemak hoort erbij. Ik vind ook dat de alternatieven net zo goed en makkelijk moeten zijn als degene die ons nu klem houden. Ik denk dus dat dat elkaar niet hoeft te weerspreken. Dat mensen gemak willen, vind ik logisch.
Dan kom ik op AI. We blijven in dat verhaal geloven dat AI ons gaat redden, dat de intelligentie van mensen niet voldoende is en dat dus alles met AI moet worden uitgebreid. Als je diep in die ideologie kijkt, zie je dat wij uiteindelijk transhumanisten moeten worden. Wij moeten zo’n beetje met een soort scherm op ons hoofd, met lenzen ingebracht en met kabeltjes in onze hersenen voortdurend aan een AI-agent gekoppeld zijn. Dat is dan het wereldbeeld. Ik zou het heel fijn vinden als we weer gewoon een keer vragen wat de mens is en wanneer mensen gelukkig zijn. Je ziet nu dat mensen gewoon verschrikkelijk vereenzamen met hun AI-liefde. Het is echt gewoon nonsens wat daar gebeurt. We zijn mensen uit hun sociale contexten aan het halen. We zeggen dan ook dat AI dat vervolgens weer gaat oplossen. Ik hoop echt dat die mystificatie rondom AI een keertje uit onze systemen raakt. We raken namelijk gewoon verstrikt in een verhaal dat volgens mij niet gaat over onze toekomst maar over het verdienmodel van AI-bedrijven, die er honderden miljarden in stoppen in de hoop dat wij er allemaal in geloven. Ik had het net al over de milieueffectrapportage. De enige plek waar je een redelijke en nette manier van AI-implementatie ziet, is in het medische domein. Waarom? Ze hebben daar ethische commissies en trials voordat je iets kunt doen. Ze hebben daar een goed proces waardoor je iets niet kunt implementeren voordat er een proces aan vooraf is gegaan. Wat er nu gebeurt, is bizar. Het zit al in allerlei systemen voordat iemand heeft kunnen besluiten of het eigenlijk wel op de markt mag komen. Dat laten we toe. We laten toe dat die AI in allerlei systemen zit; in hr-systemen, als co-pilots en in ons educatieve systeem. Dan zeggen we tegen de samenleving «leer er maar mee omgaan». De maatschappelijke kosten ... O, sorry, ik moet veel korter praten. Maar pak dat op.
Als laatste wil ik zeggen dat het interessant is dat Defensie op dit moment over die dual use nadenkt, en dan vooral het feit dat ze MindLabs in heel Nederland opzetten. Ze kijken dan vooral naar de bedrijven. Ik denk dat het heel interessant zou zijn om meer naar de publiek-civiele kant te gaan om te kijken hoe je vanuit Defensie met een «whole of society»-benadering kan samenwerken met de samenleving en maatschappelijke organisaties. Ik denk dat de weerbaarheid ook echt in onze samenleving moet zitten en niet alleen in de defensiesystemen die we als technologie neer kunnen zetten.
De voorzitter:
Veel dank. We gaan dit blok afronden met elkaar. We zijn iets uitgelopen, maar we hebben in het tweede blok wellicht ook iets meer tijd. Daar hebben we namelijk twee sprekers. Het tweede blok gaat over de impact van de digitale inmenging op de democratische rechtsstaat. Voor nu wil ik deze drie deskundigen die zojuist het woord hebben gevoerd heel erg bedanken. We zijn denk ik heel goed wakker geschud, voor zover we dat nog niet waren, maar ik vind het idee dat het wel anders kan ook heel aanmoedigend en opbeurend. Laten we daar vooral mee eindigen. We ronden dit deel af en we gaan om 18.10 uur verder met het tweede deel. We houden dus even een korte pauze. Veel dank.
De vergadering wordt van 18.03 uur tot 18.11 uur geschorst.
Blok 2: Digitale inmenging en de democratische rechtsstaat
Gesprek met:
- − Marije Arentze
- − Inge Bryan
De voorzitter:
We gaan snel door met het tweede blok, dat ongetwijfeld niet minder interessant zal zijn en dat ook mooi aansluit op het eerste blok, denk ik. We hebben twee deskundigen, Marije Arentze en Inge Bryan. We hebben kunnen lezen wat hun achtergrond is. Daar ga ik nu dus geen tijd aan verspillen, om het maar even zo te zeggen. Laten we snel van start gaan. Ook hier krijgt ieder weer tien minuten voor een introductie en is het vervolgens aan de leden om vragen te stellen. Dan geef ik nu eerst het woord aan mevrouw Arentze.
Mevrouw Arentze:
Dank. Dank voor de gelegenheid om vandaag met u te spreken over dit onderwerp. Mij is gevraagd om de complexe realiteit van desinformatie te duiden. Ik ga een poging wagen. Laat me beginnen met het heel kort verduidelijken van een paar definities. De woorden «desinformatie», «misinformatie» en «nepnieuws» worden heel vaak door elkaar gebruikt, alsof ze inwisselbaar zijn. Ik wil proberen om daar iets meer duidelijkheid in aan te brengen. «Misinformatie» is de overkoepelende term voor alle vormen van misleidende informatie, ongeacht de intentie. Het gaat onder andere om het exploiteren van cognitieve biases, het overdreven inspelen op emoties of het kunstmatig vergroten van populariteit op sociale media. Desinformatie kan ook al deze dingen zijn, maar is daarentegen doelbewust en aanwijsbaar misleidend en bedoeld om schade aan te richten. Dan hebben we het onder andere over beïnvloedingscampagnes of FIMI; volgens mij viel die term in de vorige sessie ook al. Dat staat voor Foreign Information Manipulation and Interference. Het begrip «nepnieuws» gebruik ik het liefst zo min mogelijk, ten eerste omdat het de lading heel slecht dekt. Het grootste deel van alle mis- en desinformatie bestaat namelijk uit veel subtielere vormen van misleiding dan alleen maar harde onwaarheden. Ten tweede is de term zo gepolariseerd geraakt dat hij eigenlijk niet bruikbaar is om enig theoretisch kader mee aan te duiden.
Hoe werkt misinformatie nou? Zeker vanuit de sociale psychologie weten we daar best wel veel over. Een hele goede manier om dat te begrijpen is aan de hand van de analogie van een virus. Het kan zich heel snel verspreiden, net als een virus, en het heeft een host body nodig. Misinformatie of desinformatie bestaat bij de gratie van mensen die misinformatie opnemen en verder verspreiden. Het muteert ook. Het kan zich heel makkelijk aanpassen aan de politieke of sociale context om zijn overlevingskansen te vergroten. Ten tweede infecteert desinformatie het brein, metaforisch gezien. Het kan iemands houding, overtuiging, wereldbeeld of zelfs gedrag veranderen op subtiele manieren. Het maakt daarbij gebruik van bestaande kwetsbaarheden, zoals onze cognitieve vooroordelen, onze emotionele triggers, ons bestaande wereldbeeld en ons gebrek aan kritisch denkvermogen, zowel op individueel niveau als op maatschappelijk niveau. We weten uit onderzoek dat preventieve maatregelen kunnen werken als vaccins. Als je mensen blootstelt aan een verzwakte versie van een bepaald misleidend argument, dan bouwen mensen daar weerstand tegen op en zijn ze de volgende keer makkelijker in staat om misinformatie te herkennen. Een hoopvolle noot daarbij is, om in de metafoor te blijven, dat groepsimmuniteit mogelijk is. We weten uit onderzoek dat als genoeg mensen een bepaalde mentale weerbaarheid hebben opgebouwd, de verspreiding van desinformatie afneemt. Een van de aanbevelingen die ik later zal doen, is dan ook: investeer breed in mediawijsheid en onderwijs.
Desinformatie is zelden de oorzaak van problemen. Het is vooral heel goed in het uitbuiten of gebruiken van al bestaande kwetsbaarheden. Het kan dus heel goed gedijen in een informatie-ecosysteem waarin het in staat is om zich heel snel te verspreiden, onze cognitieve kwetsbaarheden uit te buiten en mensen emotioneel te triggeren. Laat dat nou net het type onlineomgeving zijn waarin wij allemaal dagelijks onze informatie opzuigen. We leven in een informatie-ecosysteem met een overload aan informatie – sinds een paar jaar kennen we de term «infodemic», een «infodemie» – en met verslavende algoritmen. Ook de invloed van AI speelt hierin natuurlijk mee. Net zoals onze advertenties steeds gepersonaliseerder worden, wordt desinformatie dat ook. Ik voorzie dat we over niet al te lange tijd allemaal onze eigen op maat gemaakte, gepersonaliseerde desinformatie in onze feed krijgen, met precies de onderwerpen waar we ons over opwinden, waardoor we allemaal voortdurend ontzettend emotioneel zijn op social media. Tot op zekere hoogte is dat ook al de wereld waarin we leven.
Dat heeft allerlei gevolgen, online en offline. Denk aan vaccinatietwijfel tijdens corona, de Capitoolbestorming in de VS – dat was een heel concreet voorbeeld – en ondermijning van ons klimaatbeleid. In Nederland hebben we recentelijk een desinformatiecampagne gezien rondom de Week van de Lentekriebels. Dat zijn de culture wars waar Marleen Stikker al aan refereerde. Een ander heel concreet voorbeeld is de verwarring rond de oorlog in Oekraïne. Dat is iets waar ik in het bijzonder bij stil wil staan. Het Kremlin snapt dit natuurlijk ook en weet precies hoe dit informatie-ecosysteem in zijn voordeel kan worden uitgebuit. Ik ben eigenlijk niet helemaal comfortabel met de term «informatie-oorlogsvoering», want het wekt de associatie op met kinetische oorlogsvoering, wat toch wel echt iets anders is. Maar informatie-oorlogsvoering draait in het digitale tijdperk om het beïnvloeden van onze aandacht voor, onze perceptie van en ons collectieve geheugen ten aanzien van internationale conflicten.
We zien heel concreet dat het het Kremlin gelukt is om door middel van een grote stroom aan verwarrende, misleidende informatie enkele twistpunten te creëren in het Nederlandse debat over de oorlog in Oekraïne, waar nog steeds veel verwarring over bestaat. Het gaat dan onder andere over de vraag hoe de oorlog is begonnen. Sergej Lavrov, de Russische Minister van Buitenlandse Zaken, claimde al vlak na het begin van de invasie in Oekraïne in 2022 dat Rusland Oekraïne helemaal niet was binnengevallen. De NAVO zou Rusland geprovoceerd hebben en het zou zo zijn dat Rusland dus niet anders kon. Een ander twistpunt is de vraag hoe de oorlog eigenlijk verloopt, hoe sterk Rusland is en hoe sterk Oekraïne is, hoe groot de kans is dat Oekraïne wint en dus hoeveel zin het heeft dat wij Oekraïne militair steunen. Als laatste gaat het over de vraag in hoeverre dit onze oorlog is, in hoeverre Oekraïne daar voor onze waarden en onze vrijheden aan het vechten is en in hoeverre wij verwachten dat Rusland bij Oekraïne stopt. Al deze punten zorgen voor verwarring in het debat, leggen soms besluitvorming lam en hebben invloed op onze bereidheid om Oekraïne militair te steunen en Oekraïense vluchtelingen op te vangen, en daarmee potentieel ook op het verloop van de oorlog en onze eigen veiligheid.
Ik wil graag in het kort een paar oplossingsrichtingen meegeven. Ten eerste: onderken het probleem en bescherm de wetenschap. Het hele wetenschappelijke veld van onderzoek naar desinformatie staat eigenlijk nog in de kinderschoenen, maar het staat ook heel erg onder druk. In de VS wordt financiering ingetrokken, wat ook gevolgen heeft voor onderzoek in Nederland. Tegelijkertijd worden wetenschappers die zich hiermee bezighouden steeds vaker bedreigd, aangevallen en in diskrediet gebracht. Zij hebben dus structureel bescherming en financiering nodig. Ten tweede: zet breed in op weerbaarheid. Zorg voor interventies over het hele spectrum. Alle interventies tegen des- of misinformatie die op dit moment bestaan, zijn grofweg onder te verdelen in interventies op systeemniveau en interventies op individueel niveau. De interventies op systeemniveau hebben we in de vorige sessie al uitvoerig besproken. Op individueel niveau heb je het dan over factcheckinitiatieven in de journalistiek, onderwijs en mediawijsheid. Alles heeft z’n voordelen en z’n nadelen, maar alles helpt een beetje. Zet dus zo breed mogelijk in. Ten derde: stel heel duidelijke normen en kaders. Het is de verantwoordelijkheid van de overheid om ons publieke debat te beschermen tegen ongewenste inmenging, maar het is niet de verantwoordelijkheid van de overheid om ons te vertellen wat we wel en niet moeten geloven. De overheid moet dus binnen die kaders bewegen en op zoek gaan naar de mogelijkheid om de authenticiteit van alle bijdragen aan het publieke debat te waarborgen zonder zich er inhoudelijk in te mengen. Dat zit ’m in regulering, in het blokkeren van oorlogspropaganda, als die aan de orde is, maar bijvoorbeeld ook in het in kaart brengen van de economische structuren achter desinformatie in Nederland. Wie biedt het aan? Hoe makkelijk is het eigenlijk om nepaccounts te kopen? Hoeveel vraag is ernaar? Op welke schaal gebeurt dit? Ik heb geen idee of daar überhaupt weleens onderzoek naar is gedaan in Nederland.
Tot slot: versterk de journalistiek. Ik maak me hele grote zorgen over de grote stijging van het aantal vermoorde journalisten in 2024. Als we geen journalisten meer hebben achter de frontlinie, onder andere achter de frontlinie in Oekraïne, weten we niet meer wat daar gebeurt. Het Kremlin rekent er ook op dat we onze aandacht verliezen. Het vermoorden van journalisten is daarin een bewuste tactiek in de strijd om onze aandacht. Hetzelfde geldt uiteraard voor de genocide in Gaza. Dus zorg voor een financieel gezonde journalistiek, die voor zijn voortbestaan niet afhankelijk is van advertentie-inkomsten en daarmee van big tech en die niet hoeft te concurreren met verslavende algoritmes, die ons voortdurend emotioneel willen houden.
Kortom, we leven in een tijd waarin informatie niet meer alleen een bron van kennis is, maar steeds vaker ook een instrument tot ontwrichting. Dit vraagt om een scherp inzicht in de werking van misinformatie, een brede inzet op weerbaarheid op alle niveaus en een structurele bescherming van de wetenschap en van de journalistiek.
De voorzitter:
Veel dank voor deze interessante inleiding. Dan komen we bij Inge Bryan.
De heer Marquart Scholtz (BBB):
Voorzitter, mag ik één woord van protest uitspreken? Er is geen genocide in Gaza. Dank u wel.
De voorzitter:
Dat was een interventie die wat mij als voorzitter betreft op dit moment niet nodig was, maar we gaan verder met deze deskundigenbijeenkomst. Inge Bryan, cybersecurityexpert, zal in haar inleiding reflecteren op de cyberveiligheid in Nederland. Dat is weer een ander perspectief. Aan u het woord.
Mevrouw Bryan:
Dank u wel. Het is een ander perspectief, maar in grote lijnen gaat het over hetzelfde. Als u over cybersecurity of over digitale soevereiniteit spreekt, kan ik me voorstellen dat u op een gegeven moment door de bomen het bos niet meer ziet. Ik wil in deze spreektijd kort stilstaan bij de dreiging. Ik denk dat die grotendeels bekend mag worden verondersteld; in ieder geval, dat veronderstel ik. Ik zal met name focussen op de oplossingen en op de opgaven voor uzelf.
Ik denk dat het goede – dat wil ik meteen maar even noemen – is dat de oplossingen die in het vorige deel van het debat besproken zijn over digitale soevereiniteit, zeer in het verlengde van cybersecurity liggen. Dat is eigenlijk ongeveer hetzelfde. We kunnen ook verschrikkelijk veel. De situatie is zeker niet hopeloos, maar ik denk wel dat we een paar denkbeelden moeten bijstellen.
In het afgelopen uur zijn heel veel zeer goede en belangrijke dingen gezegd. Ik wil er daar één uit pikken, namelijk wat mevrouw Schaake zei over het feit dat we niet meer in een roll-based samenleving leven. De internationale rechtsorde is in ieder geval heel snel aan het afbrokkelen. Dat is voor mij in cybersecurity heel belangrijk, omdat dat betekent dat we ons moeten verdedigen. Je zou kunnen zeggen dat je kijkt naar regels en handhaving. Dat is in ons eigen land zeer zinvol. Dat moeten we ook zeker niet loslaten, maar in de internationale context kunnen we niet meer leunen op een rechtsorde. Ik denk trouwens dat we daar nooit echt op hebben kunnen leunen op het punt van cybercrime, maar voor zover dat kon, is dat nu absoluut niet meer het geval.
Een grote factor daarin is dat de Verenigde Staten eigenlijk zijn weggevallen als partner en dus niet meer actief Russische cybercrime bestrijden; daarom is het nu allemaal zo urgent en veranderd. Dit is een serieus probleem en daarmee wordt het probleem voor ons ineens veel groter. Heel concreet: sinds een maand, anderhalve maand, zijn de aanvallen op ons, op de Nederlandse vitale infrastructuur – ik heb het over havens, banken, telecom – exponentieel vergroot. Dat betekent dat ze in aard en omvang, dus in het aantal keren dat ze voorkomen en in de kracht en de duur van die aanvallen, enorm zijn gestegen. Even een voorbeeld. Bij banken was in de eerste helft van april het volume van de aanvallen even groot als in het gehele kalenderjaar daarvoor. Er is dus een enorme intensivering van de aanval op ons. Het goede is dat u daar niet dagelijks last van heeft, omdat we zo ongelofelijk goed zijn. Ik vind onze bancaire sector een van de beste van de wereld qua beveiliging, maar dat geldt ook voor onze vitale infrastructuur en onze overheid. We kunnen er een hoop over klagen. Daar kunnen we uren over praten; dat gaan we nu niet doen, maar we doen ook echt heel veel goed en de dreiging is enorm. Nogmaals, het is noodzakelijk om ons hier nu echt tegen te verweren, omdat we niet in retrospect actie kunnen verwachten in de rechtsorde. We moeten ons dus verdedigen.
Hoe doen we dat? Dat is niet heel ingewikkeld. Dat geef ik u ook graag mee: het is niet een technisch vraagstuk. Cybersecurityvraagstukken zijn leiderschapsvraagstukken. Ze gaan over het stellen van prioriteiten en het maken van keuzes. Mevrouw Stikker zei het zojuist mooi: het gaat over interoperabiliteit en decentraliteit. Dat zijn geen technische termen; dat zijn bestuurlijke termen. Ik nodig u er dus toe uit om daarin te duiken en dit onderwerp niet meer los te laten. Het hoort namelijk bij alles. Het hoort bij stikstof, het hoort bij volksgezondheid, het hoort bij verkeer, het hoort bij volkshuisvesting, het hoort bij alles.
Hoe ziet die oplossing eruit? Die is drieledig. Eén: we moeten de aanvalsoppervlakte verkleinen. Twee: we moeten ons zicht vergroten. Drie: we moeten de aanvaller verzwakken. Dat zijn de drie dingen die we moeten doen; this is not rocket science. Ik zal uitleggen wat ik hiermee bedoel. Een aanvalsoppervlakte is, vanuit het perspectief van de aanvaller bezien, een IT-landschap. U moet zich voorstellen dat een heel groot bedrijf doorgaans tussen 400 en 700 verschillende IT-applicaties heeft. Dat noemen we «een IT-landschap», met heel veel gebruikers daarin. Voor een aanvaller is dat een aanvalsoppervlakte. Het lastige is dat een aanvaller maar één klein gaatje nodig heeft en dat wij natuurlijk heel veel moeten verdedigen. Er zijn heel veel maatregelen die je treft om die oppervlakte te verkleinen. Daar ga ik nu niet op in, maar dat is een doel op zich en daar is iedere bestuurder verantwoordelijk voor.
Twee: het vergroten van ons zicht. Dat betekent dat we zorgen dat we de IT-applicaties die voor ons belangrijk zijn monitoren. Dat zijn er natuurlijk heel veel; dat is zojuist ook besproken. We gebruiken de technologie dus om te monitoren wat er gebeurt in die netwerken. De norm zou moeten zijn: als het niet gemonitord wordt, staat het uit. Dat betekent dat ik vind dat we, als we de NAVO-top organiseren, de helft van onze IT gewoon uit moeten zetten. Dat gebeurt eigenlijk niet; ik vind in ieder geval dat dit veel te weinig gebeurt. Dat vind ik wel bijzonder. Wat de beschikbaarheid van gegevens betreft zijn we allemaal heel erg verwend, want alles is altijd beschikbaar. Daar moeten we vanaf. We moeten dus eigenlijk terug naar winkelopeningstijden, maar dan dienstopeningstijden. Er zijn een paar bedrijven die dit al doen. Kwetsbare applicaties hoeven niet 24 uur per dag beschikbaar te zijn. Sterker nog: niet doen, alleen maar als u het gebruikt. Ik was in mijn vorige leven CEO van een cybersecuritybedrijf. Ik kon zelf bij niets. Ik had me uit alle systemen laten halen, omdat ik weet dat ik via mijn laptop mogelijk toegang zou kunnen bieden. Dat wil ik niet op mijn geweten hebben. Dus uitzetten, uitzetten, uitzetten. Het is interessant dat we eraan gewend zijn geraakt en het normaal zijn gaan vinden om ons bij grote evenementen en grote veiligheidsuitdagingen, bijvoorbeeld demonstraties maar ook zo’n NAVO-top, een enorme inbreuk op onze fysieke infrastructuur te laten welgevallen. De Johan de Wittlaan is al meer dan een maand dicht. Waarom accepteren we dan niet de beperking in onze digitale infrastructuur, die inmiddels toch meer dan de helft van ons leven is? Ga daaraan wennen, zet het uit, zorg dat het óf gemonitord wordt óf uit staat.
Zicht betekent ook dat we heel goed onze informatie moeten delen. Zorg dat veiligheidsinformatie echt goed gedeeld kan worden in het bedrijfsleven. Dat betekent: onderling – er mag al heel veel – en ook tussen overheid en het bedrijfsleven. Er wordt veel geschermd met de AVG. Dat is echt onzin, want als die doelbinding er is, met een duidelijk veiligheidsdoel, mag je wel degelijk veiligheidsinformatie delen, uiteraard in lijn met alle wet- en regelgeving. Dat kan ook. Daar wordt veel te spastisch mee omgegaan, zowel aan overheidszijde als aan private zijde, omdat veel mensen gewoon bang zijn om het verkeerd te doen. In het veiligheidsdomein zitten veel te veel juristen. Ik weet niet hoeveel er hier in de zaal zitten. Er zitten gewoon te veel juristen. Dat betekent dat veiligheid verdwijnt voor onze ogen.
Mevrouw Fiers (GroenLinks-PvdA):
Ze zitten hier ook!
Mevrouw Bryan:
Ik begrijp dat dat een gevaarlijke uitspraak is. Maar u zit hier en niet in de informatiebeveiliging; dat is goed.
Dan het derde punt. Dat is het verzwakken van de aanvaller. Van de aanvallers komen er heel veel – dat hoef ik niet te herhalen – uit Rusland. De Verenigde Staten kunnen een geduchte tegenstander zijn. We worden natuurlijk al sinds jaar en dag bespioneerd, ook door onze zogeheten vrienden: het Verenigd Koninkrijk, de Verenigde Staten, Israël. Wat we moeten bereiken, is dat we niet meer aantrekkelijk zijn als doelwit. Dat kunnen we op twee manieren doen. De eerste is preventief criminele infrastructuur uitschakelen. Dat heeft de Nederlandse politie vorige week trouwens op schitterende wijze gedaan. Ze hebben 7.000 criminele servers onschadelijk gemaakt. Dat is echt een voorbeeld dat smaakt naar meer. Dus stel die organisatie, de politie, in staat om dat veel meer te doen, want dat is zeer effectief. Dus het eerste is het preventief uitschakelen van criminele infrastructuur.
Het tweede is terugslaan bij aanvallen. Dat betekent dat we iets in onze interpretatie van het strafrecht moeten veranderen. We hoeven daar niet eens een wet voor te veranderen, maar wel de opsporingsrichtlijn. Dat is zeker iets waar politie en OM mee bezig zijn. Dat is dus zeker niet vloeken in de kerk. Ik ben heel blij dat die beide organisaties heel vooruitstrevend daarin zijn, maar ze hebben rugdekking nodig. Het gaat om het verkleinen van de aanvalsoppervlakte, dus om goed zorgen voor je IT, en het vergroten van ons zicht, dus het verzwakken of eigenlijk uitschakelen van je aanvaller. Als je die aanvaller in ieder geval zodanig terugslaat, wordt het niet meer aantrekkelijk om ons aan te vallen, want dan moet die aanvaller steeds opnieuw z’n eigen IT gaan opbouwen. Dat kost tijd en dat kost geld. Dan gaat ’ie een ander doelwit kiezen.
Ik heb nog één minuut. U werkt naast uw betrekking hier bij de Eerste Kamer ook op andere plekken. U bent lid van verenigingen. U maakt deel uit van een gemeenschap waarin u gebruikmaakt van IT. Zorg dat u deze kennis meeneemt naar uw omgeving. Het is nu maandag, dus ik verwacht dat u op dinsdagochtend, waar u dan ook zit, actief kijkt naar het volgende. Ben ik mijn rommel aan het opruimen? Ben ik mijn aanvalsoppervlakte aan het verkleinen? Ben ik aan het zorgen voor mijn IT-omgeving, zodat ik geen doelwit ben of het in ieder geval minder waarschijnlijk is dat ik dat word? Deel ik actief informatie met mensen die het nodig hebben als ik zie dat er een aanval is? In uw rol als lid van deze Kamer vraag ik u om rugdekking te geven aan de mensen in de overheid die hier actief mee bezig zijn. Dat geldt ook voor organisaties buiten de overheid, zoals het Openbaar Ministerie en de politie, maar ook VNO-NCW, MKB-Nederland, sectoren die informatie met elkaar willen delen; steun hen in dat doel. Het is een wezenlijke activiteit die ons veel veiliger maakt.
Eind volgende week, op 6 juni, wordt de Nederlandse Digitaliseringsstrategie gelanceerd door Zsolt Szabó, de Staatssecretaris. Daar staan zes prioriteiten in die buitengewoon zinvol zijn. Het werk moet nog helemaal beginnen, hè? Maar zorg dat u de politieke eenheid bewaart om de implementatie van deze strategie onverwijld voort te laten gaan. Er moet ontzettend veel gebeuren. Er ligt een prima, hoog over plan. Daar moeten we mee aan de slag. Ik hoop en verwacht van u dat u die politieke eenheid bewaart en met onvoorwaardelijke steun dit programma laat voortbestaan. Depolitiseer het thema veiligheid en in het bijzonder digitale veiligheid. Als ik u hier zo allemaal eensgezind bij elkaar zie, denk ik dat dat al redelijk goed gaat.
Dank u wel.
De voorzitter:
Dank daarvoor. Een mooie oproep aan het einde. Dan komen we bij het onderdeel waarbij er vragen gesteld kunnen worden. We hebben daar 25 minuten de tijd voor. Ik begin bij collega Prins van het CDA.
Mevrouw Prins (CDA):
Beide sprekers hartelijk bedankt. Ik had een vraag over de drie actiepunten die u noemde om onszelf veiliger te maken. In hoeverre is daar nog wet- en regelgeving voor nodig? We zitten hier tenslotte in de Eerste Kamer, dus zijn er dingen die we daarin nodig hebben die kunnen helpen?
De voorzitter:
Een heldere vraag. Kort en krachtig, dat zien we graag. Collega Perin-Gopie van Volt.
Mevrouw Perin-Gopie (Volt):
Dank u wel, voorzitter. Dank aan de sprekers voor hun heldere bijdrage. Ik was zeer gecharmeerd van de eerste spreker, die aangaf wat desinformatie is. Ik heb eigenlijk geen vraag, maar een observatie. Terwijl mevrouw Arentze aan het spreken was, werd er hier in deze Kamer desinformatie verspreid. Dat vind ik heel zorgelijk. Als wij zelf ook beïnvloed raken door desinformatie ... Hoe kan je het nog bij jezelf herkennen als je je er niet van bewust bent? Misschien is het toch een vraag.
De voorzitter:
Goed, dat is een tweede vraag. Dan kom ik bij de fractie van GroenLinks-Partij van de Arbeid. Wie van hen ...
Mevrouw Fiers (GroenLinks-PvdA):
Wij geven onze jurist het woord.
De voorzitter:
Kijk, daar gaat het al mis! Collega Jeroen Recourt van GroenLinks-PvdA.
De heer Recourt (GroenLinks-PvdA):
Dank. Ik zal geen juridische vraag stellen, maar een politieke. Jullie hebben het vooral gehad over statelijke vijandelijke actoren. Maar zoals we in het vorige blok hoorden, zorgt ook big tech dat we allemaal in onze eigen informatiestroom zitten. Onze samenleving groeit steeds meer uit elkaar, waar het gaat om elkaar verstaan en een debat voeren. Maar we zijn wel een democratie en dat betekent dat we afhankelijk zijn van onze kiezers. En die kiezers willen gewoon lekker door. Ze zijn zich er meestal helemaal niet van bewust. Bovendien vinden ze het heel ongemakkelijk om andere dingen te gaan doen, of dat het wordt uitgezet of wat dan ook. Dus hoe zorg je dat je als democratisch orgaan en als overheid draagvlak krijgt om best wel vergaande maatregelen te nemen, terwijl je toch uiteindelijk wordt afgerekend door je kiezer?
De voorzitter:
Dank voor deze drie vragen. We beginnen met mevrouw Bryan, over de wet- en regelgeving die nodig is. Dan komt de vraag over desinformatie. Die is voor u, mevrouw Arentze. De derde is voor wie vindt dat die hem het beste kan beantwoorden.
Mevrouw Bryan:
Ten aanzien van de eerste vraag. Is er wet- en regelgeving voor nodig? Nee, dat is er allemaal. Dit kan allemaal prima binnen bestaande wettelijke kaders. Veiligheid wordt primair gebouwd buiten de overheid. Dat is de private sector. Wat zou helpen, zijn meer stimulerende maatregelen om te zorgen dat men ook daadwerkelijk informatie met elkaar deelt. Maar daarvoor is op dit moment geen wettelijk beletsel, anders dan een zeer strenge uitleg van de Algemene verordening gegevensbescherming. Maar er is met die wet helemaal niks mis.
De tweede vraag over desinformatie wil ik ook graag beantwoorden. Volgens mij gaat het gewoon over vrijheid van meningsuiting. Er kan in dat kader natuurlijk heel veel onzin worden gedebiteerd. Dat staat wat mij betreft los van desinformatie. Dat is een andere discussie. Ik wil nog kort iets zeggen over draagvlak. Het begint met zelf het goede voorbeeld geven. Mevrouw Stikker zei het net heel duidelijk: de koopkracht van de overheid moet worden gebruikt om nu te beginnen met het gebruiken van andere technologie van Europese bodem. Dat gaat inderdaad een tijdje duren, maar het kan wel degelijk. Zelf het goede voorbeeld geven werkt in mijn ervaring beter dan welke maatregel dan ook.
De voorzitter:
Dan over de desinformatie, mevrouw Arentze.
Mevrouw Arentze:
Hoe zorg je als overheid dat burgers je vertrouwen in een ecosysteem waarin dat vertrouwen in de overheid voortdurend wordt ondermijnd? Dat is een hele ingewikkelde vraag. Ik heb daar geen pasklaar antwoord op. Wel weet ik dat het als overheid uitmaakt hoe je communiceert. Overheden worden vaak zelf het slachtoffer van desinformatie. Het vertrouwen in de overheid wordt bewust ondermijnd. Er zijn manieren waarop je kunt communiceren waardoor je dat effect een beetje kunt verkleinen. Het Ministerie van Binnenlandse Zaken heeft een handreiking over omgaan met misinformatie voor overheden en medeoverheden. Verder zou ik vooral zeggen: zorg dat je heel erg transparant bent en zorg dat je niet in de val trapt waarin je zelf een doelwit wordt, dus blijf weg van je inhoudelijk mengen. Het is niet aan de overheid om dingen aan te wijzen als desinformatie, in de zin van het zich inhoudelijk in een debat mengen. Als je als overheid maatregelen daarin wil nemen, hou het dan bij focussen op inauthentieke bijdragen. Welk gedrag zien we? Daarop zou ik gaan zitten. Het is een heel moeilijk vraagstuk. Ik heb er geen pasklaar antwoord op.
De voorzitter:
We gaan verder bij collega De Vries van SGP.
De heer De Vries (SGP):
Ik heb ook een vraag aan mevrouw Arentze. Mijn vraag gaat over het communiceren, niet van de overheid, maar van de wetenschap. U hebt als een van de oplossingsrichtingen: bescherm de wetenschap. Daar ben ik het helemaal mee eens. Maar zou het niet zo zijn dat een deel van miscommunicatie of misinformatie ontstaat doordat wetenschappers soms met iets te grote stelligheid dingen beweren? U refereerde aan de covidcrisis. Het RIVM heeft in het begin een aantal dingen gesteld die het al vrij snel moest herroepen. Dat heeft het vertrouwen in de wetenschap waarschijnlijk niet echt groter gemaakt. Het heeft een aantal mensen gestimuleerd om te zeggen: zie je, die mensen zeggen ook maar wat. Dat is misinformatie. Is het dus ook niet van belang dat wetenschappers zelf eerlijk zijn over de voorlopigheid van hun kennis, zeker als het gaat om kennis die nog volop in ontwikkeling is? Zou dat ook niet voorkomen dat er misinformatie ontstaat?
De voorzitter:
Ik kijk naar collega Dittrich van de fractie van D66.
De heer Dittrich (D66):
Ik heb opgeschreven: cybersecurity is geen technisch vraagstuk; het gaat over leiderschap. Ik vraag me af – het is een vraag aan allebei, misschien – of wij ons als overheid goed georganiseerd hebben om dat leiderschap aan de samenleving aan te bieden. Ik hoorde net dat de Staatssecretaris met een digitale strategie gaat komen. Dat is natuurlijk allemaal prima. Maar hebben wij het in verhouding tot Europa goed georganiseerd? Of kunnen wij op een andere manier organiseren dat er daadwerkelijk leiderschap getoond en gevolgd wordt?
De voorzitter:
Er kan nog één vraag bij. Dan komen we weer bij de deskundigen. Ik kijk naar de overkant. Collega Kemperman?
De heer Kemperman (Fractie-Kemperman):
Ja, dank u wel. Ik heb een vraag die een beetje in het verlengde ligt van de vraag van collega De Vries. Misschien zit er een beetje een filosofisch tintje aan. Hij is ook voor mevrouw Arentze. Ik wil iets dieper onder de oppervlakte van het verhaal kijken. U zegt allemaal dat het niet technisch of juridisch is. Het gaat om ons gedrag en om beeldvorming. Maar zou je niet hetzelfde verhaal kunnen houden met een deskundige aan de andere kant, in Rusland, die exact hetzelfde verhaal vertelt? Hoe kom ik er nou achter wie het mandaat of de claim op de waarheid heeft?
De voorzitter:
Goed. Dank. Er zijn twee vragen aan mevrouw Arentze, van Kemperman en De Vries. Daarna kom ik bij haar collega.
Mevrouw Arentze:
De eerste vraag ging, in het kort, over hoe je wetenschappelijke onzekerheid communiceert. Die is er altijd. Ik zou zeggen: wees transparant over je methode. Het feit dat wetenschappers vaak vragen stellen en soms ook verschillend over dingen kunnen denken, betekent niet dat er niet rigoureus over dingen wordt nagedacht. Ik zou dat dus ook blijven communiceren als je aan vertrouwen wilt werken.
Kunt u uw vraag nog een keer kort herhalen, meneer Kemperman?
De heer Kemperman (Fractie-Kemperman):
Ik volg uw verhaal. Ik denk dat het klopt. Maar stel nu dat ik in Rusland had gezeten, bij een soortgelijke sessie. Dan had iemand exact zo’n verhaal vertelt, maar dan vanuit zijn eigen perspectief en zijn eigen claim op de waarheid. Hoe komen we nou daaronder? In plaats daarvan wordt er verteld wat de wetenschap moet doen, hoe de media zich moeten gedragen en hoe we daar allemaal naar moeten luisteren en er vooral vertrouwen in moeten hebben. Het wantrouwen zit natuurlijk veel dieper. We raken het kwijt. We proberen het te controleren. We proberen het te voeden met beelden, van welke kant dan ook. Daar ben ik naar op zoek.
De voorzitter:
Maar wat is uw concrete vraag aan onze deskundige?
De heer Kemperman (Fractie-Kemperman):
Hoe moet ik het zeggen? Zit er niet een diepere zoektocht naar hoe we omgaan met dit soort vraagstukken? In plaats daarvan wordt er gezegd: «Je moet de wetenschap vertrouwen. We hebben de technologie. We zijn goed op orde.» Volgens mij ligt de oorzaak van wat er speelt veel dieper dan waar het wantrouwen over desinformatie vandaan komt, de behoefte daaraan en hoe het gepercipieerd wordt.
De voorzitter:
Oké. We gaan kijken of onze deskundige hier een antwoord op kan geven.
De heer Kemperman (Fractie-Kemperman):
Ik hoop dat ik ... Het is misschien meer iets voor een filosofendebat, maar dat is weer wat anders.
De voorzitter:
Wellicht.
Mevrouw Arentze:
En ik ben geen filosoof! Even denken. Wat betreft desinformatie is een van de hele belangrijke dingen om goed te begrijpen, denk ik, dat desinformatie niet over waarheden en onwaarheden gaat. Desinformatie gaat veel meer over diepere, subtielere vormen van beïnvloeding. In het geval van de oorlog in Oekraïne, die ik net noemde, kun je desinformatie herkennen door de geschiedenis in te duiken. Je kijkt dan wat er gebeurd is en in wat voor narratieven het verhaal dat het Kremlin vertelt, bijvoorbeeld past. Het gaat er dus juist om eens naar die diepere laag te gaan, namelijk hoe we op cognitief en emotioneel niveau beïnvloed worden, en niet over de vraag wat een feit is. Het is een heel lastige discussie; dat begrijp ik.
De voorzitter:
Ik denk dat we daar vanmiddag niet uit gaan komen. Het is een filosofische kwestie.
Mevrouw Arentze:
Om het nu te gaan hebben over wat waar is en wat niet ...
De voorzitter:
Ja, dat wordt een ingewikkeld gesprek. We gaan naar onze andere deskundige, mevrouw Bryan, die nog antwoord gaat geven op de vraag van de heer Dittrich.
Mevrouw Bryan:
De vraag ging over leiderschap. Als ik de heer Dittrich goed beluisterde, was de vraag: hoe doen we het als overheid? Er gaan heel veel dingen goed; dat noemde ik net al. Ik denk dat het besef minder goed is dat digitale veiligheid gemaakt wordt en bestaat in de private sector. Het is heel simpel: de bandbreedte waarover wij communiceren, is privaat terrein; alle diensten die je betrekt, zijn van private makelij en staat. Ik zie bij de rijksoverheid nog vaak de neiging om dingen naar zich toe te trekken en vooral heel erg top-down te werken, maar dat werkt niet. Cybersecurity is echt een bottom-upactiviteit, dus de overheid zou zich moeten beperken tot het stimuleren, coördineren en aanjagen van de juiste initiatieven en zou het vooral niet naar zich toe moeten trekken. Daar zie ik het dus nog vaak verkeerd gaan. Ik gaf net ook al aan dat door de enorme kramp rond de AVG veel te terughoudend informatie wordt gedeeld. Dat is lastig. Het leidt er vaak zelfs toe dat er niet wordt gedeeld of dat er jarenlange vertraging ontstaat op dossiers die dat absoluut niet kunnen hebben. Ik zie dus een gebrek aan tempo en soms een wens om te veel zelf te doen, terwijl je eigenlijk veel meer aan de private sector moet overlaten. Daarmee bedoel ik niet dat je het oordeel over de vraag of er zorgvuldig met persoonsgegevens wordt omgegaan aan de private sector moet overlaten, maar de private sector kan er prima zelf voor zorgen dat de juiste informatie met partijen wordt gedeeld. De overheid moet daarin veel meer de rol nemen van coördinator, handhaver of toezichthouder en niet alles zelf willen doen, want dat kan ze ook niet.
De voorzitter:
Dat was een helder antwoord. Als ik het goed heb, hebben we nog vier fracties die mogelijk een vraag willen stellen en we hebben nog tien minuten de tijd, dus ik hoor graag een enkele korte vraag en van onze deskundigen een compact antwoord. Wie van de BBB-fractie wil het woord? Van Gasteren.
De heer Van Gasteren (BBB):
Dat wil ik wel even doen. Ik blijf toch een beetje hangen op het nepnieuws. Ik zat te denken: hoe voorkomen we nu dat bijvoorbeeld bij een correctief referendum nepnieuws de uitkomst gaat bepalen? Hoe kunnen we dat voorkomen op een manier die niet leidt tot censuur? Ik zoek een beetje die balans. Het vakgebied waar u over gaat, heeft er eigenlijk ook een beetje mee van doen, want als je gehackt wordt, word je gehackt, maar wat is nou spionage? Dat merk je niet. Dat geldt ook een beetje voor nepnieuws. Mijn vraag is dus, nogmaals: hoe voorkomen we dat en hoe wordt het erger? Want dan krijg je censuur en dat is ook niet helemaal de bedoeling.
De heer Van de Sanden (VVD):
Ik heb een vraag aan mevrouw Arentze. Op zichzelf is de verspreiding van mis- en desinformatie van alle tijden. Ook na de moord op Julius Caesar werd er al van alles en nog wat aan allerlei samenzweringstheorieën verspreid. Het fenomeen is dus op zichzelf niet nieuw, alleen zijn de vorm en de impact ervan iets anders dan 2.000 jaar geleden. Ik heb een vraag met betrekking tot de effectiviteit van de aanpak. Daarvoor is kennis over de ontvankelijkheid van de ontvangers van belang. Wat zijn de onderliggende oorzaken en wat betekent dat volgens u voor de door u geschetste brede aanpak?
De heer Janssen (SP):
Ik heb een korte vraag voor mevrouw Bryan, denk ik. Die bevindt zich een beetje in het verlengde van wat de heer Van Gasteren vroeg. Zijn wij nog in staat om eerlijke en open verkiezingen te organiseren in dit land?
De voorzitter:
Dan is er ook nog een vraag van de heer Nicolaï van de Partij voor de Dieren.
De heer Nicolaï (PvdD):
Ik heb inderdaad een vraag over hoe we het aan zouden moeten aanpakken. Eigenlijk is het één vraag. Ik heb het idee dat mevrouw Bryan meer keek naar de aanvallen en de anderen meer naar de inhoud, bij wijze van spreken. Begrijp ik het dus goed dat we óf moeten monitoren óf moeten uitzetten? Maar dat is nu niet geregeld. Ik denk dus dat we daar wel een wet voor kunnen maken. Dat is één.
Ik heb nog een andere vraag, die ook een beetje aansluit bij de vraag van de heer Van Gasteren. We hebben het gehad over de desinformatie en de misinformatie. Het is heel interessant om te zeggen dat je het kan vergelijken met een virus. Dan kom je bij de vaccinatie, maar een overheid zet een vaccinatie op. Nou is dus de vraag: wat kan de overheid doen? Want ik heb al drie jaar lang vragen gesteld over des- en misinformatie en zo, maar iedere keer krijg je dat een Minister terug gaat zitten zeggen: ja, maar er is vrijheid van meningsuiting, dus wij gaan niet vertellen hoe het zit. Maar als er echt gewoon desinformatie van een statelijke actor komt, waarom zouden we onze geheime diensten dan niet gewoon met een effectief middel daartegen kunnen laten terugkomen, zonder te zeggen dat de journalistiek het op moet lossen of dat er een factchecker moet komen enzovoort, enzovoort? Dat is ook een interessante vraag.
De voorzitter:
Goed. Dank. Ik geef eerst het woord aan mevrouw Arentze.
Mevrouw Arentze:
Ik kan uw vragen over hoe je censuur voorkomt bij een correctief referendum een beetje samenpakken. Ik zou zeggen: censuur is echt alleen geoorloofd in heel zware gevallen. Het enige voorbeeld dat ik kan bedenken is vlak na de grootschalige invasie in Oekraïne in 2020, toen Russia Today en Sputnik werden geblokkeerd in de Europese Unie. Dat vond ik een zwaar middel, maar wat mij betreft was dat geoorloofd, omdat het op dat moment echt over oorlogspropaganda ging. Dat had niet meer met persvrijheid te maken. Alleen, je moet het vervolgens wel periodiek evalueren en er moet heel goede democratische controle op zitten.
Wat betreft de vraag over een correctief referendum: dat zijn momenten waarop een democratie heel kwetsbaar is en juist nepnieuws een grote rol kan spelen. Dat hebben we ook gezien bij het Oekraïnereferendum in, uit m’n hoofd, 2015. Hoe voorkom je dat? Je moet voorzichtig zijn, want censuur is een heel zwaar middel. Ik zou zeggen dat je als overheid aan de veilige kant blijft op het moment dat je zegt: «Er is vrijheid van meningsuiting. Er is persvrijheid. Je mag zeggen wat je vindt. Maar op het moment dat je een botnetwerk gaat kopen om je eigen populariteit op social media heel erg te vergroten en daardoor andere stemmen wegdrukt uit het debat, dan vinden we daar wat van, want dat is niet eerlijk.» Zo kan een overheid daarin wat regels en kaders stellen, zou ik zeggen.
Dan uw vraag over het vaccinatieprogramma en het onderwijs. Er zijn in Nederland inmiddels een paar mediawijsheidinterventies gebaseerd op deze inzichten uit de sociale psychologie waarbij jongeren worden blootgesteld aan een verzwakte versie van een misleidend argument en op die manier weerstand opbouwen. Dat noemen we inoculatie. Dat is een van de weinige evidence-based mediawijsheidinterventies die er op dit moment wereldwijd bestaan. Dat is iets waar je verder op kunt inzetten. Als het over het onderwijs gaat, kom je natuurlijk in eerste instantie bij de overheid uit om dat op te zetten. Is dat een antwoord op uw vraag?
De heer Nicolaï (PvdD):
Ik had er nog een vraag aan toegevoegd. Als er nou echte desinformatie van een statelijke actor komt, moet je dan zeggen dat daar de journalisten en factcheckers maar op losgelaten moeten worden, of kan je op een gegeven moment ook je eigen veiligheidsdienst erop zetten?
Mevrouw Arentze:
Journalisten en factcheckers kunnen dat niet alleen, nee. Als er een grootschalige beïnvloedingscampagne komt, die in vorm en gedrag best kan lijken op een cyberaanval, dan kun je dat niet aan journalisten overlaten, nee. Dan moet de overheid daar iets in doen. Dat kan misschien ook terugkomen in de termijn van u, mevrouw Bryan.
De voorzitter:
Mevrouw Bryan.
Mevrouw Bryan:
Ja, over verkiezingen. De vraag is: kunnen we die nog veilig houden? Wat zou een rol van de inlichtingendiensten kunnen zijn? Ik heb daar zelf heel lang gewerkt. Ik weet niet of dat hier bekend was, maar ik heb veertien jaar bij de AIVD gewerkt, dus ik kan me er iets bij voorstellen dat je vraagt naar wat de rol van die diensten is. Ik denk dat ze die rol wel pakken door in het recent verschenen jaarverslag van zowel MIVD als AIVD heel duidelijk te stellen wat voor soort aanvallen en wat voor desinformatiecampagnes ze zien. Ik kan me voorstellen dat als wij weer verkiezingen hebben, juist dat heel belangrijk wordt. Ik bedoel niet alleen dat die beide diensten laten zien en zo veel mogelijk openbaar maken wat ze zien aan aanvallen, maar ook dat we dat Europees wat meer laten zien.
Ik zit niet dicht op de microfoon; ik hoop dat u mij de hele tijd wel kon horen.
Dat betekent dat ze iets meer openbaarheid geven aan hun werk. Niet alleen inlichtingendiensten kunnen dat doen. Er zijn natuurlijk heel veel onderzoeksinstituten die waarnemen wat er gebeurt, met name met hele trollenlegers en in andere landen met aanvallen op de electorale integriteit. Ik zie nu ook bij volgende verkiezingen desinformatie wel als het grootste probleem voor ons. Op cybersecurityterrein blijft het altijd heel hard werken om het veilig te houden, maar dat lukt wel. Ik denk dat een manier om ons ertegen te wapenen – dat doet de overheid natuurlijk al, als het meezit – is door heel consistent en regelmatig te communiceren, via dezelfde kanalen, via zowel lokale als nationale overheden. Dat is heel erg belangrijk. Verder moeten we ervan uitgaan dat er hele grote desinformatiecampagnes komen. Ik denk dat het helpt als je mensen daar vooraf al op voorbereid en als zij weten dat dit gaat gebeuren.
Dan de vraag over uitzetten of monitoren of het veilig is. Kunnen we daar dan niet een wet voor in het leven roepen? In zekere zin is daar de NIS2 voor, de Network and Information Security Act, een Europese nieuwe richtlijn. Die moet nog worden omgezet naar de Wbni, de Nederlandse Wet beveiliging netwerk- en informatiesystemen. Dat is nog steeds niet het geval. Dan kom ik weer op mijn vorige punt. We zijn ontzettend lang aan het dralen met tien punten achter de komma, maar die wet had er al moeten zijn. Een belangrijk deel daarvan gaat over gezond verstand en goed omgaan met je IT. Ik zou dus geen voorstander zijn van meer wetten, maar wel van gezond verstand gebruiken en zelf beslissingen nemen, zeker als leider van een organisatie. Je moet zelf de leiding nemen over je IT, zoals je dat ook over je financiën en je personeel doet, en niet te veel zoeken in wetgeving. Dat komt eigenlijk ook voort uit het eerste punt dat ik maakte. Binnen ons land kunnen we de wet gelukkig handhaven, maar daarbuiten niet. In Europa kunnen we dat misschien een beetje. Er is geen internationale rechtsorde in cyberspace. Het recht van de sterkste geldt. Er is geen enkele Nederlandse wet die daar iets aan doet. We moeten ons dus wapenen in de IT zelf en in onze concurrentiepositie.
De voorzitter:
Dank. Hiermee komen we ook aan het einde van deze bijeenkomst. Dit relativeert ook weer onze rol; we komen er niet met wetgeving als het gaat om cybersecurity, maar het recht van de sterkste geldt daar, als ik het goed begrijp. Dank aan beide deskundigen voor hun aanwezigheid en hun waardevolle bijdragen vandaag. Dank ook aan alle leden voor hun mooie vragen, die deze discussie hebben opgeleverd. Dank ook in het bijzonder aan de staf van onze commissie voor Digitalisering en aan alle medewerkers van de Kamer die deze bijeenkomst mogelijk hebben gemaakt. Het is echt fantastisch dat we hier op maandag terecht konden. Het is ook heel mooi om te zien dat er zo veel leden aanwezig zijn op deze maandagnamiddag en het begin van de avond. Zoals gezegd sluiten we af met een drankje en een hapje beneden, in de lunchroom. Daar is iedereen van harte uitgenodigd, ook onze deskundigen, als zij nog tijd hebben om daar aan te schuiven. Nogmaals dank. Ik sluit deze bijeenkomst.
(Applaus)
Sluiting 18.59 uur.