33 694 Internationale Veiligheidsstrategie

Nr. 48 BRIEF VAN DE MINISTER VAN BUITENLANDSE ZAKEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 20 september 2019

Op 17 mei jl. heeft de vaste Kamercommissie voor Buitenlandse Zaken verzocht uw Kamer te informeren over de uitvoering van de motie van het lid Koopmans c.s. (Kamerstuk 33 694, nr. 43). In deze motie wordt de regering opgeroepen om met gelijkgezinde landen praktisch en realistisch aanjager te zijn van een zo breed gedragen en verstrekkend mogelijk verdrag of andere bindende internationale regelgeving ter beheersing van de productie, plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens.

In dit kader verwijs ik graag naar mijn brief van 13 mei jl. waarin ik uw Kamer informeer of controle middels een internationaal normatief kader over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen mogelijk is.¹ Hierin wordt ingegaan op de veiligheidsdimensie van nieuwe technologieën en wordt een overzicht gegeven van de inspanningen op dit gebied. Het uitgangspunt is dat de mogelijke veiligheidsrisico’s moeten worden geadresseerd, terwijl positieve toepassingen en innovatie niet worden belemmerd. In de brief wordt ook aangegeven dat het kabinet geen voorstander is van het vatten van nieuwe technologieën in aanvullende regelgeving (bijvoorbeeld in een internationaal verdrag) enkel met mogelijke toekomstige wapensystemen in gedachte. Het bestaande internationaal recht (zoals humanitair oorlogsrecht en mensenrechten) geldt voor het gebruik van nieuwe technologieën evenzeer als voor bestaande technologieën in wapensystemen. Alle wapensystemen moeten voldoen aan de eisen die het internationaal recht daar aan stelt. Vooralsnog is het kabinet dan ook van mening dat het bestaande internationaal recht volstaat om de productie, plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens te beheersen en te reguleren. Bovendien zou aanvullende regelgeving nuttige civiele ontwikkelingen en toepassingen kunnen frustreren. Daarnaast zijn nieuwe technologieën te divers van aard om te vatten in een algemeen verdrag of alomvattende regelgeving.

Wel is duidelijk dat de huidige technologische ontwikkelingen leiden tot nieuwe inzichten over de toepassing van het internationaal recht en tot vragen over eventuele uitdagingen bij de naleving daarvan. Het kabinet zet dan ook op deelterreinen in op internationale afspraken over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen. In verschillende internationale fora wordt gesproken over de veiligheidsaspecten van nieuwe technologieën. In de brief van mei aan uw Kamer wordt hiervan een overzicht gegeven en wordt ingegaan op de Nederlandse inspanningen. Onderstaand wordt een update gegeven van de internationale inspanningen waarmee invulling wordt gegeven aan de genoemde motie.

Kunstmatige intelligentie

De competitie om wereldwijde technologische dominantie en de verschillen in opvattingen tussen de toonaangevende blokken in de wereld – China, de EU en de VS – maken het moeilijk om te komen tot internationale normen over de toepassing van kunstmatige intelligentie. Desalniettemin zijn er hiertoe verschillende internationale initiatieven. Nederland speelt daarin een actieve rol. Nederland zet zich in om de discussie over verantwoord gebruik van kunstmatige intelligentie verder te brengen en tot concrete handvatten te komen.

Zowel de Europese Unie als de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO) heeft recent, mede op Nederlands initiatief, internationale beginselen uitgewerkt voor het verantwoord ontwikkelen en gebruiken van kunstmatige-intelligentietechnologie. In beide gevallen gaat het om aanbevelingen die niet juridisch bindend zijn.

Over de Europese ethische richtlijnen werd uw kamer op 17 mei jl. geïnformeerd (BNC-fiche Mededeling vertrouwen kweken in de mensgerichte kunstmatige intelligentie²). Onderdeel daarvan is invloed en toezicht door mensen. Menselijk toezicht kan ervoor zorgen dat een kunstmatige-intelligentiesysteem de menselijke autonomie niet ondermijnt of andere schadelijke effecten veroorzaakt. De richtlijnen worden momenteel in de praktijk getest. De uitkomst hiervan en de eventuele vervolgstappen zullen naar verwachting begin 2020 gereed zijn. De EU zou hiermee een belangrijke rol kunnen spelen bij de ontwikkeling van internationale kunstmatige-intelligentierichtsnoeren. Zoals aangegeven in het recente nationaal Strategisch Actieplan Artificial Intelligence (SAPAI) is voor het kabinet Europese samenwerking vereist voor zowel het stimuleren en realiseren van toepassingen van kunstmatige intelligentie als voor het borgen van ethische principes.

De OESO-beginselen zijn eind mei door de Ministers aangenomen. De beginselen omvatten concrete aanbevelingen voor overheidsbeleid en -strategieën, en zijn erop gericht kunstmatige intelligentie te bevorderen die innovatief en betrouwbaar is en die mensenrechten en democratische waarden respecteert.

Voorts is recent het Analistennetwerk Nationale Veiligheid (ANV) door de Ministeries van JenV, Defensie en Buitenlandse Zaken gevraagd om een studie te doen naar de impact van kunstmatige intelligentie op de nationale veiligheid, op het raakvlak van interne en externe veiligheid. Dit onderzoek maakt deel uit van de gezamenlijke interdepartementale onderzoeksportefeuille die tot stand is gekomen naar aanleiding van het WRR-advies «Veiligheid in een wereld van verbindingen», waarover uw Kamer op 28 maart 2018 per brief is geïnformeerd³.

Autonome wapensystemen (Lethal Autonomous Weapon Systems – LAWS)

De kabinetspositie t.a.v. autonome wapensystemen berust grotendeels op het in 2015 gepubliceerde advies «Autonome Wapensystemen, de noodzaak van betekenisvolle menselijke controle» van een gecombineerde commissie van de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV)⁴. Zoals werd aangekondigd ten tijde van de publicatie zal dit advies in de tweede helft van het jaar 2020 worden geactualiseerd. Het kabinet kijkt uit naar dit geactualiseerde advies, op basis waarvan het huidige kabinetsstandpunt kritisch tegen het licht zal worden gehouden.

Op 20-21 augustus jl. kwam de Group of Governmental Experts (GGE) on Lethal Autonomous Weapons Systems (LAWS) voor de tweede keer in 2019 bijeen. Zoals uiteengezet in mijn brief van 13 mei jl. buigt deze groep zich over het vraagstuk van autonome wapensystemen, waaronder over de gewenste mate van menselijke controle over deze wapensystemen en de toepassing van het internationaal recht daarop.

Nederland zet zich binnen de GGE in voor pragmatische afspraken over guidance voor de toepassing en naleving van het bestaande internationaal recht, dat voor Nederland onverminderd van toepassing is op autonome systemen. Onderdeel van deze inzet is een nadere duiding van het concept betekenisvolle menselijke controle en het bereiken van internationale overeenstemming daarover. Zo steunt het kabinet onderzoek door het Stockholm International Peace Research Institute (SIPRI) i.s.m. International Committee of the Red Cross (ICRC) dat praktische invulling probeert te geven aan de mate van menselijke controle die noodzakelijk is om aan het internationaal recht te voldoen. Het kabinet wacht de uitkomsten van dit onderzoek – die waarschijnlijk in het najaar van 2019 zullen verschijnen – af en zal de relevante inzichten die daaruit voortvloeien inbrengen in het debat binnen de GGE. Daarnaast roept Nederland andere landen op om de verplichting tot het uitvoeren van wapenreviews⁵ na te leven en de rol van (betekenisvolle) menselijke controle t.a.v. autonome systemen sterk in deze procedures te verankeren. Het kabinet acht het van belang dat landen hun wapenreviewprocessen transparant inrichten én uitvoeren. Nederland doet dit zelf ook en informeert landen daar actief over.

Zoals bekend lopen de standpunten in het internationale debat zeer uiteen. Dit komt deels door het ontbreken van overeenstemming over begrippen zoals «autonomie» en «menselijke controle» en over de noodzaak tot aanvullende regelgeving. Het bestaan van dergelijke splijtzwammen maakt het overeenkomen van concrete afspraken doorgaans lastig. Desalniettemin bereikte de GGE in augustus overeenstemming over een consensusrapport met conclusies en aanbevelingen, dat in november aangeboden zal worden aan de verdragspartijen bij het Conventionele Wapenverdrag (CCW). Het kabinet is positief gestemd over het rapport, dat een gedegen overzicht geeft van de overeenkomsten tussen verdragspartijen, de thema’s en onderwerpen voor verder werk identificeert, alsmede de verdragspartijen o.a. aanbeveelt om het mandaat van de GGE in 2020 en 2021 voort te zetten, waarbij verder zal worden gegaan met de verduidelijking en verdere ontwikkeling van het bestaande normatieve en operationele kader t.a.v. autonome wapensystemen. Ook biedt het rapport de in 2018 overeengekomen tien Guiding Principles voor autonome wapensystemen alsmede een in 2019 overeengekomen aanvullend Guiding Principle ter bekrachtiging aan de verdragspartijen aan. Dit aanvullend Principle bevestigt dat samenwerking tussen mens en machine binnen de brede targetingcyclus noodzakelijk is om autonome wapensystemen in te zetten conform het internationaal recht. Ondanks deze successen, had het kabinet in de aanbevelingen graag een concreter werkplan voor 2020 gezien. Nederland spant zich binnen de GGE o.a. in voor een verduidelijking van de manier waarop het bestaande internationaal recht van toepassing is op autonome wapensystemen, maar het bleek voor een aantal landen een brug te ver om hier concrete doelstellingen over op te nemen. Daarnaast is het kabinet teleurgesteld dat het tot op heden niet mogelijk is gebleken om internationaal consensus te bereiken over het begrip betekenisvolle menselijke controle, maar zal zich hier onverminderd voor blijven inspannen.

Van 11 tot 15 november vindt tenslotte de jaarlijkse bijeenkomst van de verdragspartijen bij het Conventionele Wapenverdrag (CCW) plaats. Nederland zal zich daar inspannen voor omarming van het rapport van de GGE door de statenpartijen en pleiten voor een voortzetting van het mandaat van de GGE. Ook zal Nederland pleiten voor bekrachtiging door de verdragspartijen met de nu elf Guiding Principles.

Onbemande luchtvaartuigen (UAV’s)

Nederland richt zich wat export van UAV’s betreft op de daarvoor geëigende gremia zoals het Wassenaar Arrangement, het Missile Technology Control Regime (MTCR) en het Arms Trade Treaty (ATT) en neemt hierbinnen actief deel aan discussies over de controle op dit soort systemen. Nederland heeft de afgelopen jaren intensief bijgedragen aan het opstellen van internationale standaarden voor de export en het gebruik van onbemande vliegtuigen (International standards for Export and Subsequent Use of Armed Unmanned Aerial Vehicles). In deze standaarden wordt onder andere afgesproken strikte beleids- en controlemaatregelen te hanteren bij de export en inzet van bewapende UAV’s en transparant te zijn over de export en het gebruik van deze UAV’s. Het kabinet spant zich in voor een verbreding van het draagvlak van deze standaarden onder landen die nog niet betrokken zijn, m.n. die landen die ook nog niet door andere bestaande regimes en/of verdragen gebonden zijn aan exportcontrole van bewapende UAV’s.

Daarnaast neemt Nederland actief deel aan de discussies in internationale fora over de mogelijke dreiging die kan uitgaan van onbemande luchtvaartuigen bij gebruik door terroristen. Zo maakt het tegengaan van deze potentiële dreiging onderdeel uit van het bredere NAVO-contraterrorisme actieplan zoals dat in december 2018 is vastgesteld door de Ministers van Buitenlandse Zaken. In het Global Counterterrorism Forum (GCTF) worden good practices uitgewisseld van maatregelen tegen het gebruik van onbemande luchtvaartuigen door terroristen. Dit heeft op basis van meerdere expertbijeenkomsten, waaronder in Amsterdam, geleid tot het zogenoemde Berlin Memorandum of good practices for countering terrorist use of unmanned aerial systems systems dat op 25 september tijdens de ministeriele vergadering van de GCTF wordt bekrachtigd. Voorts publiceerde het Counter-Terrorism committee Executive Directorate (CTED) van de Verenigde Naties in mei van dit jaar een analyse naar de mogelijke dreiging van terroristische gebruik van onbemande luchtvaartuigen en organiseert de Europese Dienst voor Extern Optreden (EDEO) in het najaar van 2019 een high-level bijeenkomst over deze dreiging.

Nederland zet zich actief in voor samenhang tussen de diverse internationale initiatieven en het tegengaan van overlap in mogelijke maatregelen. En Nederland zal het komend jaar een internationale conferentie organiseren, waarbij partnerlanden, bedrijfsleven, experts en NGO’s met elkaar zullen spreken over internationale standaarden voor de commerciële UAV-industrie, ten behoeve van verantwoorde productie en gebruik.

Cybermiddelen

Het kabinet wil een leidende rol spelen bij het toepassen en het versterken van een internationaal normatief kader voor de regulering van cyberoperaties tussen staten. Ook hier is het bestaande internationaal recht het uitgangspunt. Wel zet het kabinet in op internationale afspraken over vrijwillige, niet-bindende gedragsnormen voor staten en de ontwikkeling van een stelsel van vertrouwenwekkende maatregelen. Nederland stimuleert de internationale discussie over de toepassing van het internationaal recht op het cyberdomein, zo heeft Nederland eind mei in Den Haag een internationale bijeenkomst over internationaal recht in het cyberdomein georganiseerd. Uw Kamer is middels de brief «Internationale rechtsorde in het digitale domein» van 5 juli jl. uitgebreid geïnformeerd over de inspanningen van het kabinet ten behoeve van het bestendigen van de internationale rechtsorde in het digitale domein⁶.

De ontwikkeling van nieuwe sleuteltechnologieën vormt een wezenlijk deel van de beleidsopgaven van het hele kabinet. Het Ministerie van Buitenlandse Zaken werkt daarom nauw samen met andere departementen om kennis te delen en synergie tussen de beleidsterreinen te benutten.

Nederland zal een actieve rol blijven spelen in internationale discussies en initiatieven. Ook zal ik bij verschillende internationale gelegenheden aandacht blijven vragen voor de veiligheidsimplicaties van nieuwe technologieën. Ik zal uw Kamer blijven informeren over de voortgang.

De Minister van Buitenlandse Zaken, S.A. Blok

---

1 Kamerstuk 33 694, nr. 45

2 Kamerstuk 22 112, nr. 2799

3 Kamerstuk 33 763, nr. 141

4 Kabinetsreactie op het advies: Kamerstuk 34 300 X, nr. 88.

5 Ieder land is verplicht om bij het ontwikkelen, aanschaffen en inzetten van een nieuw wapensysteem, dat systeem te onderwerpen aan een toetsingsprocedure die erop toeziet dat het wapen ingezet kan worden in overeenstemming met de bepalingen van het internationaal recht, waaronder het humanitair oorlogsrecht. Deze verplichting vloeit voort uit Artikel 36 van het Eerste Aanvullende Protocol bij de Geneefse Conventies, en is volgens een groot aantal landen mede onderdeel van het gewoonterecht.

6 Kamerstuk 33 694, nr. 47