33 694 Internationale Veiligheidsstrategie

Nr. 45 BRIEF VAN DE MINISTER VAN BUITENLANDSE ZAKEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 13 mei 2019

In het AO over de Nederlandse inzet inzake nucleaire ontwapening van 4 oktober jl. heb ik toegezegd uw Kamer te informeren of controle middels een internationaal normkader over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen mogelijk is (Kamerstuk 33 694, nr. 23).

Technologische ontwikkelingen geven een nieuwe dimensie aan het veiligheidsbeleid. Nieuwe technologieën (zoals kunstmatige intelligentie, onbemande vliegtuigen, en cybermiddelen) worden immers benut bij de ontwikkeling van nieuwe wapensystemen en dat vereist hernieuwde aandacht voor de wijze waarop we met de ontwikkeling, inzet en proliferatie van dergelijke nieuwe wapensystemen omgaan. Het risico dat de nieuwe wapensystemen door statelijke en niet-statelijke actoren kwaadwillend worden ingezet is zorgelijk. Het kabinet is zich bewust van de urgentie. De ontwikkelingen krijgen dan ook de nodige aandacht van het kabinet, zoals onder andere uiteengezet in de Geïntegreerde Buitenland- en Veiligheidsstrategie (GBVS) die in maart 2018 aan uw Kamer is gestuurd (Kamerstuk 33 694, nr. 12). Daarnaast is in de Defensie Industrie Strategie (2018) beschreven welke kennis, technologie, en industriële capaciteiten in Nederland moeten worden verankerd om de wezenlijke belangen van nationale veiligheid te kunnen borgen (Kamerstuk 31 125, nr. 92). In het kader van de nieuwe nationale veiligheidsstrategie (NVS) wordt momenteel de mogelijkheden bezien om periodiek de implicaties van nieuwe technologische ontwikkelingen voor de nationale veiligheid in kaart te brengen. Voorts geeft de Nederlandse Cyber Security Agenda (2018) de koers op het gebied van cybersecurity aan. Met de technologische (en maatschappelijke) ontwikkelingen zijn immers ook de kwetsbaarheden in het digitale domein toegenomen (Kamerstuk 26 643, nr. 536).

Ook heeft het kabinet met grote belangstelling kennis genomen van het rondetafelgesprek van de vaste Kamercommissie voor Buitenlandse Zaken over «drones en killer robots» d.d. 21 januari jl.

Internationaal staat het onderwerp prominent op de agenda. Op 15 maart jl. heb ik deelgenomen aan een wapenbeheersingsconferentie in Berlijn «Capturing Technology. Rethinking arms control» alwaar ik aandacht heb gevraagd voor de uitdagingen die nieuwe technologieën voor wapenbeheersing vormen en de wenselijkheid van internationale afspraken hierover heb onderstreept. Daarnaast heb ik benadrukt dat instandhouding en naleving van de bestaande wapenbeheersingsarchitectuur (waaronder het INF-verdrag) evenzeer van belang zijn.

De Secretaris-Generaal van de Verenigde Naties (hierna: SGVN) Guterres besteedt in zijn ontwapeningsagenda van 2018 uitgebreid aandacht aan veiligheidsrisico’s en dreigingen van nieuwe technologieën. Nederland steunt deze agenda. De SGVN stelt een aantal acties voor om de dialoog over deze problematiek te bevorderen en vooruitgang te boeken in de VN-ontwapeningsorganen. Hierbij is een belangrijke rol weggelegd voor het United Nations Institute for Disarmament Research (UNIDIR). Nederland is een van de grootste donoren van het Security & Technology Programma van UNIDIR. Dit programma kijkt onder andere naar de veiligheidsimplicaties van nieuwe technologieën.

De uitdagingen van nieuwe technologieën, waaronder de veiligheidsimplicaties, komen in verschillende internationale fora aan de orde. Nederland speelt hierin een actieve rol. Uitgangspunt daarbij is dat de mogelijke veiligheidsimplicaties moeten worden geadresseerd, terwijl positieve toepassingen en innovatie niet worden belemmerd. Het vatten van nieuwe technologieën in algemene regelgeving enkel met mogelijke toekomstige wapensystemen in gedachten, zou nuttige civiele ontwikkelingen kunnen frustreren. Dit belet echter niet om op deelterreinen actief in te zetten op internationale afspraken over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen.

Het kabinet stelt zich, zoals het vorige kabinet, op het standpunt dat alle wapensystemen en de inzet daarvan moeten voldoen aan de eisen die het internationaal recht daaraan stelt¹. De ontwikkelingen van nieuwe wapensystemen is van alle tijden. Relevant daarbij is of de nieuwe middelen en methoden van oorlogsvoering volgens het internationaal recht zijn toegestaan. Dit is het uitgangspunt van de Nederlandse inzet in de verschillende internationale discussies waarop hieronder nader zal worden ingegaan. Gezien de raakvlakken met het nationale beleid zal in deze brief – waar relevant – ook de nationale dimensie worden belicht. Hiermee wordt echter geenszins een volledig overzicht van het nationale beleid op het gebied van nieuwe technologieën gegeven.

Kunstmatige intelligentie

Op nationaal niveau staat het onderwerp kunstmatige intelligentie (Artificiële Intelligentie (AI)) in de belangstelling. Zo werkt het kabinet aan een nationaal strategisch actieplan kunstmatige intelligentie dat naar verwachting in de eerste helft van 2019 gereed zal zijn. Ook werkt het kabinet aan een aparte visie op AI en ethiek, welke de Minister van BZK naar verwachting na de zomer met uw Kamer zal delen.

De ontwikkelingen rondom kunstmatige intelligentie worden ook in EU-verband behandeld. In het recent door de Europese Commissie gepubliceerde «gecoördineerde actieplan Artificiële Intelligentie (AI) voor Europa» waar uw Kamer 25 januari jl. over is geïnformeerd (BNC fiche²) is aangegeven dat kunstmatige intelligentie kansen voor Europa biedt. De insteek in Europees kader is vooral van economische aard. Er is echter ook aandacht voor de verantwoorde ontwikkeling en het verantwoord gebruik van kunstmatige intelligentietechnologie. In dat kader worden Europese ethische richtlijnen ontwikkeld die als standaard moeten gaan dienen bij de ontwikkeling van kunstmatige intelligentietechnologie. Europese waarden als transparantie, non-discriminatie of gelijkheid van vrouwen en mannen dienen daarbij als leidraad. Mede in het licht van geopolitieke ontwikkelingen, zien de meeste lidstaten – en dat is ook de inzet van Nederland – het belang van een dergelijke gezamenlijke Europese aanpak. Nederland draagt daar aan bij door te onderzoeken in hoeverre internationale afspraken aangepast dienen te worden teneinde die waarden te borgen en in hoeverre die afspraken toekomstbestendig zijn.

Daarnaast heeft de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO), mede op Nederlands initiatief, een aanbeveling over beleidsbeginselen en beginselen voor internationale samenwerking met betrekking tot verantwoorde ontwikkeling en gebruik van kunstmatige intelligentie opgesteld. Deze OESO-aanbeveling vormt ook de basis voor afspraken in het kader van de G20 waaraan wordt gewerkt met het oog op de G20-bijeenkomst van Ministers van digitale economie op 8 juni 2019 in Japan.

Voorts heeft begin maart (4–5 maart jl.) in Berlijn een internationale conferentie over kunstmatige intelligentie plaatsgevonden: «Artificial intelligence’s challenge to international affairs» waaraan Nederland op ambtelijk niveau heeft deelgenomen. Met Europese collegae en deskundigen is gesproken over o.a. de risico’s van kunstmatige intelligentie, met name met betrekking tot de ontwikkeling van autonome wapens, en mogelijke regelgeving hiervoor. De conclusie was dat, gezien de uiteenlopende standpunten op het internationale toneel, het op korte termijn moeilijk zal zijn om grote stappen te zetten, maar dat de discussie zal worden voortgezet.

Autonome wapensystemen (Lethal Autonomous Weapon Systems – LAWS)

Ook de ontwikkelingen op het gebied van kunstmatige intelligentie in relatie tot autonome wapensystemen hebben de aandacht van het kabinet. Bij de inzet en het gebruik van AI ziet het kabinet mogelijkheden in de toepassing op gebied van ondersteuning van de commandovoering, inlichtingenvergaring, data-analyse en versnelde responsiviteit bij de verdediging van Nederlands grondgebied. Op een aantal terreinen vindt deze toepassing ook al plaats, zoals bij onderwaterdrones voor mijnenbestrijding (Remus) en het afweersysteem (de Patriot). Daarnaast vindt er onderzoek plaats naar verdere ontwikkeling van algoritmes, commandovoering en de interactie tussen verschillende onbemande systemen. Voorbeelden hiervan zijn onderzoek naar beeldherkenning (Koninklijke Marechaussee); beeldanalyse luchtbeelden (Luchtmacht); tekstanalyse (Koninklijke Marechaussee/Datalab); risicoanalyse schepen (Kustwacht). Dit onderzoek gebeurt in nauwe samenwerking met NAVO-partners, universiteiten en kenniscentra (Nederlandse Organisatie voor toegepast-natuurwetenschappelijk onderzoek (TNO), Koninklijk Nederlands Lucht- en Ruimtevaartcentrum (NLR), Maritime Research Institute Netherlands (MARIN)) en het bedrijfsleven. Hierbij is ook aandacht voor internationaal recht en ethische richtlijnen.

Autonome wapensystemen staan sinds 2013 op de agenda van de Convention on Certain Conventional Weapons (hierna: CCW) van de Verenigde Naties. Daarbij wordt ook gesproken over mogelijke gevolgen van dergelijke systemen voor de internationale veiligheid en over mogelijke uitdagingen die deze systemen bieden ten aanzien van de toepassing van het internationaal recht, in het bijzonder het humanitair oorlogsrecht.

Nederland neemt actief deel aan dit debat. Nederland is vertegenwoordigd door een brede delegatie van experts en heeft verschillende working papers ingediend. Uitgangspunt bij de Nederlandse inzet is dat alle wapensystemen, inclusief autonome wapensystemen, te allen tijde onder betekenisvolle menselijke controle moeten staan, en dat het bestaande internationale recht, in het bijzonder het humanitair oorlogsrecht, ook van toepassing is op autonome wapensystemen. Voor een uitgebreide uiteenzetting van de Nederlandse positie en inzet binnen het internationale debat wordt u verwezen naar de kabinetsreactie op het advies «Autonome Wapensystemen, de noodzaak van betekenisvolle menselijke controle» van een gecombineerde commissie van de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV), van 4 maart 2016³. Gelet op de snelle ontwikkelingen, zal dit advies in 2021 (na vijf jaar) opnieuw tegen het licht worden gehouden. Zoals aangegeven in deze reactie is het kabinet geen voorstander van een verbod of moratorium op de ontwikkeling van autonome wapensystemen. Een discussie met als uitgangspunt beperkende maatregelen zou op dit moment, mede gezien de vele onduidelijkheden en meningsverschillen in het internationale debat, een negatieve impact hebben op de noodzakelijke internationale dialoog over betekenisvolle menselijke controle bij wapensystemen met toenemende autonomie. Bovendien is het kabinet van mening dat zolang er sprake is van betekenisvolle menselijke controle, het huidige internationaal recht volstaat en geen aanvullende regelgeving nodig is. Gezien het belang dat het kabinet hecht aan betekenisvolle menselijke controle, zowel bij huidige als toekomstige wapensystemen, zet het kabinet zich in om het concept van betekenisvolle menselijke controle nader uit te werken.

Nederland heeft zich actief ingezet voor de oprichting van de Group of Governmental Experts (GGE) onder het CCW die zich buigt over het vraagstuk van o.a. het begrip betekenisvolle menselijke controle en het huidig internationaal recht. Hoewel enige vooruitgang wordt geboekt – zo werden in 2018 tien «Possible Guiding Principles» afgesproken die de onderhandelingen verder richting zullen geven – is de discussie complex en lopen de standpunten sterk uiteen. In de week van 25 tot 29 maart jl. vond de meest recente bijeenkomst plaats van de GGE. Nederland heeft zich ingezet voor de verdere operationalisering van de in 2018 afgesproken Guiding Principles. De discussie hierover zal in augustus dit jaar in de GGE worden voortgezet.

Daarnaast financieren de Ministeries van Buitenlandse Zaken en van Defensie verschillende nationale en internationale onderzoeken naar autonome wapensystemen, waarbij ook aandacht is voor de juridische aspecten. Resultaten van deze onderzoeken worden ingebracht in het internationale debat over Lethal Autonomous Weapon Systems (LAWS) dat plaatsvindt binnen CCW.

Autonome wapensystemen hebben ook de nodige aandacht binnen de Europese Unie. Het Europese Parlement heeft eind 2018 een resolutie aangenomen waarin wordt opgeroepen om: 1) te komen tot een gezamenlijke positie ten aanzien van LAWS, en 2) zich sterk te maken voor internationale onderhandelingen over een juridische instrumenten om dodelijke autonome wapensystemen te verbieden. Het Nederlandse standpunt en inzet zijn conform die in de CCW. Voor meer achtergrond informatie wordt u gewezen op de beantwoording van vragen door de Minister van Defensie van het lid Belhaj (D66) over het bericht dat het Europees Parlement killerrobots wil verbieden⁴.

Onbemande luchtvaartuigen (UAV’s)

De toename van het aantal toepassingen van onbemande luchtvaartuigen (UAV’s, ook wel drones genoemd), waaronder de inzet van bewapende UAV’s, noopt tot verdere internationale afspraken en nationale maatregelen. De SGVN pleit in zijn ontwapeningsagenda voor het vergroten van de transparantie en het toezicht op bewapende drones door middel van gemeenschappelijke standaarden voor overdracht, bezit en gebruik van bewapende drones.

De toename van het aantal toepassingen van onbemande luchtvaartuigen (UAV’s, ook wel drones genoemd), waaronder de inzet van bewapende UAV’s, noopt tot verdere internationale afspraken en nationale maatregelen. De ontwikkelingen worden zowel nationaal als internationaal nauwlettend in de gaten gehouden en eventuele trends worden meegenomen in het contra-terrorismebeleid. De SGVN pleit in zijn ontwapeningsagenda voor het vergroten van de transparantie en het toezicht op bewapende drones door middel van gemeenschappelijke standaarden voor overdracht, bezit en gebruik van bewapende drones.

Op nationaal niveau wordt Rijksbreed, als ook met kennisinstellingen en het bedrijfsleven, nauw samengewerkt om de inzet van commercieel verkrijgbare UAV’s door kwaadwillenden zo effectief mogelijk te kunnen bestrijden. Zo wordt, in samenwerking met internationale partners en onderzoeksinstellingen, onderzoek gedaan naar de bestrijding van drones. Daarnaast is medio 2018 binnen het Commando Landstrijdkrachten de Joint Nucleus Unmanned Aerial Vehicles opgericht. Deze entiteit richt zich op het ontwikkelen van capaciteiten tegen drones. Op dit moment beschikt Defensie al over middelen om drones te detecteren en te bestrijden. De Koninklijke Marechaussee (KMar) en de Politie kunnen hier via het bevoegd gezag een beroep op doen in het kader van hun taakuitvoering, bijvoorbeeld bij het signaleren van een drone in de nabijheid van een luchthaven. Bij daadwerkelijke inzet van deze middelen wordt uiteraard rekening gehouden met de risico’s op onbedoelde nevenschade.

De Europese Unie publiceert binnenkort regelgeving voor het veilig gebruik van drones in het Europese luchtruim. Het is aan de lidstaten om op nationaal niveau zones aan te wijzen waarin extra restricties kunnen worden gesteld aan drone-operaties. Door middel van deze zones kan Nederland bijvoorbeeld gebieden bij luchthavens aanwijzen waarbinnen het vliegen met drones verboden dan wel strikt gereguleerd is. Hiermee is het mogelijk om de preventie, opsporing en bestrijding van illegale inzet van kleine commercieel verkrijgbare UAV’s verder aan te scherpen.

Voor meer achtergrond informatie wordt u gewezen op de beantwoording door de Ministers van Defensie en van Buitenlandse Zaken van vragen van de leden Bosman, Remco Dijkstra, Koopmans en Laan-Geselschap (allen VVD) over het bericht dat Defensie zich nog geen raad weet met steeds kleinere drones⁵, de beantwoording door de Minister van Defensie van vragen van het lid Bruins Slot (CDA) over beveiliging van luchthavens tegen drones na «Gatwick»⁶, en de beantwoording door de Minister van Defensie, mede namens de Minister van Justitie en Veiligheid, van vragen van het lid Bruins Slot (CDA) over antidrone-maatregelen bij vliegvelden⁷.

Nederland maakt internationaal deel uit van een kerngroep van landen die sinds 2016 op Amerikaans initiatief werkt aan internationale standaarden voor de handel in en het gebruik van geavanceerde UAV’s: de International Standards for Export & Subsequent Use of Armed Unmanned Aerial Vehicles. Nederland zet zich in deze groep in voor bredere internationale deelname en voor een transparant en niet-vrijblijvend proces. Nederland is (mede-)ondertekenaar van een internationale politieke verklaring van ruim 50 landen die de intentie hebben zich te committeren aan deze internationale standaarden. Daarnaast is Nederland actief betrokken bij de discussie binnen het Missile Technology Control Regime (MTCR) om regelgeving ten aanzien van de uitvoer van bepaalde typen UAV’s te moderniseren.

Cybermiddelen

Zoals beschreven in de GBVS, de Internationale Cyber Strategie (ICS), en de Nationale Cyber Security Agenda (NCSA), zijn cyberdreigingen snel toegenomen en vormen deze een serieus veiligheidsrisico. Dit vraagt om een helder internationaal antwoord gebaseerd op internationale afspraken. Het kabinet zet hier dan ook op in als onderdeel van zeven ambities uit de NCSA die bijdragen aan de volgende doelstellingen: Nederland is in staat om op een veilige wijze de economische en maatschappelijke kansen van digitalisering te verzilveren en de nationale veiligheid in het digitale domein te beschermen. Met de Nederlandse inzet gebaseerd op de ICS en de NCSA heeft Nederland de internationale agenda op het gebied van cybersecurity beïnvloed.

De Nederlandse internationale inzet richt zich onder meer op de bestendiging van de internationale rechtsorde door de toepassing van internationaal recht, aanvullende normen voor verantwoord gedrag en vertrouwenwekkende maatregelen tussen staten. Een belangrijk aspect hiervan is de verdere interpretatie en toepassing van het internationaal recht in het digitale domein. Over de Nederlandse visie over de specifieke toepassing van het internationaal recht in digitale domein, zoals toegezegd tijdens het plenair debat op 20 december jl. over spionage door Rusland, zullen Minister Bijleveld en ik uw Kamer in de eerste helft van dit jaar per brief nader over informeren.

Daarnaast wordt verdere ontwikkelingen van aanvullende normen gestimuleerd, bijvoorbeeld door de Global Commission on the Stability of Cyberspace (GCSC). Nederland heeft in 2016 de GCSC geïnitieerd om de discussie te starten tussen overheden, private sector, maatschappelijk middenveld en academische wereld over normen voor verantwoord gedrag in het digitale domein. De GCSC is tot op heden gekomen met een aantal aanbevelingen voor concrete normen, waaronder een norm ter bescherming van de publieke kern van het internet.

Internationale samenwerking met bondgenoten en gelijkgezinde landen in fora zoals de Europese Unie en de NAVO speelt in deze aanpak een belangrijke rol. Daarnaast blijft Nederland inzetten op een multilaterale dialoog in fora zoals de VN en Organisatie voor Veiligheid en Samenwerking in Europa (OVSE).

Bovenstaand overzicht geeft aan dat in internationaal kader wordt gesproken over afspraken over het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen en dat Nederland hierin een actieve rol speelt. Het Ministerie van Buitenlandse Zaken dient adequaat toegerust te zijn om de internationale ontwikkelingen op dit gebied te kunnen blijven volgen en beïnvloeden. Dit vereist een aanvulling op de inzet van onze diplomatie. Voor dit doel worden thans in het postennet cyberdiplomaten en innovatie-attachés geplaatst en is kortgeleden een ambassadeur voor veiligheidsbeleid en cyber benoemd.

Nederland financiert daarnaast onderzoeksinstellingen om de veiligheidsimplicaties van innovatie te onderzoeken, zoals de Nederlandse organisatie voor Toegepast-Natuurwetenschappelijk Onderzoek (TNO), het Stockholm International Peace Research Institute (SIPRI), en de Vrije Universiteit Amsterdam (VU).

Ook hecht het kabinet belang aan contact met het maatschappelijk middenveld (bedrijfsleven en kennisinstituten). De afgelopen jaren is meerdere malen met maatschappelijke en wetenschappelijke organisaties van gedachten gewisseld en dit zal worden voortgezet.

Gezien de huidige veiligheidscontext zal het niet eenvoudig zijn om tot concrete afspraken te komen, maar Nederland zal zich daar wel voor blijven inspannen zoals hierboven uiteengezet. Mocht blijken dat de technologische ontwikkelingen daartoe aanleiding geven, zal het kabinet daarop tijdig reageren en zo nodig zijn standpunt herzien. Het kabinet zal uw Kamer op de hoogte houden van de ontwikkelingen.

De Minister van Buitenlandse Zaken, S.A. Blok

---

1 Kamerstukken 34 300 X en 34 300 V, nr. 109.

2 Kamerstuk 22 112, nr. 2758

3 Kamerstukken 34 300 X en 34 300 V, nr. 88

4 Aanhangsel Handelingen II 2018/19, nr. 264

5 2019Z01633

6 Aanhangsel Handelingen II 2018/19, nr. 1678

7 Aanhangsel Handelingen II 2018/19, nr. 2248