35 848 Initiatiefnota van het lid Belhaj over Autonome Wapensystemen

Nr. 3 BRIEF VAN DE MINISTERS VAN DEFENSIE EN VAN BUITENLANDSE ZAKEN

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 28 juni 2021

Inleiding

Op 4 juni 2021 heeft uw Kamer de Minister van Defensie verzocht een reactie te geven op de initiatiefnota over «Autonome Wapensystemen» (Kamerstuk 35 848, nr. 2) van het Kamerlid Belhaj¹. In deze brief reageert het kabinet op de initiatiefnota.

In de initiatiefnota wordt het kabinet onder meer verzocht te komen tot een internationaal verdrag dat de inzet van autonome wapensystemen reguleert door betekenisvolle menselijke controle te garanderen en dat volledig autonome wapensystemen verbiedt. Ook waarschuwt de nota voor de gevaren van de snelle technologische en digitale ontwikkelingen, zoals hackrisico’s en risico’s van zelflerende algoritmen. Op deze en de andere beslispunten in de nota wordt in deze brief verder ingegaan. De ontwikkelingen op het gebied van autonome wapensystemen worden tegen het licht van de nationale en internationale politiek gehouden, en er wordt ingegaan op de vraag hoe autonome wapensystemen zich verhouden tot het humanitair oorlogsrecht.

De technologische ontwikkelingen van onbemande en autonome systemen gaan razendsnel, zowel bij onze partners als bij potentiële tegenstanders. Deze technologische ontwikkelingen vormen een game changer binnen alle functies van militair optreden. Dit vereist nadrukkelijk kennis van deze ontwikkelingen, heldere beleidsaansturing en een zorgvuldige inbedding van deze systemen in de defensieorganisatie, zoals opgenomen in de Strategische Kennis- en Innovatieagenda 2021–2025². Daarnaast staat de beschikbaarheid van personeel onder druk, willen we risico’s voor personeel minimaliseren en willen we de slagkracht verhogen binnen een informatiegestuurd netwerk. Vanuit deze ontwikkelingen is het relevant om de kennis over en de beschikbaarheid van autonome systemen te vergroten.

Alvorens in te gaan op de initiatiefnota en de beslispunten die daarin worden genoemd, roept het kabinet in herinnering dat de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV) zich momenteel buigen over de actualisering van het AIV/CAVV advies over autonome wapensystemen uit 2015. Deze actualisering wordt komend najaar verwacht. De huidige positie van het kabinet inzake autonome wapensystemen berust grotendeels op dat AIV/CAVV advies. Na het verschijnen van het nieuwe advies zal het kabinet zijn positie evalueren en deze, waar nodig, herzien.

Het uitgangspunt van het kabinet is dat alle wapensystemen en de inzet daarvan in een situatie van gewapend conflict, moeten voldoen aan de eisen die het internationaal recht daaraan stelt. Dit geldt ook voor autonome wapensystemen. Nederland benadrukt daarbij het belang van betekenisvolle menselijke controle. Mensen moeten zich altijd bevinden in de wider loop van besluitvorming, zoals beschreven in de kabinetsreactie van 4 maart 2016 (Kamerstuk 34 300 X, nr. 88). Dit heeft zowel betrekking op de kritische processen van doelselectie en inzet van het wapen, als op het bredere targeting proces. Het kabinet hecht veel belang aan deze betekenisvolle menselijke controle. Volledig autonome wapensystemen zijn systemen die niet onder deze betekenisvolle menselijke controle staan.

Beslispunten uit initiatiefnota

Beslispunt 1: Stel een internationaal verdrag op dat de inzet van autonome wapensystemen reguleert door betekenisvolle menselijke controle te garanderen en volledige autonome wapensystemen verbiedt. Hierbij dient een concrete invulling van het concept betekenisvolle menselijke controle als ijkpunt te worden genomen.

Zoals eerder aan uw Kamer gemeld³ zet Nederland zich in internationaal verband in om mogelijke veiligheidsimplicaties van nieuwe technologieën te blijven te bespreken. De bereidheid van het kabinet om zich nationaal en internationaal in te zetten en de potentieel verstrekkende gevolgen van (volledig) autonome wapensystemen te bespreken, wordt in de initiatiefnota onderkend. Hierbij wordt het omarmen van de term betekenisvolle menselijke controle genoemd als belangrijke stap. De nota constateert echter dat er normatieve en operationele kaders missen, evenals de invulling van de term betekenisvolle menselijke controle.

Het uitgangspunt van het kabinet is dat alle wapensystemen, én de inzet daarvan in een situatie van gewapend conflict, moeten voldoen aan de eisen die het internationaal recht daaraan stelt. Zoals het kabinet in zijn brief van 26 november 2013 stelt, geldt dit ook voor autonome wapensystemen.⁴ Het internationaal recht is derhalve het normatief kader waaraan de inzet van autonome wapensystemen moet worden getoetst. Helaas is er internationaal nog geen overeenstemming over een aantal kernbegrippen, waaronder betekenisvolle menselijke controle. Nederland zet zich daarom in om internationaal overeenstemming te krijgen over deze kernbegrippen.

Om in dit kader vooruitgang te boeken, voert Nederland sinds 2013 discussies in internationaal verband over het gebruik en de ontwikkeling van autonome wapensystemen. Deze gesprekken vinden plaats binnen de Group of Governmental Experts (GGE) on LAWS (Lethal Autonomous Weapon Systems) gemandateerd onder de Convention on Certain Conventional Weapons (CCW). Binnen het huidige internationale krachtenveld kunnen ruwweg drie groepen worden onderscheiden:

• 1. Voorstanders van een nieuw internationaal verbod op volledig autonome wapensystemen. Deze groep bestaat uit circa dertig landen, waaronder Oostenrijk en Pakistan;

• 2. Een kleine groep landen die vinden dat het huidig recht volstaat en geen voorstander zijn van verdere maatregelen of besprekingen, zoals Rusland;

• 3. Een grote groep landen die een middenpositie innemen en vinden dat het huidig recht vooralsnog volstaat maar pleiten voor aanvullende guidance en interpretatie van het bestaande kader, waaronder de Verenigde Staten, Zweden, het Verenigd Koninkrijk en Nederland.

Nederland draagt binnen de GGE actief bij aan de discussies over begripsvorming, bijvoorbeeld over een eenduidige interpretatie van de toepasbaarheid van internationaal recht als bestaand normatief kader op de ontwikkeling en inzet van autonome wapensystemen. Daarnaast zet Nederland zich in om concrete invulling te geven aan het concept betekenisvolle menselijke controle, en de acceptatie van dit concept binnen de internationale gemeenschap te vergroten.

Een van de obstakels om voortgang te boeken binnen de GGE on LAWS is het feit dat de discussie veelal over de vorm gaat, zoals of er wel of geen nieuw verdrag moet komen. Hierdoor kan minder progressie worden geboekt op inhoudelijke thema’s, zoals menselijke controle. De Belgische GGE-voorzitter heeft daarom aangegeven de discussie over de vorm te willen doorschuiven naar de toetsingsconferentie van de CCW die gepland staat in december van dit jaar en om binnen de GGE inhoudelijke aanbevelingen te formuleren over het normatief en operationeel raamwerk van autonome wapensystemen conform het mandaat van de GGE. Hiervoor is eerst verdere inhoudelijke discussie nodig, mede omdat er nog geen internationale overeenstemming is over kernbegrippen.

Het kabinet is teleurgesteld dat het tot op heden niet mogelijk is gebleken om internationaal consensus te bereiken over het begrip betekenisvolle menselijke controle, maar zal zich hier onverminderd voor blijven inspannen. Zoals eerder aan uw Kamer gemeld⁵ heeft het kabinet onderzoek van het Stockholm International Peace Research Institute (SIPRI) in samenwerking met International Committee of the Red Cross (ICRC) gesteund. Dat onderzoek probeert praktische invulling te geven aan de mate van menselijke controle die noodzakelijk is om te voldoen aan het internationaal recht. Inmiddels rondt SIPRI met steun van het kabinet hier een vervolgstudie op af. Het kabinet wacht de uitkomsten van dit onderzoek af – die waarschijnlijk in de zomer van 2021 zullen verschijnen – en zal de relevante inzichten die daaruit voortvloeien inbrengen in het debat binnen de GGE.

Beslispunt 2: Roep de Nederlandse regering op om internationaal, vooral binnen de EU, aan te dringen bij andere landen om artikel 36 van het aanvullend Protocol 1 bij de verdragen van de Geneefse conventie 12 augustus 1949 om te zetten in nationale wetgeving.

Het kabinet vindt dat ieder land verplicht is om bij het ontwikkelen, aanschaffen en inzetten van een nieuw wapensysteem, dat systeem te onderwerpen aan een toetsingsprocedure die vaststelt of het wapen kan worden ingezet in overeenstemming met de bepalingen van het internationaal recht, waaronder die van het humanitair oorlogsrecht. Deze verplichting vloeit onder meer voort uit Artikel 36 van het Eerste Aanvullende Protocol bij de Geneefse Conventies. Bij Defensie is hiervoor de Adviescommissie Internationaal Recht en Conventioneel Wapengebruik (AIRCW) ingesteld. Deze commissie adviseert de Minister van Defensie.⁶ In de initiatiefnota staat terecht geschreven dat maar een zeer beperkt aantal landen een Artikel 36-procedure of soortgelijke weapon review procedure heeft geïmplementeerd. Nederland roept staten in internationaal verband, zoals in de GGE, actief op om dergelijke wapenreviewprocessen in te richten. Daarnaast zet Nederland zich in om de rol van betekenisvolle menselijke controle t.a.v. autonome systemen en nieuwe technologie, zoals AI, beter in deze procedures te verankeren. In dat verband verdient de opvolging van de motie Koopmans vermelding en de toezeggingen en de inspanningen van de Minister van Buitenlandse Zaken in deze.⁷ Nederland pleit ervoor dat landen hun wapenreviewproces transparant inrichten én uitvoeren, en de uitkomsten van afgeronde wapenreviews waar mogelijk internationaal delen. Nederland doet dit zelf ook en zal zich hiervoor actief blijven inzetten. Zo heeft het Ministerie van Defensie eerder dit jaar in het kader van het EU-strategisch proces over het verantwoord militair gebruik van nieuwe technologieën aan lidstaten een presentatie gegeven over de Artikel 36-procedure en lidstaten opgeroepen informatie hieromtrent, waar mogelijk, te delen. Ook in VN-verband heeft Defensie haar kennis gedeeld met betrekking tot de Artikel 36-procedure, onder andere door in 2020 bij te dragen aan een (virtuele) informatie uitwisseling.⁸

Beslispunt 3: Kom met een expliciete vermelding welke stappen binnen het doelontwikkelingsproces uitgevoerd moeten worden door een mens.

In de initiatiefnota wordt als centrale vraag gesteld: «Wat willen we van de mens?».⁹ De eerdergenoemde kabinetsreactie op het adviesrapport Autonome Wapensystemen van de AIV en CAVV geeft antwoord op deze vraag.¹⁰ Nederland vindt, zoals gezegd, betekenisvolle menselijke controle van groot belang. Hiervoor moeten mensen een nadrukkelijke rol spelen bij het programmeren van de kenmerken van de aan te vallen doelen en bij de beslissing over de inzet van het wapen. Mensen vervullen in dit geval dus een cruciale rol in het targeting proces. Een autonoom wapen, zoals hierboven gedefinieerd, wordt derhalve pas ingezet na menselijke afwegingen over aspecten als doelselectie, wapenselectie en uitvoeringsplanning inclusief een beoordeling van mogelijke nevenschade. Het autonome wapensysteem is bovendien geprogrammeerd om binnen vooraf bepaalde voorwaarden en kaders specifieke acties uit te voeren. Na inzet volgt wederom een menselijke beoordeling van de effecten hiervan. De beoordeling van mogelijke nevenschade (voorzorgsmaatregelen en proportionaliteit) en verantwoording volgens de regels van het humanitair oorlogsrecht spelen hierbij een sleutelrol.

Beslispunt 4: Geen investeringen en steun van de Nederlandse regering voor de ontwikkeling van volledige autonome wapensystemen, zowel in Nederland, de Europese Unie (Europees Defensiefonds) als binnen de NAVO. Nederland dient zich actief in te zetten om dit soort investeringen te voorkomen.

De initiatiefnota stelt dat de industrie die zich bezighoudt met volledig autonome wapensystemen zonder menselijke controle geen steun mag krijgen vanuit middelen van de Europese Unie, de NAVO of Nederland¹¹.

Wat Nederland betreft gaat het niet uitsluitend om het voorkomen van investeringen in volledig autonome wapensystemen. Defensie investeert in onderzoek en technologieontwikkeling om betekenisvolle menselijke controle ook in de toekomst te waarborgen. In opdracht van Defensie doet TNO onderzoek naar Men Machine Teaming. Daarin nemen het waarborgen van betekenisvolle menselijke controle en het verzekeren van transparante besluitvorming een centrale plaats in. Mede dankzij de inzet van Nederland is ook binnen de NAVO nadrukkelijk aandacht voor verantwoord gebruik van Emerging and Disruptive Technologies (EDTs) («responsible use»), waaronder betekenisvolle menselijke controle. Nederland hanteert waar het gaat om EDT’s een evenwichtige aanpak, met aandacht voor ethische en juridische kaders.

Wat betreft het Europees Defensiefonds (EDF) is uw Kamer al eerder geïnformeerd over het gebruik hiervan voor de ontwikkeling van volledig autonome wapensystemen (Kamerstuk 21 501–23, nr. 188). In de EDF-verordening is vastgelegd dat acties moeten voldoen aan alle relevante nationale, Unie- en internationale wetgeving, waaronder ook aan de ethische beginselen die daarin worden weergegeven. Het is de visie van het kabinet dat een verwijzing naar het internationaal recht, in het bijzonder het humanitair oorlogsrecht, voldoende is. In dit geval is dat een verwijzing naar het hierboven al besproken Artikel 36 van het Aanvullend Protocol I bij de Verdragen van Genève.

Beslispunt 5: Zorg dat alle autonome wapensystemen die door Nederland ontwikkeld of aangeschaft worden, kunnen worden voorzien van een instrument dat data registreert en verzendt naar een database.

In de initiatiefnota wordt beschreven dat autonome wapens voorzien kunnen worden van een instrument dat data registreert en verzendt naar een database. Volgens de initiatiefnota zou het hebben van een instrument op autonome wapens dat data registreert en verzendt in Nederland een verplicht onderdeel moeten zijn bij de aankoop en ontwikkeling van autonome wapensystemen¹².

Alle systemen die door Nederland worden verworven hebben reeds een dergelijk registratie-functionaliteit. Deze variëren wel in welke data precies worden vastgelegd.

Beslispunt 6: Zie het gebruik van niet-volledige autonome wapensystemen bij militaire missies als aandachtspunt bij de artikel 100 procedures.

De nieuwe risico’s die het gebruik van deze autonome wapensystemen met zich meebrengen moeten volgens de initiatiefnota voorafgaand aan de besluitvorming van een militaire missie met de Tweede Kamer worden besproken. Ook na afloop van een missie dienen deze aspecten met de Tweede Kamer te worden geëvalueerd. Gezien de complexiteit van autonome wapensystemen zou dit volgens de initiatiefnota moeten worden opgenomen in de artikel 100 brief.¹³ Het Ministerie van Defensie maakt een militaire afweging welke middelen en methoden nodig zijn om de politieke opdracht voor inzet uit te kunnen voeren. Alle systemen die gedurende een missie ter beschikking staan van de krijgsmacht zijn vooraf getoetst aan de Artikel 36-procedure, zoals aangegeven onder beslispunt 2. Dit geldt ook voor niet-volledige autonome wapensystemen.

Tot slot

De initiatiefnota beoogt door middel van deze zes beslispunten verdere invulling te geven aan de operationele en normatieve kaders voor het gebruik van autonome wapensystemen. De beslispunten zijn gebaseerd op politieke en technologische ontwikkelingen op dit onderwerp. Nederland draagt in het internationale domein bij aan discussies over begripsvorming en de verduidelijking van normatieve en operationele kaders. Het kabinet onderstreept het belang van de genoemde betekenisvolle menselijke controle die ook in de initiatiefnota wordt aangehaald. Ook heeft Nederland Artikel 36 van Aanvullende Protocol I bij de Verdragen van Genève geïmplementeerd en draagt Nederland actief bij aan het internationale debat over dit artikel. Hiervoor zal Nederland zich blijven inzetten.

Zoals hierboven aangegeven wordt dit najaar een geactualiseerd advies van de AIV/CAVV over dit onderwerp verwacht. Het kabinet zal op basis van dit advies de Nederlandse inzet met betrekking tot autonome wapensystemen evalueren, waar nodig herzien en deze in een kabinetsreactie op het advies uiteenzetten.

De Minister van Defensie, A.Th.B. Bijleveld-Schouten

De Minister van Buitenlandse Zaken, S.A.M. Kaag

---

1 Brief van de vaste commissie voor Defensie van 4 juni 2021.

2 Strategische Kennis- en Innovatieagenda (SKIA) 2021–2025 (Kamerstuk 34 570 X, nr. 32).

3 Kamerbrief van 28 oktober 2020 (Kamerstuk 33 694, nr. 59).

4 Kamerbrief van 26 november 2013 (Kamerstuk 33 750 X, nr. 37).

5 Kamerbrief van 20 september 2019 (Kamerstuk 33 694 nr. 48).

6 AIV/CAVV rapport 2015.

7 Kamerbrief van 28 oktober 2020 (Kamerstuk 33 694, nr. 59).

8 https://documents.unoda.org/wp-content/uploads/2020/10/Summary-weapons-reviews-info-exchange-FINAL.pdf.

9 Initiatiefnota van het lid Belhaj over Autonome Wapensystemen (Kamerstuk 35 848, nr. 2).

10 Kamerbrief van 4 maart 2016 (Kamerstuk 34 300-X, nr. 88).

11 Initiatiefnota van het lid Belhaj over Autonome Wapensystemen (Kamerstuk 35 848, nr. 2).

12 Initiatiefnota van het lid Belhaj over Autonome Wapensystemen (Kamerstuk 35 848, nr. 2).

13 Initiatiefnota van het lid Belhaj over Autonome Wapensystemen (Kamerstuk 35 848, nr. 2).