Vragen van het lid Belhaj (D66) aan de Minister van Defensie over het bericht dat het Europees Parlement killerrobots wil verbieden (ingezonden 19 september 2018).

Antwoord van Minister Bijleveld-Schouten (Defensie) (ontvangen 11 oktober 2018).

Vraag 1

Kent u het bericht «Europees Parlement wil «killer robots» verbieden»¹?

Antwoord 1

Ja.

Vraag 2 en 3

Klopt het dat het Europees Parlement wil dat de Europese Unie (EU) en de afzonderlijke lidstaten het voortouw nemen in het proces om dergelijke volledig geautomatiseerde wapensystemen internationaal taboe te verklaren?

Klopt het dat het Europees Parlement van mening is dat zogenoemde «killerrobots» verboden zouden moeten worden?

Antwoord 2 en 3

Het Europees Parlement roept met de resolutie van 12 september 2018 over autonome wapensystemen (2018/2752 RSP) de Hoge Vertegenwoordiger van de Unie voor Buitenlandse Zaken en Veiligheidsbeleid, de EU-lidstaten en de Europese Raad op om (1) een gezamenlijke positie ten aanzien van «lethal autonomous weapon systems (LAWS)» overeen te komen en (2) zich sterk te maken voor internationale onderhandelingen over een juridisch instrument om dodelijke autonome wapensystemen te verbieden.

Hierbij definieert het Europees Parlement LAWS als wapensystemen «die zonder beduidende menselijke controle de kritische taken van het kiezen en aanvallen van afzonderlijke doelwitten verrichten» en geeft daarbij ook aan dat «geautomatiseerde, op afstand bediende systemen» geen LAWS zijn. In de resolutie komt de term «killer robots» niet voor.

Vraag 4

Welke acties heeft u ondernomen na aanleiding van het rapport van de Adviesraad Internationale Vraagstukken (AIV) over autonome wapensystemen van oktober 2015? Wat zijn uw vervolgstappen naar aanleiding van het AIV-rapport uit 2015?

Antwoord 4

Het kabinetsstandpunt en de voorgenomen inzet ten aanzien van de internationale discussie zijn verwoord in de kabinetsreactie op het advies «Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle» van de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV)², waarin het kabinet het advies heeft overgenomen. Kern van voorgenoemd rapport en kabinetsstandpunt is dat alle wapensystemen, inclusief autonome wapensystemen, onder betekenisvolle menselijke controle moeten staan. Het kabinet verwerpt op voorhand de ontwikkeling en inzet van autonome systemen die niet onder menselijke controle staan.

De Ministeries van Defensie en van Buitenlandse Zaken hebben met het oog op de praktische invulling van het concept van betekenisvolle menselijke controle in autonome wapensystemen de afgelopen jaren uiteenlopende onderzoeksprojecten gefinancierd, waaronder projecten van de Nederlandse Organisatie voor Toegepast-Natuurwetenschappelijk Onderzoek (TNO), van het United Nations Institute for Disarmament Research (UNIDIR), van het Stockholm International Peace Research Institute (SIPRI) en ook een promotieonderzoek van de Vrije Universiteit Amsterdam (VU).

De uitkomsten van die onderzoeken zijn ingebracht in het internationale debat over autonome wapensystemen dat plaatsvindt binnen de Convention on Certain Conventional Weapons (CCW) van de Verenigde Naties. Daarnaast is Nederland bij elke vergadering van de CCW over autonome wapensystemen met een brede delegatie van experts aanwezig en heeft Nederland non-papers ingediend voor een betere discussie.

Het kabinet is zich ervan bewust dat toekomstige ontwikkelingen, in het bijzonder technologische ontwikkelingen en de toepassing daarvan, lastig te voorspellen zijn. Om die reden heeft het kabinet reeds toegezegd het AIV/CAVV-advies 5 jaar na verschijning, in 2020, opnieuw tegen het licht te willen houden. Tevens volgt het kabinet de (technologische) ontwikkelingen op dit terrein op de voet zodat het, indien de ontwikkelingen daar aanleiding toe geven, hier meteen op kan reageren. Hiertoe heeft het kabinet de onderwerpen robotica en kunstmatige intelligentie tot speerpunttechnologie in aangrenzend beleid bestempeld.

Vraag 5

Wat vind u van de opmerking in het artikel over de uitspraak van de indieners dat er geen Europees geld in onderzoek en ontwikkeling van autonome wapensystemen gestoken zou mogen worden?

Antwoord 5

Zoals vermeld in eerdergenoemde kabinetsreactie is het kabinet tegen de ontwikkeling en de inzet van volledig autonome wapensystemen waarbij geen sprake meer is van betekenisvolle menselijke controle. Het is daarom niet wenselijk dat dergelijke systemen ontwikkeld zouden worden. Overigens lijkt zich in de CCW al consensus tussen de lidstaten af te tekenen dat autonome wapensystemen altijd onder menselijke controle moeten staan.

Autonome wapensystemen die beschikken over betekenisvolle menselijke controle kunnen echter ook belangrijke militaire voordelen hebben, zoals het genoemde AIV-rapport ook concludeert. Deze systemen kunnen vaak sneller en preciezer reageren dan mensen, waardoor de risico’s voor eigen eenheden en de burgerbevolking kunnen afnemen. Ook kunnen zulke systemen opereren in een omgeving die voor mensen moeilijk bereikbaar en/of gevaarlijk is. Het kabinet verwacht dan ook dat dergelijke wapensystemen, voorzien van betekenisvolle menselijke controle, de komende decennia wereldwijd (verder) worden ontwikkeld en zullen worden ingezet.

Zoals vermeld in het antwoord op vraag 4, heeft het kabinet de onderwerpen robotica en kunstmatige intelligentie tot speerpunttechnologie in aangrenzend beleid bestempeld. Onderzoek naar «mens-machine-teaming» is ook een van de speerpunten van de Strategische Kennis en Innovatie Agenda (2016–2020) van het Ministerie van Defensie.

Vraag 6 en 7

Waarom heeft Nederland nog geen wetgeving omtrent autonome wapen systemen? Wat weerhoudt u op dit moment om tot wetgeving te komen?

Bent u bereid om het voortouw te nemen in het proces om volledig geautomatiseerde wapensystemen internationaal taboe te verklaren en de nodige wet- en regelgeving hiervoor voor te bereiden? Bent u bereid hier ook in EU-verband bij uw collega’s op aan te dringen?

Antwoord 6 en 7

Zoals aangegeven in de kabinetsreactie op het AIV/CAVV-rapport, is het kabinet geen voorstander van een verbod of moratorium op de ontwikkeling van autonome wapensystemen. Het kabinet is van mening dat voor elk wapen geldt, dat het altijd de mens moet zijn die bepaalt of een wapen wordt ingezet conform het internationale recht en niet het wapen zelf. De kernvraag daarbij, die verder strekt dan wapensystemen, is hoe mensen in controle kunnen blijven en de verantwoordelijkheid kunnen blijven dragen voor systemen die in toenemende mate beschikken over een bepaalde mate van autonomie, zelflerend vermogen, of meer in het algemeen kunstmatige intelligentie.

Die ontwikkeling in kunstmatige intelligentie is allereerst een technologische ontwikkeling in tal van civiele sectoren, zoals vervoer, telecommunicatie, internet, medische zorg, financiële handel, enz. Het betreft ook niet één specifieke technologische ontwikkeling, maar een breed pallet aan technologische ontwikkelingen. Bij een verbod of moratorium op autonome wapensystemen rijst dan ook al snel de vraag, een verbod waarop? Het kabinet is daarom van mening dat regulatie van kunstmatige intelligentie-technologieën, enkel met mogelijke toekomstige wapensystemen in gedachten, nuttige civiele ontwikkelingen kan frustreren, aangezien de grenzen tussen militaire en niet-militaire technologie niet altijd helder zijn. Daar komt bij dat de CCW er tot op heden ook niet in is geslaagd om een algemeen aanvaarde definitie van LAWS op te stellen.

In de visie van het kabinet voldoet het huidige internationale recht, in het bijzonder het humanitair oorlogsrecht. Artikel 36 van het Eerste Aanvullend Protocol bij de Geneefse Verdragen verplicht landen om de ontwikkeling en verwerking van nieuwe middelen en methoden van oorlogsvoering te toetsen aan het internationaalrechtelijke kader. In Nederland is hiermee de Adviescommissie Internationaal Recht en Conventioneel wapengebruik (AIRCW) van het Ministerie van Defensie belast. De AIRCW beoordeelt in voorkomend geval ook of de inzet van wapensystemen met autonome functies onder betekenisvolle menselijke controle kan worden uitgevoerd. In het internationale debat over autonome wapensystemen onderstreept Nederland het belang van een goede uitvoering van artikel 36.

Het kabinet neemt, zoals eerder aangegeven, actief deel aan het internationale debat over autonome wapensystemen dat plaatsvindt binnen de CCW met het standpunt dat alle wapensystemen, inclusief autonome wapensystemen, onder betekenisvolle menselijke controle moeten staan. Het kabinet verwerpt op voorhand de ontwikkeling en inzet van autonome systemen die niet onder menselijke controle staan.

---

1 Nu.nl,12 September 2018

2 Kamerstuk 34 400, nr. 21