Vragen van het lid Hammelburg (D66) aan de Ministers van Buitenlandse Zaken en van Defensie over de voortgang richting een verbod op volledige autonome wapensystemen en de daar aan gelieerde, door de regering georganiseerde, conferentie «Responsible AI in the Military Domain Summit» (ingezonden 20 februari 2023).

Antwoord van de Ministers Hoekstra (Buitenlandse Zaken) en Ollongren (Defensie) (ontvangen 11 april 2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 2033.

Vraag 1

Bent u op de hoogte van de recente oproep van de oproep van Secretaris-Generaal António Guterres aan de Algemene Vergadering van de Verenigde Naties om internationale limieten op te stellen voor dodelijke autonome wapensystemen?¹

Antwoord 1

Ja.

Vraag 2

Deelt u de mening dat ongecontroleerde kunstmatige intelligentie, in de vorm van killerdrones of zwerm drones, zonder de juiste ethische en juridische kaders en zonder menselijke aansturing een enorme bedreiging vormen voor Nederlandse en Europese veiligheid?

Antwoord 2

Het kabinet beschouwt deze vraag in het licht van de discussie over autonome wapensystemen. Het kabinet acht wapensystemen met autonome kenmerken onmisbaar voor een technologisch hoogwaardige en goed toegeruste krijgsmacht maar onderkent tegelijkertijd ook de risico’s van deze systemen. Uitgangspunt is dat wapensystemen met autonome kenmerken te allen tijde conform het internationaal recht moeten worden gebruikt en dat daartoe het oordeelsvermogen van de mens bij de inzet van deze wapensystemen behouden moet blijven. Wapensystemen die niet conform het internationaal recht kunnen worden gebruikt moeten expliciet worden verboden.

Vraag 3

Deelt u de mening dat het zorgwekkend is dat er zoveel jaar na de opkomst van autonome wapensystemen nog steeds geen concrete internationale afspraken zijn, zeker gezien de technologie zich ondertussen in rap tempo door blijft ontwikkelen?

Antwoord 3

Het kabinet is het eens met de vaststelling dat de technologie op dit terrein zich snel ontwikkelt en dat internationale afspraken wenselijk zijn. Het kabinet ziet de onderhandelingen over internationale afspraken over autonome wapens in de Group of Governmental Experts (GGE) on Lethal Autonomous weapon Systems (LAWS) die is opgericht in het kader van de Convention on Certain Conventional Weapon (CCW) als een prioriteit. Ondanks het gecompliceerde internationale krachtenveld ziet het kabinet mogelijkheden. Nederland zet zich hiervoor in, onder andere door het organiseren van REAIM.

Vraag 4 en 5

Kunt u de Kamer updaten over de toezegging van het kabinet in reactie op de initiatiefnota van het lid Belhaj over Autonome Wapensystemen om zich onverminderd in te spannen om internationale consensus te bereiken over betekenisvolle menselijke controle? Wat heeft u sindsdien diplomatiek ondernomen om internationale consensus betreffende betekenisvolle menselijke controle te bevorderen?

Op 17 juni 2022, in reactie op het adviesrapport over autonome wapensystemen van de AIV en de CAVV, stelde u dat de regering het advies om te streven naar een internationaal verbod op volledig autonome wapens volledig overnam. Kunt u de Kamer informeren over dit proces? Wat onderneemt u om te komen tot een internationaal verbod?

Antwoord 4 en 5

Tot op heden bestaat internationaal geen overeenstemming over de invulling van de term «betekenisvolle menselijke controle». Kerndoel van het kabinet is het behoud van menselijk oordeelsvermogen bij de inzet van wapensystemen met autonome kenmerken, zodat deze conform het internationaal recht kunnen worden gebruikt. Wapensystemen die niet in lijn met het internationale recht kunnen worden ingezet dienen expliciet te worden verboden. Overige autonome wapensystemen dienen te worden gereguleerd.

In de initiatiefnota van het lid Belhaj (D66) over Autonome Wapensystemen (Kamerstuk 35 848, nr. 2) roept de initiatiefneemster het kabinet op tot een internationaal verdrag dat menselijke controle bij autonome wapensystemen garandeert en volledig autonome wapensystemen verbiedt. Zoals echter ook benoemt in de kabinetsreactie op het adviesrapport van de AIV en CAVV (Kamerstuk 35 925-X, nr. 90) bestaat er tot op heden geen overeenstemming over een internationale definitie van een «autonoom wapensysteem», noch over het onderscheid tussen volledige en gedeeltelijke autonomie. Over het gebruik en de inhoud van de term «betekenisvolle menselijke controle», die centraal staat in het adviesrapport, bestaat ook geen consensus. Verder bestaat er geen overeenstemming over de noodzaak van een verbod op (volledig) autonome wapensystemen. Het kabinet zet zich op verschillende manieren in om overeenstemming te bereiken over definities en een internationaal verbod op autonome wapensystemen die niet in lijn met het internationaal recht kunnen worden ingezet en verdere regulering van overige wapensystemen met autonome kenmerken. Ondanks de complexe besluitvorming binnen de CCW, blijft het kabinet zich actief en constructief inzetten tijdens internationale onderhandelingen over autonome wapensystemen in de CCW/GGE LAWS, onder andere door de overeenkomsten tussen verschillende voorstellen en standpunten uit te lichten, toenadering te zoeken tot andere landen en zo breed mogelijke coalities te vormen. Nederland was medeondertekenaar van een verklaring van 70 landen in de Eerste Commissie van de Verenigde Naties in september 2022 over autonome wapensystemen. Om toenadering te bevorderen neemt Nederland actief deel aan verschillende internationale conferenties en bijeenkomsten over autonome wapensystemen, zoals de regionale conferentie over autonome wapens in San Jose, Costa Rica op 23 en 24 februari 2023. Zoals beschreven in het antwoord op vraag 6 organiseerde Nederland op 15 en 16 februari de REAIM Summit over het bredere gebruik van AI in het militaire domein.

Vraag 6

Waarom heeft u, gezien de politieke urgentie en de gevaren die schuilgaan in kunstmatige intelligentie, niet voor een politieke uitkomst van deze conferentie gekozen waarin deelnemende landen zich politiek committeren aan een verbod op volledige autonome wapens en een sterke regulering van kunstmatige intelligentie in de defensie-industrie?

Antwoord 6

Het kabinet heeft met REAIM gekozen voor een brede en inclusieve aanpak. De inzet van REAIM was om het onderwerp van «verantwoorde AI in het militaire domein» hoger op de internationale politieke agenda te zetten en het begrip over dit onderwerp te vergroten, om hiermee op termijn een bijdrage te leveren aan sterkere regulering ervan. Met de aanwezigheid van 80 landendelegaties, 2.000 deelnemers uit meer dan 100 landen, bedrijven, academische instellingen en NGOs is dat doel ruimschoots behaald. Daarnaast kondigde Zuid-Korea aan een volgende REAIM Summit te organiseren. Over de resultaten van REAIM en verdere vervolgstappen wordt uw Kamer zo spoedig mogelijk geïnformeerd.

Het kabinet heeft tijdens REAIM ingezet op een «Call to Action» waarmee een brede groep landen zich committeert aan een proces dat ervoor moet zorgen dat de inzet van AI in het militaire domein op een verantwoorde manier plaatsvindt. Er hebben zich bijna 60 landen bij de Call to Action aangesloten, waaronder de belangrijkste investeerders de VS en China.

Deze Call to Action is goed verenigbaar met het streven van het kabinet zich in internationaal verband in te spannen voor een verbod en een concretisering van de regels die van toepassing zijn op de inzet van autonome wapensystemen. Het kabinet blijft zich inzetten voor een internationaal verbod op autonome wapensystemen die niet in lijn met het internationaal recht kunnen worden ingezet en regulering van overige wapensystemen met autonome kenmerken in VN-verband (CCW/GGE LAWS). Zoals ook beantwoord bestaat er op dit moment slechts een beperkt draagvlak voor onderhandelingen over een verbod en regulering van autonome wapensystemen buiten de CCW/GGE LAWS. Ook zijn alle militaire grootmachten aangesloten bij de CCW. Het is zeer de vraag of een nieuw protocol of verdrag over autonome wapensystemen zonder deze landen effectief kan zijn.

Vraag 7

Bent u bereid zich harder uit te spreken voor een internationaal verbod op volledig autonome wapensystemen en hier diplomatiek intensief werk van maakt?

Antwoord 7

Zoals in antwoord op vraag 4 en 5 aangegeven, spreekt het kabinet zich uit voor en wordt diplomatiek ingezet op een internationaal verbod op autonome wapensystemen die niet in lijn met het internationale recht kunnen worden ingezet en regulering van overige wapensystemen met autonome kenmerken.

---

1 United Nations, «Humanity Must Act Urgently to Avert Total Global Catastrophe, Secretary-General Warns General Assembly, Outlining 2023 Priorities for United Nations», 6 februari 2023, https://press.un.org/en/2023/ga12489.doc.htm