35 848 Initiatiefnota van het lid Belhaj over Autonome Wapensystemen

nr. 11 VERSLAG VAN EEN NOTAOVERLEG

Vastgesteld 22 december 2021

De vaste commissie voor Defensie en de vaste commissie voor Buitenlandse Zaken hebben op 13 december 2021 overleg gevoerd met de heer Kamp, Minister van Defensie, over:

• de initiatiefnota van het lid Belhaj over autonome wapensystemen (Kamerstuk 35 848);

• de brief van de Minister van Defensie d.d. 28 juni 2021 inzake reactie op de initiatiefnota van het lid Belhaj over autonome wapensystemen (Kamerstuk 35 848, nr. 3);

• de brief van het lid Belhaj d.d. 7 december 2021 inzake beantwoording vragen commissie over de initiatiefnota van het lid Belhaj over autonome wapensystemen (Kamerstuk 35 848, nr. 2) (Kamerstuk 35 848, nr. 4).

Van dit overleg brengen de commissies bijgaand geredigeerd woordelijk verslag uit.

De fungerend voorzitter van de vaste commissie voor Defensie, Aukje de Vries

De fungerend voorzitter van de vaste commissie voor Buitenlandse Zaken, Wilders

De griffier van de vaste commissie voor Defensie, De Lange

Voorzitter: Aukje de Vries

Griffier: Mittendorff

Aanwezig zijn zes leden der Kamer, te weten: Belhaj, Boswijk, Dassen, Van Ginneken, Aukje de Vries en Van Wijngaarden,

en de heer Kamp, Minister van Defensie.

Aanvang 10.01 uur.

De voorzitter:

Goedemorgen. Welkom allemaal bij dit notaoverleg van de vaste Kamercommissie voor Defensie. Het gaat over de initiatiefnota van het lid Belhaj over autonome wapensystemen. Allereerst natuurlijk welkom aan de initiatiefnemer, die de verdediging op zich zal nemen. Ook een welkom aan de Minister, die dit keer als adviseur aanwezig zal zijn. Wij hebben met elkaar spreektijden afgesproken, die aan iedereen zijn doorgegeven. Ik hoop dus niet dat ik daar nog gedoe over krijg. Nee, volgens mij gaat dat goed. Dan is als het eerste het woord aan mevrouw Van Ginneken van D66.

Mevrouw Van Ginneken (D66):

Dank, voorzitter, en ook dank aan collega Belhaj en de Minister voor hun aanwezigheid hier. Ik doe mijn inbreng mede namens de PvdA.

Allereerst wil ik mijn dank en respect uitspreken voor het werk van collega Belhaj. Knap hoe zij alweer haar derde initiatiefnota voor behandeling in de Kamer agendeert. Ik ben dan ook een beetje trots dat ik hier vandaag namens D66 en de Partij van de Arbeid inbreng mag geven. Als Kamerlid Digitale Zaken gaat dit onderwerp mij namelijk aan het hart. De razendsnelle ontwikkelingen van militaire technologie zijn wat mij betreft een voorbeeld van een veel bredere digitale revolutie. Deze nota zet helder uiteen dat het logisch is dat machines steeds meer taken van de mensen overnemen, maar dat de huidige politieke, juridische en ethische kaders tekortschieten om deze ontwikkeling in goede banen te leiden, want techniek is nooit neutraal. Dit fenomeen speelt ook binnen mijn portefeuille Digitale Zaken. Mag kunstmatige intelligentie bijvoorbeeld iemand als fraudeur bestempelen? Weten we zeker dat de blinde vlekken van de ontwikkelaars daarop geen invloed hebben? Weten we zeker dat een zelflerend algoritme niet langzaam van de intentie gaat afwijken, gaat discrimineren? Hoe maakt een burger bezwaar als niet precies duidelijk is hoe er tot een beslissing is gekomen? Daar praten we veel over binnen onze commissie. Het is erg belangrijk dat ook hier gesproken wordt over de rol van technologie.

Voorzitter. Het lezen van de nota is me meegevallen. Als nieuwkomer op dit terrein vreesde ik in de materie te gaan verdwalen, maar ik kon het met plezier en gemak volgen. Wel heb ik nog een paar vragen aan collega Belhaj en ik wil ook graag wat aan de Minister voorleggen. Eerst maar eens een verhelderende vraag. In het AIV/CAVV-rapport wordt gesuggereerd dat het onderscheid tussen volledig en gedeeltelijk autonome wapensystemen in de initiatiefnota niet helder naar voren komt. Kan collega Belhaj nogmaals aangeven welk onderscheid zij hiertussen hanteert en in hoeverre dit overeenkomt met de definities uit het AIV/CAVV-rapport?

Vervolgens kom ik op het allerbelangrijkste concept in deze nota: het begrip «betekenisvolle menselijke controle». Dit loopt als een rode draad door dit vraagstuk. Ik lees in het rapport: «Het doel van betekenisvolle menselijke controle is dat de mens controle behoudt over de effecten van een aanval op een doelwit en de omgeving en dat deze effecten in lijn zijn met de intenties van de mens.» Begrijp ik goed dat er tijdens het gehele doelontwikkelingsproces menselijke checks-and-balances moeten worden ingebouwd, zoals beperkingen in ruimte, in tijd en in type doelwit? Kunnen we dan spreken van betekenisvolle menselijke controle als een autonoom wapensysteem in de laatste fase binnen die beperkingen zelf beslist wanneer het overgaat tot een aanval? Ik zou dit punt graag nog wat verhelderd zien.

De nota waarschuwt ook heel duidelijk voor de snelle technologische ontwikkelingen op het gebied van militaire technologie. Nou weet ik dat dit zeker geldt voor de ontwikkeling van kunstmatige intelligentie, maar op het gebied van oorlogsvoering ben ik nieuw. Kan collega Belhaj ons meenemen in de voor- en nadelen die gedeeltelijk autonome wapensystemen hebben en daarbij ook ingaan op de meest recente ontwikkelingen op dit gebied?

Voorzitter. Ik wil een paar punten voorleggen aan de Minister. In de kabinetsreactie schrijft hij dat technologische ontwikkelingen op het gebied van onbemande en autonome systemen een ware gamechanger vormen binnen alle functies van militair optreden. De betekenisvolle menselijke controle komt al terug in dat kabinetsstandpunt, maar hoe deze zich verhoudt tot de concrete beslispunten van collega Belhaj liet de Minister in afwachting van het nieuwe AIV/CAVV-rapport in het midden. Dit advies ligt er nu. Daarom vraag ik de Minister of hij nu wel iets kan zeggen over zijn kijk op de initiatiefnota. Wat betekenen de adviesnota en het AIV/CAVV-rapport voor de huidige visie van de Minister ten aanzien van een verbod op volledig autonome wapensystemen?

Aansluitend op dit punt stelt advies 6 uit het AIV/CAVV-rapport dat we samen met EU-partners, de VS, het VK en andere NAVO-bondgenoten moeten proberen te komen tot een gezamenlijke ontwikkeling en productie van gedeeltelijk autonome wapensystemen, exportcontrole en een investeringsscreening van dual-usetechnologie. Dat is een ambitieuze multilaterale insteek, die mijn fractie onderschrijft. Ik ben dan ook heel benieuwd wat de Minister hiervan vindt.

Voorzitter. Tot slot wil ik het nog even over aansprakelijkheid hebben, over de fundamentele vraag wie tot verantwoording geroepen kan worden als er iets misgaat met gedeeltelijk autonome wapensystemen. Beslispunt 5 in de nota geeft hiervoor een aanknopingspunt. Dit stelt dat er voor autonome wapensystemen een zorgvuldige dataregistratie moet plaatsvinden. Ik vind de kabinetsreactie op dit punt wat kort. Het kabinet stelt dat er al sprake is van dataregistratie, maar dat per systeem varieert welke data worden vastgelegd. Wat mij betreft is het vastleggen van een eenduidig dataspoor cruciaal om te kunnen achterhalen wat er uiteindelijk is gebeurd, bijvoorbeeld om te bezien of een autonoom wapen is gehackt door kwaadwillenden. Wat mijn fractie betreft zou het goed zijn als hier in internationaal verband afspraken over worden gemaakt. Aanbeveling 8 van het AIV/CAVV-rapport en beslispunt 5 uit de initiatiefnota lijken hier een mooi aanknopingspunt voor te zijn.

Voorzitter. Ik rond af. Digitale technologie is inmiddels verweven in onze hele samenleving en heeft op vele manieren onwenselijke, disruptieve gevolgen gehad die we vanuit de politiek – voor mijn gevoel gebeurt dat vanuit een achterstandspositie – nu dan toch eindelijk zijn gaan repareren. Als ik dan zie hoe bij het vraagstuk rond autonome wapensystemen digitale technologie zo rechtstreeks met leven en dood te maken heeft, dan hoop ik dat deze commissie en de Minister inzien dat je hier niet het moment voor regulering voorbij moet laten gaan. Ik kijk uit naar de beantwoording van collega Belhaj en naar die van de Minister.

Dank u wel, voorzitter.

De voorzitter:

Dank u wel. Dan gaan we over naar de heer Boswijk van het CDA.

De heer Boswijk (CDA):

Dank u wel, voorzitter. Allereerst wil ik mijn dank uitspreken aan de initiatiefneemster, mevrouw Belhaj, en haar medewerkers voor het schrijven van deze initiatiefnota over een ontzettend belangrijk en fundamenteel onderwerp. Ik heb de initiatiefnota dan ook met veel interesse gelezen. Ook dank aan de CAVV en de AIV voor het uitbrengen van advies. Ik wil gelijk van deze gelegenheid gebruikmaken om Jaap de Hoop Scheffer te bedanken voor al zijn werk van de afgelopen jaren als voorzitter van de AIV. Ik heb namelijk begrepen dat hij gaat stoppen.

Voorzitter. Dan een procedureel punt. Op 30 juni 2020 heeft Minister Blok de AIV en de CAVV gevraagd om actualisering van het advies over de autonome wapens. Daarin stond nadrukkelijk: «Het kabinet ontvangt het advies graag ruim voor de CCW-toetsingsconferentie in 2021.» Waarom is het nu dan toch op het allerlaatste moment verschenen? Hierdoor ligt er nu geen kabinetsappreciatie en kunnen we als Kamer minder goed beoordelen welke weg we moeten inslaan. Graag een reactie van de Minister op dit punt.

Dat gezegd hebbend, terug naar het onderwerp van vandaag: de initiatiefnota over autonome wapensystemen van collega Belhaj. De snelle ontwikkeling van autonome wapensystemen voedt het schrikbeeld van wapens die doelen selecteren en aanvallen zonder menselijke bemoeienis. Dergelijke autonome wapens bestaan nog niet, maar de stormachtige ontwikkeling van kunstmatige intelligente en bijvoorbeeld gezichtsherkenning brengen dit wel snel dichtbij. Dat was mede de reden voor het kabinet om een herziening van het advies omtrent autonome wapensystemen te vragen. Het advies is helder: volledig autonome wapensystemen kunnen niet volgens de regels van internationaal humanitair recht worden ingezet en moeten worden verboden. Tevens moet er een betere regulering komen van gedeeltelijk autonome wapensystemen en moet Nederland meer investeren in ontwikkeling en verantwoordelijk gebruik van nieuwe technologieën door Defensie. Dat is grofweg ook de strekking van de initiatiefnota die we vandaag bespreken. Kan de Minister tijdens het debat haar advies geven over dit adviesrapport? Worden deze adviezen meegewogen in het Nederlandse standpunt tijdens de VN-conferentie die vandaag in Wenen begint? Graag een reactie.

Voorzitter. Dan een vraag aan de initiatiefneemster. In beslispunt 4 wordt de Nederlandse regering gevraagd om geen investeringen en steun te geven aan de ontwikkeling van volledig autonome systemen, zowel in Nederland, de Europese Unie als binnen de NAVO. Nederland dient zich actief in te zetten om dit soort investeringen te voorkomen. Wij zetten daar toch wel onze vraagtekens bij. Ik vind het vooral lastig dat autonome wapens mogelijk ook noodzakelijk kunnen zijn om Nederland veilig te houden. Jan Broeks gaf in de NRC al aan dat bijvoorbeeld de hypersone raketten die de Russen op dit moment aan het ontwikkelen zijn, drie à vier keer sneller gaan dan het geluid. Alleen geautomatiseerde wapens reageren snel genoeg om die onschadelijk te maken. Ook bij cyberaanvallen hebben we soms maar een fractie van een seconde de tijd om te reageren. Dat kan alleen met autonome software. In zo'n geval is menselijk ingrijpen niet wenselijk of misschien niet eens mogelijk. De AIV en de CAVV stellen dat juist vanwege de technologische en geopolitieke ontwikkelingen het vanuit veiligheidsoverwegingen noodzakelijk is te investeren in het gebruik van nieuwe technologieën en gedeeltelijk autonome wapens, mits deze gereguleerd zijn. Ziet de initiatiefneemster ook de waarde van zo'n systeem? Zou er misschien een onderscheid moeten worden gemaakt tussen defensieve en offensieve wapensystemen? Graag een reactie.

Voorzitter. De Europese, en in het bijzonder de Nederlandse, defensie-industrie heeft het niet makkelijk. Banken en pensioenfondsen investeren telkens minder vaak, in verband met het risico op imagoschade. Ook Europese bancaire regelgeving maakt het voor deze bedrijven moeilijk. Deelt de initiatiefnemer mijn mening dat we niet afhankelijk moeten willen worden van landen buiten de westerse sferen, als wij als westerse wereld invloed willen hebben op de ontwikkeling van wapensystemen en we de ethische kaders willen stellen? Deelt zij ook dat het dus van belang is dat we onze eigen wapenindustrie op orde hebben? Graag een reactie hierop van zowel de initiatiefneemster als van de Minister.

In de NRC van vorige week vrijdag las ik ook dat TNO werkt aan een model waarin betekenisvolle menselijke controle vooraf wordt meegegeven aan de software. Zij ontwikkelen software en algoritmes waarin ethische waarden van onze samenleving zijn verwerkt. Maar makkelijk is dat niet. Moeten we, naast onze inzet voor een verdrag, niet ook een dergelijk onderzoek stimuleren en daarmee wellicht normbepalend worden op dit gebied? Graag een reactie van de initiatiefnemer en de Minister.

Dank u wel.

De voorzitter:

Dank u wel. Dan is het woord aan de heer Van Wijngaarden van de VVD.

De heer Van Wijngaarden (VVD):

Dank, voorzitter. Ik ben nog niet helemaal bij stem, maar ik ga mijn best doen.

Voorzitter. Het is goed en te waarderen dat de initiatiefnemer aandacht vraagt voor de opkomst van autonome wapensystemen. Voor de VVD is het essentieel dat onze krijgsmacht en die van NAVO-bondgenoten militair en technologisch niet op achterstand komen te staan in het slagveld ten opzichte van potentiële opponenten. Het is ook essentieel dat Nederland zich niet isoleert binnen de NAVO. De initiatiefnemer lijkt in beslispunt 1 voor te stellen dat Nederland activistisch moet gaan bepleiten om een nieuw verdrag op te stellen. Ook Ghana, Pakistan, Zimbabwe en enkele andere niet-NAVO-landen bepleiten dit. Zo'n nieuw verdrag is volgens experts onnodig, omdat regulering van autonome wapens ook kan en moet binnen bestaand humanitair verdragenrecht.

Het is onwenselijk, omdat Nederland zich niet moet aansluiten bij Pakistan en Zimbabwe, maar bij de NAVO-landen. Zo kan Nederland samen met militaire bondgenoten tot een afgewogen lijn komen binnen het bestaande humanitaire recht, met behoud van militaire superioriteit en dominantie. Als Nederland een geheel eigen koers gaat varen, kunnen we onze krijsmacht op achterstand zetten. Maar misschien heb ik de initiatiefnemer ten aanzien van beslispunt 1 wel totaal verkeerd begrepen. Dat zou natuurlijk kunnen. Als dat zo is, dan vraag ik wel: wat is dan nog het verschil met het huidige kabinetsstandpunt? Het kabinet zegt namelijk al: wij zijn voor systemen met betekenisvolle menselijke controle. De initiatiefnemer zou dan dus geen voorstander zijn van zo'n apart verdrag.

Voorzitter. Ik ga wat meer de techniek in. Er zijn hypersone raketten in ontwikkeling die tot mach 9 kunnen halen. Tegen zo'n raket zou een volledig autonoom wapen weleens de enige verdediging kunnen zijn. De mens is eenvoudigweg niet snel genoeg. Ik wil daarom dat het kabinet behoedzaam, en in nauwe samenwerking met de Kamer en bondgenoten, te werk gaat op basis van het beginsel dat er sprake moet zijn van betekenisvolle menselijke controle. Maar ik heb net al een technologische beperking daarvan genoemd. Ook de Adviesraad Internationale Vraagstukken en de Commissie van advies inzake volkenrechtelijke vraagstukken – ik heb beide afkortingen even opgezocht: de AIV en de CAVV – adviseren om gezamenlijk met bondgenoten op te trekken. Graag een bevestiging of een reactie op dit punt van mevrouw Belhaj.

Voorzitter. Ieder verhaal over techniek is uiteindelijk een verhaal over menselijke keuzes, zo ook dit debat. Ik denk dat ieder verhaal over het beperken van militaire techniek een zoektocht is naar een optimum tussen de volgende twee punten. Aan de ene kant is dat het begrenzen van een autonome technologische ontwikkeling, met een hele duistere zijde waar niemand hier volgens mij de ogen voor wil sluiten. Aan de andere kant wil je dat doen zonder daarbij onze krijgsmacht, en die van NAVO-bondgenoten, op achterstand te zetten. Is de initiatiefnemer het met mij eens dat dat ook een beetje het kerndilemma van dit debat is? Als we niet oppassen, schieten we door in een soort wensdenken over verdragen en reguleren, waarbij we onszelf heel erg beperken. Collega Boswijk wees daar ook al op. In die zin is het dus belangrijk om juist heel behoedzaam, en echt alleen met bondgenoten, stap voor stap te werk te gaan, waarbij geen sprake is van «grote stappen, snel thuis» vanuit een bepaald wensdenken. Dat zou onze opponenten namelijk juist weleens in de kaart kunnen spelen. Is de initiatiefnemer het met me eens dat dat hier ook precies het politieke en militaire dilemma is?

Dank u wel.

De voorzitter:

Dank u wel. Dan is tot slot het woord aan de heer Dassen van Volt.

De heer Dassen (Volt):

Dank, voorzitter. Ook namens mijn fractie veel dank aan de initiatiefnemer voor het schrijven van deze nota. Het is een ontzettend belangrijk onderwerp, waarbij de technologische ontwikkelingen dusdanig snel gaan dat het echt verstandig is dat we hier met elkaar over spreken. Wij ondersteunen natuurlijk dat er een internationaal verdrag moet komen om ervoor te zorgen dat we goed met deze ontwikkelingen omgaan. Ik heb een paar hele korte vragen of opmerkingen die ik graag aan de initiatiefnemer zou willen stellen. De eerste gaat over de sluitende en juridisch definitie van «betekenisvolle menselijke controle». De afbakening is in mijn optiek namelijk een groot struikelblok, ook omdat onbekende toekomstige ontwikkelingen in een juridisch houdbare tekst moeten worden gegoten, waarbij landen natuurlijk ook veel verschillende definities gebruiken; denk aan linguïstische, ethische maar ook waardegedreven verschillen. Het risico van een niet-eenduidige definitie is dat landen juist een handigheidje gaan gebruiken, waardoor bepaalde technologieën daar dan weer niet onder vallen en ze daarmee andere landen kunnen gaan beschuldigen dat die daar misbruik van maken. Dat is dus iets belangrijks, denk ik. Ik was benieuwd hoe de initiatiefneemster daarnaar kijkt.

Dan wilde ik me aansluiten bij de punten die door mijn collega's net gemaakt zijn over hoe we omgaan met wapensystemen zoals hypersone of supersone raketten, die heel geavanceerd zijn, zo geavanceerd dat het moeilijk is voor mensen om daar snel op te reageren omdat de reactiesnelheid maar enkele seconden bedraagt. Hetzelfde geldt voor verzadigingsaanvallen, dus een overweldigende aanval met een grote hoeveelheid wapensystemen. Hoe denkt de initiatiefneemster dat Nederland de veiligheid kan waarborgen als we dit uitsluiten, ook vanuit defensie-optiek? Daar was ik benieuwd naar.

Dan kom ik op de naleving. Hoe gaan we ervoor zorgen dat een eventueel verdrag ook op de juiste manier nageleefd wordt? Want het heeft met al die emerging technologies te maken, met al die nieuwe technologieën. De vraag is dus vanaf welk moment zo'n technologie al onder de werking van het verdrag zou moeten vallen. Dat geldt dan ook voor academisch onderzoek, militair onderzoek en proefproductie.

Als laatste nog een belangrijk punt. Een internationaal verdrag zouden we natuurlijk graag verder in Europees verband willen ontwikkelen; dat werd al aangehaald door collega's. Maar hoe zorgen we ervoor dat ook de NAVO daarbij betrokken wordt? De VS worden niet genoemd, terwijl ik begrijp dat die hier ook al een bepaalde directive voor hebben liggen. In 2018 heeft het Europees Parlement inderdaad een resolutie aangenomen. Ik was benieuwd wat daar de opvolging van is geweest, gezien het feit dat wij hier nu pas over spreken.

Dank.

De voorzitter:

Dank u wel. Daarmee zijn we gekomen aan het einde van de eerste termijn van de Kamer. Ik heb even overlegd met de initiatiefnemer en afgesproken dat we een halfuurtje schorsen, tot 10.50 uur.

De vergadering wordt van 10.20 uur tot 10.52 uur geschorst.

De voorzitter:

Ik heropen de vergadering over de initiatiefnota van het lid Belhaj over autonome wapensystemen. We hebben de eerste termijn van de Kamer gehad. We gaan nu door naar de beantwoording. Het woord is aan mevrouw Belhaj, de initiatiefnemer.

Mevrouw Belhaj (D66):

Voorzitter, dank. Ik dank alle collega's dat zij hier op deze maandagochtend aanwezig zijn, want dat heb je toch nodig om te kunnen spreken van een parlementair proces. Ik dank uiteraard ook de Minister en zijn ambtelijke ondersteuning voor hun aanwezigheid.

We spreken vandaag over nieuwe technologieën en wapenbeheersing. Dat is een steeds actueler onderwerp inzake het dossier internationale veiligheid. Ik ben tot de conclusie gekomen dat dit een redelijk onontgonnen beleidsterrein is. Zoals door andere sprekers is aangegeven, is overal een relevante discussie gaande over mens en machine. Die fundamentele discussie kan niet los worden gezien van de brede digitale revolutie waaraan wij onderhevig zijn. Deze discussie speelt zich logischerwijs ook af op militair gebied. Ik noem de vraag of machines geweld zouden mogen gebruiken en, zo ja, in welke mate en onder welke voorwaarden.

Zo'n tweeënhalf jaar geleden besefte ik dat er te weinig politieke, juridische en ethische kaders in stelling zijn om de razendsnelle opkomst van nieuwe technologieën in oorlogsvoering te beteugelen. Het is een beleidslacune, waar ook de Kamer nog te weinig grip op had. Wat mij betreft is het de taak van politici en betrokken maatschappelijke organisaties om hier met elkaar in alle openheid over in debat te gaan. Daarom besloot ik deze initiatiefnota te schrijven. Het was een lang proces. Tegen degenen die denken «goh, dat is best wel leuk» zeg ik: ja, het is ontzettend leuk, maar het is ook heel veel werk. In dit geval was het al helemaal veel werk omdat het zo complex bleek te zijn. De militaire, technische, juridische en ethische kant en de geopolitieke context zijn allemaal elementen die een rol spelen. Ik wil een rond beeld geven van wat het betekent als we het hebben over autonome wapensystemen. Een nota is nooit perfect, maar ik hoop dat ik in ieder geval een goede eerste aanzet heb kunnen geven. Het was fijn dat het AIV/CAVV-rapport naar buiten kwam, omdat twintig zeer gevestigde hoogleraren en anderen ook nog hun ei hierover moesten leggen. We waren opgelucht dat een aantal dingen overeenkwam.

Voorzitter. Voordat ik de vragen ga beantwoorden, wil ik nog even benoemen hoe dit proces is begonnen. In eerste instantie dacht ik: we weten dat gedeeltelijk en volledig autonome wapensystemen bestaan. Hoe zou je iets kunnen bedenken om kaders te schetsen voor het gebruik daarvan? Ik ben in eerste instantie gaan redeneren vanuit een militaire en operationele houding. Hoe zou je dat wel kunnen doen? Ik dacht: dat is beter dan beginnen met «ik wil iets niet». Ik heb eindeloos geworsteld met de vraag hoe je dat zou kunnen doen en op welke situaties het van toepassing zou kunnen zijn. Gedurende dat proces kwam ik er op een gegeven moment achter dat als je geen duidelijke keuze maakt in de ethische grens die je stelt, je uiteindelijk altijd vastloopt en altijd een soort willekeur gaat toepassen. Ik denk dat je er dan geen grip meer op hebt. Mijn doel in het leven is niet om grip op dingen te krijgen, maar ik ben er altijd wel heel erg van overtuigd dat je bij technologie niet alleen juichend op de bank moet staan, maar ook altijd moet nadenken over wat de impact daarvan is als mensen er slechte dingen mee willen doen.

Voorzitter. Ik kom nu op de vragen. Mevrouw Van Ginneken vroeg welk onderscheid we hanteren tussen volledig en gedeeltelijk autonome wapensystemen. Zij wees ons erop dat er op dat punt een verschil zit tussen het rapport en onze initiatiefnota. Wij zijn uitgegaan van de begrippen «autonome wapensystemen» en «volledig autonome wapensystemen». «Autonome wapensystemen» betekent voor ons per definitie: gedeeltelijk autonoom. De AIV concludeerde terecht dat het onderscheid niet duidelijk is, maar voor ons was het wel duidelijk. Dat is eigenlijk het verschil. Maar het gebruik van de begrippen «gedeeltelijk autonome wapensystemen» en «volledig autonome wapensystemen» vind ik eigenlijk meer volledig. Dat geeft meer duidelijkheid.

De heer Van Wijngaarden zegt dat experts stellen dat autonome wapensystemen al verboden zijn onder het internationaal humanitair oorlogsrecht. Hij vraagt waarom ik dan toch pleit voor een verbod daarop en waarin dat van het kabinetsstandpunt verschilt. Het is geen activistische houding, want ik heb net uitgelegd waarmee ik ben begonnen, namelijk met meedenken over hoe het eventueel wel mogelijk zou kunnen zijn. Gedeeltelijk autonome wapensystemen zijn niet per definitie verboden onder het internationaal humanitair oorlogsrecht. Bij gedeeltelijk autonome wapensystemen kan betekenisvolle menselijke controle aanwezig zijn. Dat garandeert dat de beginselen van onderscheid, proportionaliteit en voorzorg, zoals vastgelegd in het internationaal humanitair oorlogsrecht, kunnen worden nageleefd. Het gebruik van gedeeltelijk autonome wapensystemen kan dus rechtmatig zijn, mits er betekenisvolle menselijke controle op het gebruik van deze wapensystemen is waarbij de criteria van onderscheid, proportionaliteit en voorzorg gehanteerd worden.

In tegenstelling tot gedeeltelijk autonome wapensystemen ontbreekt bij volledig autonome wapensystemen de betekenisvolle menselijke controle. Dat betekent dat niet aan de beginselen van het internationaal humanitair oorlogsrecht voldaan kan worden. Volgens het rapport van AIV en CAVV geldt het in ieder geval voor de beginselen van proportionaliteit en onderscheid. Volledig autonome wapensystemen, die zelfstandig regels aanleren, doelen selecteren en aanvallen zonder dat er een menselijke intentie aan ten grondslag ligt of menselijk ingrijpen mogelijk is, kunnen dan ook niet rechtmatig gebruikt worden. Omdat volledig autonome wapensystemen niet in staat zijn om zelfstandig de humanitairrechtelijke beginselen van onderscheid, proportionaliteit en voorzorg toe te passen, volgt het verbod op deze systemen dus al uit het internationaal humanitair oorlogsrecht en pleiten wij, evenals het AIV/CAVV-rapport, voor een expliciet verbod op de ontwikkeling en het gebruik van volledig autonome wapensystemen. Ook in het AIV/CAVV-rapport benadrukt men dat er een noodzaak is voor een expliciet verbod. Dat is gelegen in het hedendaagse internationaal humanitair recht. Omdat dat eigenlijk te generieke regels en te weinig concrete kaders voor de regulering van nieuwe wapensystemen bevat, hebben wij gemeend om in het verlengde van wat AIV en CAVV ook concluderen, daar toch expliciet over te moeten zijn.

De heer Van Wijngaarden zegt dat het kabinet al een voorstander is van systemen met betekenisvolle menselijke controle en vraagt in welke mate dat nou een verschil is met wat hier staat. Het standpunt van het kabinet, en dat is ook meerdere malen uitgesproken in deze Kamer, is altijd geweest dat er sprake moet zijn van betekenisvolle menselijke controle. Maar dat was met name gebaseerd op het advies uit 2015, waarin AIV en CAVV aangaven: dit is hoever we komen; handhaaf in ieder geval dat. In de jaren daarna is er meer kennis opgedaan en zijn uiteindelijk hun rapport en mijn initiatiefnota verschenen. Men zegt nu in ieder geval welke stappen je moet zetten op het gebied van volledig autonome wapensystemen. Het verbod stelt vast – «accordeert» is eigenlijk niet het goede woord – dat je die betekenisvolle menselijke controle moet vaststellen. Dat is eigenlijk wat je doet. Het ligt dus in het verlengde van het standpunt dat het kabinet altijd heeft gehanteerd.

De voorzitter:

Voordat u verdergaat, is er een interruptie van de heer Van Wijngaarden.

De heer Van Wijngaarden (VVD):

Even voor mijn begrip. Ik hoor mevrouw Belhaj dus bevestigen dat het kabinet al vond wat ik ook vind, namelijk dat er sprake moet zijn van betekenisvolle menselijke controle. Ook hoor ik haar zeggen dat een verbod nader uitgewerkt moet worden. Maar bedoelt zij dan: in aanvulling op en onder het bestaand internationaal humanitair recht, dus bestaand verdragenrecht? Of bedoelt zijn daarmee te zeggen dat het via een apart verdrag geregeld moet worden?

Mevrouw Belhaj (D66):

Mijn advies is om het expliciet te maken. Dat is eigenlijk ook wat het rapport van de AIV en de CAVV aangeeft. Je zou in het huidige humanitair oorlogsrecht dingen kunnen vinden waar je op aan zou kunnen haken, maar het advies is dus om dat wel expliciet te maken. Ik heb net geprobeerd uit te leggen waarom dat zo belangrijk is.

De heer Van Wijngaarden (VVD):

Ik wil niet te verdragstechnisch worden, en als de indiener het op dit moment niet paraat heeft is dat ook prima, maar meer om het gewoon even te begrijpen heb ik de volgende vraag. Je kan iets expliciet maken door een aanvulling te maken op de interpretatie van de huidige verdragstekst, of door echt te zeggen: we hebben een bepaalde nieuwe verdragstekst dan wel een nieuw verdrag nodig. Dus wil de indiener dat expliciet maken in de interpretatie onder een bestaand verdrag of expliciet maken in een tekstueel nieuw verdrag, of laat zij dat open? Dat kan natuurlijk ook nog.

Mevrouw Belhaj (D66):

Het advies is inderdaad om dat expliciet te maken in een apart verdrag.

De voorzitter:

De heer Van Wijngaarden, tot slot.

De heer Van Wijngaarden (VVD):

Dus voor de duidelijkheid: zij is wel voorstander van een apart verdrag.

De voorzitter:

Mevrouw Belhaj gaat verder met de beantwoording.

Mevrouw Belhaj (D66):

Voorzitter. Mevrouw Van Ginneken had een vraag over hoe betekenisvolle menselijke controle nu wordt gebruikt bij gedeeltelijk autonome wapensystemen, en wat de gevolgen zijn van de afwezigheid daarvan. Die betekenisvolle menselijke controle is inderdaad, net zoals in het andere rapport, de rode draad in dit dossier. In de initiatiefnota hebben we ook een poging gedaan om hier meer grip op te krijgen door aan te geven dat het doel is om mensen controle te laten behouden over de effecten van een aanval op een doelwit en de omgeving. We hebben in die fase ook geprobeerd om ideeën aan te dragen over hoe je dat zou kunnen doen. In welke fase zou je bij een gedeeltelijk autonoom wapensysteem kunnen zeggen dat er afdoende sprake is van betekenisvolle menselijke controle? Ik was in dat opzicht dan ook blij met het rapport van de AIV en de CAVV, omdat je ziet dat het heel moeilijk is om nu aan te geven waar dat dan precies op moet zitten.

Het verzamelen van data, het interpreteren van data en het schrijven van algoritmes zouden fasen kunnen zijn waarvan je zegt: daarop moet betekenisvolle menselijke controle van toepassing zijn. Dat betekent dus dat de mens dat altijd goed controleert en dat daar al ethische kaders bij betrokken zijn. Maar de volgende stap is net zo belangrijk. Wat als je er informatie uit krijgt? Hoe toets je dan of je die informatie voldoende vindt? Maak je op basis van die gegevens de inschatting dat terroristische organisaties in land X in dat gebied wapens aan het ontwikkelen zijn? Je kunt zeggen dat je er op basis van de gegevens die je invoert, van uit mag gaan dat er sprake is van een terroristische organisatie. Dit is even een fictief voorbeeld. Je kan ook zeggen: nee, we vinden het belangrijk dat er ook altijd een menselijke toets is, dus dat er menselijke controle is. Dan wordt er gebruikgemaakt van mensen, of dat nou de eigen militairen of informanten zijn, om te toetsen wat daar gebeurt. Stel dat blijkt dat het wel zo is, dat je concludeert dat zich daar een wapenfabriek bevindt, een belangrijke bron voor het aanleveren van wapens aan terroristische groeperingen. Als je besluit om die te gaan bombarderen, kun je dat doen op basis van alleen automatische data: zo ziet het eruit, er is zoveel afstand tot woningen; ik noem maar iets. Maar je kunt je ook afvragen of dat verstandig is, of je daarop niet ook nog menselijke controle wil hebben. En dan maak ik het maar even helemaal af: het besluit om dan te gaan bombarderen kun je ook overlaten aan een machine of een volledig autonoom wapensysteem, of je kunt ervoor kiezen om daar ook weer menselijk handelen bij te betrekken. In de huidige procedure waarmee we besluiten wanneer we wel of niet overgaan tot bijvoorbeeld een bombardement, die heel zorgvuldig is, moet je het afzetten tegen wat er zou gebeuren als het helemaal volledig is, en het ook nog een keer afzetten tegen wat er zou gebeuren als je het gedeeltelijk autonoom doet.

Ik hoop dat ik goed heb uitgelegd – ik zie de heer Dassen kijken, maar ik heb het geprobeerd – waarom het zo ingewikkeld is om daar nu al iets over te zeggen. Ik denk dat het belangrijk is dat daar afspraken over komen. Want als land X zegt «wij vinden het bij gedeeltelijk autonome wapensystemen afdoende om in ieder geval in de eerste fase mensen erbij te betrekken en daarna niet meer» en wij bijvoorbeeld vinden dat je in al die stappen een vorm van menselijke controle moet hebben, dan gaat het natuurlijk mis. Er wordt ook geadviseerd om daar synchroniteit in te krijgen, zodat je daar hetzelfde beeld van hebt. Dat was even een lange inleiding, maar ik probeer alle routes die ik de hele tijd in mijn eigen hoofd ben afgegaan te gebruiken om toe te lichten waarom daar ook nog een lacune zit. Nu pleiten we voor in ieder geval een verbod op die volledig autonome wapensystemen. Maar zowel uit het rapport van de AIV en de CAVV als uit mijn kleine poging in de initiatiefnota wordt duidelijk hoeveel zaken er nog nader besproken moeten worden om goed te weten wanneer we vinden dat die betekenisvolle menselijke controle er afdoende in zit.

Mevrouw Van Ginneken (D66):

Dank aan collega Belhaj voor de uitleg. Het is mij nu helder dat je die betekenisvolle menselijke controle op heel veel plekken zou kunnen terugvinden, en dat we internationaal het gesprek moeten voeren over de vraag wanneer de ondergrens is bereikt, over welke betekenisvolle menselijke controle je in elk geval moet hebben. Ik begrijp nu ook de urgentie beter van de oproep van mevrouw Belhaj om dat gesprek in ieder geval te gaan starten met elkaar. Dank.

Mevrouw Belhaj (D66):

Ik ga door naar de vragen van mevrouw Van Ginneken, de heer Boswijk en de heer Dassen. Zij stelden ieder op hun eigen manier iets over de meest recente ontwikkelingen op het gebied van autonome wapensystemen, over wat daarin de sprekende voorbeelden en de voor- en nadelen zijn. De heer Boswijk vroeg ook nog of er een verschil moet zijn tussen defensief en offensief. De heer Dassen vroeg nog in welke mate er sprake is van een sluitende juridische definitie en of de afbakening niet een struikelblok is, ook omdat toekomstige ontwikkelingen in juridisch houdbare teksten gegoten moeten worden en er geen risico moet zijn dat je met een te eenduidige definitie komt en je daar net iets niet aan hebt toegevoegd.

Ik heb geprobeerd om een voorbeeld te geven, namelijk de Kargu-2-drone. Die is van de Turkse luchtmacht. Dat is een kleine drone met vier propellers en een aanhangend machinegeweer. De Turkse overheid verkocht deze drones aan Azerbeidzjan en het bleek een doorslaggevend wapen te zijn in het Nagorno-Karabachconflict met Armenië. Ook zetten de Turken dat wapen reeds in. De Kargu-2-drone mag dan een gedeeltelijk autonoom wapensysteem zijn, maar het is wel een wapen waar de menselijke stap gemakkelijk uitgehaald kan worden en waarvan het volgende model reeds in ontwikkeling is. Zo zijn er ook de Mini Harpy-kamikazedrones en nog een aantal andere voorbeelden die in mijn initiatiefnota, maar ook in het rapport van de AIV en de CAVV worden benoemd.

In zowel de civiele R&D als de militaire R&D is het een wereldwijde trend dat nieuwe systemen worden ontwikkeld in een volledig regelvrij speelveld. Alles mag eigenlijk nog, zou je kunnen zeggen. Dan kun je zeggen dat dat voor ondernemers en technologie heel fijn is, want dan kun je oneindig zoeken naar wat je zou willen. Dat snap ik ook, omdat het met gedeeltelijke autonome wapensystemen heel veel voordelen biedt. Het plaatst de militair in een veiligere omgeving. Het kan slachtoffers onder militairen en burgerbevolking beperken. Het kan soms preciezere aanvallen doen dan een mens. Het kan sneller gegevens verzamelen en verwerken en in moeilijke gebieden of omstandigheden opereren, ook waar bijvoorbeeld communicatie ingewikkeld is. Maar er zijn ook kleinere dingen, zagen we bij een werkbezoek. Ze hadden een soort klein autootje – zo noem ik het maar – waar ze hun bepakking op konden zetten, maar waarop ze bijvoorbeeld ook een gewonde militair konden transporteren. Dat zijn allemaal hele mooie voorbeelden waarin de techniek je functie verbetert.

Maar er zijn ook nadelen. Dat is in de eerste plaats dat de mens minder controle krijgt over het gebruik van geweld. Er is geen menselijk afwegingskader. Ik heb helaas niet veel militairen kunnen spreken. Wel heb ik op een werkbezoek gehoord hoe iets soms kan lijken op algemene beelden van een drone, maar een mens dan toch kan besluiten: ik vind het eigenlijk niet logisch dat er nu wordt geschoten op ... Ik zal de situatie niet toelichten, want die was vertrouwelijk. In zo'n situatie gebruikt een mens zijn intuïtie en denkt: ik wil het toch nog even zeker weten. Zulk soort natuurlijke aspecten ontbreken, al zeggen sommigen dat je dat allemaal kan programmeren. Dat is wel een nadeel. Ook is er een suboptimaal begrip van de omgeving vergeleken met mensen. Dat heb ik eigenlijk zonet uitgelegd. Daarnaast is het moeilijk om autonome wapensystemen te laten samenwerken met niet-autonome systemen.

Maar er zijn dus ook voordelen, en als je die voordelen wil benutten moet je inderdaad een goede regulering hebben voor die gedeeltelijk autonome wapensystemen. Bij volledig autonome wapensystemen zit die betekenisvolle menselijke controle er niet in, en dan moet je dus zeggen: die doen we niet.

De vraag over defensief en offensief heb ik mezelf ook gesteld. Daarom heb ik in de nota ook duidelijk gezegd dat we mooie defensieve systemen hebben. Ik zou willen zeggen dat het offensieve wapensysteem eigenlijk hetzelfde betreft. Als je daarmee iets wil doen, zul je ook weer moeten spreken over een gedeeltelijk autonoom wapensysteem en ook weer moeten waarborgen dat je de menselijke controle erin hebt zitten, offensief of defensief. Of nee, ik moet het goed zeggen. Defensief niet, hoewel ik naar aanleiding van alle nieuwe dingen wel denk dat we er nog een keer goed over moeten nadenken, maar offensief wel.

De heer Boswijk (CDA):

Ik heb een vraag ter verduidelijking. Als ik het goed samenvat, hoor ik de initiatiefneemster eigenlijk zeggen dat je bij een defensieve inzet kan kijken of je van die betekenis van menselijke controle kan afwijken, maar dat dit bij een offensieve inzet gewoon not done is. Formuleer ik het zo goed?

Mevrouw Belhaj (D66):

Ja, maar misschien wilt u mij even de kans geven om hier in tweede termijn nog iets over te zeggen, om te voorkomen dat ik iets verkeerds zeg.

De voorzitter:

Dank u wel. Gaat u verder met de beantwoording.

Mevrouw Belhaj (D66):

Dan waren er ook zorgen geuit door de heer Boswijk. Hij is van mening dat we invloed moeten willen hebben, dat we ethische kaders moeten kunnen stellen en dat we niet afhankelijk moeten worden van buiten de westerse sferen. Daarom is het volgens hem ook van belang dat we de eigen wapenindustrie op orde hebben. Eigenlijk valt dat een beetje in het verlengde van wat de heer Van Wijngaarden aangaf. Ja, daar ben ik het mee eens. Natuurlijk zie ik al die ontwikkelingen. Die worden ook benoemd. Desalniettemin ontslaat dat je niet van een verplichting om zelf actief na te denken over hoe je dat dan zou willen doen. Je moet daar ook met andere landen goeie afspraken over maken. Zeggen dat we alleen naar de ontwikkelingen kijken en daarom alleen maar nadenken over hoe we dat willen adresseren, is ook weer ingewikkeld.

De voorzitter:

Een interruptie van de heer Van Boswijk.

De heer Boswijk (CDA):

U zegt bij iedereen «Van»; dat klinkt wat chiquer misschien. Mijn argument was meer gebaseerd op het verdrag over de clusterbommen. Tussen de 100 en 150 landen hebben dat verdrag gesloten, maar de landen die deze clusterbommen fabriceren en dus ook nog gebruiken, doen daar niet aan mee. Zo'n verdrag is heel mooi, maar het verandert niet zo heel veel in de wereld. Ik denk dat Nederland best wel een grote rol kan spelen in autonome wapensystemen, omdat wij op AI-gebied wel een van de koplopers zijn. Als we dat kunnen gebruiken in onze defensie-industrie, dan kunnen we misschien juist op een ethisch vlak op termijn een impact daarop hebben. Dat is vooral waarom ik dat punt maakte.

Mevrouw Belhaj (D66):

Dat begrijp ik en daar ben ik het ook mee eens.

De heer Dassen (Volt):

Ik wilde alleen even aangeven dat ik er nu tussenuit moet en later weer terugkom. Dat wilde ik even zeggen.

De voorzitter:

Dat had u van tevoren ook al even hier aangekondigd. We zien u dan straks terug.

Mevrouw Belhaj, gaat u verder. O, de heer Van Wijngaarden heeft nog een interruptie.

De heer Van Wijngaarden (VVD):

Ik sluit aan bij iets wat mevrouw Belhaj zojuist in reactie op de heer Boswijk aangaf. Zij zei: we moeten daarover nadenken. Ik denk dat nadenken altijd goed is. Volgens mij is dat ook precies wat het kabinet heeft aangegeven. Zij zeiden: dat zijn we heel zorgvuldig aan het doen, ook met de bondgenoten. Het kabinet wilde daar zelfs nog iets meer tijd voor nemen. De conferentie die deze week plaatsvindt, is ook een onderdeel van dat nadenken. De initiatiefnota gaat natuurlijk verder dan alleen maar nadenken. Daar staan gewoon beslispunten in. In beslispunt 4 wordt gezegd dat Nederland hier niet meer in moet investeren. In beslispunt 1 wordt aangegeven – dat werd hier net bevestigd – dat Nederland voor een apart verdrag en een apart verbod moet gaan, terwijl een aantal van de NAVO-bondgenoten nog helemaal niet zover zijn. Is dat nu wel handig, ook juist vanwege de complexiteit van de materie?

De voorzitter:

En wat is uw vraag?

De heer Van Wijngaarden (VVD):

Kan de indiener bevestigen en voor mij verhelderen dat wat zij voorstelt natuurlijk veel verdergaat dan alleen maar nadenken?

Mevrouw Belhaj (D66):

Dat klopt. Het nadenken heeft al plaatsgevonden. Ik merk dat ik bij de heer Van Wijngaarden altijd even moet opletten of hij het nou heeft over gedeeltelijk autonome wapensystemen of volledig autonome wapensystemen. Waar ik het net over had, gaat specifiek over gedeeltelijk autonome wapensystemen. Je moet ervoor zorgen dat je daarbinnen nog nadere afspraken maakt over hoe je de betekenisvolle menselijke controle interpreteert. Het andere gaat over het volledig autonome wapensysteem. Omdat zowel ik als de AIV en de CAVV hebben geconcludeerd dat er geen sprake is van betekenisvolle menselijke controle, kun je dat als het ware afvinken. Dat klinkt natuurlijk een beetje flauw, maar dat zijn de ontwikkeling en het nadenken van de afgelopen vijf jaar. Die gingen dus over de vragen waarom je dat niet moet willen en hoe je dat kunt organiseren.

Over het gedeeltelijk autonome wapensysteem is er nog heel veel discussie. Binnen de NAVO heeft men die discussie in zekere zin eigenlijk al gevoerd, maar toch blijft men die voeren om ervoor te zorgen dat de NAVO-landen daar op dezelfde manier mee omgaan. Anders kom je in de problemen als je een keer gezamenlijk wil optreden. Zij hebben eigenlijk de human-centered approach centraal gezet in de context van militair gebruik van autonome wapensystemen.

De voorzitter:

Dank u wel. Gaat u verder met de beantwoording.

Mevrouw Belhaj (D66):

Dan pak ik meteen de vraag van Volt erbij, namelijk wat er in Europees verband gebeurt. Daar is inderdaad vastgelegd... Wacht, ik pak even de volgende pagina erbij. Er is inderdaad een plan gepresenteerd. In 2021 is er een gecoördineerde strategie voor kunstmatige intelligentie uitgewerkt, het Coordinated Plan on AI. In januari heeft het Europees Parlement ook nog een resolutie aangenomen waarin het nog een keer de noodzaak van grotere samenhang tussen civiele en militaire aspecten van kunstmatige intelligentie heeft geadresseerd. Mevrouw Vestager heeft zich met name gericht op civiel gebruik door overheden, maatschappelijke instellingen en bedrijven. Eigenlijk zou je kunnen zeggen dat de EU verder moet nadenken over de vraag hoe men daar in een militaire context tegen aankijkt. De heer Dassen vroeg hoe het ermee staat. Nou, ik heb niet kunnen bellen om te vragen hoe het ermee staat, maar het zou natuurlijk het mooist zijn als lidstaten van de Europese Unie daarover in eerste instantie ook zelf nagedacht hebben en daarover overeenstemming bereiken. Dat is evident.

Ik ben er bijna. De heer Dassen had nog een vraag. Hoe wordt het verdrag op juiste wijze nageleefd en zal de technologie onder de werking van het verdrag gaan vallen? Iemand anders zei het net ook al: we hebben natuurlijk clustermunitie, landmijnen. Dat is eigenlijk een soortgelijke ... Nee, dat is niet een soortgelijke discussie, want ze zijn echt verschillend. Ik wilde mezelf dwingen om weg te blijven van die discussies, omdat ze echt anders van aard zijn. Maar überhaupt geldt bij elke discussie: wil je wel of geen verdrag, en wat maakt het uit als andere landen niet mee willen doen? Het is, denk ik, een kwestie van kiezen: wil je in deze fase zo veel mogelijk landen overtuigen zodat ze daar wel voor kiezen? In deze fase kant dat nog, want de ontwikkelingen zijn er wel, maar ze zijn nog niet zover dat het heel ingewikkeld wordt. Want dan kom je een beetje in een wapenwedloopdiscussie terecht, zo van: als zij ze hebben, dan moeten wij ze toch ook hebben, en daarom schuiven wij de wijze waarop wij tegen oorlogvoering aankijken maar een beetje terzijde.

Ik denk dat dit een heel mooi moment is om daarbij wel voorop te gaan lopen. De heer Van Wijngaarden noemde een aantal discutabele landen en vroeg of Nederland zich daarbij zou willen aansluiten. Maar er zijn veel meer landen die wel passen bij Nederland, vind ik. Zo begreep ik het een beetje. Het zou raar zijn als je die landen er niet bij zou betrekken.

Nou merk ik hoe charmant ministers dat zelf doen. Je denkt «shit, waar is dat ene papiertje nou?», maar het is best moeilijk om het goed te vinden. Maar ik heb het wel! Ik hoor hier zeggen dat alles went. Oké, het went, maar ik hoop dat niemand ziet dat ik even een momentje nodig heb om het op te zoeken en dat dat niet lukt.

Er zijn wel degelijk meer landen dan de landen die heer Van Wijngaarden noemde. Het is een keuze. De conferentie van deze week is niet zomaar een conferentie. Er zijn al vele gesprekken geweest en men tracht elke keer een stap verder te komen. Dat is de vorige keer niet gelukt, maar als het Nederland deze week in ieder geval wel lukt om de stap te maken naar een pleidooi voor het opnemen van het verbod op volledige autonome wapensystemen in een verdrag, dan heeft dat ook impact op andere landen. Die stap kunnen we, denk ik, al maken.

Dat was het, voorzitter.

De voorzitter:

Dank u wel. Dan gaan we nu naar de Minister van Defensie, die hier spreekt als adviseur van de commissie.

Minister Kamp:

Een kleine aanvulling op wat mevrouw Belhaj net zei: de landen die op dit moment voorstander zijn van een verdrag, zijn Midden-Amerikaanse landen, Zuid-Amerikaanse landen en Afrikaanse landen en Pakistan, Oostenrijk, Ierland en Portugal. Dat soort landen.

Voorzitter. Ik wil graag reageren op hetgeen aan de orde is gesteld, maar ik zou willen beginnen met het geven van complimenten aan mevrouw Belhaj. Wat zij heeft neergelegd, vind ik echt een mooi voorbeeld van politiek handwerk. Ik vind ook dat zij een hele constructieve bijdrage heeft geleverd aan een belangrijke discussie. Het genuanceerde van haar standpunt blijkt onder andere uit punt vijf van de antwoorden die ze heeft gegeven op de vragen die de Kamer aan haar heeft gesteld. Ze zegt dat ze grote toegevoegde waarde ziet in autonome militaire systemen, waaronder autonome wapensystemen. Zij zegt een moderne krijgsmacht voor zich te zien, waarin mens en machine op een evenwichtige manier samenwerken met behulp van geavanceerde systemen. Ik denk dat dat inderdaad zo is. Ik sluit me daar dan ook graag bij aan.

Ik wil graag ingaan op de vragen en opmerkingen. Misschien kan ik het beste beginnen met een paar inhoudelijke dingen.

Het eerste. Wat zijn nu eigenlijk volledig autonome wapens? Daar begint de discussie al, want er is geen overeenstemming over definities. Er is een expertgroep geweest in het kader van de conferentie. Die conferentie wordt vandaag, na acht jaar, met een toetsingsconferentie voortgezet. Deze expertgroep heeft gedurende acht jaar bekeken of ze het over definities en interpretaties van het recht eens konden worden, maar dat is niet gelukt.

Het is misschien goed om als illustratie daarvan aan te geven wat er nou onder «autonoom» wordt verstaan. En zijn er op dit moment nog geen echt autonome wapens? Het begon volgens mij allemaal met de kruisrakettendiscussie. Kruisraketten zijn raketten waarbij je coördinaten kunt invoeren van een heel specifiek doel ergens ver weg: een stad, een bedrijventerrein of een bepaald pand op dat bedrijventerrein. Je voert de coördinaten in, je drukt op de knop, die raket zoekt over vele honderden kilometers zijn weg en komt precies op de bedoelde plek uit. Dat is een vorm van een geautomatiseerd systeem. Dat is ook een offensief systeem.

Dan heb je een verdere ontwikkeling. Dat gaat meer om een defensief systeem. Daar heb je twee voorbeelden van: onze Patriotraketten, die op het land gestationeerd zijn, en de Goalkeepers, die op fregatten gestationeerd zijn. Die zijn niet op een bepaald doel gericht, maar op een bepaald soort doelen, in dit geval raketten die op een schip of land afkomen. Zo'n wapensysteem moet die doelen uit de lucht schieten. Dat gebeurt dan ook. De Goalkeeper doet dat op zee. De Patriot doet dat op land. Dan heb je een defensief geautomatiseerd systeem, waarbij je echt afhankelijk bent van grote snelheid. Er werd door de heer Van Wijngaarden al een voorbeeld genoemd. Hij sprak over raketten met negen keer de snelheid van het geluid. Als zo'n raket op een schip afkomt, kun je je voorstellen dat er helemaal geen gelegenheid is om te gaan discussiëren over hoe we dat als mens beoordelen, wat we daaraan zouden kunnen doen en wat wel of niet verantwoord is. Dan moet er gewoon onmiddellijk gehandeld worden. Dat doen Goalkeepers en Patriots.

Dan heb je nog weer een stap verder: wapens die zelf doelen selecteren. Dat wordt dus niet meer door de mens gedaan, maar dat doen ze zelf. De mens geeft in een bepaald gebied aan welk soort doelen er zouden moeten worden getroffen en dan gaat zo'n apparaat z'n gang. Dat is geen luchtfietserij; die heb je al. De Harpy is een Israëlisch onbemand vliegtuig met wapens aan boord, die in een bepaald gebied radarstraling opspoort bedoeld om radarstations uit te schakelen. Zo'n vliegtuig gaat in een bepaald gebied heen en weer, en op het moment dat er radarstraling is, wordt het radarstation uitgeschakeld. De machine doet dat helemaal zelf. Ook op zo'n apparaat kun je nog steeds betekenisvolle menselijke controle hebben. Op het moment dat zo'n Harpy een radarsysteem detecteert, kun je namelijk een signaal laten geven aan een mens: ik heb het daar en daar gevonden en mag ik het uitschakelen? Dan beslist een mens of dat wel of niet mag en heb je betekenisvolle menselijke controle. Maar het is een heel kleine stap om dat vervolgens aan een machine over te laten en om die machine met algoritmes te laden, waardoor die zelf een besluit kan nemen. In dat laatste geval heb je volledig autonome wapens zonder betekenisvolle menselijke controle.

Betekenisvolle menselijke controle kan verschillende vormen hebben. Er is niet één plek waar je dat doet. Bij het ontwikkelen en produceren van wapens kun je die menselijke controle al helemaal inbouwen, dus dat er geen mogelijkheid is om een systeem helemaal autonoom te laten functioneren maar dat er altijd een mens bij moet zijn. Je kunt ook procedures opstellen voor militairen, dus dat ze een wapen alleen volgens een bepaalde procedure mogen gebruiken, waarvan menselijke controle een belangrijk onderdeel is. Zo kun je het ook regelen. Je kunt ook in het targetingproces, het proces om uiteindelijk het doel te raken, zorgen dat er altijd op het laatste moment in een of andere vorm een mens bij betrokken is. Je kunt ook militairen zo trainen dat ze begrijpen dat ze nooit met systemen mogen werken waarbij ze niet uiteindelijk zelf het besluit nemen en verantwoordelijkheid dragen, en dat ze dat dus niet helemaal mogen overlaten aan een systeem buiten hun controle. Op al die manieren kun je betekenisvolle menselijke controle organiseren.

Het grootste probleem bij het in de hand houden van deze ontwikkeling is dat men het niet eens is over definities en concepten rondom autonome wapens. Ik heb die expertgroep die er acht jaar over vergaderd heeft al genoemd. Die is onlangs met het rapport gekomen, bij de toetsingsconferentie die vandaag begonnen is, en die is daar niet uit gekomen. Het was niet mogelijk om overeenstemming te bereiken over wat nou precies betekenisvolle menselijke controle is. Het is ook niet gelukt om overeenstemming te bereiken over de diverse concepten die er zijn met betrekking tot autonome wapens. Het is ook niet gelukt om overeenstemming te bereiken over wat nou precies de interpretatie is van het internationale recht dat er al is en wat de consequenties zijn van de interpretaties van dat internationale recht. Dat is allemaal niet gelukt.

Op het moment dat dat niet lukt, weet je ook zeker dat er geen verdrag komt. Een verdrag waarvan nu sprake is, kan er namelijk alleen maar met consensus komen. Als je het dan niet eens bent over definities en over de interpretaties van het internationale recht, en als het ook nog zo is dat bepaalde landen ... Ik zal ze nou eens een keer niet noemen. Maar we kunnen ons er alles bij voorstellen. Bepaalde landen hebben aan al dit soort dingen geen boodschap. Die willen gewoon militair zo sterk mogelijk zijn. Die trekken zich sowieso al niets aan van deze discussie. Maar in die omgeving kom je natuurlijk nooit tot consensus.

Dat heeft ook de Nederlandse inzet in dit hele proces beïnvloed. Kijk, wij vinden dat die consensus er wel moet komen. Wij vinden dat je autonome wapens helemaal moet verbieden. Wij vinden dat betekenisvolle menselijke controle geformuleerd moet worden en gerespecteerd moet worden. Dat willen wij graag voor elkaar krijgen. Daarom proberen wij aan de ene kant ... Ik heb net een groep landen genoemd – mevrouw Belhaj noemde die ook – die graag een verdrag willen, maar er zijn ook andere landen die dat niet willen. Ik noemde net Pakistan. Pakistan hoort bij de landen die wel een verdrag willen. India is een land dat helemaal geen verdrag wil. China, Rusland en ook de Verenigde Staten van Amerika willen dat op dit moment niet. Die landen redeneren als volgt. Als zij zich er niet aan houden, en wij houden ons er wel aan, dan verzwakken we onze eigen positie en dat willen we niet. Dus er is een ingewikkelde verhouding tussen diverse landen in de wereld. Een land als Nederland is erop uit om te proberen die verschillen te overbruggen en om oplossingen te vinden. Dat is ook de inzet die wij de afgelopen jaren hebben gehad en die wij ook de komende jaren willen hebben.

De voorzitter:

Was dat het wat de Minister betreft?

Minister Kamp:

Nee, ik ben net begonnen.

De voorzitter:

U bent net begonnen?

Minister Kamp:

Tenzij u het genoeg vindt; dan stop ik.

De voorzitter:

Neenee, zeker niet. Maar ik zag volgens mij geen interruptie. Nee.

Minister Kamp:

Goed. Dan ga ik even door.

De voorzitter:

Dan gaat u verder.

Minister Kamp:

Er is geen overeenstemming over definities en concepten. Dan is het de vraag of we op dit moment moeten streven naar een verdrag. De Nederlandse positie is de afgelopen jaren altijd geweest dat wij gezegd hebben: er is internationaal recht. Er is humanitair oorlogsrecht. Dat humanitair oorlogsrecht heeft twee belangrijke bepalingen. De eerste is dat vereist wordt van een militaire commandant dat hij vooraf beoordeelt of de inzet van een wapen niet disproportioneel is, of hij daar niet onbedoelde schade mee veroorzaakt. Op het moment dat hij dat beoordeelt en hij het toch doet, dus toch zo'n wapen inzet, handelt hij in strijd met het humanitair oorlogsrecht, met alle gevolgen van dien. Dat is het eerste punt.

Het tweede punt is dat het humanitair oorlogsrecht vereist dat als er een techniek beschikbaar is die minder onbedoelde schade veroorzaakt, de militair verplicht is om dat systeem te gebruiken. Doet hij dat niet, dan handelt hij ook weer in strijd met het humanitaire oorlogsrecht. Ik denk en Nederland denkt dat als je deze definities toepast op autonome wapens, het duidelijk is dat volledig autonome wapens op grond van het internationale recht niet toegestaan zijn. De opvatting van Nederland is dan ook dat dat zo is en dat we vooral moeten kijken of er misschien toch nog wat lacunes in het internationale recht zitten. Als dat het geval is, is een verdrag heel goed om die lacunes op te vullen. Maar de conclusie dat het zover kan komen, kan nog niet getrokken worden.

De voorzitter:

Dank u wel. Er is een interruptie van de heer Boswijk.

De heer Boswijk (CDA):

Nou ja, eigenlijk gaf de Minister het antwoord zelf al in zijn tweede overweging.

De voorzitter:

Dat is altijd mooi. Dan mevrouw Van Ginneken.

Mevrouw Van Ginneken (D66):

Even kijken of ik de Minister goed heb begrepen. Hoorde ik de Minister nou zeggen dat op dit moment de definities die nodig zijn om een verdrag op te stellen met daarin een onderscheid tussen volledig en gedeeltelijk autonome wapensystemen nog onvoldoende helder zijn en dat dat een reden is om een verdragsproces niet aan te gaan? Dat voelt voor mij een beetje als de verkeerde volgorde, want ik kan me voorstellen dat je in het proces om te komen tot een verdrag juist het gesprek over die definities aangaat. Is dat niet een volgorde waarmee we vooruitkomen? Dat is mijn vraag aan de Minister.

Minister Kamp:

Zoals mevrouw Van Ginneken het wil, wil Nederland het ook, maar wij moeten op dit moment vaststellen dat we het er, zelfs na acht jaar praten, niet over eens zijn geworden wat nu precies een autonoom wapen is, wat de diverse concepten zijn en wat de definitie van betekenisvolle menselijke controle is. Over die dingen zijn we het in het hele voorgaande proces niet eens geworden, maar dat is wel nodig. Dat moeten we doen. Ook moeten we kijken hoe we het internationale recht uitleggen. Vinden wij dat daar lacunes in zitten? Als we het eens zijn geworden over de definities en als we vinden dat er een lacune is die met een verdrag moet worden opgevuld, dan moeten we vooral zo'n verdrag tot stand laten komen. Nederland wil heel graag bereiken dat we een proces doorlopen dat er uiteindelijk toe leidt dat volledig autonome wapens geheel uitgesloten worden en dat gedeeltelijk autonome wapens onder strenge voorwaarden wél gebruikt mogen worden. Daar hebben we ook belang bij. Ik heb al gezegd: we hebben belang bij het gebruik van systemen als de Goalkeeper en de Patriot. We hebben er ook belang bij dat we, als ergens in een conflict een radarinstallatie moet worden uitgeschakeld, daar niet een grote groep infanteristen over 200 kilometer naartoe hoeven sturen om dat te doen, maar dat we dat met een autonoom wapen onder menselijke controle kunnen doen. Daar hebben we belang bij vanwege de veiligheid van onze eigen mensen. Dat is de benadering die Nederland heeft gekozen. Ik denk dat die in overeenstemming is met wat mevrouw Van Ginneken beoogt.

Mevrouw Van Ginneken (D66):

Ik ben blij dat de Minister aangeeft dat dit gesprek nu al kan plaatsvinden. Mijn vervolgvraag is dan: is de conferentie die deze week loopt, de Review Conference of the Convention on Certain Conventional Weapons – ik moest even spieken, want de afkorting was nieuw voor mij – dan ook de plek om dit gesprek een nieuwe impuls te geven volgens de Minister?

Minister Kamp:

Het is niet zo dat wij nu gaan beginnen om te kijken of we het over die dingen eens kunnen worden. Nederland heeft in het overleg van die expertgroep al die jaren al een constructieve rol gespeeld. We hebben als Nederland ook allerlei onderzoeken gefinancierd. We hebben ook het Rode Kruis gefinancierd. We hebben samenwerking met anderen gezocht. Dit is dus al heel lang gaande. Het is natuurlijk teleurstellend dat we op dit moment, nu die toetsingsconferentie er is, moeten vaststellen dat er nog weinig concrete resultaten bereikt kunnen worden, maar dat mag ons er niet van weerhouden om daar toch aan te blijven werken, omdat het voor een betere wereld gewoon nodig is dat we dit voor elkaar krijgen.

De voorzitter:

Dank u wel.

Minister Kamp:

Dan het standpunt van Nederland. Ik heb net aangegeven hoe we de dingen doen. We doen dat ook vanuit het belang van de krijgsmacht. We hebben er veel belang bij dat de mogelijkheden die er zijn om ervoor te zorgen dat je zo min mogelijk nevenschade aanricht, de mogelijkheden om jezelf effectief te verdedigen en de mogelijkheden om op te komen voor de veiligheid van je eigen mensen, optimaal worden benut. Gedeeltelijk autonome wapens onder betekenisvolle menselijke controle zijn daarvoor heel belangrijk. Daarom vinden wij het als Nederland ook belangrijk om bij deze juridische en politieke discussie betrokken te blijven, maar ook betrokken te blijven bij de technische ontwikkelingen. Als Nederland ondersteunen we dat ook. We ondersteunen TNO daarin. We zijn bezig om daar met andere landen in samen te werken. Ook de AIV zegt dat het, om invloed te blijven uitoefenen, belangrijk is om te weten wat er gebeurt en wat de ontwikkelingen zijn. De AIV zegt dus ook dat het verstandig is om voortdurend betrokken te zijn bij de ontwikkelingen van semiautonome wapens met betekenisvolle menselijke controle. Dat is ook wat Nederland doet. Dit nog in aanvulling op wat ik net zei over het Nederlandse standpunt.

Voorzitter. Dan zou ik willen ingaan op diverse concrete vragen die zijn gesteld, voor zover ik die nog niet beantwoord heb. Eerst de AIV, waarbij ik even begin bij meneer Boswijk. Hij zegt dat het wel raar is dat dit zo lang loopt en dat dan het AIV-rapport op het allerlaatste moment komt, vlak voor de toetsingsconferentie om te kijken wat de stand van de zaken in de wereld is. Dat hadden we natuurlijk een paar maanden eerder moeten hebben, zegt hij. Hij heeft natuurlijk groot gelijk. Zo is het ook. Alleen zijn de AIVD en de CAVV onafhankelijke commissies die heel doorwrocht met dit soort onderwerpen bezig zijn en daar met elkaar over praten, onderzoek laten doen, formuleringen vastleggen en uiteindelijk tot een eindproduct komen dat ze aanbieden. Ik heb het moment dat zij met dat eindproduct komen niet in de hand. Zij hebben mij dat vorige week aangeboden. Ik heb er vervolgens ook uitgebreid met hen over gesproken. Wij hebben formeel drie maanden de tijd om erop te reageren, maar dat ben ik niet van plan. Ik denk dat wij daar vlot op moeten reageren, maar wel ook weer met een goed verhaal. We moeten dus goed kennisnemen van wat de CAVV en de AIV zeggen. We moeten ook onze eigen ervaringen daaraan koppelen. We moeten de resultaten van de toetsingsconferentie, die net begonnen is, daarbij betrekken. We moeten ook de positionpaper van het Rode Kruis daarbij betrekken. Het is ook belangrijk om het parlementaire stuk dat mevrouw Belhaj heeft geproduceerd erbij te betrekken. Op grond van dat geheel moet het kabinetsstandpunt opnieuw bepaald worden. Ik voorspel u wel, meneer Boswijk, dat dat kabinetsstandpunt een verfijning, een nuancering, een uitwerking is van het eerdere standpunt dat we hebben ingenomen en dat ik net al heb verwoord. We zijn sowieso tegen volledig autonome wapensystemen en we vinden dat semiautonome wapensystemen altijd onder betekenisvolle menselijke controle moeten staan. Dan heb je een heleboel dingen daaromheen die je nog verder uit kunt werken. Daar is de kabinetsreactie op het advies dat we van de AIVD en de CAVV hebben gekregen, voor bedoeld. Dat zal dus zo spoedig mogelijk, maar zeker binnen drie maanden bij de Kamer komen, zodat wij het kunnen betrekken bij het vervolg, om te bereiken wat ik net heb gezegd.

Mevrouw Van Ginneken vroeg hoe ik aankijk tegen het advies van de AIV om samen te werken met de Verenigde Staten en het Verenigd Koninkrijk, maar ook met andere landen. Ja, absoluut moet dat gebeuren. Het heeft totaal geen zin dat Nederland dit soort dingen alleen doet. Wij zijn in de wereld een hoogontwikkeld land dat veel ervaring heeft op militair gebied en ook veel kan op militair gebied. Ook op ethisch gebied en op het gebied van internationale politiek hebben wij allemaal kennis, ervaring en ambities. Wij willen dus heel graag in internationaal verband bijdragen aan analyse, standpuntvorming en het trekken van conclusies. Dat gaan we zeker ook doen met die landen, bilateraal maar ook in EU- en NAVO-verband. Het is essentieel dat we dat doen.

Mevrouw Van Ginneken vroeg hoe het zat met de aansprakelijkheid voor de gevolgen van de inzet van autonome systemen. Daar heb je twee varianten op. De ene is de aansprakelijkheid van de Staat. De andere is de aansprakelijkheid van een individu die een bepaald iets gedaan heeft. Als een individu iets gedaan heeft, dan heb je daarvoor twee toetsingsmogelijkheden. De ene is het civiele recht. Als die persoon iets gedaan heeft wat hij niet had mogen doen, dan is hij daarvoor aansprakelijk en kan je dat civiel bepleiten. De andere route gaat via het strafrecht. Het Openbaar Ministerie kan zeggen: je hebt als individu iets gedaan wat niet mag. Daar word je dan strafrechtelijk op aangesproken.

Voor de aansprakelijkheid van de Staat zijn internationale afspraken gemaakt. Daar zijn regels voor. Artikelen zijn daarop van toepassing. Die worden dan toegepast. In dit geval gaat het met name om articles on Responsibility of States for Internationally Wrongful Acts. Wat daarin is vastgelegd, is daarop van toepassing.

Ik denk dat ik daarmee de punten van mevrouw Van Ginneken heb gehad. Ik ben ingegaan op de betekenisvolle menselijke controle, de gedeeltelijk geautomatiseerde systemen, de betekenis van het AIV/CAVV-rapport en wie er tot de verantwoording kan worden geroepen.

Mevrouw Van Ginneken zegt dat wij het moment van regulering niet voorbij moeten laten gaan. Ik zie dat moment van regulering nu nog niet zo. Ik denk dat het een taai proces is, waar we doorheen moeten. Nederland kan daarin een belangrijke, bemiddelende en overbruggende rol spelen. Dat moeten we vooral doen met kracht van argumenten en op de momenten dat het nodig is met politieke druk. Het is dus een heel proces. Nederland is daarin ambitieus en maakt daar deel van uit.

Meneer Boswijk vroeg naar het AIV/CAVV-rapport. Daar ben ik op ingegaan. Ik heb aangegeven wat we daarmee gaan doen. Ik heb onderscheid gemaakt tussen offensieve en defensieve systemen. Ik zeg tegen de heer Boswijk dat we heel erg op moeten passen dat we niet afhankelijk worden van wat niet-westerse landen doen. Hij zei dat zelf ook. Hij zei: je moet zelf zorgen dat je je defensieve kracht en capaciteiten op peil houdt. Dat is natuurlijk zo. Als wij met een aantal westerse landen afspraken maken om allerlei dingen niet te gaan doen, terwijl wij te maken hebben met een tegenstander die zich daar allemaal geen moer van aantrekt en precies doet waar hij zelf zin in heeft en waar hij zelf sterker van wordt, dan is het enige resultaat dat we onszelf verzwakken. Wij moeten dus een optimaal verdedigingssysteem hebben. Wij hebben onze eigen kennisinstellingen en industrie nodig om dat voor elkaar te krijgen. We moeten ook zorgen dat we op dit punt afschrikking voor elkaar hebben. Dat betekent dat als wij aangevallen worden, wij daartegen op kunnen treden. Wij willen niet optreden met volledig autonome wapens. Wij vinden om allerlei redenen dat dat niet moet. Om dat te voorkomen, is het van belang dat we daar internationaal afspraken over maken en internationaal recht toepassen en gelijk interpreteren. Waar het nodig is, moeten we dat aanvullen met een verdrag.

Dan kom ik bij de heer Van Wijngaarden. Hij benaderde het eigenlijk op dezelfde manier als ik. Hij zegt: je moet het samen doen met bondgenoten en zorgen dat je tot resultaten komt, maar dan zodanig dat je je daar met z'n allen aan houdt, dus niet alleen de westerse landen maar iedereen. Hij zegt: je moet zorgen dat onze krijgsmacht niet op achterstand komt te staan. Dat is precies waar het om gaat. Wij moeten verantwoord gebruikmaken van de semiautomatische systemen met de betekenisvolle menselijke controle. We moeten zorgen dat we het voor elkaar krijgen dat die andere systemen niet als een donkere wolk boven de wereld komen te hangen. We moeten dat onszelf in de wereld besparen.

De heer Dassen was voor een internationaal verdrag. Hij sprak over de definities. Ik ben op de definities ingegaan. Ik denk dat ik duidelijk heb gemaakt dat een verdrag op zichzelf er op dit moment absoluut niet in zit. Het is beter om uit te gaan van wat er internationaal allemaal al geregeld is en te zorgen dat we overeenstemming hebben over hoe we dat moeten interpreteren. We kijken samen in de wereld waar er lacunes zitten. Als daar een verdrag voor nodig is, is Nederland daar zeker geen tegenstander van. Integendeel, wij willen graag dat het internationale recht zodanig wordt aangevuld dat we bereiken wat Nederland wil bereiken, wat mevrouw Belhaj wil bereiken, wat het Rode Kruis wil bereiken, dus wat we met elkaar willen bereiken.

Dank u wel, mevrouw de voorzitter.

De voorzitter:

Dank u wel. Als het behulpzaam is voor de tweede termijn, zegt mevrouw Belhaj nog heel kort iets over defensief en offensief. Zijn de leden daarmee akkoord? Ja.

Mevrouw Belhaj (D66):

Even over de landen. Er zijn een aantal landen die een verbod willen. Er is internationaal juist een meerderheid van landen die een verdrag willen en regulering en verboden willen combineren. Daar zitten ook NAVO-landen bij. Het is goed om te vermelden dat het onder andere Duitsland, Spanje, Oostenrijk, België en Noorwegen betreft. Het is juist een soort ongemak dat Nederland behoort tot een kleine minderheid die zegt dat een nieuw verdrag of protocol niet nodig is. Het is dus misschien even goed om dat in het achterhoofd te houden.

Daarbij merk ik ook op dat er een verschil is tussen wat de Minister zegt en wat ik zeg over de vraag of een nieuw protocol of verdrag daadwerkelijk nodig is. Zowel de AIV als de CAVV concluderen dat het goed is om het expliciet te maken. Stel dat de Minister aangeeft dat Nederland voor een verbod is op volledig autonome wapensystemen. Er zijn juridische grondslagen waarom je dat expliciet moet maken; die ga ik hier niet nog een keer noemen. Volledig autonome wapensystemen zijn niet in staat zelfstandig de kernregels van het internationaal humanitair recht toe te passen zolang betekenisvolle menselijke controle afwezig is en zolang geconcludeerd wordt dat het hedendaags internationaal humanitair recht te generieke regels bevat en weinig concrete kaders biedt voor de regulering van zulk soort nieuwe wapensystemen. Daarom heb ik willen betogen waarom het eigenlijk een hele kleine stap is, als Nederland al vindt dat het moet gebeuren, om dat te codificeren en expliciet te maken zodat er geen misverstand over kan bestaan.

Dan over defensief.

De voorzitter:

Nee, we gaan nu niet met elkaar in discussie. Het worden nu reacties op elkaar. U reageert nu namelijk weer op de Minister. Ik wil u de gelegenheid geven om de vragen over offensief en defensief te beantwoorden, want die zijn nog blijven liggen vanuit de eerste termijn. Dan gaan we naar de tweede termijn van de Kamer.

Mevrouw Belhaj (D66):

Dat lijkt me prima. Ik ga inderdaad niet in discussie met de Minister, maar het staat mij wel vrij om nog een keer ...

De voorzitter:

Ik heb u de ruimte gegeven om de vragen te beantwoorden. Ik denk dat dat is wat u nu gaat doen. Dan kunt u eventueel in tweede termijn op de Minister reageren.

Mevrouw Belhaj (D66):

Ja. Zoals ik al zei, wil ik nog iets aangeven over defensief en offensief. Op dat punt was ik het wel eens met de Minister, die een toelichting gaf over de systemen die er zijn. Waar ik even in vastliep en wat ik nog wil benadrukken, is dat het er eigenlijk niet toe doet. Zolang je afspraken maakt over betekenisvolle menselijke controle doet het er niet toe of het defensief of offensief is.

De voorzitter:

Dank u wel. Dan gaan we over naar de tweede termijn van de kant van de Kamer. Dan is het woord aan mevrouw Van Ginneken van D66, die nog twee minuten heeft. Er is een mogelijkheid tot het indienen van moties, want dit is een notaoverleg.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. Dank aan de initiatiefnemer en de Minister. Ik ben blij dat de Minister eenduidig uitspreekt dat het kabinet tegen volledig autonome wapensystemen is en dat betekenisvolle menselijke controle essentieel is bij gedeeltelijk autonome wapensystemen. Ik zou graag wat meer urgentie zien bij de Minister. Daarom heb ik drie moties, die ik mede indien namens de Partij van de Arbeid. Gezien de nu lopende review conference, wil ik deze moties graag morgen in stemming brengen.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat zowel de Adviesraad Internationale Vraagstukken en de Commissie van advies inzake volkenrechtelijke vraagstukken (CAVV) als de indiener van de initiatiefnota Autonome wapensystemen (Kamerstuk 35 848, nr. 6) constateren dat betekenisvolle menselijke controle bij volledig autonome wapensystemen afwezig is;

verzoekt de regering bij de Review Conference van de Convention on Certain Conventional Weapons voor een additioneel protocol of losstaand internationaal verdrag te pleiten, waarmee expliciet wordt gecodificeerd dat ontwikkeling en gebruik van volledig autonome wapensystemen verboden moet worden;

verzoekt de regering zich tevens actiever op te stellen voor internationale regulering voor de ontwikkeling, de aanschaf en de inzet van gedeeltelijk autonome wapensystemen en hier met een zo groot mogelijke coalitie van landen bindende afspraken over te maken,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Ginneken, Belhaj, Piri en Jasper van Dijk.

Zij krijgt nr. 6 (35 848).

Mevrouw Van Ginneken (D66):

Mijn tweede motie.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat in artikel 36 van het Eerste Aanvullende Protocol bij de Geneefse Verdragen is voorgeschreven dat bij de ontwikkeling en aanschaf van nieuwe wapens en middelen, waaronder dus ook gedeeltelijk en volledig autonome wapensystemen, een toetsing dient plaats te vinden;

constaterende dat niet alle landen weapon reviews uitvoeren en in hun nationale wetgeving hebben opgenomen;

verzoekt de regering bij de Review Conference van de Convention on Certain Conventional Weapons staten op te roepen de uit artikel 36 van het Eerste Additionele Protocol van de Geneefse Conventie volgende verplichting tot weapon reviews uit te voeren dan wel in hun nationale wetgeving op te nemen,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Ginneken, Belhaj, Piri en Jasper van Dijk.

Zij krijgt nr. 7 (35 848).

Mevrouw Van Ginneken (D66):

De derde.

De voorzitter:

Voor u verdergaat: er is een interruptie van de heer Van Wijngaarden.

De heer Van Wijngaarden (VVD):

Even over die motie. Ik zag in de schriftelijke reactie van het kabinet op de initiatiefnota dat het kabinet al in internationaal verband pleit – ik geloof in artikel 36, lid 2 – voor zo'n protocol. Nederland doet dat wel. Een aantal andere landen doen dat ook. Het kabinet bepleit internationaal al waar die motie om vraagt. Als het kabinet in reactie op de nota al heeft aangegeven dat het dat doet, wat is dan nog het verschil tussen de motie en het kabinetsbeleid?

Mevrouw Van Ginneken (D66):

Ik ben ervan op de hoogte dat het kabinet deze artikel 36-procedure inderdaad ook al tot eigen beleid heeft omgevormd. Maar de inzet van het kabinet om ook andere landen daar nadrukkelijker en actiever toe op te roepen, kan wat ons betreft nog wel een extra impuls gebruiken. Dat is de achtergrond van deze motie.

De heer Van Wijngaarden (VVD):

Ja, maar dat snap ik dan toch niet helemaal. U zegt: nadrukkelijker en actiever. Daar ligt kennelijk de analyse aan ten grondslag dat het kabinet daar nog niet nadrukkelijk en actief genoeg in is. Het kabinet heeft juist geschreven dat het daar in internationaal verband wel actief in is en uitdraagt dat andere landen, net als Nederland, wel die procedure toe moeten passen. Hoe fair is het dan om hier te zeggen dat het kabinet nadrukkelijker en actiever moet zijn, als het net heeft geschreven dat het dat al doet?

Mevrouw Van Ginneken (D66):

Zoals ik de kabinetsreactie lees, staat er duidelijk een oproep in om informatie uit te wisselen tussen landen over de toetsing die plaats moet vinden in de artikel 36-procedure. Dat is net niet helemaal hetzelfde als een expliciete oproep aan landen om dit in nationale wetgeving om te zetten. Maar ik wil de heer Van Wijngaarden best toezeggen dat ik de kabinetsreactie daar nog eens op nalees. Mocht ik tot de gelijke conclusie komen als de heer Van Wijngaarden, dan kan ik mijn motie alsnog op een later moment intrekken. Maar vooralsnog wil ik die even houden.

De voorzitter:

Dank u wel. Dan uw derde motie. U bent eigenlijk door de tijd heen, maar ik wil toch de ruimte daarvoor geven.

Mevrouw Van Ginneken (D66):

Dank, voorzitter. Heel snel.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat de informatiepositie over nieuwe (militaire) technologieën inzichtelijk, transparant en controleerbaar dient te zijn voor de Tweede Kamer;

constaterende dat de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van advies inzake volkenrechtelijke vraagstukken (CAVV) benadrukken dat voorafgaand aan de inzet van gedeeltelijk autonome wapensystemen een omgevingsinschatting gemaakt dient te worden om betekenisvolle menselijke controle te garanderen;

verzoekt de regering bij militaire missies gedeeltelijk autonome wapensystemen als aandachtspunt te betrekken bij de artikel 100-brief,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Ginneken, Belhaj, Piri en Jasper van Dijk.

Zij krijgt nr. 8 (35 848).

Dank u wel. Dan is het woord aan de heer Boswijk van het CDA.

De heer Boswijk (CDA):

Dank u wel, voorzitter. Nogmaals dank aan de initiatiefnemer en aan de Minister voor de antwoorden op de vragen over een behoorlijk belangrijk onderwerp. Ik heb geen moties. Maar wat ons betreft is dit niet het laatste debat dat we hierover gaan voeren, omdat de ontwikkeling natuurlijk razendsnel gaat. Voor het CDA is het belangrijk dat wij onze eigen krijgsmacht niet op achterstand zetten en tegelijkertijd wel altijd het ethische kader en de menselijke maat in ogenschouw nemen.

Dank.

De voorzitter:

Dank u wel. Dan is het woord aan de heer Van Wijngaarden van de VVD.

De heer Van Wijngaarden (VVD):

Voorzitter. Omwille van de tijd – daar bent u altijd streng in – ga ik meteen over tot het indienen van moties.

De voorzitter:

U heeft nog zes minuten, hoor. Maar laat u zich daardoor niet weerhouden.

De heer Van Wijngaarden (VVD):

O! Ik wil heel kort zeggen: dank aan de Minister, ook voor wat hij heeft uiteengezet, namelijk dat er na acht jaar discussie nog steeds geen overeenstemming is. Dat laat wel zien hoe complex het onderwerp is. Maar ik vind het wel ongelofelijk belangrijk dat dit nu door de initiatiefnemer geagendeerd is, omdat alleen al deze discussie en het nadenken hierover vandaag heel waardevol is. Alleen, ik merk dat we in ieder geval nog wat verschillen van inzicht als het gaat om hoe groot de conclusies zijn die we nu kunnen trekken. Ik voel veel voor een rol waarin Nederland internationaal actief is in deze discussie en een bruggenbouwer is, samen met andere landen. Maar dit onderwerp is toch te complex voor «grote stappen, snel thuis». Daarom heb ik de volgende twee moties.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat autonomie in wapensystemen onderwerp van een langlopende en complexe discussie is, waarin zorgvuldige besluitvorming van belang is;

overwegende dat het kabinet meermaals heeft aangegeven grote waarde te hechten aan een advies van de CAVV en AIV over autonome wapensystemen, dit advies vorige week is verschenen en er nog geen kabinetsappreciatie is;

verzoekt het kabinet geen nieuwe standpunten rond autonome wapensystemen in te nemen alvorens een appreciatie van het CAVV/AIV-advies met de Kamer is gedeeld en daarover een debat heeft plaatsgevonden,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Wijngaarden, Boswijk, Stoffer, Van Haga en Eppink.

Zij krijgt nr. 9 (35 848).

De heer Van Wijngaarden (VVD):

De tweede motie.

Motie

De Kamer,

gehoord de beraadslaging,

overwegende dat de proliferatie en het gebruik van autonome en semiautonome wapensystemen in potentie verregaande effecten kunnen hebben op de veiligheid van Nederland en van bondgenoten;

overwegende dat het voor de veiligheid van Nederland van groot belang is dat de NAVO-bondgenoten in de eenentwintigste eeuw over technologische militaire superioriteit blijven beschikken;

overwegende dat het van belang is dat de landen in de NAVO rondom het thema autonome en semiautonome wapensystemen zo veel mogelijk samen optrekken, en dat het van belang is samen met NAVO-bondgenoten invulling te geven aan begrippen als «betekenisvolle menselijke controle»;

verzoekt het kabinet nauw op te trekken met NAVO-bondgenoten bij de inname van volkenrechtelijke standpunten en bij militaire R&D als het gaat om autonome dan wel semiautonome wapensystemen,

en gaat over tot de orde van de dag.

De voorzitter:

Deze motie is voorgesteld door de leden Van Wijngaarden, Boswijk, Stoffer, Van Haga en Eppink.

Zij krijgt nr. 10 (35 848).

De heer Van Wijngaarden (VVD):

Dank u wel.

De voorzitter:

Dank u wel. Dan zijn we daarmee gekomen aan het einde van de tweede termijn van de kant van de Kamer.

Dan kijk ik naar de initiatiefnemer, mevrouw Belhaj, voor haar beantwoording in tweede termijn. Er waren niet heel veel vragen meer gesteld, maar ik denk dat u nog wel een paar zaken zou willen aangeven.

Mevrouw Belhaj (D66):

Voorzitter. Dat wilde ik net aangeven. Ik wil nog een keer benadrukken dat ik me niet herken in de opmerkingen «grote stappen, snel thuis», omdat het proces zich de afgelopen vijf jaar al heeft afgespeeld. Refereren aan een rapport uit 2015 terwijl er een nieuw rapport ligt van de AIV en de CAVV waarin zij alle nieuwe ontwikkelingen betrekken, vind ik dus eigenlijk een beetje een belediging voor zo veel goede mensen die dat rapport zo zorgvuldig hebben geschreven. Zij hebben daarin ook goede redenen genoemd op basis waarvan zij tot de conclusie komen dat je deze conclusie in ieder geval vandaag kunt trekken. Al die overige conclusies gaan over vragen als «hoe zorg je ervoor dat Nederland vooroploopt?», «hoe zorg je ervoor dat het geïntegreerd wordt in de krijgsmacht?» en «hoe zorg je ervoor dat die betekenisvolle menselijke controle erin blijft zitten?». Ik ben het er helemaal mee eens dat je daar niet over uit bent als het gaat over gedeeltelijk autonome wapensystemen. Maar de suggestie dat de AIV de afgelopen vijf jaar heeft stilgestaan met nadenken en in één keer grote stappen maakt, vind ik een onjuiste.

Ik heb ook geprobeerd te benadrukken waarom deze week zo belangrijk is en hoeveel landen die al gewoon willen expliciteren en dus ook codificeren. Het zou eerder gek zijn als Nederland dit nu niet doet. Ik kijk uit naar die discussies. Als het gaat over gedeeltelijk autonome wapensystemen, kan ik me voorstellen dat dat t.z.t. gekoppeld wordt aan het informatiegestuurd werken van het LIMC.

Voorzitter, ik rond af. Kamerleden die hun best doen om voorop te lopen in een discussie, hebben eens in de zoveel tijd de mazzel dat het hét moment is om die discussie voor een bepaald gedeelte ook politiek om te zetten. Ik vind dat dit niet afhankelijk mag zijn van een kabinet of een coalitie. Dit moet breedgedragen in de Kamer tot stand komen. Alle informatie ligt er, dus ik hoop op steun om in ieder geval die stap te zetten.

Tot slot wil ik de beleidsmedewerkers Suleyman Aslami, in de aanloop hiernaartoe, Mike Hemmen, Levi Bakker en Thomas-Jan Koerhuis, die hier nu niet bij zit, ontzettend bedanken, want zij hebben knetterhard gewerkt. Zij hebben ervoor gezorgd dat we hier uiteindelijk zijn. We hopen dat het lukt om er deze week voor te zorgen dat Nederland niet alleen in woorden maar ook in daden expliciet maakt dat we voor een verbod op autonome wapensystemen zijn.

De voorzitter:

Dank u wel. De heer Boswijk heeft nog een interruptie.

De heer Boswijk (CDA):

Nou, eigenlijk een extra inkleuring. Ik heb grote waardering voor collega Belhaj en haar medewerkers voor het feit dat ze dit hebben geagendeerd en gedaan, maar ik vind dit wel een vrij fundamenteel gesprek. Ik vind het belangrijk om juist wel een kabinetsreactie hierop te horen, want daar zitten mensen in die hier de hele dag mee bezig zijn. Ik wil ook zo snel mogelijk dat debat hebben – het liefst hadden we dat al twee of drie maanden geleden gehad – maar ik vind het nu te snel gaan. Vorige week donderdag hebben we besloten om vandaag dit debat te voeren en nu moet ik er al iets van vinden. Voor mij persoonlijk is dat te snel.

Mevrouw Belhaj (D66):

Dat begrijp ik natuurlijk, maar het gaat niet alleen om mijn initiatiefnota. Er ligt een rapport van de AIV en de CAVV, dat heel duidelijk is op dit gebied. Niet alle beslispunten uit mijn initiatiefnota zijn ingediend door D66 en met een reden, want ik zie dat er een stuk is dat je later moet doen. Maar dit stuk is gebaseerd op vijf jaar nadenken door niet de minste mensen, onder wie De Hoop Scheffer. Mijn initiatiefnota past daarbij. Ik vind het niet te mager om dit als D66-fractie neer te leggen, omdat het rapport van de AIV en de CAVV er ligt. Ik zou u willen oproepen om dat niet terzijde te schuiven.

De voorzitter:

Dan is nu het woord aan de Minister. Excuus, de heer Van Wijngaarden.

De heer Van Wijngaarden (VVD):

Ik heb nog een korte interruptie naar aanleiding van wat mevrouw Belhaj zei. Ze zei: «grote stappen, snel thuis». Maar dat is een belediging voor de mensen die het AIV-rapport hebben geschreven. Ik denk niet dat het de bedoeling is om wie dan ook waar dan ook te beledigen. Ik denk wel dat het belangrijk is om het volgende aan te geven. Ik vraag mevrouw Belhaj om daarop te reflecteren. Er is hier al vijf jaar over nagedacht, er is al acht jaar een discussie gaande en er is internationaal nog maar heel weinig consensus. Hoe stelt Nederland zich internationaal op in dat krachtenspel? Er is best iets voor te zeggen om daarin niet voorop te lopen – in «vooroplopen» zit ook iets solistisch – maar om ons meer op te stellen als bruggenbouwer. Die rol noemde de Minister net ook. Hoe kijkt mevrouw Belhaj aan tegen de positie van Nederland als internationale bruggenbouwer? Is het dan niet juist handig om het kruit nog even droog te houden? Want de discussie is helaas nog verre van afgerond.

De voorzitter:

Mevrouw Belhaj, tot slot.

Mevrouw Belhaj (D66):

Ik merk dat we soms twee discussies door elkaar heen voeren. De Minister zegt eigenlijk dat het standpunt van Nederland over betekenisvolle menselijke controle niet is veranderd. Op basis van wat hier ligt, spreek je van een verbod op volledig autonome wapensystemen. Op dat gebied gaat het niet over vooroplopen. Ik heb juist net geprobeerd aan te geven dat verschillende NAVO-landen en heel veel andere landen in de wereld ook vinden dat je het moet codificeren. Het is niet zozeer dat Nederland voorop wil lopen, maar meer een kwestie van: hoe kan Nederland aansluiten bij alle landen die dat vinden? Goede discussies voeren heeft betrekking op gedeeltelijk autonome wapensystemen. Hoe ga je betekenisvolle menselijke controle verder duiden en waar moet die controle in het militair-operationele proces altijd aanwezig zijn? Díé discussie, daar ben ik helemaal voor. Dat is wat we over drie maanden kunnen doen, mede ook op basis van de appreciatie van elementen uit het AIV/CAVV-rapport. Daarom heb ik ook de D66-fractie verzocht om niet alle beslispunten nu in moties te gieten, omdat dat zonde zou zijn. Over een verbod zijn we het dus eigenlijk eens. Het enige wat je moet doen is je aansluiten bij de meerderheid van al die landen die het willen codificeren. De discussie over semiautonome wapensystemen moeten we nog veel meer gaan voeren. Ik snap dat de Kamer zegt daar tijd voor nodig te hebben. Maar van dat andere zou ik zeggen: dat kan gewoon nu, deze week; laten we die kans grijpen.

De voorzitter:

Dank u wel. Dan is het woord aan de Minister, die ook een appreciatie van de moties gaat geven.

Minister Kamp:

Dat zal ik doen, voorzitter. Ik zal slechts nog even op de laatste twee punten van mevrouw Belhaj ingaan. Ze zegt dat ik gezegd zou hebben dat het standpunt van Nederland niet veranderd is. Nederland heeft een standpunt ingenomen nadat we de vorige keer het advies van de AIV en de CAVV hebben gekregen. Daar hebben we goed over nagedacht en vervolgens hebben we dat advies overgenomen. Vorige week heb ik een nieuw advies gekregen van de AIV en de CAVV. Daar moeten we binnen drie maanden op reageren, maar dat zullen we eerder doen. We zullen daar een aantal andere dingen bij betrekken, die ik in mijn eerste termijn al heb genoemd. Dan zal er dus een op basis van evaluatie geactualiseerd, nieuw standpunt van de Nederlandse regering komen, dat in grote lijnen neer zal komen op een verbod op volledig autonome wapens en op allerlei dingen die geregeld moeten worden met betrekking tot semiautonome wapens voor wat betreft de betekenisvolle menselijke controle. Dat verbod zal overeind blijven, maar er is een heleboel daaromheen te regelen en qua standpunten in te nemen. Dat zullen we zeker gaan doen. We zitten dus op dezelfde lijn als vijf, zes jaar geleden, maar wij zullen naar aanleiding van de rapporten die ik heb genoemd, en de adviezen die wij hebben gekregen, ons standpunt actualiseren na evaluatie. Ik denk dat het goed is om er niet een weekend voor te nemen om conclusies te trekken uit dat AIV-rapport, maar om dat goed te bestuderen, met andere dingen in verband te brengen, je eigen ervaringen als kabinet daarbij te betrekken en dan met een goed doordachte reactie daarop te komen.

Het tweede punt is dat Nederland zich volgens mevrouw Belhaj zou moeten aansluiten bij een grote meerderheid van landen die iets zou willen. Er is een kleiner aantal landen dat vindt dat er geen verdrag moet komen, omdat alles al goed geregeld is. Er zijn landen, die ik net heb gespecificeerd, die van mening zijn dat er wel een verdrag nodig is. Ook is er een hele grote groep landen die daartussenin zit. Nederland maakt daar deel van uit. Die landen brengen verschillende nuanceringen aan, maar het komt allemaal neer op de volgende overwegingen: we hebben internationaal recht op grond waarvan die volledig autonome wapens al niet mogen; het is zinvol om te gaan kijken of er lacunes zijn en, zo ja, dan zou een verdrag zinvol kunnen zijn. Dat is ook het Nederlandse standpunt. Om tot een verdrag te komen, heb je consensus nodig en moeten de tegenstellingen overbrugd worden. Daar zet Nederland zich al jaren actief voor in en dat zullen we ook blijven doen.

Ik kom bij de moties die aangereikt zijn door de woordvoerders. Allereerst de motie op stuk nr. 6 van mevrouw Van Ginneken, mevrouw Belhaj, mevrouw Piri en de heer Van Dijk. Die motie stelt dat Nederland moet streven naar een additioneel protocol of een losstaand internationaal verdrag. Ik heb al gezegd dat we dat volgens het kabinet op dit moment niet moeten doen. Het is verstandig om goed te kijken naar het AIV-rapport en de andere dingen te doen die ik net gezegd heb, en om dan een standpunt in te nemen en te kijken hoe we onze brugfunctie om uiteindelijk tot consensus te komen, optimaal kunnen vervullen. Daar ben ik het dus niet mee eens.

Het tweede dictum van dezelfde motie verzoekt de regering om zich actiever op te stellen om tot internationale regulering te komen. Wij zijn op dit punt zeer actief, wij zijn ook van plan om dat te blijven en wij zijn van plan om dat in internationaal verband te doen. Die aansporing is dus niet nodig. Om beide redenen moet ik de motie van mevrouw Van Ginneken en de medeondertekenaars ontraden.

De voorzitter:

De motie op stuk nr. 6 wordt ontraden.

Minister Kamp:

De tweede motie van mevrouw Van Ginneken en dezelfde medeondertekenaars, op stuk nr. 7, vraagt de regering om de staten die bij de toetsingsconferentie aanwezig zijn op te roepen om artikel 36 van het Eerste Additionele Protocol van de Geneefse Conventies uit te voeren. Ik denk dat dat volstrekt overbodig is. Het is helemaal niet nodig dat wij andere landen daartoe oproepen. Dat protocol is vastgesteld. Landen hebben zich daartoe verplicht en moeten dat uit gaan voeren. Daar hebben ze echt geen oproep van Nederland voor nodig, dus deze motie ontraad ik ook.

De voorzitter:

De motie op stuk nr. 7 wordt ontraden.

Minister Kamp:

De derde motie, op stuk nr. 8, van mevrouw Van Ginneken en de dezelfde medeondertekenaars als bij de vorige twee moties verzoekt de regering om bij militaire missies gedeeltelijk autonome wapensystemen als aandachtspunt te betrekken bij de artikel 100-brief. Het lijkt me heel nuttig om dat te doen. Ik laat graag het oordeel over deze motie aan de Kamer.

De voorzitter:

De motie op stuk nr. 8 krijgt oordeel Kamer.

Minister Kamp:

Dan heb ik de motie op stuk nr. 9 van de heren Van Wijngaarden, Boswijk, Stoffer, Van Haga en Eppink. Zij verzoeken het kabinet om geen nieuwe standpunten rond autonome wapensystemen in te nemen alvorens een appreciatie van het advies van de CAVV en de AIV met de Kamer is gedeeld en daarover een debat heeft plaatsgevonden. Het lijkt mij heel verstandig om dat zo te doen. Bovendien lijkt het me heel goed mogelijk, omdat we de lijn die wij tot dusver ingezet hebben, ook kunnen vasthouden bij die toetsingsconferentie. Dat is een lijn die nog steeds zeer nuttig is. Het lijkt mij dat we aanvullingen daarop en wijzigingen daarvan moeten doen nadat we het advies, en de andere stukken die ik net heb genoemd, goed hebben bestudeerd en het kabinetsstandpunt daarover met de Kamer hebben besproken in een debat. Dus de motie op stuk nr. 9 laat ik graag oordeel Kamer.

De voorzitter:

De motie op stuk nr. 9 krijgt oordeel Kamer. Dan de motie op stuk nr. 10. Dat is de laatste motie.

Minister Kamp:

De motie op stuk nr. 10 van de heer Van Wijngaarden en de net genoemde medeondertekenaars vraagt het kabinet om nauw op te trekken met NAVO-bondgenoten bij de inname van volkenrechtelijke standpunten en bij militaire research and development als het gaat om autonome dan wel semiautonome wapensystemen. Ik denk dat het goed is om dat te doen. De NAVO is in dat geheel een belangrijke partij. Het is niet makkelijk om het daar als NAVO met elkaar over eens te worden, omdat Amerika daar op dit moment anders over denkt dan een aantal andere landen, waaronder Nederland. Maar ik denk dat het heel verstandig is om, als je internationaal tot iets wilt komen, het in ieder geval in de NAVO met elkaar eens te worden. Daarom geef ik de motie op stuk nr. 10 graag oordeel Kamer.

Dank u wel, mevrouw de voorzitter.

De voorzitter:

Dan krijgt de motie op stuk nr. 10 ook oordeel Kamer.

Daarmee zijn we aan het einde van de tweede termijn gekomen. Mevrouw Van Ginniken heeft verzocht om hier morgen over te stemmen. Dat moet een commissieverzoek zijn, dus daar moet een meerderheid voor zijn. Ik kijk even of de heren Boswijk en Van Wijngaarden daarmee akkoord gaan. Ja, dat is akkoord. Dan gaan we dat verzoek plenair doen. De griffier bevestigt dat. Ik concludeer dat de nota voldoende is besproken. Ik wil nogmaals aansluiten bij alle complimenten, want het is een hele bak werk om zo'n initiatiefnota te maken en voor te bereiden. Dank daarvoor aan mevrouw Belhaj, maar ook aan de ondersteuners. Dinsdag gaan we hierover stemmen. Daarmee zijn we aan het einde van dit notaoverleg gekomen.

Sluiting 12.15 uur.