33 694 Internationale Veiligheidsstrategie

Nr. 64 BRIEF VAN DE MINISTERS VAN BUITENLANDSE ZAKEN EN VAN DEFENSIE

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 8 juli 2022

Volgend op de brief aan uw Kamer van 11 oktober 2021 (Kamerstuk 33 694, nr. 63) en het Commissiedebat Hoofdlijnen beleid Ministerie van Buitenlandse Zaken van 14 juni 2022 (Kamerstuk 35 925 V, nr. 110), informeren wij u over de volgende stappen in de voorbereiding op de aangekondigde conferentie over verantwoorde militaire toepassingen van AI, waarmee uitvoering wordt gegeven aan de motie van het lid Koopmans c.s. uit april 2019 (Kamerstuk 33 694, nr. 43).

De internationale veiligheidsdynamiek is sinds de Russische inval in Oekraïne drastisch veranderd. De recente ontwikkelingen aan de oostflank van Europa laten zien dat vrede en veiligheid niet vanzelfsprekend zijn. Daarom is het belangrijk te blijven investeren in een toekomstbestendige krijgsmacht die voldoende toegerust is om veiligheid en vrijheid te verdedigen. Nieuwe technologieën zoals kunstmatige intelligentie (Artificial Intelligence, hierna: AI) ontwikkelen zich op hoge snelheid waarmee ook de mogelijkheden voor toepassingen in het militaire domein de komende jaren toe zullen nemen. Tegelijkertijd bestaan internationaal zorgen over potentiële risico’s, bijvoorbeeld de potentiële voorspelbaarheid van systemen, een gebrek aan menselijke controle en de escalatie van geweld. De vraag hoe de internationale gemeenschap op een verantwoordelijke manier met militaire toepassing van AI wil omgaan is daarom zeer actueel.

Nederland zet zich in om zowel een vooruitstrevend als een verantwoordelijk high tech land te zijn. Met de conferentie zet Nederland dit vraagstuk hoger op de politieke agenda. Doel van de conferentie is met een zo breed mogelijke groep landen een gezamenlijke internationale agenda overeen te komen die toeziet op verantwoorde ontwikkeling, inzet en gebruik van AI in het militaire domein. Daarbij zijn de kaders van het bestaande internationale recht leidend. Om de effectiviteit van de conferentie te optimaliseren en aan te sluiten op bestaande internationale fora en reeds geplande bijeenkomsten zal de conferentie begin 2023 plaatsvinden.

Afbakening en thema’s

De inhoudelijke focus van de conferentie ligt op de inzet van AI ten behoeve van militaire operaties. Het gaat daarbij om de inzet van geweld en de voorbereidende stappen en besluitvorming die daartoe leiden. Daarbij kan gedacht worden aan de toepassing van AI in wapensystemen maar ook aan een bredere inzet, bijvoorbeeld bij militaire besluitvormingsondersteuning met behulp van AI en data-analyse.

Deze focus brengt diverse vraagstukken mee die een gebalanceerde internationale discussie vergen. Wat betekent een verregaande toepassing van AI voor de besluitvorming tot inzet van militair geweld? Wat betekent het voor de bescherming van burgers en voor proportionaliteit en het afleggen van verantwoording? Hoe optimaliseer je interactie tussen mens en machine? Hoe zorgen we ervoor dat AI ondersteunend blijft aan de mens, ook in conflictsituaties? Om deze en andere vragen goed te kunnen adresseren richt de conferentie zich niet alleen op het uiteindelijk gebruik van AI, maar op de bredere levenscyclus van AI, van onderzoek en onderwijs, tot ontwikkeling, innovatie en de inbedding van AI in het militaire domein.

Om dit in de conferentie tot uiting te laten komen zal het programma zich richten op drie hoofdthema’s:

• 1. Ontwikkeling en technische kenmerken van AI – wat moeten we weten van de technische aspecten en karakteristieken van AI om kansen, uitdagingen en verantwoorde toepassing van AI in het militaire domein adequaat te kunnen adresseren? Denk aan karakteristieken als betrouwbaarheid, voorspelbaarheid, uitlegbaarheid en dilemma’s als data bias.

• 2. Verantwoorde militaire inzet en gebruik van AI – wat betekent militaire inzet en gebruik van AI in de praktijk? Wat zijn voordelen van militair gebruik van AI, wat zijn kwetsbaarheden en dilemma’s?

• 3. Versterken van governance frameworks – welke juridische en andere internationale kaders zijn van toepassing om te zorgen voor verantwoorde toepassing van AI in het militaire domein? Hoe kunnen landen, industrie, kennisinstellingen en maatschappelijk middenveld binnen die kaders met concrete acties en instrumenten bijdragen aan het versterken daarvan?

De ontwikkeling van AI speelt zich grotendeels af in het civiele domein. Het is van belang ruimte voor onderzoek en innovatie te behouden. De conferentie zal daarom alle relevante stakeholders op het gebied van ontwikkeling, inzet en gebruik van AI in het militaire domein een concreet platform bieden om hun kennis en ervaringen te delen, maar ook om voorstellen te doen om de gezamenlijke agenda op verantwoorde toepassing van AI te concretiseren.

Vervolgstappen

De afgelopen maanden zijn in samenwerking tussen de twee ministeries en in consultaties met landen, bedrijven, academici, denktanks en NGO’s de inhoudelijke kaders, doelen en beoogde resultaten voor de conferentie verder uitgewerkt. Daartoe zijn verschillende events georganiseerd, nationaal en internationaal, en is deelgenomen aan verschillende relevante fora. Met een groep van 17 landen zijn inmiddels verdergaande gesprekken gestart over de mogelijke politieke resultaten van de conferentie.

De conferentie moet geen eenmalig evenement zijn maar een opstap vormen voor een concreet vervolg. De op te stellen internationale agenda als beoogd resultaat van de conferentie zal zowel mondiaal als binnen de bestaande overlegstructuren van onder andere de VN en verschillende regionale organisaties kunnen worden uitgewerkt. Daarbij zal Nederland met de conferentie rekening houden met reeds lopende processen op het gebied van militaire AI, zoals concrete initiatieven binnen de NAVO en de EU en de Group of Governmental Experts on Lethal Autonomous Weapon Systems onder de Convention on Certain Conventional Weapons (CCW). De Nederlandse inzet binnen de CCW ten aanzien van autonome wapensystemen staat verwoord in de kabinetsreactie op het AIV/ CAVV advies over autonome wapens van 17 juni 2022 (Kamerstuk 35 925 X, nr. 90). Het is niet de intentie van deze conferentie om, buiten de CWW om, tot besluiten te komen ten aanzien van autonome wapensystemen.

De samenwerking tussen de Ministeries van Buitenlandse Zaken en Defensie borgt dat de conferentie de balans maakt tussen enerzijds het adresseren van de risico’s en anderzijds de noodzaak en de voordelen van het gebruik van AI binnen Defensie. Tevens biedt de conferentie kans om concreet bij te dragen aan de plannen zoals verwoord in de Defensienota van 1 juni 2022 (Kamerstuk 36 124, nr. 1) met name op actielijn 5 (innoverend vermogen en nieuwe domeinen) en actielijn 6 (informatiegestuurd werken en optreden). Met de conferentie zet Nederland een eerste stap op een aantal daarin genoemde beleidsambities van Defensie, zoals het versterken van het vermogen zich aan te passen aan nieuwe dreigingen, het versnellen van het reactievermogen en het verdiepen van de samenwerking met kennisinstellingen en bedrijfsleven ten behoeve van een toekomstbestendige en technologisch hoogwaardige krijgsmacht.

De Minister van Buitenlandse Zaken, W.B. Hoekstra

De Minister van Defensie, K.H. Ollongren