33 694 Internationale Veiligheidsstrategie

Nr. 67 BRIEF VAN DE MINISTERS VAN BUITENLANDSE ZAKEN EN VAN DEFENSIE

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 26 januari 2023

Volgend op de brief aan uw Kamer van 8 juli 2022 (Kamerstuk 33 694, nr. 64) en het Commissiedebat Autonome Wapens van 5 oktober 2022, informeren wij u over de voortgang in de voorbereiding op de aangekondigde conferentie over Responsible AI in the military domain (hierna: REAIM Summit), waarmee uitvoering wordt gegeven aan de motie van het lid Koopmans c.s. uit april 2019 (Kamerstuk 33 694, nr. 43). Daartoe worden de Nederlandse inzet voor de REAIM Summit en de opzet en de uitwerking van de conferentie uiteengezet.

In het commissiedebat Autonome Wapens van 5 oktober jl. is toegezegd u te informeren over de motie van het lid Van Ginneken c.s. over het betrekken van (semi-) autonome wapensystemen bij de artikel 100-brief (motie 35 848, nr. 8). Op het moment dat het kabinet besluit tot inzet van een dergelijk systeem in het kader van artikel 100 van de Grondwet, zal deze betrokken worden bij de artikel 100-brief over desbetreffende inzet. Daarbij zal conform motie expliciet ingegaan worden op de daarin benoemde aspecten en complexiteit van dergelijke systemen.

Het investeren in een toekomstbestendige krijgsmacht die voldoende toegerust is om veiligheid en vrijheid te verdedigen is onverminderd belangrijk. De ontwikkelingen in Oekraïne maken dat eens te meer duidelijk. De toepassing van kunstmatige intelligentie (Artificial Intelligence, hierna: AI) is hiervoor van grote betekenis.

Het kabinet heeft in haar reactie op het AIV/CAVV advies¹ een standpunt ingenomen ten aanzien van autonome wapensystemen. In de discussie over autonome wapensystemen is betekenisvolle menselijke controle essentieel. De toepassing van AI in het militaire domein is echter niet alleen relevant voor wapensystemen, maar dient een breder belang. Zo zal de toepassing van AI in belangrijke mate doorslaggevend zijn voor data-analyse, beslisondersteuning en Intelligence, Surveillance, en Reconnaissance (ISR) activiteiten ten behoeve van militaire operaties. AI zal daarmee de toekomst van conflicten veranderen.

Tegelijkertijd brengt toepassing potentiële risico’s mee, bijvoorbeeld ten aanzien van de voorspelbaarheid van systemen, een gebrek aan menselijke controle en de escalatie van geweld. Met de ministeriële REAIM Summit, op 15 en 16 februari in Den Haag, wil het kabinet daarom enerzijds de noodzaak en de mogelijkheden van het gebruik van AI binnen het militaire domein inzichtelijker maken en anderzijds zo breed mogelijk gedeelde kaders initiëren en waarborgen stellen ten behoeve van het humanitaire oorlogsrecht om zo de risico’s die AI met zich brengt te adresseren.

Het kabinet vindt het belangrijk dat dit onderwerp hoger op de internationale politieke agenda komt te staan. Daarom werken de Ministeries van Buitenlandse Zaken en Defensie nauw samen op dit dossier, enerzijds door het internationaal agenderen van de risico’s rondom AI en anderzijds door het actief bevorderen van de verantwoorde ontwikkeling, toepassing en gebruik van AI in het militaire domein. Daarbij zijn de kaders van het bestaande internationale recht leidend.

We achten het van groot belang dat het gesprek hierover niet alleen tussen landen, maar juist ook met de belangrijke andere spelers uit de AI-keten wordt gevoerd. De ontwikkeling van AI speelt zich grotendeels af in het civiele domein. Het kabinet zet in op een multi-stakeholder deelnemersveld en actieve betrokkenheid van verschillende spelers in het programma van de REAIM Summit. Bedrijven, universiteiten, denktanks, maatschappelijke organisaties en internationale organisaties uit landen wereldwijd zullen concreet bijdragen aan het programma van de REAIM Summit. Zuid-Korea is benaderd en bereid gevonden als co-host op te treden.

Tijdens het tweedaagse programma van de REAIM Summit worden vanuit verschillende invalshoeken case studies, uitdagingen en good practices gedeeld. Zoals aangekondigd in de voorgaande Kamerbrief van 8 juli 2022 (kamerstuk 33 694, nr. 64) is de REAIM Summit uitgewerkt langs drie hoofdthema’s. Ten eerste hecht Nederland waarde aan het bespreken van de ontwikkeling en technische kenmerken van AI. Daarbij gaat het bijvoorbeeld om betrouwbaarheid, voorspelbaarheid, uitlegbaarheid en data bias. Ten tweede adresseert het kabinet verantwoorde militaire inzet en gebruik van AI. Wat zijn de mogelijkheden, de kwetsbaarheden en de dilemma’s van militair gebruik van AI in de praktijk. Ten slotte zal met landen, industrie, kennisinstellingen en maatschappelijk middenveld tijdens REAIM het gesprek worden gevoerd over welke governance tools kunnen bijdragen aan een verantwoorde toepassing van AI in het militaire domein. Hoe kunnen we samen werken aan concrete acties en instrumenten? Deze thema’s vormen de basis voor het betrekken van alle relevante spelers in de dialoog. In aanvulling hierop zullen diverse deelthema’s aan bod komen in de verschillende onderdelen van de Summit. Zoals (gender)bias en AI in het militaire domain, AI en cyberdefence, de AI en Space nexus, AI in nucleaire command and control en dronezwermen.

Naast plenaire onderdelen en break-out sessies, biedt de REAIM Summit een Responsible Innovation Hub waar bedrijven en onderzoeksinstellingen door middel van demonstraties en simulaties hun innovatieprocessen en verantwoorde militaire toepassingen van AI tastbaar zullen maken. Onder leiding van de Technische Universiteit Delft zullen verschillende internationale universiteiten bijdragen aan een Academisch Forum waar vanuit een academische invalshoek aan concrete adviezen en aanbevelingen gewerkt wordt. Tevens zal een groep geselecteerde masterstudenten kennismaken met AI in het militaire domein en de dilemma’s daaromheen in een «serious AI game» en ten slotte zal een deel van de REAIM Summit ook online uitgezonden worden vanuit een talkshow studio. Een aantal belangrijke bijdragen zullen gedaan worden door o.a. Prof. Sir Lawrence Freedman, Agnes Callamard (Amnesty International), Marietje Schaake en H.E. Ms. Izumi Nakamitsu².

Met de gekozen opzet en uitwerking van de REAIM Summit wil het kabinet een internationale eindverklaring overeenkomen, met als uitgangspunt en doelstelling de verantwoorde ontwikkeling, toepassing en gebruik van AI in het militaire domein. Het kabinet beschouwt de Summit als een eerste stap voor internationale agendavorming. Op basis van de uitkomsten van de conferentie wil het kabinet de dialoog te starten over het belang van internationale afspraken over de toepassing van AI in het militaire domein. We werken daarom aan concrete projecten die een vervolg zullen geven aan deze eerste Summit en streven naar resultaten en acties waar alle stakeholders een rol in kunnen spelen. Daarover zullen we u nog informeren. U bent van harte uitgenodigd als deelnemer aanwezig te zijn bij de REAIM Summit.

De Minister van Buitenlandse Zaken, W.B. Hoekstra

De Minister van Defensie, K.H. Ollongren

---

1 AIV-advies 119, CAVV-advies 38 van 3 december 2021 – Autonome wapensystemen, het belang van reguleren en investeren.

2 Het kabinet wijst de Kamer op de rijksoverheidswebsite Government.nl/REAIM waar meer toelichting wordt gegeven op het programma en de organisaties en personen die zullen bijdragen.