21 501-33 Raad voor Vervoer, Telecommunicatie en Energie

26 643 Informatie- en communicatietechnologie (ICT)

Nr. 1006 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 6 maart 2023

Sinds april 2022 werkt het comité voor Artificiële intelligentie (CAI) van de Raad van Europa aan het opstellen van een (kader) verdrag over Artificiële Intelligentie (AI), mensenrechten, democratie en de rechtsstaat. Met deze brief informeer ik u over de laatste stand van zaken van CAI, het proces, onze inzet en de verhouding met het EU-traject over de AI-verordening. Tevens zend ik u de «nulversie» van het verdrag, die op 1-3 februari 2023 openbaar is gemaakt. Uw Kamer heb ik uitgenodigd om een technische briefing over dit onderwerp te organiseren.

Kunstmatige intelligentie en de Raad van Europa

Binnen de Raad van Europa wordt sinds 2019 aan het thema «AI en mensenrechten» gewerkt, eerst binnen het Ad hoc comité voor Artificiële intelligentie (CAHAI). De CAHAI was opgericht om 1) een haalbaarheidsstudie te doen naar een AI-verdrag binnen de Raad van Europa en 2) een document op te stellen met mogelijke elementen van een juridisch raamwerk voor AI. Dit comité rondde haar werk af op 2 december 2021 en concludeerde dat er een Raad van Europa instrument nodig is met fundamentele principes voor de bescherming van menselijke waardigheid en het respect voor mensenrechten, democratie en de rechtsstaat bij de ontwikkeling, het ontwerp en het gebruik van AI-systemen. Het document met de mogelijke elementen van een juridisch raamwerk heb ik in september 2022 naar uw Kamer gestuurd.¹

In 2021 heeft het Comité van Ministers van de Raad van Europa daarom een Comité inzake kunstmatige intelligentie (CAI) opgericht. De CAI heeft de opdracht om tussen 2022 en 2024 een onderhandelingsproces op te zetten over een (kader)verdrag dat de ontwikkeling, het ontwerp en de toepassing van AI-systemen reguleert en dat gebaseerd is op de standaarden van de Raad van Europa op het gebied van mensenrechten, democratie en de rechtsstaat. Het streven is om eind 2023 de onderhandelingen af te ronden.

Het onderhandelingsproces en de planning

Onderhandelingen over het (kader)verdrag zijn in januari 2023 begonnen op basis van de «nulversie» van de tekst. De CAI heeft besloten deze «nulversie» openbaar te maken, maar de overige onderhandelingsteksten niet vanwege de vertrouwelijkheid en ter bescherming van de voortgang van de onderhandelingen.

Sinds januari 2023 is naast de plenaire vergadering een «drafting» groep opgericht. Tijdens het plenaire deel van de vergadering worden hoofdstukken uit het conceptverdrag besproken, besluiten genomen en zijn naast (mogelijke) verdragspartijen ook Ngo’s aanwezig en kunnen zij tekstvoorstellen doen. Aan de «drafting» groep nemen (mogelijke) verdragspartijen deel die werken aan de specifieke bepalingen van het conceptverdrag en daarover rapporteren aan de plenaire vergadering. Nederland hecht eraan om de inbreng van Ngo’s en andere niet verdragspartijen bij de besprekingen in de «drafting» groep mee te nemen. In april en juni 2023 vinden nog vergaderingen plaats. In september 2023 zou een voorlopig besluit over de gehele tekst moeten worden genomen.

Omdat de EU ook wetgeving op dit onderwerp voorbereidt en de EU-lidstaten gezamenlijk een belangrijke stem hebben binnen de Raad van Europa heeft de CAI een aantal keer haar werkproces en planning moeten bijstellen, zodat EU-lidstaten niet aan tegenstrijdige verplichtingen gebonden worden. Dat betekent dat is afgesproken om de minder controversiële onderwerpen zoals de slotbepalingen en de preambule van het verdrag eerst te behandelen. Die onderwerpen zijn in januari en februari behandeld.

Van 19 tot 21 april 2023 werkt de plenaire vergadering aan de Preambule en de bepalingen over samenwerking en toezicht. De «drafting» groep werkt dan aan de algemene bepalingen, aan de fundamentele beginselen, en aan de bepalingen met waarborgen en rechtsmiddelen.

Van 7 tot 9 juni 2023 werkt de plenaire vergadering aan de algemene bepalingen, aan de fundamentele beginselen, en aan de bepalingen met waarborgen en rechtsmiddelen. De «drafting» groep werkt dan aan de bepalingen over de beoordeling en mitigatie van risico’s, de inzet van AI-systemen door overheidsorganisatie en de inzet van AI-systemen bij de levering van goederen en diensten.

Het streven van CAI is om in de zomer de voorlopige tekst voor te leggen aan de Parlementaire Vergadering van de Raad van Europa (PACE). Van 13 tot 15 september 2023 zal de plenaire vergadering van de CAI dan alles moeten samenvoegen en goedkeuren, waarna het secretariaat zal worden geïnstrueerd om het conceptverdrag aan het Comité van Ministers aan te bieden ter goedkeuring.

De rol van de Europese Unie en het onderhandelingsmandaat

De onderhandelingen over het toekomstige (kader)verdrag van de Raad van Europa hebben betrekking op aangelegenheden die onder de exclusieve bevoegdheid van de Europese Unie (EU) vallen. Op dit vlak bestaan immers geldende Europese verordeningen en richtlijnen met betrekking tot producten en diensten waarbij AI-systemen kunnen worden gebruikt.² Bovendien kan het ontwikkelen en gebruiken van bepaalde AI-systemen effecten hebben op de uitoefening van fundamentele rechten uit het EU-handvest van de grondrechten, en op de bescherming die andere secundaire EU-wetgeving biedt, zoals de regels rond databescherming en non-discriminatierecht.³ Daarnaast werkt de EU zelf aan AI-wetgeving, namelijk het voorstel voor een verordening voor kunstmatige intelligentie die regels voor AI-systemen in de EU-lidstaten moet harmoniseren.⁴

Gezien de grote overlap tussen deze instrumenten heeft de Raad (van de EU) daarom in november 2022 een besluit genomen waarin de Europese Commissie het mandaat wordt verleend om in de CAI namens de EU-lidstaten te onderhandelen over onderwerpen in het (kader)verdrag die onder de exclusieve bevoegdheid van de EU vallen.⁵ Uw Kamer is middels een BNC-fiche over de voorbereiding van dat besluit geïnformeerd.⁶ In het uiteindelijke mandaatbesluit is afgesproken dat lidstaten zeggenschap houden over nationale bevoegdheden zoals nationale veiligheid. Daarnaast behouden lidstaten het spreekrecht in de CAI vergaderingen en moet de Europese Commissie binnen EU-raadswerkgroepen en tijdens de onderhandelingen in de CAI de EU-inzet met de EU-lidstaten coördineren en regelmatig terug rapporteren over het verloop van de onderhandelingen. Tijdens de CAI bijeenkomsten treden we dus samen met de Europese Commissie op om onze doelen te bereiken.

Een mondiaal instrument ter bescherming van de mensenrechten, democratie en rechtsstaat

Tijdens de vierde plenaire vergadering van 1 tot 3 februari 2023 heeft de CAI besloten de «nulversie» van het verdrag openbaar te maken. Deze «nulversie» is bij deze brief gevoegd. De tekst is opgesteld door het voorzitterschap van de CAI met ondersteuning van het secretariaat, op basis van het werk dat in de CAHAI heeft plaatsgevonden. Deze tekst is nog volop in ontwikkeling zegt dus nog niets over het mogelijke onderhandelingsresultaat.

Zoals te lezen is in deze «nulversie,» bevat de tekst de principes, regels en rechten die ervoor moeten zorgen dat het ontwerp, de ontwikkeling en toepassing van AI-systemen in lijn is met de bescherming van mensenrechten, het functioneren van de democratie en de naleving van de rechtsstaat. De verdragspartijen zullen bepalen hoe ze de bepalingen uit het verdrag implementeren om ervoor te zorgen dat deze principes, regels en rechten worden nageleefd. Tijdens de derde plenaire vergadering is tevens afgesproken dat na de onderhandelingen over dit verdrag nog zal worden gewerkt aan een niet bindende methodologie voor het ontwikkelen van een risico- en impact assessment waarmee verdragspartijen en andere actoren worden ondersteund bij het uitvoeren van artikelen uit het verdrag.

Het (kader)verdrag zal openstaan voor ondertekening en ratificatie door lidstaten van de Raad van Europa en andere staten. Het toekomstige (kader)verdrag zal moeten worden geïmplementeerd in de respectieve jurisdicties van de partijen.

Inzet Nederland

Zoals in het coalitieakkoord (Bijlage bij Kamerstuk 35 788, nr. 77) staat neemt Nederland in Europa het voortouw om zich in te zetten voor de mensgerichte inzet van kunstmatige intelligentie: dit zijn AI-systemen die de mens dienen, veilig zijn en vertrouwd kunnen worden, die ingezet worden met respect voor publieke waarden en mensenrechten en waarbij een goede rechtsbescherming verzekerd is.⁷ Ook zet het kabinet zich in voor het bevorderen van de internationale samenwerking door een voortrekkersrol in de EU en multilaterale organisaties, via het versterken van de trans-Atlantische band en nieuwe partnerschappen, en zet het zich in voor het bevorderen van respect voor mensenrechten in het buitenlandbeleid.⁸

Door de Europese Commissie een mandaat te verlenen is de inzet van Nederland in de CAI niet los te zien van de EU-positie en wat in EU-verband op dit terrein geregeld is. EU-landen moeten namelijk niet gebonden worden aan tegenstrijdige verplichtingen. Nederland zet zich in EU verband al in voor een AI-verordening waarin mensenrechten stevig verankerd zijn. In eerdere brieven bent u daarover geïnformeerd.⁹ Tevens is de Nederlandse inzet tijdens de onderhandelingen op diverse momenten met uw Kamer besproken, en heeft uw Kamer moties ingediend om die inzet te beïnvloeden.¹⁰ De onderhandelingen over de AI-verordening zijn nog niet afgerond. In december 2022 is een raadpositie aangenomen, die ik met uw Kamer heb besproken.¹¹ Momenteel buigt het Europees Parlement zich over de tekst. Vermoedelijk neemt zij dit voorjaar een positie aan, waarna de Raad en het Europees Parlement (samen met de Europese Commissie) tot een akkoord moeten komen.

In de CAI zal Nederland zich eveneens sterk inzetten voor de bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI. Nederland wil een risicogerichte benadering, met proportionele eisen aan AI-systemen zodat risico’s voor mensenrechten al in het ontwerpproces in kaart worden gebracht door het uitvoeren van een risicoanalyse. Nederland richt zich bij dit AI-verdrag in het bijzonder op de extra waarborgen voor burgers en verbeterde rechtsbescherming: Nederland wil dat de inzet van AI, zeker door de overheid, transparant is, en dat voor burgers duidelijk is of de overheid AI-systemen gebruikt bij het nemen of ondersteunen van besluiten, en dat informatie daarover begrijpelijk is en proactief in gewone mensentaal wordt aangeboden. Als AI gebruikt wordt moet de rechtsbescherming daar niet onder lijden. Er moeten dus rechtsmiddelen zijn voor burgers, waarmee zij de geldigheid van een besluit door de overheid, of er nou AI is gebruikt of niet, aan kunnen vechten, en om een menselijke controle kunnen vragen. AI-systemen met een risico moeten dus ook controleerbaar zijn, want de uiteindelijke verantwoordelijkheid ligt bij mensen. Het werk van de CAI is daarnaast van bijzonder belang voor Nederland vanwege de brede werking van dit conceptverdrag. Deze bepalingen kunnen de bescherming van mensenrechten bij de inzet van AI-systemen mondiaal verbeteren. Het is daarom voor Nederland van groot belang dat niet EU-landen en landen die geen lid zijn van de Raad van Europa voldoende betrokken worden bij de onderhandelingen.

Conclusie

Dit Raad van Europa-verdrag biedt de kans om naast de meer gedetailleerde EU-regels ook een mondiaal instrument te creëren met regels voor AI. We zullen samen met de Europese Commissie en andere lidstaten, binnen en buiten de EU en de Raad van Europa, optrekken om ervoor te zorgen dat dit (kader)verdrag een stevig mondiaal instrument is waarmee partijen zich verbinden aan het beschermen van de mensenrechten, democratie en rechtsstaat bij het ontwikkelen, ontwerp en gebruik van AI.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, A.C. van Huffelen

---

1 Kamerstuk 22 112, nr. 3482

2 De Europese Commissie noemt o.a. richtlijn 2001/95/EC over productveiligheid, en richtlijn 2006/123/EC over dienstverlening in de Unie.

3 De Europese Commissie noemt o.a. verordening (EU) 2016/679 en richtlijn 2000/43/EC over het beginsel van gelijke behandeling ongeacht ras of etniciteit.

4 Voorstel voor een verordening van het Europees Parlement en de Raad betreffende geharmoniseerde regels voor kunstmatige intelligentie (Wet kunstmatige intelligentie) en tot wijziging van bepaalde Unie-wetgeving, COM(2021) 206.

5 BESLUIT (EU) 2022/2349 VAN DE RAAD van 21 november 2022 houdende machtiging tot het openen van onderhandelingen namens de Europese Unie over een verdrag van de Raad van Europa inzake artificiële intelligentie, mensenrechten, democratie en de rechtsstaat (PbEU 2022, L311/138).

6 Kamerstuk 22 112, nr. 3529

7 Coalitieakkoord «Omzien naar elkaar, vooruitkijken naar de toekomst» (Bijlage bij Kamerstuk 35 788, nr. 77), p. 30.

8 Coalitieakkoord «Omzien naar elkaar, vooruitkijken naar de toekomst'(Bijlage bij Kamerstuk 35 788, nr. 77), p. 38.

9 Zie bijvoorbeeld: Kamerstuk 22 112, nr. 3129

10 Zie bijvoorbeeld de motie van de leden Leijten en Rajkowski (Kamerstuk 21 501-33, nr. 935) over de mogelijkheid van nationaal toezicht; de motie van de leden Bouchallikh en Dekker-Abdulaziz (Kamerstuk 26 643, nr. 835) over de impact assessment voor mensenrechten en algoritmen (IAMA); de motie van het lid Van Baarle (Kamerstuk 26 643, nr. 879) over concrete antidiscriminatiebepalingen in de AI-verordening.

11 Kamerstuk 21 501-33, nr. 982