26 643 Informatie- en communicatietechnologie (ICT)

Nr. 943 BRIEF VAN DE MINISTER VAN ECONOMISCHE ZAKEN, VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN VAN DE MINISTERS VAN JUSTITIE EN VEILIGHEID, VOOR RECHTSBESCHERMING, VAN BUITENLANDSE ZAKEN EN VOOR BUITENLANDSE HANDEL EN ONTWIKKELINGSSAMENWERKING

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 7 oktober 2022

Met deze brief reageert het kabinet op het in 2021 verschenen rapport «Opgave AI. De nieuwe systeemtechnologie» van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) (bijlage bij Kamerstuk 26 643, nr. 805). Het kabinet heeft met waardering kennisgenomen van het rapport, dat na een uitgebreid onderzoek naar Artificiële Intelligentie (AI) en publieke waarden tot stand is gekomen. Gezien het toenemende gebruik van AI en gezien de impact ervan, is dit onderzoek van grote waarde voor de beleidsvorming van het hele kabinet.

Deze reactie wordt samen met de verzamelbrief publieke controle op algoritmen en de kabinetsreactie op het Rathenau onderzoek «Algoritmes Afwegen» (Kamerstuk 26 643, nr. 924) aan uw Kamer aangeboden. Deze brieven gaan nader in op de inzet van algoritmes door de overheid en kunnen in samenhang met deze kabinetsreactie gelezen worden.

Korte weergave rapport

De samenleving staat volgens de WRR momenteel op een keerpunt wat betreft het gebruik van AI. Door wetenschappelijke doorbraken op het gebied van machine learning en daarbinnen deep learning, gecombineerd met een toename van rekenkracht en beschikbare data, heeft de technologie de overstap van het laboratorium naar de praktijk in sneltreinvaart kunnen maken. Het aantal AI-gerelateerde patenten stijgt en de investeringen in AI groeien aanzienlijk, waardoor er in het bedrijfsleven en bij de overheid steeds meer toepassingen van deze technologie te vinden zijn.

Bijzonder aan AI is haar brede toepasbaarheid. De WRR typeert AI als een systeemtechnologie die invloed heeft op de hele samenleving. AI valt volgens de WRR te vergelijken met de opkomst van de stoommachine, elektriciteit, de verbrandingsmotor en de computer. Dit zijn geen «gewone» maar «systeemtechnologieën», die in uiteenlopende domeinen voor allerlei doeleinden ingezet kunnen worden. Als dit voor AI ook succesvol gebeurt, dan kan deze technologie bijdragen aan een economische groei tot 1,4 procent van het bbp per jaar.¹ Tegelijkertijd heeft een systeemtechnologie ook grote invloed op het leven van mensen, maar is het niet vanzelfsprekend dat de samenleving deze technologie zomaar omarmt.

Het is duidelijk dat de rol van de overheid volgens de WRR zal groeien naarmate AI verder ingebed raakt in de samenleving. De vijf opgaven die de WRR destilleert uit de omgang met eerdere systeemtechnologieën zijn:

• 1) Demystificatie: het vergroten van kennis over AI en het adresseren van onrealistische beelden;

• 2) Contextualisering: het creëren van een goede omgeving om AI te laten functioneren;

• 3) Engagement: het betrekken van maatschappelijke partijen bij de technologie;

• 4) Regulering: het opstellen van toekomstvaste kaders; en

• 5) Positionering: het strategisch nadenken over de positie van Nederland op het internationale toneel.

De overheid dient zich volgens de WRR nu al voor te bereiden op deze vijf opgaven die volgen uit het karakter van AI als systeemtechnologie. Hierbij dient de overheid de geïdentificeerde opgaven structureel te benaderen. Dit is nodig, aangezien de impact van AI op de samenleving vooraf onmogelijk af te bakenen is. Om hier een richting voor te geven komt de WRR in deel 3 van het rapport met 10 aanbevelingen en een slotaanbeveling voor beleid die aan deze opgaven gerelateerd zijn. In de bijlage bij deze brief gaat het kabinet in op deze aanbevelingen.

Algemene appreciatie rapport

Allereerst is het kabinet de WRR zeer dankbaar voor dit uitvoerige en gedegen rapport. Het verrichte onderzoek zal dankzij de brede en multidisciplinaire insteek niet alleen nu, maar ook in de toekomst van grote waarde zijn voor het door de gehele overheid te vormen beleid rond AI.

Het economische en maatschappelijke belang van AI

Het kabinet onderschrijft de conclusie van de WRR dat AI geen «gewone» technologie is maar een systeemtechnologie met een fundamentele en brede impact op de economie en maatschappij. Zoals de WRR aangeeft heeft AI ook invloed op onze burgerrechten, de rechtstaat en publieke waarden, waaronder veiligheid en gezondheid, autonomie en vrijheid, rechtvaardigheid en inclusie. Het is belangrijk om hierbij op te merken dat het niet alleen om negatieve invloed gaat. Het AI-beleid draait om het vergroten van vertrouwen in AI-systemen en het optimaliseren van kansen. AI als technologie ondersteunt ook onze welvaart, de borging van publieke waarden en draagt bij aan het oplossen van maatschappelijke vraagstukken. Ter illustratie:

In de zorg helpen beeldherkenningstoepassingen artsen op dit moment al bij het stellen van diagnoses van bepaalde soorten kanker en bestaan er beslissingsondersteunende hulpmiddelen om de kans op heropname op de intensive care te berekenen. AI wordt op dit moment ook ingezet om het onderhoud van belangrijke duurzame energie infrastructuur beter, goedkoper en makkelijker te maken. Zo bestaan er drones die met behulp van AI windmolens kunnen inspecteren. AI wordt regelmatig ingezet in toepassingen die het leven van mensen gemakkelijker maken. Een concreet voorbeeld is AI-technologie die tekst naar spraak omzet. Dit is met name voor mensen met een visuele beperking een zeer behulpzame oplossing. Ook is de ontwikkeling van AI de drijvende kracht achter de ontwikkeling van rijhulpsystemen en zelfrijdende voertuigen. Dit zorgt voor de beperking van ongevallen in het verkeer, minder files en de beperking van de uitstoot van auto’s. Dit zijn slechts enkele voorbeelden van de inzet van AI die het leven van mensen makkelijker en veiliger maken en economische kansen bieden voor bedrijven.

De WRR hanteert in het rapport de definitie van de Europese High-Level Expert Group on AI: «systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie te ondernemen om specifieke doelen te bereiken.» De opgaven die de WRR voor de systeemtechnologie AI schetst en de aanbevelingen die de WRR doet raken op veel plekken aan het bredere digitaliseringsbeleid en hebben niet altijd betrekking op alleen AI. In deze reactie komt dus naast AI-beleid op sommige plekken ook het bredere digitaliseringsbeleid aan de orde. Deze brede invalshoek is van belang omdat ook de inzet van eenvoudige algoritmen grote gevolgen kan hebben.

AI in het coalitieakkoord: op weg naar een integrale aanpak

Om de positieve invloed van AI te verstevigen en de negatieve invloed zo veel mogelijk te beperken, is een nadrukkelijke rol van de overheid vereist. De WRR benadrukt terecht dat het hierbij niet om een eenmalige opgave gaat, maar dat structurele aandacht nodig is in de vorm van begeleiding, het stellen van kaders, het stimuleren van ontwikkeling en verantwoorde toepassingen van AI, en de inzet van AI door de overheid zelf. Zoals de brede insteek van het rapport «Opgave AI» aangeeft, gaat het ook niet om een opgave die één enkel ministerie of overheidsonderdeel kan adresseren. Een integrale aanpak is vereist om de inbedding van AI in goede banen te leiden.

Vanwege het brede belang, heeft het kabinet in het coalitieakkoord (voor het eerst) een apart hoofdstuk gewijd aan digitalisering en digitale sleuteltechnologieën zoals AI.² Daarin stellen we dat de huidige digitale revolutie grote kansen biedt voor onze samenleving en economie en dat we die kansen willen benutten. Tegelijkertijd zien we ook uitdagingen die digitale technologieën met zich meebrengen, zoals de digitale kloof en groeiende ongelijkheid. Ook kunnen onze veiligheid, rechtsstaat, democratie, mensen- en grondrechten en concurrentievermogen onder druk komen te staan. Het kabinet wil deze risico’s dan ook tegengaan. Nieuw in dit kabinet is dat er een Staatssecretaris van digitalisering is aangesteld die verantwoordelijk is voor de hoofdlijnen van het digitaliseringsbeleid en daarbij toeziet op het verankeren van publieke waarden. In vervolg op het coalitieakkoord heeft het kabinet in de brief «Hoofdlijnen beleid voor digitalisering» het belang van een grotere rol voor de overheid in de begeleiding van de digitale transitie en in een goede maatschappelijke inbedding ervan beschreven.³

AI en algoritmebeleid

AI is onderdeel van het digitaliseringsbeleid maar daarnaast is er ook specifiek beleid en coördinatie voor AI. De afgelopen jaren is er een basis voor een integrale aanpak door de overheid gelegd met het Strategisch Actieplan voor AI (SAPAI). Hierin is voor de eerste keer een gezamenlijke inzet van de overheid geformuleerd, die is gericht op het benutten van de maatschappelijke en economische kansen van AI en het borgen van publieke belangen.⁴ Hier wordt al op verschillende manieren werk van gemaakt. Zo is in 2019 met een brede groep maatschappelijke belanghebbenden een publiek-privaat samenwerkingsverband opgericht, de Nederlandse AI Coalitie (NL AIC). In deze coalitie werken maatschappelijke organisaties, onderwijs- en onderzoeksinstellingen, bedrijfsleven en overheden samen om AI-ontwikkelingen in Nederland te versnellen en AI-initiatieven in Nederland met elkaar te verbinden. Om Nederland als voorop te kunnen lopen in de ontwikkeling van mensgerichte AI hebben er ook verschillende investeringen plaatsgevonden, onder andere via het Nationaal Groeifonds in het AiNed programma voor onderzoek en innovatie.⁵

Zoals uit de uitgebreide reactie op de aanbevelingen hierna (zie bijlage) blijkt, wordt er ook al het nodige gedaan voor de vijf opgaven voor AI. Zo vindt demystificatie plaats in de vorm van het op allerlei manieren vergroten van digivaardigheden en kennis, zowel in de samenleving als binnen de overheid. Het bevorderen van de juiste omgeving om AI te laten floreren (contextualisering) en het betrekken van de samenleving bij deze ontwikkeling (engagement) gebeurt met name via publiek-private samenwerkingsverbanden om verschillende sectoren te ondersteunen bij de toepassing van AI in hun specifieke context. Regulering van AI en vraagstukken die daarmee samenhangen, zoals rond data, vindt vooral op Europees niveau plaats. Nederland draagt bij aan de totstandkoming van EU wet- en regelgeving die zorgt voor een gelijk speelveld en die zowel zorgt voor het benutten van de kansen van digitalisering als grondrechten en publieke waarden versterkt. Daarbij is aandacht voor de praktische uitvoerbaarheid. Een voorbeeld hiervan is de AI-verordening die onder andere AI-systemen met een hoog risico voor mensenrechten, gezondheid en veiligheid reguleert. De AI-verordening legt de basis voor een interne markt voor AI met een gelijk speelveld voor ondernemers en regels om risico’s tegen te gaan. Nederland zet zich hierbij in voor duidelijke kaders voor verantwoord gebruik van AI en ruimte voor ondernemers om te innoveren.⁶ Verder is er EU wetgeving in de maak die de basis legt voor nieuwe verhoudingen op de digitale markt door de controle van gebruikers over hun data te vergroten en door grote technologiebedrijven meer verantwoordelijkheden op te leggen en aan meer controle te onderwerpen. Met de totstandkoming van een AI-verdrag binnen de Raad van Europa zal de bescherming van democratie, rechtsstaat en mensenrechten nog verder worden verstevigd. Internationale positionering van Nederland vindt daarenboven ook plaats door bilaterale en multilaterale samenwerking en door onze open strategische autonomie te versterken, zoveel mogelijk in samenwerking met EU-partners en gelijkgestemde derde landen.

AI in de samenleving

Met deze stappen zijn we er echter nog niet. Om goed voorbereid de overstap te maken naar een samenleving waarin AI een belangrijke rol speelt, moet er meer worden gedaan. Zoals toegelicht in de verzamelbrief publieke controle op algoritmen en de kabinetsreactie op het Rathenau-onderzoek «Algoritmes Afwegen» neemt het kabinet de komende tijd een aantal maatregelen.

Bij deze maatregelen staat het vergroten van transparantie centraal. Om meer kennis op te doen over de werking en de impact van AI, zal het kabinet, in lijn met de aanbeveling van de WRR voor de opgave demystificatie voor overheidsorganisaties het opstellen van een algoritmeregister verplicht stellen. Het algoritmeregister bevat in ieder geval hoog-risico algoritmes. Om het algoritmeregister zo in te richten dat het beheer daarvan haalbaar is voor de uitvoering, zal een uitvoeringstoets worden uitgevoerd. De betrokken organisaties zijn gevraagd om de algoritmes die de afgelopen tijd zijn doorgelicht zoveel mogelijk voor het eind van het jaar in het register te publiceren. Het kabinet wil verder in overleg met overheden komen tot een eenduidige registratie van algoritmen. Het kabinet gaat daarnaast, in aansluiting op de aanbeveling over demystificatie, middels investeringen in 2022–2026 van 2 miljoen euro per jaar, de digitale kennis en vaardigheden (digivaardigheid) van mensen vergroten, zodat iedereen kritisch kan nadenken over de voor- en nadelen van AI en (zo veel mogelijk zelfstandig) mee kan doen in de digitale samenleving.⁷ Ook zal er een jaarlijkse monitoring plaatsvinden waarin aspecten als digivaardigheid, mediawijsheid en kennis van technologie worden meegenomen.

De overheid dient het goede voorbeeld te geven als het gaat om de inzet van mensgerichte en verantwoorde AI. Er bestaan op dit gebied diverse richtlijnen en handreikingen, die meer gestroomlijnd worden in het implementatiekader «inzet van algoritmes» zodat het duidelijk is welke eisen gelden voor overheidsorganisaties als zij algoritmen, waaronder AI, inzetten. Het kabinet wil dit vorm gaan geven door middel van een implementatiekader dat voor alle overheidsorganisaties aangeeft welke waarborgen in acht moeten worden genomen bij de inzet van algoritmen. Om ervoor te zorgen dat het implementatiekader zo uitvoerbaar mogelijk is, zal ten aanzien van het kader een uitvoeringstoets plaatsvinden.

Een ander element dat versteviging behoeft is het toezicht op algoritmen en AI. Bijna alle toezichthouders hebben in hun toezichtsdomein met AI te maken. Stevig toezicht is onmisbaar om ervoor te zorgen dat de nodige waarborgen in acht worden genomen, waardoor de grondrechten en publieke waarden worden beschermd. Bij een gebied dat zich in snel tempo ontwikkelt zoals AI, spelen toezichthouders ook een belangrijke rol bij het signaleren van knelpunten tussen de wet- en regelgeving en de praktijk. Het kabinet investeert daarom in een algoritmetoezichthouder die in de loop van 2023 zal worden ingericht. Ten aanzien van nieuwe toezichtstaken die hieruit voortvloeien zal een uitvoeringstoets worden uitgevoerd. Ook wordt het budget van de Autoriteit Persoonsgegevens structureel verhoogd om het toezicht op de naleving van de AVG in het digitale domein te ondersteunen.

In de bijlage gaat het kabinet verder in op de aanbevelingen van de WRR. Daarin wordt duidelijk gemaakt wat de overheid op dit moment al doet op het gebied van AI, en waar het kabinet van plan is om meer, minder of dingen anders te doen.

Vervolg

Om de ambities uit het coalitieakkoord op het terrein van digitalisering te realiseren zal, zoals toegezegd door de Staatssecretaris Koninkrijksrelaties en Digitalisering een werkagenda digitalisering verschijnen.

Daarnaast zal de Minister van Economische Zaken en Klimaat voor de digitale economie een strategie uitwerken. Hierin zal het kabinet ook ingaan op het belang van AI en de vraag hoe het kabinet de kansen en risico’s van AI zal adresseren.

De Minister van Economische Zaken en Klimaat, M.A.M. Adriaansens

De Staatssecretaris voor Koninkrijksrelaties en Digitalisering, Alexandra C. van Huffelen

De Minister van Justitie en Veiligheid, D. Yeşilgöz-Zegerius

De Minister voor Rechtsbescherming, F.M. Weerwind

De Minister van Buitenlandse Zaken, W.B. Hoekstra

De Minister voor Buitenlandse Handel en Ontwikkelingssamenwerking, E.N.A.J. Schreinemacher

---

1 How nine digital front-runners can lead on AI in Europe, McKinsey & Company. Beschikbaar op https://www.mckinsey.com/business-functions/mckinsey-digital/our-insights/how-nine-digital-front-runners-can-lead-on-ai-in-europe.

2 Bijlage bij Kamerstuk 35 788, nr. 77.

3 Kamerstuk 26 643, nr. 842.

4 Kamerstukken 26 643 en 32 761, nr. 640.

5 https://ained.nl/

6 Kamerstuk 22 112, nr. 3129.

7 Budgettaire bijlage coalitieakkoord 2021–2025, bijlage bij Kamerstuk 35 788, nr. 77.