26 643 Informatie- en communicatietechnologie (ICT)

Nr. 1125 BRIEF VAN DE STAATSSECRETARIS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN DE MINISTERS VAN ECONOMISCHE ZAKEN EN KLIMAAT EN VAN ONDERWIJS, CULTUUR EN WETENSCHAP

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 18 januari 2024

Hierbij bieden wij u, mede namens de Minister van Binnenlandse Zaken en Koninkrijksrelaties en de Minister van Sociale Zaken en Werkgelegenheid, de overheidsbrede visie op generatieve artificiële intelligentie (AI) aan. Met het presenteren van deze visie wordt invulling gegeven aan de motie Dekker Abdulaziz en Rajkowski, die uw Kamer in april 2023 met een grote meerderheid aannam.

Door middel van deze overheidsbrede visie benadrukt het kabinet het belang van het ondernemen van actie met het oog op de mogelijkheden en uitdagingen van deze disruptieve en tegelijk kansrijke technologie. Generatieve AI moet in dienst staan van het vergroten van het menselijk welzijn, welvaart, duurzaamheid, rechtvaardigheid en veiligheid. Daarbij gaan we uit van mensgerichte generatieve AI die te allen tijde voldoet aan onze publieke waarden. Daarmee sluit deze visie aan bij de ambities van de Werkagenda Waardengedreven Digitaliseren: iedereen kan meedoen in het digitale tijdperk, iedereen kan de digitale wereld vertrouwen en iedereen heeft regie op het digitale leven.¹ Het kabinet richt de aandacht in het bijzonder op de impact van deze nieuwe digitale technologie op de samenleving. Deze staat in nauwe relatie tot de Strategie Digitale Economie², vooral waar het gaat om het scheppen van de juiste randvoorwaarden voor goed werkende digitale markten en diensten, het stimuleren van digitale innovatie en het versterken van cybersecurity.

Deze brief bevat een overzicht van de belangrijkste punten uit de visie. De overheidsbrede visie is in zijn geheel als bijlage 1 bij deze brief gevoegd. Met deze visie wordt ook een aantal moties en toezeggingen afgedaan. Deze worden in bijlage 2 nader toegelicht.

De visie is opgesteld in samenwerking met medeoverheden, uitvoeringsorganisaties, maatschappelijke organisaties, bedrijven, kennis- en hogeronderwijsinstellingen, AI-ontwikkelaars en burgers. Gelet op het belang van dit zich snel ontwikkelende onderwerp zullen deze gesprekken ook na de publicatie van deze visie worden voortgezet.

Inleiding

AI is een systeemtechnologie die grote impact heeft op alle domeinen en sectoren van onze samenleving, en zal alle beleidsterreinen van de overheid raken.³ Generatieve AI is een specifieke vorm van AI. Het helpt mensen bij het genereren van tekst, computercode, beeld en audio en is nu al een krachtig verlengstuk van het analytisch en scheppend vermogen van mensen gebleken. Zeker sinds de lancering van chatbot ChatGPT eind 2022, en de introductie van andere generatieve AI-tools zoals Google Bard, Midjourney en DALL-E, is het gebruik van AI onderdeel gaan uitmaken van het dagelijks leven van veel mensen in Nederland.

In combinatie met aanverwante technologieën biedt generatieve AI veelbelovende mogelijkheden voor de aanpak van maatschappelijke en wetenschappelijke vraagstukken. Zo kan het bijdragen aan het adequaat en efficiënt stellen van medische diagnoses, het verbeteren van de zorg en het bijdragen aan geneeskundig onderzoek. Economen voorspellen een groei van productiviteit, niet alleen voor grote bedrijven, maar ook voor het midden- en kleinbedrijf (mkb), omdat toepassingen taken zoals het uitvoeren van financiële analyses en juridische processen op kostenefficiënte wijze beschikbaar gemaakt worden. In de culturele sector wordt generatieve AI ingezet ter ondersteuning van het creatieve proces, onder andere bij het maken van marketingcontent of bij het genereren van beschrijvingen van kunstwerken.

Tegelijkertijd zijn er grote risico’s, en kan de verwezenlijking van publieke waarden en grondrechten zoals transparantie, privacy, autonomie en non-discriminatie onder druk komen te staan door onverantwoorde ontwikkeling en het gebruik of misbruik van generatieve AI. Generatieve AI kan bijvoorbeeld worden ingezet voor de creatie en verspreiding van desinformatie; het kan discriminatoire dynamieken versterken en het kan sociaaleconomische ongelijkheden versterken. Het gebruik van generieke AI kan ook systemische risico’s tot gevolg hebben als verstoring van vitale processen.

De ontwikkelingen in generatieve AI gaan onverminderd hard door. Grote mogendheden en techbedrijven onderkennen de potentie van dergelijke geavanceerde AI-systemen en investeren aanzienlijke bedragen in de verdere ontwikkeling ervan.

De brede beschikbaarheid van generatieve AI, de schaal en het tempo waarop de technologie zich momenteel ontwikkelt, vereisen een toekomstbestendige visie. Uw Kamer heeft via verschillende moties het belang hiervan meermaals benadrukt (zie bijlage 2). De acties die uit deze visie voortkomen, zullen helpen om als Nederlandse samenleving de vruchten te plukken van generatieve AI en om de risico’s die daarmee gepaard gaan het hoofd te kunnen bieden.

Impact en onderliggende vraagstukken

Generatieve AI zal (grote) impact hebben op economie, maatschappij en op zowel centrale overheden als decentrale overheden. Het is belangrijk daarbij op te merken dat de toepassingsmogelijkheden van generatieve AI niet altijd op voorhand als kans of risico te bestempelen zijn. Of het zich uiteindelijk als kans of als risico manifesteert, hangt af van de specifieke ontwikkeling, de toepassing van de technologie en de intenties dan wel expertise van de gebruiker. Dit benadrukt het belang van adequate regie op ontwikkeling en gebruik van generatieve AI vanuit de overheid.

i. Kansen en mogelijkheden

Generatieve AI biedt diverse mogelijkheden om processen te optimaliseren en gebruikers te ondersteunen bij een breed scala aan taken. Het kan bijdragen aan het verbeteren van efficiëntie, kostenbesparing, betere besluitvorming, betere dienstverlening en tal van innovatieve oplossingen. De brede inzetbaarheid biedt kansen voor burgers, bedrijven, de overheid en de samenleving als geheel. Gezien de algehele potentie van de technologie voor de samenleving en de economie, zet het kabinet in op het stimuleren van verantwoord experimenteren en verantwoord gebruik van generatieve AI-modellen en systemen in verschillende sectoren en domeinen.

Generatieve AI kan leiden tot productiviteitsgroei. Ook zullen naar verwachting nieuwe taken en verantwoordelijkheden binnen organisaties en in de economie als geheel ontstaan als gevolg van de inzet van generatieve AI. Dit kan leiden tot nieuwe werkgelegenheid en daarmee het ontstaan van nieuwe beroepsgroepen, wat een voortdurende ontwikkeling van vaardigheden en expertise in de samenleving vergt. Bovendien zal de taakinhoud van veel werk veranderen. Daar ligt een kans om werk te verbeteren door repetitieve taken te automatiseren en meer ruimte te maken voor bijvoorbeeld sociale interactie of creatief denkwerk. In verschillende industriële processen kan generatieve AI bijvoorbeeld snel een groot aantal ontwerpalternatieven produceren. Hierdoor kan onder andere in de maakindustrie het ontwerpproces mogelijk aanzienlijk versneld worden. De impact van (generatieve) AI op werk zal naar verwachting breed voelbaar zijn.

Daarnaast kan de inzet van generatieve AI binnen organisaties bijdragen aan de verbetering van interne organisatorische procedures en dienstverlening. Mits met inachtneming van juridische en ethische overwegingen, kan de inzet ervan ten goede komen aan heldere en inclusieve communicatie met gebruikers, verhoogde efficiëntie in juridische en administratieve procedures, en verbeterde besluitvorming op basis van datagedreven beleidsvorming en -evaluatie. Ook de overheid kan van deze inzet van generatieve AI profiteren en zo haar dienstverlening proactief maken en optimaliseren.

In het kader van leren en ontwikkelen kan generatieve AI bijvoorbeeld ondersteuning bieden bij het analyseren van (een grote hoeveelheid) documenten, het uitleggen van complexe concepten en het genereren van oefenmateriaal. Dit draagt bij aan een meer gepersonaliseerde benadering van leren en biedt gebruikers de mogelijkheid om hun kennis op diverse terreinen uit te breiden.

Ook binnen de context van wetenschappelijk onderzoek kan generatieve AI bijdragen aan het bedenken, verbeteren en versnellen van onderzoeksmethodes, bijvoorbeeld in het ontdekken of verfijnen van nieuwe concepten voor medicijnontwikkeling. De impact van generatieve AI is niet beperkt tot specifieke vakgebieden en heeft de potentie om een breed scala aan wetenschappelijke disciplines te ondersteunen.

Generatieve AI kan daarmee als probleemoplosser bijdragen aan het oplossen van grote maatschappelijke problemen. Ondanks zorgen over het energiegebruik van (generatieve) AI-technologie, staat daartegenover potentiële bijdrage die (generatieve) AI kan leveren aan de duurzaamheidstransitie. Generatieve AI kan bijvoorbeeld worden ingezet voor de analyse van natuurlijke ecosystemen of het voorspellen van klimaattrends.

Tot slot kan de inzet van generatieve AI worden ingezet om administratieve processen te ondersteunen en te versnellen, klantenservices te ondersteunen, computercode te schrijven en industriële processen te automatiseren. Dit geeft gebruikers meer ruimte voor inhoudelijke werkzaamheden en draagt op deze manier bij aan een verhoogde algehele kwaliteit van uitgevoerde taken.

ii. Risico’s en uitdagingen

Het gebruik van generatieve AI kan negatief van invloed zijn op publieke waarden zoals non-discriminatie, privacy en transparantie. Als het leidt tot aantasting van ons informatie-ecosysteem is het daarmee van invloed op de democratie en onze rechtsstaat. Voor een goed functionerende democratie zijn goed geïnformeerde burgers en een gemeenschappelijke visie op de realiteit belangrijke randvoorwaarden, evenals een brede steun voor democratische instituties.

Een niet te onderschatten uitdaging bij generatieve AI vormt de eventuele vooringenomenheid en selectiviteit die als gevolg van de gebruikte trainingsdata en modelparameters in de systemen verankerd kan zijn. Dat zet gelijke behandeling en non-discriminatie onder druk. Ook groeit het risico op desinformatie doordat generatieve AI het creëren en verspreiden ervan vergemakkelijkt.⁴ Een voorbeeld hiervan is het eenvoudig kunnen produceren van deepfakes. Ook bestaan er zorgen over mogelijke schendingen van rechten op het gebied van privacy, gegevensbescherming en auteursrechten.

Wat werk betreft, zijn er zorgen over de impact van generatieve AI op werkgelegenheid, de kwaliteit van werk en inkomensverdeling. Zowel op de korte als lange termijn kan generatieve AI leiden tot werkloosheid. Hoewel er nieuwe taken en banen bijkomen en niet alleen maar banen verloren gaan, zullen deze niet altijd direct toegankelijk zijn voor werkenden die door automatisering hun baan verliezen. Hier ligt een opgave om mensen te ondersteunen met het blijven ontwikkelen van hun vaardigheden voor de arbeidsmarkt. Het samenspel tussen generatieve AI en arbeid beïnvloedt bovendien de kwaliteit van werk. Zoals gezegd kan AI werkinhoud verrijken. Maar er is ook een risico dat het taken doet verschralen, de autonomie van werkenden inperkt en de menselijkheid van werkrelaties onder druk zet.⁵ Daarbij kan generatieve AI impact hebben op de verdeling van inkomen en werkzekerheid op de langere termijn.⁶ Daarmee is generatieve AI een potentiële aanjager van polarisatie op de arbeidsmarkt en van toenemende inkomensongelijkheid. Hier ligt onder andere een opgave van digitale inclusie. Als alle mensen handvaten geboden wordt om nieuwe technologie te begrijpen en gebruiken, kunnen zij ook beter inspelen op de veranderingen die dat met zich meebrengt.⁷

Een andere uitdaging betreft machtsconcentratie. De opkomst van generatieve AI-technologie versterkt de al bestaande dynamiek in digitale markten, waarmee het risico op misbruik van marktmacht toeneemt. De meest gebruikte modellen en diensten in Nederland zijn afkomstig van een klein aantal techbedrijven, die beschikken over grote hoeveelheden data, computerkracht en ontwikkelcapaciteit. Deze bedrijven hebben hierdoor een voorsprong en kunnen generatieve AI integreren met hun (bestaande) diensten (ecosysteemvorming) of marktmacht overhevelen om hun positie te verstevigen. Ondanks dat de betreffende bedrijven onderling hevig concurreren, kan dit leiden tot verhoogde toetredingsdrempels, hetgeen potentieel belemmerend is voor een productieve marktwerking. Dit kan bijvoorbeeld leiden tot oneerlijke handelspraktijken, hogere prijzen voor toegang en gebruik van AI-toepassingen en AI-infrastructuur, en minder keuzemogelijkheden voor consumenten en innovatie.

We zijn als Nederland op dit moment grotendeels afhankelijk van taalmodellen uit niet-Europese landen, zoals geschetst in de Agenda Digitale Open Strategische Autonomie.⁸ Dit kan een risico opleveren op het moment dat deze modellen niet stroken met onze Europese normen en waarden. De uitdaging is dan ook om een markt te creëren waarin generatieve AI-toepassingen worden aangeboden die aan alle Nederlandse en Europese waarden en wetten voldoen. Daarnaast zetten we volop in op de ontwikkeling en het gebruik van publieke en open alternatieve modellen die deze waarden en normen respecteren.

Ten aanzien van de maatschappij als geheel vormen de systemische risico’s die verbonden zijn aan het potentieel ontwrichtende karakter van generatieve AI een niet te onderschatten uitdaging. Als gevolg van de toepassing van generatieve AI zou sociale en economische ongelijkheid kunnen toenemen. Een laatste, maar niet te onderschatten aspect, betreft de toenemende energiebehoefte van de training en het gebruik van generatieve AI, die indruist tegen onze doelstelling om energie te besparen en CO₂ te reduceren.

Geconcludeerd kan worden dat generatieve AI de samenleving tot in de haarvaten raakt. Omgaan met de kansen en uitdagingen van generatieve AI is daarmee bij uitstek een opgave die in gezamenlijkheid, interbestuurlijk en intersectoraal moet worden aangepakt, met een lerende en experimenterende aanpak. Dat betekent het continu voeren van een brede maatschappelijke dialoog in Nederland en mede op basis daarvan zoeken naar internationale samenwerking, binnen de EU en mondiaal. Daarvoor moeten we goed op de hoogte zijn van de actuele ontwikkelingen van generatieve AI en ons bewust zijn van de consequenties op sociaalmaatschappelijk, sociaaleconomisch en duurzaamheidsvlak. Alleen zo kunnen we sociaaleconomische impact en verdere digitale transities vroegtijdig zien aankomen en daarop anticiperen. Daarbij moeten we als overheid, in samenwerking met het bedrijfsleven en andere stakeholders, ook zelf blijven leren en experimenteren, bijvoorbeeld via sandboxes waarin we in een gecontroleerde (test)omgeving (generatieve) AI inzetten om kansen te pakken.

Op de impact van generatieve AI – zowel de kansen en mogelijkheden als de risico’s en uitdagingen – wordt uitgebreider ingegaan in de visie (bijlage 1).

Samenhang met huidig beleid en wet- en regelgeving

De Nederlandse overheid werkt al langere tijd aan beleid op het gebied van AI. Het krijgt prioriteit omdat AI een sleuteltechnologie is en daarmee verbonden publieke waarden geborgd moeten blijven. Nederland heeft daarbij de ambitie om binnen Europa een koploper te zijn op de toepassing en regulering van veilige en rechtvaardige generatieve AI.

i. Bestaand beleid

Om tot een toekomstbestendige visie te komen, is het van belang om bestaand beleid en de geldende wet- en regelgeving kort toe te lichten. Voor een groot deel is het ingezette beleid passend voor de uitdagingen en kansen die generatieve AI biedt. Belangrijke ingezette initiatieven in dit kader zijn de volgende:

• De inzet op verantwoorde AI-toepassingen. Via de Nederlandse AI-Coalitie (NL-AIC) werken overheid, bedrijfsleven, onderwijs- en onderzoeksinstellingen en maatschappelijke organisaties samen aan maatschappelijk verantwoorde AI-toepassingen. Onder andere via labs waarin door wetenschappers, ondernemers en publieke instellingen – de zogenoemde ELSA-labs – onderzoek wordt gedaan naar de ethische, juridische en sociale aspecten van AI.

• Het AiNed programma is een publiek-privaat meerjarenprogramma binnen het Nationaal Groeifonds. Het programma heeft de ambitie Nederland blijvend in de kopgroep van AI-landen te krijgen en wil een bijdrage leveren aan economisch herstel en groei, structurele versterking van de economische basis in Nederland, én aan een mensgerichte en verantwoorde toepassing van AI.

• Het is belangrijk dat de overheid een ondersteuningsstructuur faciliteert die de ontwikkeling van AI voor het onderwijs in goede banen leidt. Met financiering van het Nationaal Groeifonds investeren de Ministeries van EZK en OCW voor een periode van tien jaar substantieel in het Nationaal Onderwijslab AI (NOLAI).⁹ Aanvullend ontwikkelt het Nationaal Groeifondsprogramma Npuls onder meer een landelijk AI-punt en AI-visie voor het mbo, hbo en wo om zo de sectoren voor te bereiden op de transformatie van het onderwijs met AI en samen met partners en instellingen deze veranderingen ook mede vorm te geven.

• Op het gebied van veilige AI zijn al grote investeringen gedaan. Via het Innovation Center for Artificial Intelligence (ICAI) wordt in samenwerking met het bedrijfsleven, de overheid en de kennissector volop geëxperimenteerd en onderzoek gedaan.

ii. (Huidige) geldende wet- en regelgeving

Generatieve AI heeft mogelijk negatieve impact op de verwezenlijking van fundamentele rechten, waaronder het discriminatieverbod en het privacy- en gegevensbeschermingsrecht, de bescherming van het auteursrecht en bedrijfsgeheimen.¹⁰

Toepasselijke wettelijke kaders bestaan onder andere uit het discriminatieverbod en het gelijkheidsbeginsel zoals opgenomen in de Grondwet, het Europees Verdrag voor de Rechten van de Mens (EVRM) en het Internationaal Verdrag inzake burgerrechten en politieke rechten (IVBPR). Het privacy- en gegevensbeschermingsrecht is beschermd in het Handvest van de grondrechten van de Europese Unie, het Verdrag betreffende de werking van de Europese Unie, de Grondwet en de AVG en, aanvullend daarop voor Nederland, de Uitvoeringswet AVG (UAVG) en de Wet politiegegevens (Wpg) en de Wet justitiële en strafvorderlijke gegevens (Wjsg).

Als het gaat om toezicht op de naleving van de AVG is de onafhankelijke toezichthouder, in Nederland de Autoriteit Persoonsgegevens (AP), bevoegd. De AP heeft een ruim mandaat en uitgebreide bevoegdheden om te onderzoeken of partijen voldoen aan hun verplichtingen uit de AVG en op grond daarvan de nodige corrigerende en sanctionerende maatregelen te nemen. Het toezien op de rechtmatigheid van gegevensverwerkingen in de private sector in concrete zaken, is dan ook geen taak van het kabinet.

De European Data Protection Board (EDPB) is een onafhankelijk orgaan waarin alle nationale privacytoezichthouders uit de EU en de European Data Protection Supervisor (EDPS) samenwerken. Omdat generatieve AI een grensoverschrijdend fenomeen is dat vraagt om een geharmoniseerde aanpak, heeft de EDPB een taskforce ChatGPT ingesteld om de samenwerking en informatie-uitwisseling over mogelijke handhavingsmaatregelen te bevorderen.⁶De Autoriteit Consument en Markt (ACM) is de toezichthouder op de naleving van de Telecommunicatiewet. Het auteursrecht is beschermd in de Auteurswet en bedrijfsgeheimen in de Wet bescherming bedrijfsgeheimen.

iii. Europese AI-verordening

De AI-verordening vormt het belangrijkste wetgevende kader voor de ontwikkeling en het gebruik van AI in de EU. Ook voor generatieve AI worden er eisen gesteld en toezicht op die eisen ingericht. Op 8 december 2023 is in Brussel een voorlopig politiek akkoord bereikt over de AI-verordening. Na goedkeuring door alle EU-lidstaten en het hele Europees Parlement treedt de wet in werking. Het doel van deze Europese wet is dat er veilige AI-systemen op de interne markt komen met waarborgen voor de bescherming van gezondheid en fundamentele rechten. Om dit te bereiken gaan eisen gelden voor AI-systemen op basis van het risico dat deze met zich meebrengen. Sommige AI-praktijken worden verboden en andere AI-systemen worden aan hoge eisen onderworpen vanwege het risicovolle toepassingsgebied, zoals bij werving en selectie of voor rechtshandhaving. De verordening geldt direct als wet in Nederland. Een deel ervan, zoals het toezicht op verboden en hoog-risico AI-toepassingen, wordt via een Nederlandse wet verder ingericht. Generatieve AI en de krachtige AI-modellen die vaak hieraan ten grondslag liggen en voor een breed scala aan toepassingen kan worden ingezet (ook wel «general purpose AI» (GPAI) modellen genoemd) vallen ook onder de AI-verordening. Zo worden aan alle GPAI-modellen transparantie-eisen gesteld, zodat bedrijven die met specifieke AI-applicaties voortbouwen op deze modellen toegang hebben tot de benodigde technische documentatie om aan de eisen van de AI-verordening te voldoen. Voor de krachtigste GPAI-modellen met systeemrisico’s gaan aanvullende verplichtingen gelden, monitoring van ernstige incidenten, en het uitvoeren van modelevaluaties. Deze verplichtingen worden geoperationaliseerd via praktijkcodes die de Europese Commissie samen met de industrie, de wetenschap, maatschappelijke organisaties en andere belanghebbenden gaat ontwikkelen. Er wordt een Europese toezichthouder ingericht binnen de Europese Commissie, de AI Office, die de nieuwe regels voor GPAI-modellen gaat handhaven.

Voor generatieve AI-systemen, zoals chatbots en systemen die afbeeldingen en video’s genereren, staan in de AI-verordening aanvullende transparantie-eisen. Aanbieders van generatieve AI-systemen moeten ervoor zorgen dat het voor mensen duidelijk is dat ze met een AI interacteren of dat content door AI is gemaakt.

Deze benadering sluit aan bij de inzet van Nederland voor de AI-verordening. Het kabinet vindt het proportioneel dat verplichtingen worden opgelegd aan bedrijven en overheden om mensen te beschermen tegen risico’s die AI-toepassingen met zich mee kunnen brengen. Dit is belangrijk voor veilige ontwikkeling en gebruik van (generatieve) AI, en daarmee voor het vertrouwen vanuit de maatschappij en de markt om de kansen die deze technologie biedt te benutten.¹¹

Over de Europese AI-verordening wordt sinds 21 april 2021 onderhandeld tussen de EU-lidstaten en met het Europees Parlement. Nadat de EU-lidstaten en het Europees Parlement de wet hebben goedgekeurd, treedt de wet in werking. Op basis van het politieke akkoord van december 2023 hebben Nederlandse overheden en bedrijven dan tussen een half en twee jaar de tijd om te zorgen dat AI-systemen die worden ontwikkeld, gekocht en gebruikt aan de eisen van de AI-verordening voldoen. Deze termijn is afhankelijk van het risico ervan, zo zijn sommige AI-praktijken al na 6 maanden verboden. Voor de hoog-risico AI-toepassingen gelden termijnen van 24 en 36 maanden en in die periode wordt de uitvoeringswet opgesteld in consultatie met belanghebbenden en behandeld door het parlement. Voor GPAI-modellen, waaronder de meeste grote AI-modellen vallen die content genereren, zijn de eisen na 12 maanden van toepassing en binnen die termijn wordt het Europese toezicht ingericht.

Overheidsbrede visie op generatieve AI

Generatieve AI maakt deel uit van bredere ontwikkelingen op het gebied van digitalisering en (traditionele) AI, zij het met een disruptiever karakter. Deze vorm van AI kan zowel sterk positieve als sterk negatieve effecten hebben. Dit benadrukt het belang van regie. In lijn met breder digitaliseringsbeleid, zoals de Werkagenda Waardengedreven Digitaliseren, gaat ook bijgevoegde visie daarom uit van een waardengedreven benadering.

Generatieve AI is een veelbelovende technologie. Het is belangrijk dat deze in dienst staat van het vergroten van het menselijk welzijn en autonomie, duurzaamheid, welvaart, rechtvaardigheid en veiligheid. Deze uitgangspunten sluiten ook naadloos aan bij de Duurzame Ontwikkelingsdoelen (SDG’s).¹² Met de ons kenmerkende waardengedreven aanpak heeft Nederland de mogelijkheid om voorop te lopen in Europa en met Europa in de wereld. Het is onze ambitie om een sterk AI-ecosysteem in Nederland en de EU te realiseren waarin volop geïnnoveerd kan worden met verantwoorde generatieve AI. Dit doen we door randvoorwaarden te creëren voor de ontwikkeling en het gebruik daarvan, met behoud van onze digitale open strategische autonomie. Daarom stelt het kabinet vier uitgangspunten centraal.

Generatieve AI in Nederland:

• I. Wordt op een veilige manier ontwikkeld en toegepast.

• II. Wordt op een rechtvaardige manier ontwikkeld en toegepast.

• III. Dient het menselijk welzijn en de menselijke autonomie.

• IV. Draagt bij aan duurzaamheid en onze welvaart.

Nederland heeft met haar waardengedreven aanpak de kans om een leidende rol te spelen in Europa en op wereldniveau. Door specifiek in te zetten op verantwoorde toepassingen van generatieve AI, grijpen we de kansen die deze technologie biedt. Dit doen we voor alle sectoren. Door de nadruk te leggen op een verantwoorde en open toepassing van generatieve AI, kan de hele samenleving hiervan de vruchten plukken.

Daarom wordt overheidsbreed ingezet op:

• Het ontwikkelen van en toepassen van nieuwe generaties generatieve AI met Nederlandse en Europese partners, zo open mogelijk en geschoeid op publieke waarden en grondrechten.

• Het op nationaal, Europees en mondiaal niveau bijdragen aan regulering en stimulering van AI-systemen, waaronder generatieve AI. Nieuw beleid ontwikkelen en zo nodig moderniseren van wet- en regelgeving met het oog op de lange termijn ontwikkeling van generatieve AI en verwante technologieën.

• Het vergroten van het bewustzijn van en kennis over generatieve AI in de samenleving, zodat iedereen de vruchten ervan kan plukken en tegelijkertijd weerbaar is als het gaat om de risico’s.

De voorgestelde aanpak vergt zowel een proactieve en lerende houding als visie en durf. Hierbij is open samenwerking tussen overheid, uitvoering, bedrijfsleven, burgers en wetenschap van belang. Zo is het mogelijk om vroegtijdig signalen op te vangen en bij te kunnen sturen. Daarbij speelt Nederland zowel binnen de EU als daarbuiten een actieve rol in het stimuleren van internationale samenwerking en regulering van generatieve AI.

Van visie naar actie

Om te zorgen dat we in Nederland verantwoord generatieve AI kunnen gebruiken, ontwikkelen en grip kunnen houden op de impact van deze technologie, is actie nodig. Uit de overheidsbrede visie op generatieve AI volgen zes actielijnen. De mogelijke effecten van generatieve AI laten zien dat het belangrijk is om naar eventuele tekortkomingen in het beleid te kijken, omdat die grote gevolgen kunnen hebben voor mensen, de economie en de samenleving. Dat kan aanleiding geven tot het inventariseren van mogelijke aanvullende beleidsacties en het vast te stellen van voorwaarden voor het waardengedreven ontwikkelen en gebruiken van generatieve AI. Een aantal acties zijn reeds lopend, terwijl andere nieuw zijn. Daarnaast worden er ook nog een aantal mogelijk nieuwe acties verkend of onderzocht.¹³ In de visie (bijlage 1) wordt uitgebreid stilgestaan bij de volledige reeks (al ingezette of nieuwe) acties.

1. Samenwerken

Generatieve AI stelt ons voor een aantal fundamentele opgaven. Het aanwakkeren van een maatschappelijke dialoog en samenwerking op verschillende niveaus is cruciaal. Daarom is de visie tot stand gekomen in nauwe samenwerking met alle bestuurslagen, verschillende uitvoeringsorganisaties, bedrijven, domeinen en sectoren. Ook in de toekomst blijft deze samenwerking belangrijk. Dit betekent het actief betrekken van inwoners, uitvoerders, werknemers, werkgevers, ondernemers, bedrijven en professionals. Het is essentieel dat zij een stem hebben in het vormgeven van de toekomst waarin generatieve AI een rol speelt. De Nederlandse AI Coalitie heeft hierin een belangrijke rol, onder meer via de AI-Parade. Daarnaast zetten we het gesprek met inwoners over de kansen en risico’s van generatieve AI en digitalisering voor de samenleving via verschillende wegen voort in 2024 (zoals via het visietraject generatieve AI en dialoogsessies van het Rathenau Instituut).

De veilige en verantwoorde ontwikkeling, gebruik en inbedding van generatieve AI vergt interbestuurlijke samenwerking. Het optimaal benutten van de kansen die generatieve AI biedt vergt een gecoördineerde inspanning van alle overheden, de private sector en het maatschappelijk middenveld. Samen met medeoverheden en uitvoeringsorganisaties verkennen we daarom onder meer manieren waarop generatieve AI kan ondersteunen om de communicatie met burgers te verhelderen en inclusiever te maken. Ook beproeven we via pilots de meerwaarde van het toepassen van generatieve AI bij het verbeteren van overheidsdienstverlening.

Generatieve AI is een grensoverschrijdend fenomeen en vergt daarom ook en internationale samenwerking. In EU-verband participeert Nederland actief in initiatieven om de kennis- en innovatiepositie op generatieve AI te versterken, zoals de Alliance for Languages Technologies EDIC (ALT-EDIC).¹⁴ Tegelijkertijd worden de al lopende gesprekken over internationale governance van AI geïntensiveerd, waarbij het kabinet een actieve bijdrage levert. De governance van generatieve AI heeft geopolitieke aspecten. Daarmee kan het gevolgen hebben voor de internationale orde. Dit maakt intensieve samenwerking met zowel landen binnen de EU als met landen daarbuiten noodzakelijk. Samenwerking met gelijkgestemde landen op aspecten als mensenrechten (zoals het recht op privacy, op informatie en op non-discriminatie) en persoonlijke en internationale veiligheid in relatie tot de ontwikkeling en het gebruik van generatieve AI is van belang. Gremia die hierin een belangrijke rol spelen zijn onder andere het Comité voor AI van de Raad van Europa, het G7 Hiroshima AI proces en de Algemene Vergadering van de Verenigde Naties. Via deze wegen maakt het kabinet zich sterk voor veiligheids- en interpretatieregels voor generatieve AI-modellen en stimuleert het onderzoek naar verantwoorde en transparante AI-modellen. Dit doen we vanuit een waardengedreven benadering, waarbij we ons inzetten voor veilige AI en de bescherming tegen risico's, zodat de kansen van deze technologie optimaal kunnen worden benut.

2. Nauwgezet volgen van alle ontwikkelingen

Gelet op de verwachte exponentiële groei die generatieve AI de komende jaren zal doormaken, is het voor de overheid van groot belang dat medewerkers over de juiste kennis en kunde beschikken (opleiden) en het nauwgezet volgen van relevante ontwikkelingen. Dit betekent dat het kabinet in nauw contact blijft met medeoverheden, uitvoeringsorganisaties, kennisinstituten, commerciële partijen, publieke belangenorganisaties, werkgevers, werknemers en burgers over dit onderwerp.

Een AI-adviesorgaan (of Rapid Response Team) op het hoogste niveau kan het kabinet daarom (mogelijk) adviseren over prangende kwesties rondom belangrijke ontwikkelingen op het gebied van (generatieve) AI. Het kabinet verkent conform de motie Dekker-Abdulaziz en Rajkowski¹⁵ op dit moment het inrichten van een dergelijk adviserend orgaan. Om zicht te houden op de ontwikkeling en het gebruik van generatieve AI bij de overheid werken we samen met medeoverheden aan een monitor.¹⁶

Daarnaast dient er specifiek aandacht te zijn voor de gevolgen voor de arbeidsmarkt. Het gaat dan om zowel de werkgelegenheid als de kwaliteit van werk. Zo heeft het kabinet de Sociaal-Economische Raad (SER) gevraagd om de impact van AI op de arbeidsproductiviteit, kwantiteit en kwaliteit van werk in kaart te brengen.

Ook heeft het kabinet bijzondere aandacht voor de impact van deze technologie op duurzaamheid en klimaat. Generatieve AI kan bijdragen aan het oplossen van klimaatuitdagingen, maar vooralsnog leidt het slechts tot een vergroting van de ecologische voetafdruk. Het is daarom essentieel om deze technologieën te verduurzamen door middel van energiezuinigere methoden en het bevorderen van verantwoorde en duurzame ontwikkeling en gebruik. Als overheid is duurzaamheid een belangrijk uitgangspunt bij de inzet van generatieve AI. Dat betekent dat we als overheid deze technologie niet inzetten als deze grote schade aanricht aan mens en planeet.

3. Vormgeven en toepassen wet- en regelgeving

Burgers en bedrijven moeten erop kunnen vertrouwen dat de overheid passende kaders en regels opstelt voor generatieve AI. Hierbij dient zowel aandacht te zijn voor de wijze waarop bestaande en als ook aankomende wetgeving in staat is om generatieve AI op een veilige en rechtvaardige wijze te ontwikkelen en gebruiken. Duidelijke nationale, Europese (of internationale) kaders kunnen een bijdrage leveren aan het versnellen van innovatie. De Europese AI-verordening, die ook van toepassing zal zijn op generatieve AI, vormt hierbij een stevig fundament. Het kabinet start in 2024 met de overheidsbrede implementatie van de AI-verordening, waarbij onder andere guidance en voorlichting richting betrokkenen van groot belang is.

Bij een zich snel ontwikkelende technologie als generatieve AI is het daarbij belangrijk dat regulering zoveel mogelijk technologieneutraal en adaptief is. Het kabinet zet daarom in op het blijvend monitoren – zowel in nationaal als in Europees verband – of het huidige beleid en wettelijk kader volstaat.¹⁷

4. Vergroten kennis en kunde

Het kabinet zet proactief in op een toename van kennis en vaardigheden om de kansen die generatieve AI biedt ten volle te benutten. Daarbij willen we als overheid het juiste voorbeeld geven door Rijkoverheidsorganisaties een handreiking te bieden voor de inzet van generatieve AI en door de inkoopvoorwaarden met het oog op generatieve AI aan te scherpen. Een kennispunt generatieve AI bij de (Rijks)overheid brengt dergelijke ontwikkelingen mogelijk samen. Het kabinet zet in op het ontwikkelen en behouden van AI-talent, zodat we generatieve AI kunnen ontwikkelen die voldoet aan Europese normen en waarden. Dit is ook van meerwaarde voor de digitale open strategische autonomie van Europa. We verkennen daarbij ook de (noodzakelijke) investeringen in grootschalige wetenschappelijke en technologische infrastructuur (o.a. supercomputers en rekenkracht) op nationaal en EU-niveau om competitief te zijn op het terrein van LLM’s en andere vormen van generatieve AI.

De inzet van generatieve AI vereist vaardigheden bij het beoordelen van de content die wordt gegenereerd door deze technologie. Dit vraagt om verdere inzet op het vergroten van mediawijsheid van verschillende doelgroepen. In het gehele onderwijs worden daarom vaardigheden als kritisch en gestructureerd denken steeds belangrijker. In dit kader doet het Nationaal Onderwijslab AI (NOLAI) onderzoek naar de pedagogische, maatschappelijke en sociale consequenties van generatieve AI.

5. Innoveren met generatieve AI

Bij een overheid die aan het stuur wil staan, hoort een overheid die zelf, binnen de bestaande wettelijke kaders, experimenteert met veilige en verantwoorde generatieve AI om zo te ontdekken waar in concrete toepassingen risico’s en kansen liggen. Het is belangrijk dat er in Nederland een klimaat wordt gestimuleerd waarin er ruimte is voor het experimenteren, testen en opschalen van betrouwbare en transparante (generatieve) AI-modellen en tools.

Daarom onderzoekt het kabinet de inrichting van een publieke nationale AI-(test)faciliteit voor verantwoorde (generatieve) AI in Nederland. Daarbij neemt ook het belang van betrouwbare (Nederlandstalige) datasets als bouwsteen voor generatieve AI-modellen toe. Een Rijks-AI-validatieteam faciliteert publiek beschikbare benchmarking en tooling (zoals bias-detectie) om generatieve AI in Nederland verantwoord in te kunnen zetten.

Met de ontwikkeling van een eigen open taalmodel, GPT-NL, is het startschot gegeven voor het stimuleren van de ontwikkeling van (open) Nederlandse en Europese large language models, in lijn met publieke waarden. GPT-NL wordt een virtuele faciliteit die open staat voor partners die met data en kennis willen bijdragen aan een taalmodel en toepassingen willen ontwikkelen, bijvoorbeeld op het gebied van veiligheid, gezondheid, onderwijs en overheidsdienstverlening. Tegelijkertijd zal er gewerkt worden aan ethische kaders voor het verantwoord gebruik van generatieve AI in de doorontwikkeling van het implementatiekader voor algoritmen (IKA) voor gebruik van de overheid.

6. Sterk en helder toezicht houden en handhaven

Het is cruciaal dat ontwikkelaars, beleidsmakers en toezichthouders – zowel op Europees als nationaal niveau – alert zijn op eventuele ongewenste effecten die de komende jaren kunnen ontstaan als gevolg van de toepassing van generatieve AI. Een proactieve benadering is hierbij essentieel, waarbij de overheid vanaf het begin kaders biedt om de ontwikkeling van generatieve AI in goede banen te leiden en ongewenste (generatieve) AI te weren.

Sterk en helder toezicht vraagt van toezichthouders dat zij tijdens de ontwikkeling en het gebruik kennis opdoen om de ontwikkelingen te kunnen blijven volgen en waar nodig bij te sturen. Goede samenwerking tussen toezichthouders, (rechterlijke) instanties, politiek en samenleving is daarom van groot belang.

Hierbij is het van belang dat toezichthouders hun praktijkervaring gebruiken voor advisering in wetgevingsprocessen, en een belangrijke rol vervullen in het evalueren of het huidige beleid en de wet- en regelgeving nog toereikend is in het licht van de nieuwste ontwikkelingen. De komende jaren zal het aantal generatieve AI-toepassingen flink toenemen. Tegelijkertijd worden de taken van toezichthouders binnen het digitale domein alleen maar groter. Het blijft daarom van belang om te blijven evalueren of toezichthouders beschikken over de kennis en kunde, capaciteit en middelen om hun taken nu en in de toekomst effectief te kunnen uitvoeren.

Tot slot

De impact van generatieve AI op de samenleving zal de komende jaren blijven toenemen en in steeds meer aspecten van ons leven een rol gaan spelen. Het kabinet benadrukt dan ook dat het belangrijk is om de ontwikkelingen en gevolgen van generatieve AI te blijven monitoren en analyseren.

Om als hele Nederlandse samenleving te profiteren van generatieve AI is het belangrijk dat Nederland, als onderdeel van de EU, zelf aan het stuur zit. Nederland streeft er daarom naar om binnen de EU een koploper te zijn op het gebied van veilige en verantwoorde generatieve AI.

De overheid heeft een belangrijke verantwoordelijkheid als het gaat om het in goede banen leiden van de ontwikkeling, toepassing en inbedding van generatieve AI. Deze overheidsbrede visie vormt daarbij een vertrekpunt. Uw Kamer zal eind 2024 worden geïnformeerd over de voortgang. Hierbij zal ook aandacht zijn voor de noodzaak van eventuele (nieuwe) acties of beleid. Medeoverheden en uitvoeringsorganisaties zullen actief betrokken blijven, zeker ook met het oog op uitvoerbaarheid. Ook zal het kabinet de dialoog met het bedrijfsleven over generatieve AI intensiveren, zodat bijvoorbeeld kan worden onderzocht welke bijdrage deze technologie kan leveren aan oplossingen voor maatschappelijke uitdagingen. De razendsnelle ontwikkelingen rechtvaardigen een iteratieve en lerende aanpak. De (verwachte) impact van generatieve AI op vele sectoren en domeinen maakt actieve betrokkenheid van overheden essentieel, zodat alle mensen in Nederland daadwerkelijk de vruchten kunnen plukken van deze technologie en zich beschermd weten.

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, A.C. van Huffelen

De Minister van Economische Zaken en Klimaat, M.A.M. Adriaansens

De Minister van Onderwijs, Cultuur en Wetenschap, R.H. Dijkgraaf

---

1 https://www.rijksoverheid.nl/documenten/rapporten/2022/11/04/bijlage-1-werkagenda-waardengedreven-digitaliseren

2 https://www.rijksoverheid.nl/documenten/kamerstukken/2022/11/18/strategie-digitale-economie

3 We volgen de recent herziene definitie van «AI-systeem» van de OESO (2023): een op machines gebaseerd systeem dat, voor expliciete of impliciete doelstellingen, afleidt, uit de input die het ontvangt, hoe de output zoals voorspellingen, inhoud, aanbevelingen of beslissingen moet genereren die fysieke of virtuele omgevingen kunnen beïnvloeden. Verschillende AI-systemen variëren in hun mate van autonomie en aanpassingsvermogen na de implementatie/toepassing (deployment) ervan.

4 Autoriteit Persoonsgegevens (2023). Rapportage AI- & algoritmerisico’s Nederland (RAN) – najaar 2023.

5 https://osha.europa.eu/sites/default/files/artificial-intelligence-osh-summary_en.pdf

6 https://www.theguardian.com/technology/2023/feb/08/ai-chatgpt-jobs-economy-inequality

7 https://www.technologyreview.com/2023/03/25/1070275/chatgpt-revolutionize-economy-decide-what-looks-like

8 https://www.rijksoverheid.nl/documenten/rapporten/2023/10/17/bijlage-agenda-dosa-tgpdfa

9 https://www.rijksoverheid.nl/documenten/kamerstukken/2023/07/06/visiebrief-digitalisering-in-het-funderend-onderwijs

10 In de visie (bijlage 1) wordt uitgebreider stilgestaan bij het huidig juridisch kader omtrent generatieve AI en hoe deze technologie zich verhoudt tot verschillende (grond)rechten.

11 Kamerstuk 2023–2024, 21 501-33, nr. 1034.

12 https://www.rijksoverheid.nl/onderwerpen/ontwikkelingssamenwerking/internationale-afspraken-ontwikkelingssamenwerking

13 Een aantal mogelijke nieuwe beleidsacties worden verkend of onderzocht. De uitkomsten hiervan worden ook voorgelegd aan het volgende kabinet. Besluitvorming over de eventuele invoering van deze nieuwe beleidsacties, alsmede de financiële dekking daarvoor, is (mogelijk) aan een volgend kabinet.

14 Een EDIC is een juridisch kader in de EU dat de lidstaten helpt bij het opzetten en uitvoeren van meerlandenprojecten.

15 Kamerstuk 2023–2024, 26 643, nr. 1075.

16 Om hier toe te komen worden sessies georganiseerd met o.a. medeoverheden.

17 Zie ook: Rathenau Instituut (2023), Rathenau scan over generatieve AI.