Datum publicatie	Organisatie	Vergaderjaar	Nummer	Datum ontvangst
14-03-2023 14:19	Tweede Kamer der Staten-Generaal	2022-2023	1835	13-03-2023

Vragen van de leden Dekker-Abdulaziz en Van Meenen (beiden D66) aan de Ministers van Onderwijs, Cultuur en Wetenschap, van Economische Zaken en Klimaat, van Sociale Zaken en Werkgelegenheid en voor Primair en Voortgezet Onderwijs en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over de ontwikkelingen op het gebied van kunstmatige intelligentie (ingezonden 18 januari 2023).

Antwoord van Staatssecretaris Van Huffelen (Binnenlandse Zaken en Koninkrijksrelaties) en Minister Adriaansens (Economische Zaken en Klimaat), mede namens de Ministers van Sociale Zaken en Werkgelegenheid, voor Primair en Voortgezet Onderwijs en van Onderwijs, Cultuur en Wetenschap (ontvangen 13 maart 2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 1472.

Vraag 1

Bent u bekend met de berichten «Natuurlijk gebruiken leerlingen ChatGPT. Het onderwijs kan maar beter anticiperen op de robots»1 (Volkskrant, 16 januari 2023) en «ChatGPT glipt langs docenten: «Ik gebruik het om snel huiswerk te maken»»2 (NOS, 16 januari 2023)? Zo ja, hoe beoordeelt u de desbetreffende berichten?

Antwoord 1

Ja, we zijn bekend met deze berichten. Wat deze ontwikkelingen uiteindelijk voor het onderwijs gaan betekenen weten we nu nog niet zeker. Wat we wel weten, is dat sommige docenten zich nu geconfronteerd zien met de risico’s van deze recente ontwikkelingen op het gebied van artificiële intelligentie (AI) en zich daarover zorgen maken. Die zorgen begrijpen wij. Ook zijn er docenten die kansen zien om met AI hun onderwijs te verbeteren. Er is veel behoefte aan een gesprek over de impact van AI op het onderwijs. Van onderwijsinstellingen vraagt dit om te doordenken hoe zij vanuit hun visie op goed onderwijs dit binnen hun instellingen willen vormgeven. Zij worden hierbij ondersteund door Kennisnet en SURF, die webinars en artikelen aanbieden.

Het is belangrijk om te vermelden dat het onderwijs niet stil staat. De inzet van AI en in bredere zin digitalisering is al langer een belangrijk thema in het onderwijs. Dit zien we terug in goede initiatieven zoals de programma’s Doorpakken op Digitalisering en het Versnellingsplan. Ook in de komende tijd blijft het onderwijs hier aandacht aan besteden. Vanuit OCW wordt in 2023 een expertisepunt voor digitale geletterdheid opgericht als centraal online informatiepunt, loket voor scholen en als ondersteuningsstructuur waar leraren, schoolleiders en bestuurders terecht kunnen voor hulp en informatie over digitale geletterdheid. Hierover zijn we op dit moment in gesprek.

AI is echter niet de eerste technologie die zijn intrede doet in het onderwijs die een impact achterlaat. Zo hadden de rekenmachine en computers bijvoorbeeld ook veel gevolgen, maar worden deze nu veelvuldig gebruikt in de klas. AI kan het onderwijs verbeteren door het leren motiverender te maken, het onderwijs beter af te stemmen op de behoefte van de lerende en docenten te ondersteunen.

Vraag 2

Wat vindt u van de recente ontwikkelingen rondom kunstmatige intelligentie en in het bijzonder ChatGPT? Deelt u de zorgen van de vragenstellers over de gevolgen ervan op het onderwijs?

Antwoord 2

Zoals aangegeven bij vraag 1 geldt dat we nog niet weten wat AI uiteindelijk gaat betekenen voor het onderwijs. Wij begrijpen zowel de kansen als de risico’s die vanuit het onderwijs worden genoemd.

Het kabinet ziet aan de ene kant de positieve waarde van generatieve AI, waar ChatGPT een voorbeeld van is. Zo hebben deze systemen de potentie om efficiëntie en productiviteit te verbeteren. ChatGPT kan bijvoorbeeld teksten schrijven makkelijker maken, en kan zelfs bijdragen bij programmeren. Individuen zijn er ook relatief makkelijk mee in staat tekst te genereren voor doeleinden als vermaak of taalverwerving. Naast ChatGPT zijn afbeeldingen gegenereerd door AI, zoals wordt gedaan door DALL-E, daar een goed voorbeeld van.

Het kabinet ziet anderzijds ook diverse negatieve effecten van generatieve AI en deelt de zorgen van de vragenstellers. AI kan bijvoorbeeld leiden tot biases, waardoor groepen leerlingen en studenten om onterechte redenen benadeeld kunnen worden3^,4. Ook kunnen AI-toepassingen als ChatGPT ingezet worden door lerenden om fraude te plegen bij schrijfopdrachten. Zoals aangegeven bij het antwoord op vraag 3, vraagt dit van het onderwijs om goed te doordenken hoe zij het onderwijs organiseren. ChatGPT is weliswaar in staat om in een handomdraai een toelichtende tekst te genereren over een onderwerp, maar het kan geen betekenis of context afleiden uit deze tekst. Daarom zullen vaardigheden als kritisch lezen, het kritisch analyseren en in context plaatsen van teksten, en het toepassen van opgedane kennis nog belangrijker worden in de nabije toekomst.

ChatGPT kan ook op andere wijzen en in andere domeinen negatieve effecten hebben. Deze effecten kunnen voortkomen uit de werking van de tool, waar het ondanks ingebouwde waarborgen mogelijk is om bevooroordeelde of discriminerende antwoorden te krijgen. Generatieve AI zoals ChatGPT kan ook gebruikt worden voor schadelijke doeleinden. Zoals het makkelijker maken van desinformatie en phishing. Bovengenoemde effecten omvatten niet alle zorgen die er zijn, en niet alle gevolgen zijn op dit moment al goed te overzien, zoals ook de WRR in het algemeen over AI schrijft in het rapport ‘Opgave AI. De Nieuwe systeemtechnologie’5.

Naast de ontwikkelingen in het onderwijs houdt het kabinet de algemene ontwikkelingen rond ChatGPT en dit soort breed toepasbare AI nauwlettend in de gaten. Waar bestaande kaders en maatregelen onvoldoende blijken, zullen we kijken naar wat eventueel aanvullend nodig is.

Vraag 3

Welke handvaten hebben leraren en scholen om om te gaan met kunstmatige intelligentie?

Antwoord 3

De ontwikkeling van AI vraagt van zowel docenten als leerlingen om op een doordachte manier met deze technologie in het onderwijs om te leren gaan. Daarbij is het belangrijk dat scholieren, leraren en de brede maatschappij in gesprek blijven over het gebruik van AI in de klas. Van docenten vraagt dit ook meer op het gebied van didactische en digitale vaardigheden. OCW draagt hieraan bij door het inrichten van een expertisepunt voor digitale geletterdheid in 2023 waar leraren, schoolleiders en bestuurders terecht kunnen voor hulp en informatie over digitale geletterdheid. Van onderwijsinstellingen vraagt dit om te doordenken hoe zij vanuit hun visie op goed onderwijs dit binnen hun instellingen willen vormgeven. Zij worden hierbij ondersteund door Kennisnet en SURF, die webinars en artikelen aanbieden.

Vraag 4 en 5

Hoe voorkomen we negatieve effecten op de kwaliteit van het onderwijs?

Welke stappen gaat u zetten om negatieve effecten te voorkomen en scholen te ondersteunen? En welke positieve gevolgen en kansen voor het onderwijs ziet u?

Antwoord 4 en 5

Wij nemen hiervoor verschillende stappen. Wij zullen in de beleidsreactie op het rapport «Naar hoogwaardig digitaal onderwijs» van het Rathenau Instituut en de verkenning «Inzet van intelligente technologie» van de Onderwijsraad nader ingaan op onze visie op AI in het onderwijs en hoe we de kansen die AI biedt voor beter onderwijs op een veilige en verantwoorde manier kunnen benutten. Daarnaast heeft de Europese Commissie recent een handreiking gepubliceerd voor leerkrachten over hoe om te gaan met AI en data6.

Met behulp van het Nationaal Groeifonds investeren wij substantieel in het realiseren van digitale innovaties die het onderwijs verder helpen, met oog voor de risico’s. Er is € 80 miljoen beschikbaar voor het Nationaal Onderwijslab AI (NOLAI) tot 2035. In het NOLAI werken scholen, wetenschappers en bedrijven samen aan de ontwikkeling en evaluatie van verantwoorde en veilige digitale innovaties die tegemoet komen aan de behoeftes in het funderend onderwijs. In co-creatie projecten werken zij aan een goede inzet van AI in het onderwijs, vanuit een pedagogisch en didactisch verantwoorde basis, met oog voor risico’s als privacy en autonomie van leerlingen en leraren. Zoals blijkt uit de haalbaarheidsstudie van NOLAI kan AI onderwijs op maat ondersteunen, de competentie en autonomie van leerlingen bevorderen, hun digitale geletterdheid vergroten en de werkdruk van leraren verminderen.

Met behulp van het Groeifondsprogramma digitaliseringsimpuls investeren we ook substantieel in de digitalisering van het mbo en ho. Onderdeel van dit programma is de transformatiehub docentondersteuning. Het doel van deze transformatiehub is om docenten evidence-informed te ondersteunen en te professionaliseren, zodat zij over de juiste kennis en vaardigheden beschikken om de ontwikkelingen op het gebied van digitalisering (waaronder AI) bij te houden. Een ander belangrijk onderdeel van het programma zijn de Centers for Teaching and Learning (CTL). De CTL zorgen ervoor dat nationale ontwikkelingen – zoals wetenschappelijke kennis en de bouw van nationale ICT-infrastructuren – doorgeleid worden naar de instellingen. Daarnaast ondersteunen de CTL docenten bij digitaliseringsvraagstukken.

Uiteraard blijven wij in gesprek met het onderwijsveld over de impact van AI op het onderwijs en houden we de ontwikkelingen nauwlettend in de gaten. Zo hebben Kennisnet, de PO-Raad en de VO-raad een monitor ontwikkeld, MYRA, die scholen inzicht geeft in hoe zij ervoor staan op het gebied van technologie en digitalisering. Bewustwording over AI vormt daar één van de onderdelen van, waaronder het gebruik van chatbots in de klas en computational thinking.

Vraag 6

Bent u bekend met het bericht: «We gaan een interessant jaar rondom AI-ontwikkeling tegemoet»7 (Dutch IT Channel) van 7 januari? Zo ja, bent u het ermee eens dat 2023 een cruciaal jaar wordt voor kunstmatige intelligentie en het ethische gebruik daarvan door bedrijven?

Antwoord 6

Ja we zijn ben bekend met de berichten. De ontwikkelingen op het gebied van AI volgen elkaar snel op. Dit is ook door de WRR benadrukt in hun rapport «Opgave AI».

Gezien het toenemende mondiale gebruik van AI, is het ook voor het Nederlandse bedrijfsleven van groot belang dat zij inspeelt op nieuwe technologische mogelijkheden. Dit is niet alleen relevant voor onze concurrentiepositie en welvaart maar ook voor de aanpak van grote uitdagingen zoals de klimaattransitie, verduurzaming van de landbouw en personeelstekorten in de zorg en het onderwijs.

In het Nederlandse bedrijfsleven is al langer aandacht voor de mogelijkheden van AI. Gemiddeld 13% van het Nederlandse bedrijfsleven zet AI in, ten opzichte van gemiddeld 8% in het Europese bedrijfsleven.8 AI-toepassingen worden door snelle

ontwikkelingen op het gebied van analytics en machine learning steeds interessanter voor bedrijven.

Om ervoor te zorgen dat het gebruik van AI door bedrijven op een ethische manier plaatsvindt, is de aanpak van het kabinet gericht op de ontwikkeling van mensgerichte AI. Deze AI moet veilig zijn, transparant en met respect voor fundamentele rechten. Via het investeringsprogramma AiNed wordt er bijna 230 miljoen euro voor AI kennis, innovatie en talent vrijgemaakt. Onder andere de zogenaamde ELSA labs (ethical, legal, societal aspects)

verrichten onderzoek op het gebied van mensgerichte AI en helpen bedrijven bij de toepassing.

Vraag 7

Welke nieuwe kansen en bedreigingen voorziet u voor bedrijven op het gebied van kunstmatige intelligentie naar aanleiding van de meest recente ontwikkelingen? Is de huidige inzet nog actueel in het ondersteunen van bedrijven in het gebruik van kunstmatige intelligentie voor innovatie, verduurzaming en diens productieprocessen?

Antwoord 7

Zie ook de beantwoording op vraag 6 met betrekking tot de kansen voor bedrijven. Nederland staat klaar om in te spelen op de kansen van AI. Aan de ene kant biedt AI kansen voor de aanpak van grote uitdagingen zoals de kilmaattransitie, verduurzaming van de landbouw en personeelstekorten in de zorg en het onderwijs. Daarnaast kan AI onze concurrentiepositie versterken en welvaart vergroten. AI kan voor een economische groei van 1,4 procent van het bbp per jaar zorgen als we de ontwikkeling en het gebruik van AI op grote schaal weten te adopteren.9

In de Strategie Digitale Economie10 zetten we uiteen hoe we het huidige fundament kunnen versterken en daarmee de kansen van AI zo goed mogelijk kunnen benutten. Het is belangrijk dat we blijven investeren in AI zelf en de randvoorwaarden voor de ontwikkeling en het gebruik van deze systemen. Hiermee voorkomen we ook dat we als Nederland te afhankelijk worden van grote technologiebedrijven van buiten de Europese Unie.

Een eerste belangrijke randvoorwaarde waar Nederland al een goede uitgangspositie heeft, is een goed opgeleide beroepsbevolking en internationaal toonaangevende kennisinstellingen. Het kabinet zet zich ervoor in om deze positie te behouden en waar nodig te versterken.11 Het AiNed programma focust zich onder andere op de arbeidsmarkt en zet zich in om de capaciteit voor AI opleidingen en trainingen van werknemers te verhogen. Ook werkt de Nederlandse AI Coalitie (NL AIC) aan het (bij)scholen van werknemers via gratis AI-cursussen met certificering. Daarnaast investeert het kabinet in het versterken van digitale vaardigheden in het algemeen, onder andere via het Actieplan Groene en Digitale Banen.

Een andere belangrijke voorwaarde voor een tech-ecosysteem is de beschikbaarheid van een goede digitale infrastructuur. Nederland beschikt al over een betrouwbare, hoogwaardige digitale infrastructuur en het kabinet heeft dan ook de ambitie om deze positie te behouden en verder te versterken.

Daarnaast bestaat er in Nederland al een sterke Publiek-Private Samenwerking op AI. De NL AIC speelt een belangrijke rol als facilitator van Publiek-Private Samenwerking (PPS). Kennis wordt daar ontwikkeld en gedeeld, ook naar het MKB. Deze samenwerking vindt onder andere plaats met de Regionale Ontwikkelingsmaatschappijen. Onder de NL AIC vallen verschillende werkgroepen die ook sectorale kennis met elkaar delen. Om praktische oplossingen te ontwikkelen voor toepassing van mensgerichte AI door organisaties, zijn er door de NL AIC 22 ELSA labs georganiseerd. Dit stimuleert de mensgerichte toepassing van AI in sectoren als de zorg of bij de energietransitie.

Het kabinet heeft de ambitie om het gebruik van geavanceerde digitale technologieën (waaronder AI) binnen het MKB te verhogen tot tenminste 75% in 2030. Dit gebeurt onder andere via bredere programma’s, waaronder de Versnelling Digitalisering MKB en Smart Industry. Ook worden er Europese Digitale Innovatiehubs (EDIHs) opgericht die het MKB ondersteunen om digitale technologieën, waaronder AI, als gebruikers toe te passen.

Naast het stimuleren van het gebruik van AI, zet het kabinet zich ook in om de ontwikkeling van deze systemen in Nederland te bevorderen. Nederland neemt deel aan Europese Test- en experimenteerfaciliteiten waarin een goede infrastructuur wordt geboden voor het ontwikkelen en gebruik van AI voor specifieke sectoren. Ook gaat het kabinet ontwikkelaars ondersteunen in het voldoen aan regelgeving, zoals de aankomende AI-verordening, via regulatory sandboxes.

Het kabinet blijft zich ervoor inzetten dat de kansen van AI op een verantwoordelijke manier zo goed mogelijk benut kunnen worden, met name bij grote maatschappelijke opgaven zoals de energietransitie en in innovatieve sectoren zoals de maakindustrie.

Vraag 8 en 9

Op welke wijze heeft u de impact van kunstmatige intelligentie op de arbeidsmarkt in kaart gebracht?

Bent u bereid dat met de Kamer te delen?

Antwoord 8 en 9

Zowel internationaal (o.a. OESO12, Eurofound13) als nationaal (o.a. CPB, TNO) doen meerdere partijen onderzoek naar de toepassingen van AI in het arbeidsdomein. Deze onderzoeken richten zich bijvoorbeeld op monitoring en surveillance op de werkvloer en op de effecten van de inzet van AI op gezond en veilig werken.

Zo heeft het CPB recent het rapport «Technologie, de arbeidsmarkt en de rol van beleid»14 uitgebracht. Hierin worden de technologische veranderingen voor de Nederlandse arbeidsmarkt geanalyseerd. In een samenwerking tussen TNO en RIVM wordt daarnaast gewerkt aan een beeldvormende toekomstverkenning op het gebied van gezond en veilig werken. AI komt daarin aan de orde. Daarnaast doet TNO op dit moment een ander onderzoek over wat de mogelijke impact kan zijn van AI op het gebied van gezond en veilig werken. Het College voor de Rechten van de Mens heeft tevens de risico’s en effecten van AI op het gebied van discriminatie bij werving en selectie onderzocht en heeft enkele aanbevelingen gedaan in hun onderzoek genaamd «Recruiter of computer?»15.

Als het gaat om de regulering van de toepassing van systemen voor AI wordt op EU-niveau ingezet op de AI-verordening. Specifiek in het arbeidsrecht wordt een belangrijke stap gezet met het richtlijnvoorstel van de Europese Commissie gericht op een verbetering van arbeidsvoorwaarden in platformwerk. Het richtlijnvoorstel bevat, in aanvulling op de Algemene Verordening Gegevensbescherming, o.a. regels over de toepassing van algoritmes en zien op de transparantie over en het gebruik van geautomatiseerde monitoring- en besluitvorming en de verplichting van menselijke tussenkomst.

Conform de met Uw Kamer gemaakte informatieafspraken wordt Uw Kamer regelmatig geïnformeerd over de voortgang van de onderhandelingen over dit richtlijnvoorstel.

De ontwikkelingen gaan snel. Het kabinet acht het van belang om deze ontwikkelingen goed te volgen. Het kabinet acht het van belang te bezien of de resultaten van onderzoeken gericht op het in kaart brengen van zowel de kansen als uitdagingen rondom AI kunnen worden meegenomen in de beleidsontwikkeling. Dit kan door nationale beleidsontwikkeling, Europese standpuntbepaling en of regulering, al dan niet op Europees niveau. De Autoriteit Persoonsgegevens heeft als coördinerend toezichthouder op de toepassing van algoritmes ook een rol als het gaat om de toepassing van algoritmes in het arbeidsrecht.

Vraag 10

Kunt u dieper ingaan op de kansen en bedreigingen die kunstmatige intelligentie en technologie zoals ChatGPT bieden voor de arbeidsmarkt?

Antwoord 10

ChatGPT geeft het volgende antwoord: «het effect van ChatGPT op de Nederlandse arbeidsmarkt is momenteel onbekend omdat het model nog relatief nieuw is en nog niet op grote schaal is toegepast. Het kan echter worden gebruikt in verschillende sectoren, zoals customer service, waardoor het potentieel heeft om de efficiëntie en productiviteit te verhogen en de kosten te verlagen. Dit kan leiden tot veranderingen in de arbeidsmarkt, zoals automatisering van bepaalde taken en een grotere vraag naar vaardigheden die gericht zijn op het werken met deze technologie.»

In het algemeen kan AI taken en processen optimaliseren, hierdoor kunnen bedrijven efficiënter werken. Door AI kunnen banen en taken verdwijnen maar kunnen ook nieuwe ontstaan. Daarvoor zijn nieuwe vaardigheden nodig. Digitale vaardigheden en gekwalificeerd ICT-personeel zijn een belangrijke randvoorwaarde voor een succesvolle digitale transitie en voor ons toekomstig verdienvermogen. Het is daarom belangrijk om technische, digitale en sociale vaardigheden te verbeteren bij werkenden en te blijven investeren in Leven Lang Ontwikkelen. Het kabinet heeft daarom, in samenwerking met sociale partners, het Actieplan Groene en Digitale banen met de Kamer gedeeld.

Het effect van AI op de Nederlandse arbeidsmarkt zien we bijvoorbeeld bij platformwerk. AI kan hierbij worden gebruikt om werkenden te matchen met klanten, tarieven te bepalen, maar ook om werkenden aan te sturen. AI kan bijdragen aan het efficiënter en «slimmer» maken van platformbedrijven. Bovendien liggen er kansen om de algoritmes, die platformen gebruiken nadrukkelijker in lijn te brengen met overheidsbeleid onder andere op het gebied van gezond en veilig werken. Op deze manier kunnen zowel de platforms, werkenden als klanten profiteren. Maar het levert ook vragen op over onder andere algoritmisch management, zoals of er wel of geen sprake is van gezagsuitoefening, en of werkenden voldoende inzicht en inspraak hebben in de werking van deze algoritmes. Deze vraagstukken zijn onderdeel van de het richtlijnvoorstel over platformwerk.

Het gebruik van AI bij o.a. werving en selectie kan discriminatie met zich meebrengen. Als werkgevers kiezen voor de inzet van een algoritme bij werving en selectie, dan dienen zij volgens het College voor de Rechten van de Mens te controleren of er nog steeds een inzichtelijke, controleerbare en systematische procedure wordt gebruikt.16 Deze aanbevelingen worden meegenomen in de verdere uitwerking van het wetsvoorstel toezicht gelijke kansen bij werving en selectie. Ook worden landelijke en Europese ontwikkelingen op AI (en het tegengaan van de risico’s ervan) nauw gevolgd.

AI kan op veel manieren effect hebben op gezond en veilig werken. Een eenduidig effect is daardoor niet te benoemen. Het gaat daarbij vaak om risico’s die al bestaan, maar door de innovatieve technologie op een andere manier versterkt worden. Daarnaast is nog niet alle beschikbare technologie ook daadwerkelijk wijdverbreid geïmplementeerd op de werkvloer. AI heeft zeker de potentie om werk veiliger te maken. Er moet wel aandacht komen voor mogelijke ongewenste effecten die zulke technologie kan hebben, zoals bijvoorbeeld psychosociale belasting.

Vraag 11

Is het Strategisch Actieplan voor Artificiële Intelligentie bestendig genoeg gezien de recente ontwikkelingen? Bent u bereid om de Nederlandse inzet op kunstmatige intelligentie te herzien naar aanleiding van de snelle ontwikkelingen op het gebied van kunstmatige intelligentie?

Antwoord 11

In het Strategisch Actieplan voor Artificiële Intelligentie van 8 oktober 2019 is de basis gelegd voor de overkoepelende Nederlandse AI-inzet. In de voortgangsrapportages van de Nederlandse Digitalisering Strategie zijn de ontwikkelingen rondom deze inzet jaarlijks meegenomen.

Ook dit kabinet vindt het belangrijk goed zicht te houden op de ontwikkelingen rondom AI, en wat dit betekent voor haar inzet. De recente Kamerstukken de Strategie Digitale Economie17, Werkagenda Digitalisering18 en kabinetsreactie op het WRR-rapport AI19 beschrijven de actuele inzet op AI door dit kabinet. Om integraal zicht te houden op de ontwikkelingen rond AI, en bij te sturen waar nodig heeft dit kabinet daarnaast een Ambtelijke Commissie Digitalisering (ACD) ingesteld die de ontwikkelingen van deze technologie in context van de bredere digitaliseringsopgave beziet.