2020D18170 INBRENG VERSLAG VAN EEN SCHRIFTELIJK OVERLEG

De vaste commissie voor Economische Zaken en Klimaat heeft een aantal vragen en opmerkingen aan de Staatssecretaris van Economische Zaken en Klimaat voorgelegd over de kabinetsappreciatie Witboek over kunstmatige intelligentie (Kamerstuk 26 643, nr. 680).

De ondervoorzitter van de commissie, Azarkan

De griffier van de commissie, Nava

Inhoudsopgave

I Vragen en opmerkingen vanuit de fracties

II Antwoord / Reactie van de Staatssecretaris

I Vragen en opmerkingen vanuit de fracties

Vragen en opmerkingen van de leden van de VVD-fractie

Algemeen

De leden van de VVD-fractie constateren dat het kabinet in antwoord op de initiatiefnota Menselijke Grip op Algoritmen (Kamerstuk 35 212, nr. 2) een taskforce onderzoekt om het wettelijk kader en toezicht rondom algoritmen/Artificiële intelligentie (AI) te onderzoeken en met voorstellen te komen. Zo’n taskforce zou ook belangrijke input kunnen leveren aan de positionering van Nederland in de Europese dialoog over AI. Is het kabinet het hiermee eens en kan het dit meenemen in het onderzoek naar de genoemde taskforce?

1.1 Algemene appreciatie ecosysteem van vertrouwen

De leden van de VVD-fractie lezen dat er voor een meer diepgaande appreciatie een verdere concretisering van de door de Commissie beoogde risicogerichte aanpak nodig is. Wanneer wordt deze verdere concretisering verwacht?

Deze leden vragen in hoeverre de «lerende aanpak» invloed heeft op de snelheid van de invoering van AI-toepassingen. Kan het voorkomen dat deze aanpak de invoering van AI-toepassingen op enige manier belemmert of vertraagt? Zo ja, acht het kabinet de dit problematisch? Wanneer het kabinet het heeft over het wegnemen van risico’s van AI door het invoeren van wetgeving, aan welke risico’s denkt het dan? Hoe verzekert het kabinet dat deze wetgeving geen vertraging zal oplopen ten aanzien van de invoering van AI-toepassingen en dat de EU hierdoor niet aan concurrentievermogen verliest ten opzichte van bijvoorbeeld de Verenigde Staten en China, waar minder strenge wetgeving geldt en innovaties sneller de markt op kunnen komen?

4B. Richting geven aan de inspanningen van de onderzoeks- en innovatiegemeenschap

De leden van de VVD-fractie lezen dat Nederland het belangrijk vindt dat de acties van de Commissie aansluiten bij de, door de NWO uitgebrachte, AI-onderzoeksagenda. In hoeverre is daar nu sprake van? Wat doet het kabinet om de acties van de Commissie aan te sturen?

4D. Focus op het mkb

Ook lezen de leden van de VVD-fractie dat een digitale innovatie per lidstaat een hoge mate van specialisatie dient te hebben. Wat wordt hier mee bedoeld? Is het kabinet het met deze leden eens dat innovatie dient plaats te vinden in de lidstaten die hier het beste toe in staat zijn?

4 E. Partnerschap met de private sector

Verder lezen de leden van de VVD-fractie dat de Commissie een nieuw publiek-privaat partnerschap op te richten voor AI. Kan het kabinet toelichten wat zij de toegevoegde waarde van een dergelijk agentschap vindt? Hoe kan een dergelijk Agentschap complementair zijn aan de bestaande publiek-private samenwerkingsverbanden?

Deze leden lezen dat decentrale overheden een grote rol kunnen spelen bij het integreren van AI in de samenleving en de acceptatie daarvan. Ook lezen zij dat zij een rol kunnen spelen in het opzetten van labs en proeftuinen. Gebeurt dit veel? Zo nee, hoe kan dit worden gestimuleerd?

5E. Adressanten

Tot slot lezen de leden van de VVD-fractie dat het kabinet onderzoekt hoe de verantwoordelijkheid voor bijvoorbeeld grote online platforms voor wangebruik van consumentendata vormgegeven kan worden. Wanneer worden de uitkomsten van dit onderzoek verwacht?

Vragen en opmerkingen van de leden van de CDA-fractie

De leden van de CDA-fractie hebben kennisgenomen van kabinetsappreciatie Witboek over kunstmatige intelligentie. Zij hebben daarover de volgende vragen en opmerkingen.

1.1 Algemene appreciatie ecosysteem van excellentie

De leden lezen dat het kabinet, samen met de Europese Commissie, signaleert dat een technologie als AI in toenemende mate een plek krijgt in het dagelijks leven van bedrijven. Als voorbeeld zien deze leden dat gesproken wordt over het gebruik van (zorg)data en AI als bijdrage aan de bestrijding van infectieziekten als COVID-19. Zij vinden dit een interessant voorbeeld. Deelt het kabinet de analyse van deze eden dat toepassing van AI bij de bestrijding van verspreiding van infectieziekten alleen kan slagen indien er voldoende, kwalitatief goede data beschikbaar zijn? Ziet het kabinet het spanningsveld tussen het gebruik van dergelijke data en de privacywaarborgen waar de Europese Unie ook voorloper in is? Kan het kabinet daarbij meenemen dat de Autoriteit Persoonsgegevens heeft aangegeven dat telecomdata op dit moment niet mogen worden gebruikt voor dergelijke doeleinden en dat er mogelijk een wetsaanpassing voor nodig zal zijn?

In bredere zin vragen de leden van de CDA-fractie het kabinet hoe deze borging van grondrechten, die in Europees verband zijn opgesteld, zich verhoudt tot het voldoende benutten van kansen die kunstmatige intelligentie kan bieden. Ziet het kabinet dat in andere landen, waar minder waarde wordt gehecht aan privacy, de innovatie sneller verloopt?

Om een ecosysteem van excellentie te creëren, legt Nederland de nadruk op het toepassen van een «lerende aanpak». Kan het kabinet duidelijk maken hoe het deze voor zich ziet?

De leden van de CDA-fractie lezen dat «het kabinet Europese initiatieven ondersteunt die zijn ingediend in de «Naar een levendig Europees netwerk van AI excellentie centers». Op welke wijze(n) ondersteunt het kabinet deze en met welke middelen?

Ter bevordering van kennis- en innovatie voor AI kijkt het kabinet naar de mogelijkheden van het aangekondigde groeifonds. De leden van de CDA-fractie vinden dit positief, mede vanuit de gedachte dat we ons als Nederland uit een (economische) coronacrisis moeten «innoveren». Heeft de coronacrisis gevolgen voor dit groeifonds? Wanneer wordt hier meer over bekend?

1.2. Algemene appreciatie ecosysteem van vertrouwen

De leden van de CDA-fractie hebben kennisgenomen van de zes aandachtspunten waarmee volgens het kabinet rekening moet worden gehouden. Een daarvan is het waarborgen van Europese waarden en normen. Deze leden lezen over de mogelijkheid om een «additioneel instrument» in het leven te roepen om deze waarden en normen te beschermen. Zij vragen aan wat voor instrument kan worden gedacht.

Nederland pleit ervoor dat de Commissie het voortouw neemt, daar waar nodig, in het aanpassen van internationale regelgeving of van bilaterale overeenkomsten tussen de EU met derde landen die aan AI raken, een element dat niet opgenomen is in het witboek maar dat volgens Nederland wel relevant is. De Leden zijn dit met het kabinet eens. Welke bestaande internationale regelgeving en bilaterale overeenkomsten zijn op dit moment relevant?

De leden van de CDA-fractie lezen dat ten aanzien van AI moet worden gewerkt aan het vertrouwen en het van dienst zijn van burgers, met een rol voor lokale en regionale overheden. Hoe ziet het kabinet dit voor zich? Zouden de Smart Industry hubs hierbij een rol kunnen spelen?

3. Toekomstige kansen grijpen: de volgende datagolf

In de kabinetsappreciatie lezen de leden van de CDA-fractie dat er op het gebied van datatoegang en -gebruik veel onbenut Europees potentieel is. Kan het kabinet dit onbenutte potentieel toelichten en concretiseren?

4A. Samenwerking met de lidstaten

Dat de Verenigde Staten en Azië veel meer investeren in AI, is de leden van de CDA-fractie bekend. Voor wat betreft de intensivering van de Europese AI-investeringen voor een bedrag van jaarlijks 20 miljard euro per jaar vragen zij waarop dit bedrag is gebaseerd en hoe het zich verhoudt tot de investeringen die de Verenigde Staten en Azië doen.

4B. Richting geven aan de inspanningen van de onderzoeks- en innovatiegemeenschap

De Commissie zal de oprichting van centra van excellentie en testcentra faciliteren, waarbij Nederland het opzetten en verbinden van toonaangevende AI-centra en kennisinstellingen belangrijk vindt. Hoe geeft het kabinet hier op dit moment al invulling aan? Is hierbij ook aandacht voor multidisciplinariteit? Wat kan het kabinet delen over de huidige en potentiële AI-infrastructuur in Nederland?

4C.Vaardigheden

De leden van de CDA-fractie merken op dat de Commissie wijst op de aantrekkingskracht van een «Lighthouse Centre». Is al bekend waar en hoe dit vorm gaat krijgen? Op welke manier(en) draagt Nederland hieraan bij?

4D. Focus op het mkb

De leden van de CDA-fractie delen het belang van AI voor het midden- en kleinbedrijf (mkb). Hierbij spelen Smart Industry hubs en MKB-Werkplaatsen een belangrijke rol. Kan het kabinet met cijfers toelichten hoezeer Nederland er via het huidige netwerk Smart Industry hubs en MKB-Werkplaatsen in slaagt om AI-ondernemerschap naar het brede mkb te brengen?

4E. Partnerschap met de private sector

Er worden 25 nieuwe posities van hoogleraren en academische benoemingen bij academische instellingen in Nederland gecreëerd. De leden van de CDA-fractie vragen of al bekend is welke instellingen dit betreft.

4G. Zorgen voor toegang tot data en computerinfrastructuur

De leden van de CDA-fractie lezen dat Nederland het belang van het verbeteren van de toegang tot data onderschrijft. Hoezeer is ook aandacht voor andere aspecten van data, zoals controle over data, eigendom en zeggenschap, en verantwoording?

5B. Mogelijke aanpassingen van bestaande EU-regelgeving

De Commissie analyseert dat AI-toepassingen door een breed kader aan EU-wetgeving worden gereguleerd, waaronder wetgeving op het gebied van productveiligheid en -aansprakelijkheid, de fundamentele rechten, anti-discriminatiewetgeving, het gegevensbeschermingsrecht en het mededingingsrecht. Ziet het kabinet nog lacunes in de wetgeving, die zouden moeten worden gevuld?

5D. Types eisen

De leden van de CDA-fractie lezen dat Nederland ervoor zal pleiten dat in de ontwikkelfase van AI wordt toegestaan dat (bijzondere) persoonsgegevens worden verwerkt «voor zover dat noodzakelijk is om discriminerende effecten tegen te gaan». Kan het kabinet dit verduidelijken? Met welke waarborgen is dergelijke toestemming omkleed? Hoe en wanneer is er duidelijkheid over wat er moet gebeuren in situaties waar een AI-toepassing getraind is met onrechtmatig verkregen data?

5E. Adressanten

De leden van de CDA-fractie steunen het kabinet bij het versterken van de positie van de digitale consument door deze centraal te stellen in het ontwikkelen en reguleren van B2C-toepassingen van online algoritmes. Het kabinet noemt hiervan verschillende voorbeelden, zoals transparantieverplichtingen, recht op uitleg, grotere zeggenschap van consumenten op algoritmes en recht tot bezwaar en rectificatie. Hoe gaat het kabinet hier concreet werk van maken? Bestaan bijvoorbeeld een agenda en tijdspad om dit te realiseren? Daarnaast onderzoekt het kabinet hoe de verantwoordelijkheid voor bijvoorbeeld grote online platforms voor wangebruik van consumentendata vormgegeven kan worden. Wanneer wordt hier meer over bekend?

Vragen en opmerkingen van de leden van de GroenLinks-fractie

De leden van de GroenLinks-fractie hebben met interesse kennisgenomen van het Witboek Kunstmatige Intelligentie van de Europese Commissie en de kabinetsreactie daarop. Zij hebben nog enige vragen hierover.

1.1 Algemene appreciatie ecosysteem van excellentie

De leden van de GroenLinks-fractie vragen het kabinet nader in te gaan op de «lerende aanpak» die Nederland voorstaat. Bij een leerproces hoort ook het maken van fouten. Hoe gaat het kabinet zorgen dat die fouten snel worden opgespoord en gecorrigeerd? Deze leden zijn van mening dat transparantie daarbij van groot belang is. In hoeverre is het bevorderen van transparantie door middel van de ethische richtsnoeren waar het kabinet naar verwijst, daarbij voldoende? Overweegt het kabinet om de Europese Commissie mee te geven dat transparantie over AI-toepassingen wettelijk moet kunnen worden afgedwongen?

Ook vragen deze leden wat het kabinet precies verstaat onder «transparantie» in de context van AI. Gaat het dan slechts over uitlegbaarheid van algoritmes, of ook over technische transparantie, zoals het openbaren van de broncode, gebruikte datasets en trainingsdata? Indien transparantie zich beperkt tot uitlegbaarheid, hoe kan je je hier als burger toe verhouden? Wordt er over nagedacht of een toezichthouder altijd toegerust moet zijn om het systeem te kunnen doorgronden, ook op verzoek van individuen daartoe?

4C.Vaardigheden

De leden van de GroenLinks-fractie steunen de inzet om het versnipperende landschap van Europese kennisinstellingen op het gebied van AI tegen te gaan en het idee om een coördinerend «Lighthouse Centre» op te zetten. Is daar al meer over bekend? Dergelijke coördinatie moet ook voorkomen dat alle lidstaten op overlappende wijze met dezelfde subthema’s aan de slag gaan. Op welke thema’s zou Nederland zich willen richten?

4F. Het stimuleren van het gebruik van AI in de publieke sector

De leden van de GroenLinks-fractie onderschrijven dat AI-toepassingen ook van nut kunnen zijn in de publieke sector. Zij hebben echter wel grote zorgen over de manier waarop dit punt (4F) is gepresenteerd in het witboek van de Commissie. Het is, volgens het witboek, essentieel dat publieke instellingen snel beginnen met het inzetten van AI-toepassingen. Er wordt niet gerefereerd aan de risico’s hiervan. Daarnaast zijn deze leden van mening dat, zeker in de publieke sector, het eventueel inzetten van AI-toepassingen altijd onderdeel moet zijn van een bredere strategie om bepaalde vooraf gestelde doelstellingen te behalen. We moeten waken voor het inzetten van AI zonder goede reden, of alleen omdat het arbeidskrachten kan besparen. Is het kabinet bereid om deze zorgen op te nemen in de kabinetsappreciatie?

Voorts vragen deze leden of het kabinet kan reflecteren op de zorgen dat AI vaak leidt tot het vergroten van de sociale ongelijkheid. Volgens de Amerikaanse politicologe Virginia Eubanks heeft dit onder andere te maken met het feit dat datasets per definitie nooit neutraal zijn. Hoe ziet het kabinet dit?

De leden van de GroenLinks-fractie vragen waarom de kabinetsappreciatie niet ingaat op punt 4H van het witboek over internationale aspecten van AI? Deze leden delen de analyse van de Europese Commissie dat Europa een goede positie heeft om met gelijkgezinde niet-Europese landen op te trekken op dit gebied. Tegelijkertijd vragen deze leden zich af hoe Europa om zal gaan met niet-gelijkgezinde landen. Zij lezen daar niets over terug. Is het kabinet bereid om dit punt toe te voegen aan de kabinetsappreciatie en de Europese Commissie te verzoeken om een strategie uit te werken hoe om te gaan met bedrijven, producten en diensten van buiten de Europese Unie die op het gebied van AI niet voldoen aan de Europese benadering?

5B. Mogelijke aanpassingen van bestaande EU-regelgeving

De leden van de GroenLinks-fractie delen de analyse van de Commissie dat er lacunes bestaan in het huidige wettelijk kader, met name op het gebied van transparantie, uitlegbaarheid, herleidbaarheid en menselijk toezicht. Ook verwelkomen zij de kabinetsappreciatie die het bestaan van dergelijke lacunes erkent. Op welke termijn kan additionele wetgeving worden verwacht?

5C. Reikwijdte van een toekomstig EU-regelgevingskader

De leden van de GroenLinks-fractie kunnen zich vinden in de twijfels die het kabinet heeft bij de sector-gebaseerde benadering die de Commissie voorstelt om «hoog-risico» AI-toepassingen te identificeren. Dit mag er namelijk niet toe leiden dat risico’s in andere sectoren over het hoofd worden gezien. Tegelijkertijd kan het categoriseren van toepassingen wel degelijk van nut zijn om een gedifferentieerde behandeling mogelijk te maken. Zo zou voor bepaalde toepassingen van extreem hoog risico een verbod moeten worden overwogen. Wanneer kan de Kamer de nadere bezinning op het concretiseren van de risicobenadering, waar het kabinet aan refereert, tegemoetzien?

5D. Types eisen

De leden van de GroenLinks-fractie kunnen zich in algemene zin goed vinden in de types eisen die de Europese Commissie heeft voorgesteld. In de kabinetsreactie staat dat Nederland ervoor zal pleiten dat in de ontwikkelfase van AI wordt toegestaan dat bijzondere persoonsgegevens worden verwerkt. Kan het kabinet hier nader op ingaan? Hoe verhoudt dat zich tot de AVG?

Kan het kabinet ook nader ingaan op het Nederlandse standpunt inzake biometrische identificatie? Het kabinet lijkt te suggereren dat sommige toepassingen van gezichtsherkenning met gebruik van AI geen hoog risico kennen, terwijl de Europese Commissie stelt dat alle toepassingen van biometrische identificatie als «hoog-risico» moeten worden aangemerkt. Kan het kabinet nader ingaan op dit verschil?

Kan het kabinet ook ingaan op de toepassing van AI voor het produceren van «deepfake»-video’s? Kan dit automatisch worden aangemerkt als «hoog-risico»? Hoe kijkt het kabinet hiernaar en is het bereid om in de kabinetsappreciatie de Commissie op te roepen om dit punt mee te nemen?

5F. Naleving en handhaving

De leden van de GroenLinksfractie kunnen zich goed vinden in het voorstel van de Commissie voor een voorafgaande conformiteitsbeoordeling voor AI-toepassingen met een hoog risico. Het kabinet schrijft dat het de voorkeur heeft om uit te gaan van reeds bestaande instrumenten en dat zelfregulering ook een optie kan zijn. Hoe verhoudt dit zich tot de erkenning dat er lacunes bestaan in het huidige wettelijk kader met betrekking tot AI? Onder welke omstandigheden vindt het kabinet zelfregulering een optie?

5H. Governance vraagstukken

De leden van de GroenLinks-fractie ondersteunen de inzet van de Commissie dat de governancestructuur rond AI op Europees niveau moet zorgen voor de participatie van alle betrokken stakeholders, inclusief het maatschappelijk middenveld en academici uit verschillende vakgebieden. Is het kabinet bereid om dit punt ook te benadrukken in de kabinetsappreciatie? Op welke manier worden Nederlandse stakeholders uit deze sectoren betrokken in de Europese governancestructuur rond AI?

Tenslotte missen de leden van de GroenLinks-fractie, zowel in het Witboek van de Europese Commissie als in de kabinetsappreciatie daarvan, een bespiegeling op de langeretermijn effecten van AI. Daarbij valt te denken aan de effecten op de democratie en de rechtsstaat, op de arbeidsmarkt en economie. Is het kabinet bereid om dit punt op te nemen in de kabinetsappreciatie en de Commissie op te roepen om de langeretermijneffecten scherp in beeld te houden en daar ook voortdurend onderzoek naar te doen?

II Antwoord / Reactie van de Staatssecretaris