Vergaderjaar 2022-2023 Tweede Kamer der Staten-Generaal 2 Kamervragen Vragen gesteld door de leden der Kamer 2023Z07754 Vragen van het lid Van Raan (PvdD) aan de Staatssecretaris van Binnenlandse Zake en Koninkrijksrelaties over het aan banden leggen van ChatGPT in Italië vanwege privacyzorgen en de consequenties hiervan voor Nederland (ingezonden 1 mei 2023). Vraag 1 Kent u het bericht «ChatGPT banned in Italy over privacy concerns»?1https://www.bbc.com/news/technology-65139406 Vraag 2 Klopt het dat de Italiaanse toezichthouder besloten heeft tot het aan banden leggen van ChatGPT omdat het bedrijf erachter (OpenAI) mogelijk de Europese privacywetgeving overtreedt? Vraag 3 Klopt het dat er een Europese taskforce is opgericht? Wat is de status en bevoegdheid van zo’n taskforce? Is de Nederlandse toezichthouder daar ook bij betrokken? Zo nee, waarom niet? Vraag 4 Hoe worden de beide Kamers geïnformeerd over de werkzaamheden en uitkomsten van de taskforce? Vraag 5 Weet u welke persoonsgegevens worden verzameld en verwerkt door ChatGPT (OpenAI) in Nederland? Is dat ook bekend voor de gebruikers? Vraag 6 Indien persoonsgegevens verzameld en verwerkt worden door ChatGPT (OpenAI) in Nederland, op welke wettelijke basis gebeurt dat dan? Vraag 7 Bent u het met ons eens dat verzameling en verwerking van persoonsgegevens altijd een wettelijke basis moet hebben? Zo nee, op welke gronden zou die wettelijke basis afwezig mogen zijn? Vraag 8 Indien de wettelijke basis voor verzameling en verwerking van persoonsgegevens afwezig mag zijn (en de wettelijke basis is aanwezig), op welke manier voldoet (het werken met) ChatGPT daaraan? Vraag 9 Klopt het dat er bij ChatGPT ook sprake is geweest van een datalek waarbij gesprekken en betaalgegevens zijn gelekt?2https://www.rtlnieuws.nl/tech/artikel/5375256/chatgpt-chatbot-privacy-datalek Vraag 10 Zo ja, zijn hierbij ook gegevens van Nederlandse gebruikers gelekt? Vraag 11 Zo ja, is dit datalek gemeld bij de Autoriteit Persoonsgegevens, conform de Algemene Verordening Gegevensbescherming (AVG)? Zo nee, waarom niet? Vraag 12 Bent u bereid de Autoriteit Persoonsgegevens om een spoedadvies te vragen over het blokkeren van ChatGPT? Zo nee, waarom niet? Vraag 13 Klopt het dat Nederlandse en Italiaanse privacywetgeving – vanwege de gedeelde Europese basis – vergelijkbaar zijn? Zo nee, waarin verschillen de Italiaanse en de Nederlandse interpretatie van de Europese privacywetgeving? Zo ja, deelt u de mening dat Nederland net als Italië zou moeten omgaan met ChatGPT? Vraag 14 Op welke manier bent u bereid in Nederland het gebruik van ChatGPT zodanig aan banden te leggen dat de kans op overtreding van AVG minimaal is? Vraag 15 Welke andere gevaren ziet u, naast het ongeoorloofd verzamelen en verwerken van persoonsgegevens, van het gebruik van ChatGPT of vergelijkbare AI-systemen? Vraag 16 Zijn er soortgelijke bedrijven en/of vergelijkbare AI-systemen die op eenzelfde of andere manier de wet lijken te overtreden? Bent u bijvoorbeeld bekend met de AI van Snapchat die probeert kinderen tot een fysieke afspraak te bewegen?3https://www.ad.nl/tech/nieuwe-functie-snapchat-wil-met-kinderen-afspreken-zie-ik-je-vanavond-ik-ben-een-echt-persoon~a3f9f4bb/ Voorziet u dat dit mis kan gaan? Vraag 17 Is de Autoriteit Persoonsgegevens bereid hier sectorbreed op te handhaven, ook op toekomstige (geavanceerdere) AI-systemen? Zo ja, wanneer kunnen zij hiermee starten? Zo nee, waarom willen zij dat niet? Vraag 18 Op welke manier is de Autoriteit Persoonsgegevens voorbereid op de exponentiële groei van de capaciteit en dus ook de risico’s van het gebruik van ChatGPT of vergelijkbare AI-systemen? Beschikt ze naar uw mening over voldoende kennis en capaciteit? Zo nee, hoe gaat u dat oplossen?