Vragen van het lid Kathmann (GroenLinks-PvdA) aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties en de Minister van Justitie en Veiligheid over een verbod op de AI-chatbot van X (ingezonden 16 januari 2026).

Vraag 1

Bent u bekend met de berichten «X komt met nieuwe beperkingen voor gebruik Grok, maar mensen uitkleden blijft simpel»¹, «Politie en instanties slaan alarm om AI-app Grok: BN’ers digitaal uitgekleed, verbod in Nederland op tafel»² en «Topoverleg tussen OM en Minister over uitkleed-app Grok, topman Musk komt beloftes niet na met nieuwe update»³?

Vraag 2

Is het bij u bekend dat de AI-chatbot Grok van xAI wordt gebruikt om seksuele deepfakes te maken op X? Wat is daarop uw reactie?

Vraag 3

Welke conclusies trekt u op basis van de berichtgeving? Vindt u dat X en xAI verantwoord handelen? Zo niet, welke maatregelen kunt u zowel nationaal als Europees nemen om misbruik van xAI tegen te gaan?

Vraag 4

Wat heeft u met het Openbaar Ministerie besproken in het overleg van 15 januari 2026, waarover het AD bericht heeft? Kunt u de uitkomsten met de Kamer delen?

Vraag 5

Zijn uitkleedapps en -tools verboden in Nederland? Hoe wordt hierop gehandhaafd, en welke gevolgen heeft het voor X dat het platform het genereren van seksuele deepfakes standaard aanbiedt via Grok?

Vraag 6

Welke mogelijkheden bent u aan het verkennen om op te treden tegen uitkleedapps en -tools? Hoe bent u dit aan het onderzoeken en op welke termijn gaat u de uitkomsten met de Kamer delen?⁴ Hoe snel zou u aanvullende maatregelen kunnen nemen?

Vraag 7

Vindt u de maatregelen die X heeft aangekondigd voldoende, namelijk een geoblokkade voor de AI-functie om seksuele deepfakes te genereren in landen die daar wetten tegen hebben? Wat betekent dit voor Nederlandse slachtoffers?

Vraag 8

Deelt u de zorgen van de indiener dat deze geoblokkade gemakkelijk te omzeilen is en geen recht doet aan het leed van slachtoffers die ongewenst seksueel zijn afgebeeld?

Vraag 9

Onder welke voorwaarden vindt u het acceptabel dat Grok beschikbaar blijft op X? Bent u, ook na de technische aanpassingen van de chatbot, van mening dat deze niet langer beschikbaar moet zijn?

Vraag 10

Bent u bereid om, net als in België en het Verenigd Koninkrijk, over te gaan tot het blokkeren van de AI-chatbot Grok? Welke andere ingrijpen heeft u tot uw beschikking?

Vraag 11

Steunt u de oproep van de Europese Commissie dat alle interne documenten en data gerelateerd aan de chatbot Grok moet worden vrijgegeven in het lopende onderzoek naar de contentmoderatie van X?⁵

Vraag 12

Kunt u de relevante toezichthouders, in dit geval de Autoriteit Consument & Markt en de Autoriteit Persoonsgegevens, vragen om hun reactie? Hebben zij voldoende mogelijkheden om toezicht te houden en te handhaven?

Vraag 13

Hoeveel klachten en meldingen zijn er gedaan door slachtoffers van seksuele deepfakes door Grok? Hoe wordt hier opvolging aan gegeven? Gebeurt dit altijd tijdig?

Vraag 14

Hoe is uw contact met X? Heeft u de zorgen over deepfakes al met X besproken? Zo ja, wanneer is dat gebeurd en wat waren de uitkomsten van deze gesprekken? Zo niet, kunt u dit zo spoedig mogelijk alsnog doen?

Vraag 15

Voldoen X en xAI naar uw weten aan de ethische- en transparantieverplichtingen van Nederlandse en Europese wet- en regelgeving? Welke gevolgen heeft het als dit niet het geval is?

Vraag 16

Behoren het verbieden van X of het vertrekken van overheidsorganisaties van de dienst tot de mogelijkheden als X stelselmatig de nationale en Europese wet- en regelgeving blijft overtreden?

Vraag 17

Kunt u deze vragen afzonderlijk van elkaar en zo snel mogelijk beantwoorden?

---

1 NRC, 15 januari 2026; X komt met nieuwe beperkingen voor gebruik Grok, maar mensen uitkleden blijft simpel

2 AD, 15 januari 2026; Politie en instanties slaan alarm om AI-app Grok: BN’ers digitaal uitgekleed, verbod in Nederland op tafel

3 AD, 15 januari 2026

4 Uit uw reactie in het AD: «Als Ministerie van JenV bezien we momenteel hoe we ook aan de kant van de aanbieders van de apps dan wel tools, waarmee deze afbeeldingen worden gemaakt, kunnen optreden en slachtoffers kunnen beschermen.»

5 Politico, 12 januari 2026, «Unthinkable behavior»: Von der Leyen slams Musk’s AI for undressing photos of women

---

1 NRC, 15 januari 2026; X komt met nieuwe beperkingen voor gebruik Grok, maar mensen uitkleden blijft simpel

2 AD, 15 januari 2026; Politie en instanties slaan alarm om AI-app Grok: BN’ers digitaal uitgekleed, verbod in Nederland op tafel

3 AD, 15 januari 2026

4 Uit uw reactie in het AD: «Als Ministerie van JenV bezien we momenteel hoe we ook aan de kant van de aanbieders van de apps dan wel tools, waarmee deze afbeeldingen worden gemaakt, kunnen optreden en slachtoffers kunnen beschermen.»

5 Politico, 12 januari 2026, «Unthinkable behavior»: Von der Leyen slams Musk’s AI for undressing photos of women