﻿<?xml version="1.0" encoding="utf-8"?>
<officiele-publicatie xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:noNamespaceSchemaLocation="http://technische-documentatie.oep.overheid.nl/repository/schemas/op-consolidated/op-consolidated_2014-05-15/xsd/op-xsd-2014-05-15.xsd">
  <metadata>
    <meta name="OVERHEIDop.externMetadataRecord" scheme="" content="https://zoek.officielebekendmakingen.nl/ah-tk-20252026-3038/metadata.xml" />
  </metadata>
  <kamervragen>
    <kamervraagkop>
      <tekstregel inhoud="vergaderjaar">Vergaderjaar 2025-2026</tekstregel>
      <tekstregel inhoud="kameraanduiding">Tweede Kamer der Staten-Generaal</tekstregel>
      <tekstregel inhoud="kamernummer">2</tekstregel>
      <tekstregel inhoud="documenttype">
								Aanhangsel van de Handelingen
							</tekstregel>
      <tekstregel inhoud="overig">
										Vragen gesteld door de leden der Kamer, met de daarop door
										de regering gegeven antwoorden
									</tekstregel>
    </kamervraagkop>
    <kamervraagnummer>3038</kamervraagnummer>
    <kamervraagomschrijving type="vraag">Vragen van de leden <naam><achternaam>El Boujdaini</achternaam></naam> (D66) en <naam><achternaam>Zwinkels</achternaam></naam> (CDA) aan de Staatssecretaris van Economische Zaken en Klimaat over <kamervraagonderwerp>AI-modellen die buiten hun testomgeving inbreken bij organisaties</kamervraagonderwerp> (ingezonden <datum isodatum="2026-08-19">19 augustus 2026</datum>).</kamervraagomschrijving>
    <kamervraagomschrijving type="antwoord">Mededeling van Staatssecretaris <naam><achternaam>Aerdts</achternaam></naam> (<organisatie afkorting="EZK">Economische Zaken en Klimaat</organisatie>) (ontvangen  <datum isodatum="2026-09-14">14 september 2026</datum>).</kamervraagomschrijving>
    <vraag>
      <nr status="officieel">Vraag 1</nr>
      <al>Bent u bekend met berichtgeving over AI-agents die erin slaagden om buiten hun afgeschermde testomgeving («sandbox») te opereren en in het bijzonder met de bevindingen van AI-ontwikkelaar Anthropic, die meldde dat drie van haar modellen tijdens veiligheidstests door een configuratiefout internettoegang kregen en vervolgens op eigen initiatief inbraken bij de systemen van drie organisaties?<noot id="n1" type="voet"><noot.nr>1</noot.nr><noot.al>NRC d.d. 31 juli 2026; Ook Claude rekent zich een weg uit de testomgeving. «Als een mens dit had gedaan zou die ontslagen worden»</noot.al></noot><noot id="n2" type="voet"><noot.nr>2</noot.nr><noot.al><extref soort="URL" doc="https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals d.d" status="actief">https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals d.d</extref>. 30 juli 2026</noot.al></noot></al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 2</nr>
      <al>Is bij u bekend of zich onder de organisaties waarbij modellen ongeautoriseerd toegang kregen ook Nederlandse organisaties bevinden, en zijn zij hierover geïnformeerd?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 3</nr>
      <al>Deelt u de mening dat dit soort incidenten aantonen dat de risico’s van steeds zelfstandiger opererende AI-modellen niet alleen liggen in de capaciteiten van het model zelf, maar ook in de mate waarin testomgevingen adequaat zijn beveiligd en afgesloten door de ontwikkelaars en testpartners?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 4</nr>
      <al>In hoeverre bestaan er op dit moment (inter)nationale normen, standaarden of verplichtingen voor bedrijven die geavanceerde AI-modellen ontwikkelen en testen, ten aanzien van het veilig inrichten en afsluiten van testomgevingen? Als die er niet zijn, of vrijblijvend zijn, bent u bereid zich daarvoor in te zetten?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 5</nr>
      <al>Bent u bekend met benchmarks, zoals SandboxEscapeBench van het Britse AI Security Institute, ontwikkeld om systematisch te testen of AI-modellen in staat zijn om uit hun testomgeving te ontsnappen, en ziet u een rol voor de overheid of Europese instanties om dit soort onafhankelijke toetsing te stimuleren of te verplichten voor in Nederland of de EU actieve AI-bedrijven?<noot id="n3" type="voet"><noot.nr>3</noot.nr><noot.al><extref soort="URL" doc="https://www.aisi.gov.uk/blog/can-ai-agents-escape-their-sandboxes-a-benchmark-for-safely-measuring-container-breakout-capabilities" status="actief">https://www.aisi.gov.uk/blog/can-ai-agents-escape-their-sandboxes-a-benchmark-for-safely-measuring-container-breakout-capabilities</extref> d.d. 23 maart 2026</noot.al></noot></al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 6</nr>
      <al>Deelt u de mening dat de verantwoordelijkheid voor dit soort incidenten primair bij de ontwikkelaars van AI-modellen ligt, en niet louter kan worden afgedaan als een onvermijdelijk gevolg van toenemende AI-capaciteiten?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 7</nr>
      <al>Welke rol ziet u hierbij voor de Europese AI Act en de daarin opgenomen eisen aan risicobeheersing voor AI-modellen voor algemene doeleinden met een systeemrisico?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 8</nr>
      <al>Welke risico’s ziet u voor de nationale veiligheid en digitale infrastructuur wanneer AI-modellen die getest worden door bedrijven wereldwijd, in staat blijken om buiten hun testomgeving te opereren, bijvoorbeeld door ongeautoriseerde toegang tot netwerken of systemen te verkrijgen?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 9</nr>
      <al>Bent u bereid om in Europees verband te bepleiten dat ontwikkelaars van geavanceerde AI-modellen verplicht worden incidenten waarbij modellen uit testomgevingen ontsnappen te melden bij een toezichthouder en getroffen organisaties, vergelijkbaar met meldplichten bij datalekken?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 10</nr>
      <al>Welke maatregelen treft u, of gaat u treffen, om te borgen dat testomgevingen van AI-bedrijven die in Nederland actief zijn of hier data verwerken, aan adequate veiligheidseisen voldoen?</al>
    </vraag>
    <vraag>
      <nr status="officieel">Vraag 11</nr>
      <al>Kunt u deze vragen afzonderlijk van elkaar beantwoorden?</al>
    </vraag>
    <kamervraagopmerking type="mededeling">
      <kop>
        <titel>Mededeling</titel>
      </kop>
      <al>De vragen van het leden El Boujdaini (D66) en Zwinkels (CDA) over «AI-modellen die buiten hun testomgeving inbreken bij organisaties» (<extref doc="kv-tk-2026Z17015" soort="document" status="actief">2026Z17015</extref>) kunnen niet binnen de gebruikelijke termijn worden beantwoord. De vraag richt zich op zeer actuele ontwikkelingen in het AI en cyberveiligheidsdomein, en vergt nadere analyse bij belanghebbende instanties. Ik zal uw Kamer zo spoedig mogelijk de antwoorden op de vragen doen toekomen.</al>
    </kamervraagopmerking>
  </kamervragen>
</officiele-publicatie>