26 643 Informatie- en communicatietechnologie (ICT)

32 761 Verwerking en bescherming persoonsgegevens

Nr. 669 LIJST VAN VRAGEN EN ANTWOORDEN

Vastgesteld 20 februari 2020

De vaste commissie voor Justitie en Veiligheid heeft een aantal vragen voorgelegd aan de Minister van Justitie en Veiligheid over de brief van 3 december 2019 inzake artificiële intelligentie bij de politie (Kamerstukken 26 643 en 32 761, nr. 652).

De Minister heeft deze vragen beantwoord bij brief van 18 februari 2020. Vragen en antwoorden, voorzien van een inleiding, zijn hierna afgedrukt.

De voorzitter van de commissie, Van Meenen

De adjunct-griffier van de commissie, Burger

Inleiding

Hierbij doe ik u, mede namens de Minister voor Rechtsbescherming, de antwoorden toekomen op de schriftelijke vragen over de kamerbrief «Artificiële intelligentie bij de politie»¹ die de vaste commissie voor Justitie en Veiligheid op 10 februari 2020 aan mijn ministerie heeft gericht. Ik dank de commissie voor de interesse en belangstelling die uit de 82 gestelde vragen blijkt.

Ik maak graag van de gelegenheid gebruik om eerst in het algemeen de ontwikkeling en toepassing van artificiële intelligentie (AI) bij de politie toe te lichten.

Algoritmes worden al decennia gebruikt bij de politie voor vele politieprocessen. In de basis is een algoritme een serie van instructies in een workflow om een wiskundig probleem op te lossen. Niet elk algoritme (en ook niet elke data science toepassing) is AI. Pas als het gaat om algoritmes waarbij systemen intelligent gedrag kunnen vertonen en gemaakt zijn om in meer of mindere mate zelfstandig te kunnen leren en acties te kunnen ondernemen spreken we van AI.

In de praktijk betekent dit dat veel van de data science toepassingen die de politie gebruikt, waaronder het Criminaliteit anticipatie systeem (CAS), geen AI component hebben. Ook niet als deze meer complexe algoritmes bevatten dan voorheen of gebruik maken van technieken die ook voor AI gebruikt worden. Het gaat in die gevallen vaak om het gebruik van meer eenvoudige algoritmes of algoritmes die eenvoudig zijn te verklaren. Deze meer eenvoudige algoritmes zijn reeds geruime tijd in gebruik bij de politie. Het CAS is daar een goed voorbeeld van. De zogenoemde hotspot benadering, waar op basis van bestaande data wordt bepaald waar het waarschijnlijk is dat bepaalde vormen van openbare orde verstoring of criminaliteit voorkomt, wordt al vele jaren gebruikt. Het CAS is daar de meest recente en geavanceerde versie van. CAS geeft een verwachting voor een bepaald gebied en geen output die tot personen te herleiden zijn.

Hoewel het helder is dat veel vormen van gebruik van data geen AI zijn, is het minder eenvoudig om exact te stellen wanneer er wel sprake is van AI.

Slechts in een aantal gevallen ontwikkelt en gebruikt de politie op dit moment AI. Dit aantal zal in de toekomst gaan groeien. Zoals ik in genoemde brief uiteen heb gezet is het gebruik van AI bij de politie geen luxe maar noodzaak om effectief te kunnen blijven optreden. De verwachting is dat AI uiteindelijk tot een breed geaccepteerde en gebruikte techniek zal uitgroeien. Zoals bij meer nieuwere vormen van techniek is het van groot belang om de ontwikkeling zorgvuldig vorm te geven. In mijn brief en uit de antwoorden van onderstaande vragen blijkt dat dit bij de politie voorop staat.

Om de beantwoording van vragen gestructureerd vorm te geven heb ik er voor gekozen om de vragen per onderwerp te clusteren. Ik zal eerst starten met de beantwoording van vragen over toepassingen van AI bij de politie.

Toepassingen van AI

17.

Kunt u, zo nodig vertrouwelijk, een overzicht geven welke AI toepassingen op dit moment in bedrijf of in ontwikkeling zijn bij de politie?

37.

Voor welke werkprocessen bouwt de politie op dit moment aan AI-toepassingen binnen de politieorganisatie?

42.

Bij welke van haar taken wordt er reeds AI toegepast door de politie?

Antwoord vragen 17, 37 en 42:

Er zijn momenteel nog slechts een beperkt aantal toepassingen van AI in de zin dat systemen intelligent gedrag vertonen en in meer of mindere mate zelfstandig kunnen leren en acties kunnen ondernemen. Er zijn bijvoorbeeld toepassingen die het werk van politiemedewerkers vergemakkelijken maar die geen aanmerkelijke gevolgen voor burgers hebben. Daarbij kan gedacht worden aan het doorzoeken van in beslaggenomen gegevensdrager op afbeeldingen met beeldherkenning om een bepaald object te vinden. Dit versnelt het werk van rechercheurs en maakt het werk effectiever en efficiënter. De uitkomst van de analyse heeft dezelfde gevolgen voor burgers als wanneer deze analyse handmatig was uitgevoerd, en is bovendien slechts een van de vele aanwijzingen in het totale onderzoek. Een ander voorbeeld is de in mijn brief van 3 december 2019 reeds genoemde keuzehulp die wordt ingezet bij meldingen van internetoplichting.

Op de meeste terreinen wordt op dit moment dus nog geen gebruik gemaakt van AI. AI is een technologisch hulpmiddel waarmee diverse werkprocessen beter, sneller of effectiever kunnen worden uitgevoerd. AI biedt daarom voor de toekomst kansen indien het breder wordt toegepast om politiemedewerkers te ondersteunen bij hun werk. In potentie kan AI uiteindelijk bij alle politieprocessen worden ingezet.

Er wordt op dit moment vooral gewerkt aan naar de ontwikkeling van concepten en toepassingen die meerwaarde hebben in het ondersteunen van politiemensen in hun werk. Het gaat bijvoorbeeld om:

• spraak naar tekst (bv. mutaties via spraak opnemen in het systeem om bureauwerk te verminderen)

• beeldherkenning (bv. zoeken van afbeeldingen in grote bestanden)

• (natuurlijke) tekstanalyse (bv. keuzehulp internetoplichting)

• dialoogsystemen (bv. chatbot voor dienstverlening)

• explainable AI (bv. uitlegbare beeldherkenning)

43.

Zijn er terreinen binnen het politiewezen waar nu nog geen gebruik wordt gemaakt van AI, maar die wel kansen bieden voor het gebruik van AI?

Antwoord op vraag 43:

Echte AI toepassingen in de zin dat systemen intelligent gedrag vertonen en in meer of mindere mate zelfstandig kunnen leren en acties kunnen ondernemen komen binnen de politie nog beperkt voor. Op de meeste terreinen wordt op dit moment nog geen gebruik gemaakt van AI. AI is een technologisch hulpmiddel waarmee diverse werkprocessen beter, sneller of effectiever kunnen worden uitgevoerd. AI biedt daarom voor de toekomst kansen indien het breder wordt toegepast om politiemedewerkers te ondersteunen bij hun werk. In potentie kan AI uiteindelijk bij alle politieprocessen worden ingezet.

44.

Kan meer duidelijkheid worden gegeven over hoe wordt bepaald welke taken zullen worden uitgevoerd door de politie met hulp van AI?

Antwoord op vraag 44:

Op dit moment worden AI toepassingen vooral op kleine schaal ontwikkeld en toegepast dicht bij de uitvoering, waar een operationele behoefte ligt en collega’s actief meewerken in proeftuinen. Naarmate de conceptontwikkeling verder is gevorderd en toepassingen breder beschikbaar komen, worden hiervoor ook op tactisch en strategisch niveau richtinggevende kaders gegeven, in aansluiting met de bij de politie in ontwikkeling zijnde innovatiestrategie waarin AI als sleuteltechnologie een belangrijke rol heeft.

4.

Hoe wordt AI toegepast op het gebied van de financiële misdaad?

Antwoord vraag 4:

Zoals reeds gemeld komen echte AI toepassingen in de zin dat systemen intelligent gedrag vertonen en in meer of mindere mate zelfstandig kunnen leren en acties kunnen ondernemen binnen de politie nog zeer beperkt voor. Op dit moment wordt binnen de politie AI nog niet toegepast op het gebied van de financiële misdaad.

46.

Bij welke politietaken wordt AI reeds gebruikt in het kader van de aanpak van ondermijning? Is er ruimte binnen dit domein om meer AI te gebruiken? Hoe wordt dit getoetst?

Antwoord vraag 46:

Er is ruimte om binnen alle politieprocessen te onderzoeken in hoeverre AI toepassingen meerwaarde hebben en hiermee te experimenteren. Ook binnen de aanpak van ondermijning. Hiervoor gelden dan dezelfde uitgangspunten zoals aangegeven in de brief. In het nieuw in te richten MIT team worden enkele Data Scientists opgenomen om de aanpak van ondermijning te versterken.

8.

Wordt overwogen of al geëxperimenteerd met het gebruiken van het Criminaliteits Anticipatie Systeem (CAS) voor misdrijven die buiten de categorie van High Impact Crimes vallen?

Antwoord vraag 8:

Sinds enkele jaren wordt in Nederland de term «high impact crimes» (HIC) gebruikt om delicten aan te duiden die een grote impact op het slachtoffer, diens directe omgeving en het veiligheidsgevoel in de maatschappij hebben. Onder de klassieke HIC-delicten worden (gewelddadige) vermogensdelicten geschaard, om precies te zijn woninginbraak, straatroof en overvallen. Het Criminaliteits Anticipatie Systeem (CAS) wordt gebruikt ter voorkoming van diefstal/inbraak woning, straatroof, diefstal van personenauto’s of uit personenauto’s, zakkenrollerij, diefstal van snor/brom/fiets, diefstal uit bedrijf of kantoor, overlast jeugd, vernieling, openbare schennis der eerbaarheid en verdovende middelen / drugshandel. De aanwezigheid van de politie op plekken waar een verhoogde kans is op deze en andere soorten delicten kan bijdragen aan de voorkoming ervan. CAS wordt dus al gebruikt voor high impact crimes maar is niet beperkt tot deze categorie. Een regionale eenheid binnen het politiekorps kan op basis van lokaal gedefinieerde speerpunten en voldoende beschikbare data, een gewenste categorie in CAS opnemen. Wanneer er geen duidelijk patroon wordt gevonden, wordt dit niet op de kaart getoond. Daarnaast wordt de uitkomst van CAS altijd door een analist beoordeeld en al dan niet meegenomen in het geheel van de informatiepositie. Overigens hecht ik er aan om op te merken dat het CAS geen AI bevat.

30.

In hoeverre wordt AI nu al toegepast door de politie als het gaat om het beoordelen van meldingen van oplichting? Is hetgeen te zien is in het tv-programma TROS Radar maatgevend voor hoe AI functioneert? Klopt het dat meer dan de helft van de opgelichte mensen van de politie het advies krijgt om een advocaat in de arm te nemen, en dat de politie de aangifte niet wil opnemen, omdat het civiele zaken zou betreffen en geen strafrechtelijke zaken? In hoeverre kan AI werken, als de menselijke beoordeling van oplichtingszaken nu al niet werkt? Wordt de toepassing van AI dan niet een foutenfestival in het kwadraat?

Antwoord vraag 30:

AI wordt ingezet voor het adviseren van burgers over meldingen van internetoplichting. Internetoplichting is een vorm van oplichting die de laatste jaren is opgekomen en waar in toenemende mate melding van wordt gedaan. De grens tussen wanneer er sprake is van oplichting (misdrijf in het Wetboek van Strafvordering) en wanneer er sprake is van bijvoorbeeld een wanprestatie (die moet worden opgelost via het civiel recht) is niet altijd even duidelijk voor burgers. Dat zorgde er voor dat er veel meldingen werden gedaan van feiten die niet strafbaar zijn, namelijk een wanprestatie. De keuzehulp geeft burgers die melding willen doen van internetoplichting een advies over welke route waarschijnlijk het meest kansrijk is. Als het voorval waarover de burger melding wil doen mogelijk een strafbaar feit betreft dan is melding (en aangifte) de geëigende weg. Als het bijvoorbeeld gaat om een wanprestatie dan is de route via de civiele rechter de juiste route. Dit is dan het advies dat de burger krijgt. Het staat de burger altijd vrij om bij de politie melding of aangifte te doen. Het gegeven advies is dus geen dwingend advies en kan door de melder worden genegeerd. Op elk moment gedurende de interactie met het systeem kan deze interactie afgebroken worden en de aangifte direct worden gedaan, zonder enig gevolg voor de behandeling van de aangifte.

Het blijft wel zo dat de politie alleen een melding in behandeling neemt als er ook daadwerkelijk sprake is van een mogelijk strafbaar feit. De politie heeft niet tot taak om civielrechtelijke geschillen op te lossen.

38.

Hoe wordt bepaald of de toepassing van AI-technologie daadwerkelijk leidt tot een reductie van administratieve lasten?

Antwoord vraag 38:

Het verlagen van administratieve lasten is niet altijd het doel van de toepassing van AI. Naast vermindering van administratieve lasten kan AI ook leiden tot andere effecten zoals sneller, effectiever of efficiënter optreden of een zorgvuldigere analyse. Om te bepalen of nieuwe toepassingen van AI effect hebben, vindt voordat van bredere uitrol sprake is, een beoordeling van het effect plaats.

60.

In hoeverre bestaat er oefenruimte voor de politie om te kunnen experimenteren met AI?

Antwoord vraag 60:

De politie kan, binnen de grenzen van de wet, experimenteren met AI. Daarvoor kan bijvoorbeeld een proefomgeving worden gebruikt. Een mogelijke drempel is dat in het kader van de gegevensbescherming in een ontwikkelomgeving gewerkt moet worden met dummy-data of synthetische data, terwijl geavanceerde AI systemen beter werken als ze getraind worden met operationele data. Dit heeft mijn aandacht bij de herziening van de Wpg.

64.

Op welke manier zijn de informatie-extractie, de juridische toetsing en de optimalisatie van de vraagvolgorde uit elkaar te houden? Deze hangen toch allemaal met elkaar samen?

Antwoord vraag 64:

De diverse taken zijn opgenomen in verschillende modules, die los van elkaar informatie-extractie, juridische toetsing en de keuze van de volgende vraag voor hun rekening nemen. De verbanden tussen deze modules zijn hoofdzakelijk op ontwerpniveau van belang. De juridische toetsing wordt niet beïnvloed door de manier waarop observaties gemaakt worden, of hoe de vergaring van de missende informatie geoptimaliseerd wordt. En hoewel de juridische toetsing bepaalt welke observaties bekeken worden en kijkt welke informatie nog mist, heeft de toetsing zelf geen invloed op hoe deze observaties gemaakt worden of op bepaling van de vraagvolgorde. Door de modules op deze wijze van elkaar te scheiden blijft elke afzonderlijke stap beheers- en toetsbaar en wordt het geheel meer transparant.

Juridische en ethische kaders

5.

Op welke wijze wordt de naleving van het legaliteitsbeginsel bij de inzet van AI door de politie gegarandeerd?

Antwoord vraag 5:

AI wordt door de politie ontwikkeld en toegepast als technisch hulpmiddel voor taken waar zij reeds op grond van de wet toe bevoegd is. Zoals voor alle vormen van taakuitoefening door de politie geldt, dient er, conform het legaliteitsbeginsel, altijd een wettelijke grondslag te zijn voor het handelen van de politie. Dat geldt dus ook voor taakuitvoering die wordt ondersteund door artificiële intelligentie.

20.

Kent u de bijlage «Toelichting op typen data-analyses waarvoor wettelijke waarborgen zullen gaan gelden» (bijlage 2 bij Kamerstukken 26 643 en 32 761, nr. 641, d.d. 8 oktober 2019)? Wat betekent het in deze bijlage geformuleerde voornemen om tot wettelijke waarborgen voor twee typen data-analyse te komen, profilering en gebiedsgebonden analyse, voor de ontwikkeling van AI binnen de politie? Behoren niet juist deze twee typen data-analyse tot de kern van het politiewerk en dreigt hiermee niet een rem te ontstaan op innovaties?

Antwoord vraag 20:

Het voornemen om mogelijk tot wettelijke waarborgen te komen heeft tot doel om bepaalde risico’s die zich voor kunnen doen bij data-analyse zoals profilering en gebiedsgebonden analyse tot een minimum te beperken. Er is geen sprake van een potentieel verbod, dus een voornemen tot wettelijke waarborgen betekent niet dat het onmogelijk wordt om van deze typen data analyse gebruik te maken.

Zowel ikzelf, alsook de korpschef, vinden het heel belangrijk dat innovatie altijd gebeurt met voldoende zorgvuldigheid en oog voor eventuele risico’s. Wettelijke waarborgen en richtlijnen zoals de bij voornoemde brief opgenomen «richtlijnen voor het toepassen van algoritmen door overheden» van de Minister voor Rechtsbescherming, kunnen er daarbij voor zorgen dat er een duidelijk kader geldt waarbinnen geëxperimenteerd, geïnnoveerd en gewerkt kan worden. Daarmee kunnen dergelijke waarborgen zelfs bijdragen aan innovatie.

21.

Is er, gezien het feit dat uit de brief duidelijk wordt dat ethiek in de ontwikkeling van AI toepassingen binnen de politie een belangrijke rol speelt, sprake van een politie-specifiek ethisch document of een ethische guideline aan de hand waarvan AI toepassingen worden ontwikkeld en getoetst? Welk houvast hebben ontwikkelaars, leidinggevenden, interne en externe toezichthouders bij het beoordelen en toetsen van de voortgang van projecten? Wordt hier de hulp ingeroepen van externe deskundigen?

Antwoord vraag 21:

Op het gebied van ethische richtlijnen zoekt de politie samenwerking met diverse partners, zoals het ECP, platform voor Informatiesamenleving en is de politie aangesloten bij de Nederlandse AI coalitie. De politie neemt verder deel aan de pilot «Ethics Guidelines of Trustworthy AI» van de High Level Expert Group on AI van de Europese Commissie en aan het Transparantielab van het Ministerie van Binnenlandse zaken.

Vanwege het belang van privacy en ethiek voor het politiewerk is binnen de politie recent een specifieke portefeuillehouder privacy en ethiek aangesteld. Daarnaast is er in opdracht van de politie onderzoek gedaan naar ethische afwegingen voor verantwoordelijk gebruik van AI binnen de politie.²

53.

Wordt er een juridisch en ethisch kader opgesteld voor de toepassing van AI?

Antwoord vraag 53:

Voor de toepassing van AI gelden de gebruikelijke wettelijke kaders, waaronder de Wet politiegegevens (Wpg). De Minister voor Rechtsbescherming heeft daarnaast op 18 oktober 2019 «richtlijnen voor het toepassen van algoritmen door overheden» naar uw Kamer gestuurd. Zoals reeds aangekondigd in zijn brief van 18 oktober 2019 wil het kabinet toewerken naar waarborgen die in wetgeving kunnen worden opgenomen.³ Deze richtlijnen komen bij de politie terug in het interne Kwaliteitskader Big Data waarin aandacht wordt besteed aan de vraag wie verantwoordelijk is voor de AI-toepassing en op basis van welke wettelijke en juridische grondslagen en ethische toetsing de ontwikkeling wordt gedaan. Daarnaast is er in opdracht van de politie onderzoek gedaan naar ethische afwegingen voor verantwoordelijk gebruik van AI binnen de politie.⁴

57.

Wordt bij elke nieuwe toepassing van een AI techniek ook een nieuwe juridische en ethische toetsing gedaan?

Antwoord op vraag 57

De politie dient zich bij de inzet van technische toepassingen, waaronder AI, te houden aan de bestaande normering. Indien van toepassing, wordt op grond van de WPG het wettelijk kader via het instrument van de DPIA in kaart gebracht, waarbij rekening wordt gehouden met de stand van de techniek, uitvoeringskosten, alsook met de aard, omvang, de context, verwerkingsdoeleinden en risico’s voor de rechten en vrijheden van personen worden meegewogen.

Bij elke nieuwe ontwikkeling van het Nationaal Politielab AI worden juridisch, ethische en sociale aspecten mee genomen en beoordeeld vooraf, gedurende de ontwikkeling en tijdens de experimenten. Hierbij wordt tevens gebruik gemaakt van het Kwaliteitskader Big Data. De werkwijze van de politie op het gebied van het ontwikkelen en toepassen van algoritmes en AI wordt de komende tijd conform dit kwaliteitskader ingericht.

59.

Welke ethische standaarden zijn er uit het onderzoek van het Nationaal Politielab AI gekomen en welke daarvan worden ook echt toegepast?

Antwoord op vraag 59:

Uit onderzoek van het Nationaal Politielab AI, onder andere in een whitepaper⁵, komt naar voren dat, om AI verantwoord in te zetten algemene en abstracte principes moeten worden omgezet naar concrete vereisten op technisch, individueel en maatschappelijk gebied. De verkregen inzichten worden op dit moment geanalyseerd en waar nodig opgenomen in de verdere planvorming met betrekking tot de AI ontwikkeling binnen de politie.

Gegevensbescherming en rechten van burgers

19.

Hoe gaat de politie, specifiek als het gaat om AI toepassingen, om met de «Richtlijnen inzake publieksvoorlichting over data-analyses» (bijlage 1.2 bij Kamerstukken 26 643 en 32 761, nr. 641, d.d. 8 oktober 2019)? Klopt het dat deze richtlijn als uitgangspunt heeft een actieve informatieverstrekking vanuit de betrokken overheidsorganisatie aan het publiek, inclusief expliciete vermelding in een privacystatement op de eigen website van in dit geval de politie? Deelt u de observatie dat dergelijke informatie op dit moment niet te vinden is op de website van de politie? Gaat hier op korte termijn verandering in komen?

Antwoord vraag 19:

De «Richtlijnen inzake publieksvoorlichting over data-analyses» richten zich, zoals in deze richtlijnen zelf ook is aangegeven, voornamelijk op gegevensverwerkingen die vallen onder de reikwijdte van de Algemene Verordening Gegevensbescherming (AVG). De verwerking van persoonsgegevens door de politie valt echter grotendeels buiten de werking van deze verordening maar onder de werking van de Wet Politiegegevens, waarin de Richtlijn (EU) 2016/680 inzake gegevensbescherming opsporing en vervolging is geïmplementeerd. Het feit dat voor de uitvoering van de politietaak een apart gegevensbeschermingsregime geldt, is gelegen in de bijzondere positie waarin de politie als handhavings- en opsporingsinstantie verkeert. In aanvulling op hetgeen ik eerder aan uw kamer heb gemeld (bijlage bij Kamerstukken 26 643 en 32 761, nr. 426, d.d. 11 november 2016) geldt dat het voor de politie in voorkomende gevallen noodzakelijk is om (delen van) de gegevensverwerking niet inzichtelijk te maken. Dit kan nodig zijn om te voorkomen dat personen zich kunnen onttrekken aan een effectieve taakuitoefening door de politie. Inzicht in de gebruikte analysemethode kan immers aanleiding zijn om het gedrag bewust zodanig aan te passen dat men in de gegevensanalyse buiten zicht blijft. Daarnaast kan geheimhouding nodig zijn omdat inzicht in de gegevensverwerking raakt aan de nationale veiligheid.

Dat neemt niet weg dat de politie zoveel als mogelijk zal aansluiten bij de onderhavige richtlijnen en dus ook in dit kader uitvoering zal geven aan de actieve informatieplicht die op de politie rust. Dit zal op termijn, en met de voornoemde kaders en beperkingen, leiden tot aanvulling van de informatie op de website van de politie.

Bijvoorbeeld bij de keuzehulp internetoplichting worden de burgers actief geïnformeerd over het feit dat de keuzehulp geautomatiseerd is, en er dus geen sprake is van contact met een politiemedewerker tijdens het invullen van de keuzehulp.

77.

Kunnen burgers inzien welke data van hen gebruikt worden door AI bij de politie?

Antwoord vraag 77:

De politie verwerkt bij de toepassing van AI politiegegevens zoals bedoeld in de Wpg. Een ieder heeft, op grond van artikel 25 Wpg, recht op inzage in de gegevens die over hem worden verwerkt door de politie, dus ook die door AI toepassingen worden gebruikt. Vanwege de in het antwoord op vraag 19 genoemde bijzondere positie van de politie geeft de Wpg (art. 27) hierop wel een aantal uitzonderingen Het recht op inzage wordt bijvoorbeeld beperkt ter bescherming van de openbare en nationale veiligheid of indien inzage nadelige gevolgen heeft voor het opsporingsonderzoek. Deze uitzonderingsgronden wijken enigszins af van die van de AVG.

55.

Hoe zijn op dit moment de rechten van inwoners beschermd die deel uitmaken van een experiment, proeftuin of pilot?

56.

Worden inwoners adequaat geïnformeerd over de gevolgen voor hun privacy-rechten? Zo ja, hoe worden zij geïnformeerd? Zo nee, waarom niet?

Antwoord vragen 55 en 56:

De politie dient in het geval van (operationele) experimenten, proeftuinen of pilots binnen hetzelfde wettelijke kader te opereren als wanneer er geen sprake is van een experiment. De rechten van inwoners die deel uitmaken van een experiment, proeftuin of pilot zijn dus op eenzelfde wijze beschermd als normaal gesproken. Het wettelijk kader dat van toepassing is op de vorm van de toepassing (is er bijvoorbeeld sprake van opsporing of van preventie van criminaliteit) bepaalt mede in welke mate de politie gegevens kan delen.

Zoals reeds opgemerkt in mijn antwoord vraag 19 is het niet altijd mogelijk om op eenzelfde wijze transparant te zijn over het gebruik van data door de politie als bij AVG data. Zoals gemeld in mijn antwoord op vraag 78 hebben burgers, op grond van artikel 25 Wpg, recht op inzage in de gegevens die over hen worden verwerkt door de politie, dus ook die door AI toepassingen worden gebruikt. Vanwege de in het antwoord op vraag 19 genoemde bijzondere positie van de politie geeft de Wpg (art. 27) hierop wel een aantal uitzonderingen die enigszins afwijken van die van de AVG.

Bijvoorbeeld bij de keuzehulp internetoplichting worden de burgers actief geïnformeerd over het feit dat de keuzehulp geautomatiseerd is, en er dus geen sprake is van contact met een politiemedewerker tijdens het invullen van de keuzehulp.

Data

18.

Als in de brief gesproken wordt over (big) data, wordt dan enkel gedoeld op databestanden die de politie zelf aanhoudt en grotendeels vallen onder de werking van de Wet politiegegevens, of wordt dan ook gedoeld op publieke databestanden, hetzij van andere overheden hetzij publieke data die via internet benaderbaar zijn? Klopt het beeld dat de politie nu al gebruik maakt van data-mining? Kunt u, zo nodig vertrouwelijk, een overzicht geven van de toepassing van data-mining binnen en door de politie?

Antwoord vraag 18:

Alle persoonsgegevens die de politie verkrijgt in het kader van de uitoefening van haar taak (minus de bestuursrechtelijke taken) zijn politiegegevens. Dus ook gegevens verstrekt uit samenwerkingsverbanden of door samenwerkingspartners en de gegevens die de politie verzamelt bijvoorbeeld tijdens een opsporingsonderzoek uit open bronnen zoals Kadastergegevens en voor internetgegevens. Ten aanzien van dat laatste spreken we conform het advies van de Commissie Koops liever van publiektoegankelijke en gesloten bronnen dan van open bronnen.

De politie maakt al langere tijd gebruik van datamining, in de afgelopen jaren is dit getransformeerd naar het interdisciplinaire vakgebied data science, Waar datamining zich doorgaans meer richt op beschrijvende analyses, biedt data science ook mogelijkheden om predictief en prescriptief acties te kunnen ondernemen. Data science kan zowel voor de kerntaken als voor specifieke taken van de politie worden ingezet. Daarbij kan o.a. worden gedacht aan de ontwikkeling van (risicotaxatie)modellen, het herkennen van patronen of anomaliteiten, tekst- en beeldherkenning, het inzichtelijk maken van criminele netwerken en markten, het doorgronden van grote datasets maar ook om de bedrijfsvoering efficiënter te maken.

78.

Worden er enkel data gebruikt van burgers die in contact zijn geweest met justitie, of gaan de data ook over «reguliere» burgers?

Antwoord vraag 78:

De politie verwerkt voor haar taak persoonsgegevens (zogenaamde politiegegevens). Het gaat hier niet enkel om gegevens over de verdachte in een opsporingsonderzoek maar ook over gegevens van personen die een aangifte doen, slachtoffer zijn, getuige zijn van een delict, personen die staande worden gehouden of die bijvoorbeeld een melding doen in het kader van de openbare orde handhaving. Ook deze politiegegevens zijn nodig om de taak goed uit te oefenen. De omvang, aard en indringendheid van deze politiegegevens is vanzelfsprekend niet voor alle categorieën betrokkenen gelijk. De registratie van politiegegevens bij een overlastmelding zijn veel beperkter dan de politiegegevens die worden verzameld over een verdachte van een ernstig strafbaar feit.

Bias

24.

In hoeverre zijn beslisbomen daadwerkelijk altijd neutraal? Kunnen beslisbomen impliciete aannames bevatten, die helemaal niet neutraal zijn?

25.

Klopt het dat beslisbomen niet altijd neutraal zijn, maar vaak impliciete aannames bevatten en in een bepaalde richting kunnen tenderen? Herinnert u zich de beslisboom van het Ministerie van Economische Zaken (EZ) van maart 2000, over marktwerking en privatisering? Klopt het dat het invullen van deze beslisboom in bijna alle gevallen leidde tot het advies om over te gaan tot privatisering en/of marktwerking? Klopt het dat dit een weerspiegeling was van het toenmalige marktdenken op het Ministerie van EZ? Klopt het dat beslisbomen helemaal niet neutraal zijn? Waarom is het dan «helder dat hier geen bijzonder beleid voor nodig is»?

Antwoord vragen 24 en 25:

Het klopt dat algoritmes (waaronder beslisbomen) en dus ook AI bias of fouten kunnen bevatten of gebaseerd kunnen zijn op (onterechte) aannames. Dat geldt evenzo voor beslissingen die alleen door mensen worden gemaakt. Als het gaat om bias en aannames in eenvoudige algoritmes (zoals vergelijkingen in een Excel sheet) en in beslisbomen geldt dat deze eenvoudiger met het blote oog of via standaard controle stappen te herkennen zijn, omdat de redeneerlijn in een beslisboom stap voor stap te volgen is. Voor meer complexe algoritmes is het ontdekken van een aanname of bias minder eenvoudig met het blote oog te doen. Dit onderscheid tussen de complexiteit van algoritmes maakt dat er een grotere noodzaak gevoeld wordt om met specifiek beleid te komen voor bias in complexe algoritmes, dan voor een eenvoudiger algoritme.

9.

Hoe wordt de noodzaak om bias te voorkomen geadresseerd bij het gebruik van kunstmatige intelligentie binnen de politie?

26.

Als de privatiseringsbeslisboom van het Ministerie van EZ van 2000 niet neutraal was, kunt u dan uitsluiten dat de algoritmes, beslisbomen en risicotaxaties van de politie evenmin neutraal zijn? Op welke manier kan een dergelijke vooringenomenheid of bias uitgesloten worden?

47.

Op welke wijze zet de overheid zich in om actief discriminatie te voorkomen in de AI systemen van politie?

Antwoord vragen 9, 26 en 47:

De politie werkt bij het ontwikkelen van AI volgens het principe «ethics by design». Dit betekent dat bepaalde waarden bij de ontwikkeling van een AI systeem al worden meegenomen in het ontwerp. Er wordt dus reeds bij de ontwikkeling van algoritmes en AI aandacht besteed aan de mogelijkheid dat er bias in de trainingsdata zit die effect kan hebben op de werking van het algoritme. Indien bekend wordt dat er bias in de data aanwezig is zijn er mogelijkheden om te compenseren voor deze eventuele bias in de data die worden toegepast. Dit compenseren kan zowel in de data zelf als door hier in het algoritme rekening mee te houden.

28.

Waar ligt de grens tussen intelligent gedrag van systemen en systemen die eerder invoerde aannames uitvoeren? Klopt het dat deze grens niet scherp te trekken is, en er een groot grijs gebied is tussen intelligent gedrag en ingevoerd of geïnduceerd gedrag? Hoe beoordeelt u in dit kader de uitspraak «Het is gevaarlijk als alleen witte mannen algoritmes maken» van dhr. Frans Muller (Forum, «Frans Muller: bedrijven moeten ethisch omgaan met data»)?

29.

Zijn algoritmes en AI niet te vergelijken met een zichzelf bevestigende grabbelton, onder het motto «wat je er in stopt, haal je er ook weer uit»? Lopen AI toepassingen daarmee niet het risico een echoput te worden van vooroordelen en/of vooringenomenheid, waaronder ook racisme en discriminatie? Hoe kunt u dit uitsluiten? Wie of welke instantie toetst hierop? Is er een toetsing denkbaar die analoog is aan de toetsing uit de Sleepwet van 2018, met een commissie die noodzaak en proportionaliteit beoordeelt? Zo nee, op welke manier is dan een toetsing mogelijk?

Antwoord vragen 28 en 29:

Ik beaam dat het belangrijk is om rekening te houden met diversiteit en eventuele bias in de ontwikkeling en toepassing van AI en algoritmes. Een belangrijk aandachtspunt in data science is «garbage in, garbage out», wat grofweg betekent dat het gebruik van slechte, vervuilde of onvolledige data ervoor zorgt dat ook de output slecht, vervuild of onvolledig kan zijn. Tegelijk zijn er in de data science diverse manieren om hiervoor te compenseren.

Zoals ik in mijn brief aan uw Kamer heb aangegeven moet gemotiveerd worden waarom en welke data er wordt gebruikt en er moet gekeken worden naar de kwaliteit van de gebruikte data. Dit is mede de professionele taak van de data scientists binnen de politie om dit voorkomen. Het is daarbij uitermate belangrijk dat er bij de ontwikkeling van AI toepassingen voldoende duidelijk is wat de eventuele gebreken in een dataset zijn, zodat hiervoor kan worden gecompenseerd. Daarbij komt bijvoorbeeld ook de vraag naar voren of kan worden volstaan met geanonimiseerde data en op welke wijze privacy by design wordt toegepast. Overigens is het zo dat de politie zelf ook geen baat heeft bij een slecht werkende AI toepassing. Er wordt daarom doorlopend gecontroleerd of de modellen van voldoende kwaliteit blijven.

Op 20 december 2019 hebben de Ministers van Binnenlandse Zaken en Koninkrijksrelaties en de Minister voor Rechtsbescherming het onderzoek «Toezicht op gebruik van algoritmen door de overheid» aan uw Kamer aangeboden.⁶ De onderzoekers constateerden op basis van een analyse van wet- en regelgeving geen juridische lacune in de toezichtstaken. In de begeleidende brief is uw Kamer een reactie op de aanbevelingen in dit rapport toegezegd. In de beantwoording van de voorliggende vragen wil ik niet vooruitlopen op die reactie.

48.

Op welke wijze toetst de politie de afwezigheid van discriminatie in AI systemen?

71.

Op welke wijze wordt discriminatie als onbedoeld gevolg van de toepassing van AI voorkomen?

81.

Welke mechanismen worden in werking gesteld op het moment dat discriminatie wordt opgemerkt in het ontwerp, gebruik of de uitkomst van AI systemen?

Antwoord vragen 48, 71 en 81:

Ongewenste effecten van algoritmen, onder andere mogelijk door bias, vereisen een brede aanpak. De basis is professionaliteit bij de ontwikkelaars als het gaat om (datagedreven) AI toepassingen. Het kennisniveau van hen moet daarom bij blijven bij de laatste ontwikkelingen. De politie organiseert daarom bijv. colloquia en meetups, en geeft experts de ruimte om te blijven leren. Sommige effecten openbaren zich pas in het werkproces en zijn niet inherent aan de technologie. Daarom is het belangrijk dat eindgebruikers in contact staan met de ontwikkelaars. Hierdoor kan de technologie waar mogelijk aangepast worden of juist de eindgebruiker waar nodig beterebegrip krijgen van het middel.

Bij de inzet van algoritmes voor het politiewerk wordt doorlopend geëvalueerd en gecontroleerd of de modellen van voldoende kwaliteit blijven. Daarbij is nadrukkelijk aandacht voor bias, zowel in de data als in de modellen, en ook in de uitkomst.

De monitoring op de toepassing van AI (ook wel intern toezicht) wordt ingevuld door middel van het «three lines of defence»-model waarbij de eerste lijn wordt vervuld vanuit het lijnmanagement, de tweede lijn door de korpscontroller en de derde lijn door de afdeling Concernaudit.⁷

Indien bekend wordt dat er bias in de data aanwezig is zijn er mogelijkheden om te compenseren voor deze eventuele bias in de data die worden toegepast. Dit compenseren kan zowel in de data zelf als door hier in het algoritme rekening mee te houden.

82.

Welke stappen zijn er ondernomen om te voorkomen dat de AI systemen van de politie voornamelijk worden gericht op gemarginaliseerde groepen in de samenleving? Hoe vindt de evaluatie van dit soort waarborgen plaats?

Antwoord vraag 82:

Voor al het politiewerk geldt dat het niet de bedoeling is dat dit specifiek wordt gericht op bepaalde gemarginaliseerde groepen in de samenleving. Dat geldt dus ook voor het toepassen van AI. Bij de politie wordt er veel aandacht besteed aan het voorkomen van discriminatie en etnische profilering in den brede. Ik heb u hierover onder andere geïnformeerd in mijn brief van 12 december 2019.⁸ Deze aanpak geldt ook voor het gebruiken van het ondersteunende middel AI.

Specifiek voor technische hulpmiddelen zoals AI geldt dat er daarnaast ook al tijdens de ontwikkeling van de toepassing aandacht worden besteed aan het voorkomen van bias, door te ontwikkelen volgens het principe van «ethics by design».

Bij de inzet van algoritmes voor het politiewerk wordt doorlopend geëvalueerd en gecontroleerd of de modellen van voldoende kwaliteit blijven. Daarbij is nadrukkelijk aandacht voor bias, zowel in de data als in de modellen, en ook in de uitkomst. Zie hiervoor ook het antwoord op vragen 48, 71 en 81.

SyRI

16.

Wat voor invloed heeft de SyRi-uitspraak op de manier waarop de politie AI toepast?

Antwoord vraag 16:

De uitspraak omtrent SyRI is pas zeer recentelijk gepubliceerd. Zowel mijn departement als de politie zullen de uitspraak zeer zorgvuldig bestuderen, en bezien op eventuele consequenties voor de toepassing van AI door de politie.

Verantwoording en toezicht

1.

Wordt aan de Tweede Kamer inzicht verschaft over de toepassing van artificiële intelligentie (AI) door de politie en zo ja, hoe en wanneer?

69.

In hoeverre wordt de Tweede Kamer geïnformeerd over de uitkomsten van onderzoek op het gebied van AI bij de politie?

Antwoord vraag 1, 69:

Mijn kamerbrief van 3 december 2019 over AI bij de politie had tot doel het verschaffen van transparantie over AI bij de politie. De korpschef en ik blijven transparant over de toepassing van AI bij de politie. Indien er nieuwe ontwikkelingen zijn op het gebied van AI bij de politie zal ik uw Kamer daarover informeren.

Het wetenschappelijk onderzoek dat wordt uitgevoerd in het Nationaal Politielab AI, door de wetenschappers die daaraan zijn verbonden, wordt gepubliceerd in wetenschappelijke tijdschriften. Daarmee is het openbaar en ook voor Kamerleden te bestuderen indien gewenst. In de bijlage van mijn brief van 3 december jl. heb ik een recent overzicht van het uitgevoerde onderzoek bijgevoegd.

23.

Welke rol speelt de functionaris gegevensbescherming op korpsniveau in het toezicht op de ontwikkeling van AI toepassingen?

Antwoord vraag 23:

De Functionaris voor Gegevensbescherming (FG) is onafhankelijk in zijn advies en toezicht op de naleving van de Wpg en AVG binnen de Politie. De FG kan dus eigenstandig proactief onderzoek doen en toezicht houden op de toepassing van AI binnen de politie, daar waar het de verwerking van persoonsgegevens betreft. Daarbij wordt de FG geïnformeerd wanneer een Gegevensbeschermingseffectbeoordeling (GEB) is opgesteld en kan hij langs die lijn adviseren en toezicht houden.

72.

Waarom stelt u in de brief dat «de politie zijn eigen strengste criticaster is»? Hoe relateert u deze uitspraak aan het functioneren van de politie in de Arnhemse moordzaak, niet alleen in 1998–1999, maar ook nu? Is er in de afgelopen 22 jaar enige vorm van zelfreflectie geweest? Klopt het dat de politie helemaal niet «zijn eigen strengste criticaster» is maar juist het tegenovergestelde? Namelijk dat door een interne angst- en suppressiecultuur geen enkele zelfreflectie mogelijk is, afgezien van een enkeling die inmiddels met pensioen is?

Antwoord vraag 72:

Het stelsel van toezicht en waarborgen op en binnen de politie heb ik in mijn brief van 5 december 2018⁹ toegelicht. Dit start bij intern toezicht binnen de politie, dat het zogenoemde «three lines of defence» model volgt, waarbij de eerste lijn wordt vervuld vanuit het lijnmanagement, de tweede lijn door de korpscontroller en de derde lijn door de afdeling Concernaudit. Basis van het toezicht op de politie is dat de politie het interne toezicht streng en goed op orde moet hebben. Dat wordt er bedoeld met de frase dat de politie zijn eigen strengste criticaster is. Dat betekent niet dat er geen fouten gemaakt worden, maar het uitgangspunt moet zijn dat het interne toezicht van de politie een strenge controleur is. Dit vind ik ook bij AI van groot belang. Hoe beter de politie zelf de waarborgen en het interne toezicht op orde heeft, hoe meer zekerheid de burger heeft dat het optreden van de politie legitiem is.

80.

Bij wie ligt de verantwoordelijkheid voor monitoring van de toepassing van AI bij politietaken? Zit daar een bepaalde evaluatietermijn aan vast?

Antwoord vraag 80:

De monitoring op de toepassing van AI (ook wel intern toezicht) wordt ingevuld door middel van het «three lines of defence»-model waarbij de eerste lijn wordt vervuld vanuit het lijnmanagement, de tweede lijn door de korpscontroller en de derde lijn door de afdeling Concernaudit.¹⁰ Dit interne toezicht arrangement geldt ook voor toepassingen die gebruik maken van AI.

27.

Wie of welke instantie beoordeelt de neutraliteit van algoritmes? Welke rol kunnen de Autoriteit Persoonsgegevens (AP), de Koninklijke Nederlandse Akademie van Wetenschappen (KNAW), de Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO) en de Algemene Rekenkamer daarbij spelen?

Antwoord op vraag 27:

Op 20 december 2019 hebben de Ministers van Binnenlandse Zaken en Koninkrijksrelaties en de Minister voor Rechtsbescherming het onderzoek «Toezicht op gebruik van algoritmen door de overheid» aan uw Kamer aangeboden.¹¹ De onderzoekers constateerden op basis van een analyse van wet- en regelgeving geen juridische lacune in de toezichtstaken. In de begeleidende brief is uw Kamer een reactie op de aanbevelingen in dit rapport toegezegd. In de beantwoording van de voorliggende vragen wil ik niet vooruitlopen op die reactie.

73.

Op welke manier houdt de Inspectie voor Justitie en Veiligheid toezicht op het gebruik van AI door de politie? Hoeveel fte heeft de Inspectie daarvoor beschikbaar? Heeft de Inspectie daarvoor de benodigde expertise en welke vorm neemt deze expertise aan?

Antwoord op vraag 73:

De Inspectie Justitie en Veiligheid houdt toezicht op de kwaliteit van de taakuitvoering van onder andere de politie. Als bij die taakuitvoering AI wordt ingezet, dan wordt dit betrokken in het toezicht van de Inspectie. Het toezicht is dan gericht op de bijdrage van de techniek aan de uitvoering. Daarnaast wordt de legitimiteit van de inzet van AI bezien en risico’s op ethisch ongewenste effecten, zoals uitsluiting of discriminatie van personen. Tot op heden heeft de Inspectie nog geen onderzoek verricht naar AI. Echter door de toename van het gebruik van AI en gerelateerde technieken zal dit een meer prominente rol in het toezicht gaan innemen. De Inspectie heeft de ambitie om haar toezicht de komende jaren nadrukkelijk te richten op deze technieken.

De totale capaciteit van de Inspectie is ca. 100 FTE. De capaciteit voor toezicht wordt zoveel mogelijk risico gestuurd ingezet op het gehele brede toezichtterrein. Het afgelopen jaar is geïnvesteerd in de werving van medewerkers met kennis van het digitale domein en technologieën, zoals AI. Deze capaciteit zal de komende jaren verder toenemen. Daarnaast investeert de Inspectie in het verder versterken van de kennis door expliciet de verbinding te zoeken met de wetenschap.

75.

Wie controleert de effecten van een Data Protection impact assessment? Welke rol spelen de AP en de Auditdienst Rijk hierin?

Antwoord op vraag 75:

Een Gegevensbeschermingseffectbeoordeling (GEB) wordt voorafgaand aan de start van een hoog risico verwerking opgesteld. Degene die formeel bevoegd is te beslissen of persoonsgegevens worden verwerkt is verantwoordelijk voor het opstellen van de GEB.

De verantwoordelijke wordt hierbij ondersteund door een Privacyfunctionaris bij de Politie. Eventueel kan de Privacyfunctionaris ondersteuning vragen aan de Gegevensautoriteit binnen de Politie. De GEB wordt toegestuurd aan de onafhankelijke Functionaris voor Gegevensbescherming (FG) binnen de Politie en indien nodig wordt de Autoriteit Persoonsgegevens voorafgaand aan de verwerking geraadpleegd. De Auditdienst Rijk heeft geen rol bij een Gegevensbeschermingseffectbeoordeling.

54.

Op welke wijze legt de politie verantwoording af over de wijze hoe AI wordt toegepast?

Antwoord vraag 54:

De politie moet verantwoording afleggen over de taakuitvoering. Afhankelijk van het type inzet van AI en de benodigde data voor de ontwikkeling van de AI wordt op verschillende wijzen verantwoording afgelegd. De politie voert haar taken uit onder de verantwoordelijkheid van het gezag. Indien het gaat om de toepassing van AI in het kader van de opsporing is het bevoegd gezag het Openbaar Ministerie. Als het gaat om vervolging zal deze vervolgens in het strafproces moeten kunnen uitleggen hoe het opsporingsproces is verlopen. Als daar AI bij is gebruikt moet deze voor de rechter toetsbaar zijn.

Daarnaast legt de korpschef voor het gevoerde beheer en de kwaliteit van de taakuitvoering verantwoording af aan mij. Dat omvat ook de inzet en kwaliteit van AI in het algemeen.

70.

Kunt u het interne kwaliteitskader big data dat de politie samen met het OM in het kader van het programma Toekomstbestendig Opsporen en Vervolgen heeft opgesteld zo nodig vertrouwelijk delen met de Tweede Kamer? Hoe verhoudt dit interne kader zich tot de ministerieel vastgelegde «richtlijnen voor het toepassen van algoritmes door overheden» (bijlage 1 bij Kamerstuk, 26 643, nr. 641, dd. 8 oktober 2019)?

76.

Welke externe toezichthouders hebben of krijgen inzicht in het interne kwaliteitskader dat door politie en OM wordt gehanteerd?

Antwoord vraag 70 en 76:

Het interne Kwaliteitskader Big Data dat de politie samen met het OM in het kader van het programma Toekomstbestendig Opsporen en Vervolgen heeft opgesteld bevindt zich momenteel in de afrondende fase van het doorlopen van het interne proces van goedkeuring binnen de politie. De verwachting is dat dit proces begin april 2020 zal zijn afgerond. Na vaststelling door de korpsleiding kan het Kwaliteitskader met Uw Kamer worden gedeeld. Het Kwaliteitskader is een praktische uitwerking van de Richtlijnen voor het toepassen van algoritmes door overheden. De documenten worden bij de implementatie van het Kwaliteitskader Big Data in de politieorganisatie in samenhang met elkaar bekeken. Zodra het Kwaliteitskader Big Data naar Uw Kamer is verzonden is deze openbaar geworden. Uiteraard hebben ook alle toezichthouders die dat wensen inzicht in het Kwaliteitskader.

Verantwoordelijkheid en foutmarges

14.

Wie is er verantwoordelijk voor (eventuele) fouten van AI?

Antwoord vraag 14:

De korpschef is ingevolge artikel 27 Politiewet 2012 belast met de leiding en het beheer van de politie. Voor AI is de verantwoordelijkheid niet anders dan voor alle andere technieken en hulpmiddelen die in de taakuitvoering worden gebruikt. Zie verder het antwoord op vraag 54 over de wijze waarop de politie verantwoording aflegt.

50.

Hoe ziet de foutmarge van AI eruit? Welke gevolgen kunnen foute beslissingen hebben, die genomen worden op basis van AI?

Antwoord vraag 50:

Foutmarges bij AI toepassingen verschillen per toepassing. Het is dus niet mogelijk om in algemeenheid uitspraak te doen over een foutmarge bij AI.

Zoals gemeld in mijn brief van 3 december 2019¹² is aandacht voor foutmarges bij toepassing van AI door de politie zeer belangrijk. Hierbij geldt dat het type proces, de actie maar met name het potentiële gevolg bepalend is voor de acceptatie van de marge van fouten van een AI toepassing. Voor ingrijpende processen zal AI in principe politiemedewerkers slechts ondersteunen in hun taak.

Het uitgangspunt is dat er bij het gebruik van AI altijd sprake is van een menselijke tussenkomst bij het nemen van besluiten («human in the loop»). Desalniettemin is ook bij besluitondersteuning door AI zorgvuldigheid geboden.

51.

Kan AI ertoe leiden dat onschuldige verdachten worden aangewezen, zoals bij de Arnhemse moordzaak in 1998? Klopt het dat bij de Arnhemse moorzaak in 1998 sprake was van een discriminerende vooringenomenheid, die heeft geleid tot negen personen die onschuldig zijn veroordeeld tot jarenlange gevangenisstraffen, wat bij één persoon heeft geleid tot zelfmoord? Hoe kan het dat de Arnhemse politie op basis van een snipper foutief bewijs in een onvoorstelbare tunnelvisie terecht is gekomen? Kunt u uitsluiten dat juist AI de politie aan foutieve snippers bewijs gaat helpen, dat leidt tot nieuwe tunnelvisies?

Antwoord vraag 51:

AI wordt door de politie gebruikt als ondersteuning van het politiewerk. Daarnaast vereisen de Wpg en de richtlijn (EU) 2016/680 inzake gegevensbescherming opsporing en vervolging, dat er voor geautomatiseerde besluitvorming een wettelijke grondslag is. Er is geen sprake van geautomatiseerde besluitvorming bij de politie, noch is dat bij wet voorzien. De vrees dat AI op zichzelf kan leiden tot uitkomsten in strafzaken, of die nu goed of foutief zijn, is dus ongegrond. Tegelijkertijd is bij elk stuk bewijs, bij elke stap binnen de opsporing zorgvuldigheid geboden. Zoals ik in mijn brief reeds aangaf, moet AI bij de politie toetsbaar zijn voor de rechter. Ook als dit slechts ondersteunend is geweest in het proces. Deze waarborg zorgt ervoor dat in een proces de rechter zelf kan beoordelen wat de invloed van AI in de procesgang is geweest.

Opleiding en competenties

2.

Hoe staat het met de digitale geletterdheid van de politieagenten in Nederland?

Antwoord vraag 2:

De politie investeert op verschillende manieren in de digitale geletterdheid van de organisatie. Sinds de reorganisatie is het aantal digitaal experts in de inrichting toegenomen en het aantal digitaal experts stijgt nog steeds. Zo vindt op dit moment een versterking plaats voor de aanpak van cybercrime met 145 fte. Hiervan is in 2019 ruim 80 fte ingestroomd. De rest volgt in 2020. De cybercrimeteams in de eenheden vormen een vliegwiel voor de aanpak van gedigitaliseerde criminaliteit in de eenheden. Zij leren kennis uit aan de districten, basisteams en aan de intake-en servicemedewerkers. De politie beschikt verder over specialistische teams digitale Opsporing die de opsporing ondersteunen met hun digitale expertise. Verder biedt de politieacademie opleidingen en trainingen aan op het gebied van gedigitaliseerde criminaliteit en opsporing.

45.

In hoeverre is de theorie en toepassing van AI verankerd in de politieopleiding?

Antwoord vraag 45:

De kennis van Data Science en AI ontwikkeling maakt geen onderdeel uit van de politieopleiding. Data science en AI is een specialisme waarvoor de politie in principe hoger opgeleiden van buiten de organisatie aantrekt die de korte opleiding Politiemedewerker Specifieke Inzet volgen, die speciaal gericht is op zij-instromende specialisten in de Politie-organisatie. Dit specialisme is bovendien kennisintensief. Om continu aan te sluiten bij die laatste ontwikkelingen is het Nationaal politielab AI gestart, waarin in ICAI verband wordt samengewerkt met Universiteiten.

Indien een AI toepassing op dit moment in de praktijk wordt toegepast in pilots worden de betrokken collega’s hiervoor opgeleid. Hierbij kan gedachte worden aan het leren wat de uitkomst van de AI betekent en hoe die beoordeeld moet worden. Dit betreft maatwerk, afhankelijk van de toepassing. Indien AI in de toekomst breed ingezet gaat worden ter ondersteuning van werkprocessen is te verwachten dat dit onderdeel wordt van de opleiding.

22.

Welke kennis rond AI en big data is aanwezig bij het lijnmanagement, bij de korpscontroller en bij de afdeling Concernaudit? Kunt u deze vraag specifiek beantwoorden, inclusief verwijzing naar relevante werkervaring en opleidingen?

Antwoord vraag 22:

Bij concernaudit zitten zowel operational auditors als IT auditors. Zowel voor de technische als de operationele aspecten van de toepassing van AI is daarmee in basis kennis aanwezig. Per situatie wordt ingeschat of er aanvullende kennis ingehuurd moet worden.

Bij de korpscontroller en de afdeling Concernaudit is de kennis over AI in opbouw. Deskundigheid wordt deels van buiten aangetrokken en is deels aanwezig bij de zittende mensen of wordt door hen verder ontwikkeld. De inhoudsdeskundigen van de genoemde afdelingen zijn aangehaakt bij de korpsbrede ontwikkeling en toepassing van algoritmes en data analysemethoden.

De implementatie van het Kwaliteitskader Big Data kent een opleidingstraject. Hier kan ook door het lijnmanagement, de korpscontroller en de afdeling Concernaudit gebruik van worden gemaakt.

58.

Hoe worden beslissers bij de politie juridisch en ethisch getraind en opgeleid om verantwoorde besluiten te kunnen nemen op basis van door AI ondersteunde processen? Welke rol moet de Politieacademie vervullen om aan deze vaardigheidseisen te voldoen?

Antwoord vraag 58:

Voor de toepassing van AI gelden de gebruikelijke wettelijke kaders, waaronder de privacywetgeving en WPG Wpg. Deze wettelijke kaders zitten verankerd in het basispolitieonderwijs. Daarnaast informeert de Gegevensautoriteit van politie de medewerkers middels een nieuwsbrief over privacy- en WPG-aangelegenheden.

Politie heeft bijgedragen aan de ontwikkeling van de begeleidingsethiek door bureau ECP, platform voor de informatiesamenleving. Deze methode wordt nu ingevoerd en bestaat er uit dat o.a. de inzet van AI in het politiewerk vanuit diverse perspectieven wordt beoordeeld. De beslissers leren hierdoor de specifieke kenmerken en ethische risico’s van zo’n toepassing in de praktijk te herkennen. Ze leren ook, hoe en waar in de organisatie ze hun vragen of eventuele zorgen neer kunnen leggen.

Ook is de politie aangesloten bij de Nederlandse AI coalitie. De politie neemt verder deel aan de pilot «Ethics guidelines of trustworthy AI». Van de High level expert group on AI van de Europese Commissie en aan het Transparantielab van het Ministerie van Binnenlandse zaken.

Vanwege het belang van privacy en ethiek voor het politiewerk is recent een Politiechef als portefeuillehouder privacy en ethiek aangesteld. Voor de toepassing van AI gelden de gebruikelijke wettelijke kaders, waaronder de Wpg. Deze wettelijke kaders zitten verankerd in het basispolitieonderwijs. Daarnaast informeert de Gegevensautoriteit van politie de medewerkers middels een nieuwsbrief over privacy- en WPG-aangelegenheden.

Tenslotte wordt ook in het Kwaliteitskader big data aandacht besteed aan juridische en ethische aspecten. Bij de implementatie van het kwaliteitskader big data wordt in samenwerking met de politieacademie onderzocht op welke wijze het kwaliteitskader ingebed kan worden in leer- en kwaliteitsprocessen en welke doelgroepen hierbij in aanmerking komen.

63.

In hoeverre zet u het verlagen van de werkdruk in als strategie om de negatieve effecten van AI binnen de opsporing te voorkomen (zie het rapport Beginselen Digitaal (Rapport van een verkennend Onderzoek in opdracht van het WODC, Kamerstuk 29 279, nr. 388, waaruit blijkt dat bij een hoge werkdruk uitkomsten van de computer vaker klakkeloos worden overgenomen)?

Antwoord vraag 63:

Bij het gebruik van AI is het belangrijk dat de menselijke autonomie en de menselijke controle op de AI toepassing die wordt gebruikt betekenisvol is. Dat betekent dat de politiemedewerker voldoende in staat moet zijn om de uitkomst van een AI toepassing kritisch te bezien, en in staat moet zijn om de uitkomst indien nodig naast zich neer te leggen. Daar hoort ook bij dat de medewerker zich niet genoodzaakt voelt de uitkomst van de AI toepassing te accepteren door een verhoogde werkdruk.

Omdat AI een verandering in het werk van de politie teweeg brengt wordt ook in het kader van het Nationaal Politielab AI onderzoek gedaan naar personale en organisatorische consequenties van de toepassing van AI binnen politieprocessen en de randvoorwaarden die daarbij horen.

Predictive policing

10.

Kan predictive policing een opsporingsmethode genoemd worden?

12.

Hoe verhoudt predictive policing zich tot het beginsel dat er sprake moet zijn van een redelijk vermoeden van een strafbaar feit, een verdenking, voordat overgegaan kan worden tot opsporing?

Antwoord vragen 10 en 12:

Predictive policing wordt binnen de politie gebruikt als hulpmiddel om een inschatting te maken of er een (verhoogd) risico is op bepaalde vormen van criminaliteit in een bepaald gebied zodat hierop vooraf kan worden geanticipeerd bij de inzet van de gebiedsgebonden politie. Het is geen opsporingsmethode en wordt ook niet gebruikt voor opsporen. Bij predictive policing is er dus geen sprake van een redelijk vermoeden van een strafbaar feit of een verdenking. Het risico wordt bepaald op basis van historische data, waargenomen trends en patronen waarbij alleen wordt gekeken naar het optreden van een (verhoogd) risico in een bepaald gebied. Het is niet gericht op individuen of groepen.

13.

Wordt overwogen iets te doen aan predictive identification, een vorm van predictive policing waarin personen of groepen aangewezen kunnen worden als potentiële misdadigers of slachtoffers van bepaalde strafbare feiten?

Antwoord vraag 13:

De politie maakt gebruik van (klassieke) risicotaxatiemodellen om inschattingen te kunnen maken ten aanzien van het potentieel gebruik maken van geweld of het optreden van recidive bij personen met antecedenten zoals vastgelegd in de politiesystemen. Het taxatiemodel geeft alleen een inschatting of er een verhoogd risico is op het gebruik van geweld of het optreden van recidive bij een geselecteerde groep personen.

Met betrekking tot het kunnen identificeren van potentiele slachtoffers van bepaalde strafbare feiten zijn modellen ontwikkeld om een inschatting te kunnen maken of er sprake is van discriminatie of kindermishandeling bij het screenen van cases. Daarnaast wordt onderzocht of het mogelijk is om potentieel kwetsbare asielzoekers, mensenhandel of onvrijwillige prostitutie te kunnen herkennen.

Gezichtsherkenning

7.

Wordt overwogen te gaan werken of experimenteren met realtime gezichtsherkenning?

Antwoord vraag 7:

De maatschappij ontwikkelt zich en de politie ontwikkelt daarin mee. Het past in die lijn dat er ook binnen de politie wordt nagedacht over de mogelijkheden van gezichtsherkenning. Ik heb dit ook aan uw Kamer bericht in mijn brief van november 2019.¹³ Daarin heb ik benadrukt dat de politie uiteraard moet kunnen experimenteren met vormen van gezichtsherkenningstechnologie, maar dat deze niet operationeel mag worden ingezet dan nadat met betrokken partijen inzichtelijk is gemaakt wat het wettelijk kader is, welke waarborgen er getroffen zijn en wat de uitkomst is van de juridisch ethische toets. Op dit moment zijn er binnen de politie geen experimenten met realtime gezichtsherkenning.

11.

Past het gebruik van realtime gezichtsherkenning door voormalig EU-collega Engeland binnen het Coordinated Plan on Artificial Intelligence van de EU?

Antwoord vraag 11:

Het is niet aan mij om te beoordelen of het gebruik van technologie van een voormalige EU lidstaat past binnen het Coordinated Plan on Artificial Intelligence van de EU.

Politielab AI

52.

Op welke manier gaat het wetenschappelijke karakter van het Nationale Politielab AI bewaakt worden? Welke waarborgen heeft u daarvoor ingebouwd? Welke rol gaat het Transparantielab hierbij spelen?

Antwoord vraag 52:

Het Nationaal Politielab AI is een samenwerkingsverband in ICAI-verband tussen de politie en de Universiteit van Amsterdam en de Universiteit Utrecht. Er zijn twee wetenschappelijk directeuren betrokken, die mede de wetenschappelijke standaarden bewaken.

In het Nationaal Politielab AI wordt onderzoek uitgevoerd door promovendi en post docs die onderzoek doen aan Universiteit Utrecht of de Universiteit van Amsterdam, maar die ook (parttime) in dienst zijn van de politie. Op deze wijze wordt een unieke mix van wetenschappelijke kennis en onderzoek en operationele toepasbaarheid gecreëerd.

De politie neemt ook deel aan het Transparantielab van het Ministerie van Binnenlandse Zaken, waar de «richtlijnen voor het toepassen van algoritmen door overheden»¹⁴ worden getest.

61.

Hoeveel is reeds begroot voor het opzetten van het Nationaal Politielab AI?

Antwoord vraag 61:

De financiering wordt gerealiseerd vanuit de incidentele gelden voor digitalisering en cybercrime. Indien blijkt dat het Nationaal Politielab AI bijdraagt aan de doelstellingen van de politie op dit gebied zal gekeken worden naar een meer structurele financiering.

62.

In hoeverre werkt het Nationaal Politielab AI samen met het Openbaar Ministerie (OM)?

Antwoord vraag 62:

Voor zover het gaat om het ontwikkelen en toepassen van AI binnen de taakuitvoering dat onder het gezag van het OM plaatsvindt is het OM betrokken bij de wijze waarop dit wordt ingericht.

Ook de ontwikkeling van het Kwaliteitskader Big Data heeft plaatsgevonden in samenwerking tussen het OM en de politie.

65.

Wat voor soort publicaties over AI wil de politie in wetenschappelijke tijdschriften gaan plaatsen? Hoe voorkomt de politie daarbij dat de criminelen meelezen? Of wordt er gemakshalve vanuit gegaan dat criminelen dit niet gaan doen?

Antwoord vraag 65:

Er wordt gepubliceerd over wetenschappelijke inzichten die worden opgedaan in het onderzoek, en niet over operationele informatie. Met de universiteiten is vastgelegd dat de politie het recht heeft niet over te gaan tot publicatie als dit ongewenste inzichten biedt op politietactieken of de staatsveiligheid in gevaar kan brengen.

Betrokkenheid bedrijven en wetenschap

6.

Worden private bedrijven betrokken bij het ontwerp van AI systemen bij de politie en zo ja, welke? Hoever strekt die samenwerking?

49.

Welke externe partijen zoals (universiteiten, bedrijven en individuen werken op dit moment samen met de politie bij het ontwikkelen van AI toepassingen? Kunt u beschrijven op welke wijze deze externe partijen met de politie samenwerken, indachtig de opmerking in de brief dat de politie «niet te afhankelijk» moet worden van andere partijen?

66.

Met welke private partijen werkt de politie samen in het kader van AI? Indien geen private partijen worden betrokken bij de ontwikkeling en toepassing van kunstmatige intelligentie in de politiepraktijk, waarom niet?

67.

Met welke nationale of internationale kennispartners werkt de politie samen? Hoe wordt geborgd dat zij geen veiligheidsrisico kunnen vormen?

68.

Hoe wordt de betrouwbaarheid van kennispartners van de politie getoetst en wordt deze toetsing regulier uitgevoerd?

Antwoord vragen 6, 49, 66, 67, 68:

De politie werkt in het kader van het Nationaal Politielab AI samen met de Universiteit Utrecht en de Universiteit van Amsterdam. Incidenteel wordt er ook samengewerkt met andere universiteiten. Daarnaast werkt de politie op het gebied van AI samen met diverse Europese lidstaten, zowel in Europol verband als ook bilateraal.

In bepaalde gevallen werkt de politie samen met bedrijven bij de ontwikkeling van AI. Daarbij is het wel vereist dat deze bedrijven voldoen aan de ethische vereisten (transparantie, uitlegbaarheid, etc.).

Voor de politie is het van groot belang dat de partners en kennisinstellingen met wie zij samenwerkt betrouwbare partners zijn. Dat geldt niet alleen in het kader van AI, maar algemeen voor samenwerking en kennisuitwisseling van de politie. Voor de beoordeling van de betrouwbaarheid van partners worden de gebruikelijke procedures gevolgd.

Met het wetsvoorstel screening ambtenaren van politie en politie-externen¹⁵ dat recentelijk door uw Kamer is aangenomen wordt een wettelijke grondslag gecreëerd voor het screenen van externen en worden de screeningsbevoegdheden van de politie uitgebreid.

36.

Hoe gaat de overheid en dus de politie waarborgen dat men niet te afhankelijk wordt van private partijen die dit soort technologieën leveren?

Antwoord vraag 36:

De politie haalt onder andere in het Nationaal Politielab AI kennis en kunde naar binnen. Promovendi die in dienst zijn van de politie werken gedeeltelijk aan de Universiteit en gedeeltelijk dicht bij de uitvoering om AI toepassingen te ontwikkelen die bijdragen aan de taakuitvoering van de politie. Door de kennis zelf in huis te halen is de politie niet afhankelijk van externe leveranciers. Indien samengewerkt wordt met externe leveranciers moeten zij voldoen aan de ethische vereisten (transparantie, uitlegbaarheid, etc.).

Europa

15.

Kan worden aangegeven waar Nederland staat in vergelijking tot andere Europese landen als het gaat om de ontwikkeling en toepassing van AI?

Antwoord vraag 15:

De politie in Nederland heeft in vergelijking met politiekorpsen in andere landen in Europa relatief veel kennis in huis over AI en is een van de voorlopers in de ontwikkeling van AI. Dat komt onder andere door het samenwerkingsverband in het Nationaal Politielab AI waarbij ontwikkeling van AI binnen de politie plaatsvindt in samenwerking met de wetenschap.

39.

Kan worden aangegeven in hoeverre nu wordt ingezet op kennisuitwisseling met andere Europese landen als het aankomt op AI?

Antwoord vraag 39:

Het is belangrijk om bij te blijven met de nieuwste ontwikkelingen op het gebied van AI, onder andere om ook de ontwikkelingen die in het criminele veld plaatsvinden bij te houden. Daarom wordt door de politie nauw samengewerkt en kennis uitgewisseld in Europol verband, maar ook bilateraal met andere Europese landen. Deze positie is alleen mogelijk omdat de politie over eigen AI experts beschikt. Daarnaast wordt er vanuit de politie en mijn departement deelgenomen aan diverse werkgroepen over AI en nieuwe technologieën in de EU.

Cybercrime

34.

In hoeverre maken criminelen ook gebruik van AI? Gebruiken cybercriminelen ook algoritmes en AI om slachtoffers te kiezen voor hackaanvallen? Op welke manier kan dit tegengegaan worden?

Antwoord vraag 34:

Over het algemeen blijkt dat (cyber)criminelen gebruik maken van nieuwe technologische mogelijkheden voor het plegen van criminaliteit. De politie heeft nog geen concrete indicaties van het gebruik van zelflerende algoritmes om keuzes te maken in het cybercriminele proces. Wel is het zo dat cybercriminelen processen automatiseren, optimaliseren en schaalbaar maken, zowel voor het plegen als het beschermen van cybercrime.

Binnen de industrie wordt gewaarschuwd voor het ontwikkelen van AI-toepassingen voor (cyber)crimineel gebruik, waarbij meestal wordt verwezen naar het ontwikkelen en gebruiken van deepfakes ten behoeve van phishing en fraude. In de praktijk heeft de politie hier in Nederland nog geen voorbeelden van gezien.

35.

Hoe kan de overheid en dus ook de politie de criminelen voor blijven in de technologische wedloop? Kunt u daarbij betrekken wat daarover is gezegd in Nieuwsuur van 5 februari 2020? Deelt u de daarin geuite mening dat het helemaal niet vaststaat dat de overheid deze wedloop gaat winnen van de criminelen

Antwoord vraag 35:

Om criminelen voor te kunnen blijven in de technologische wedloop is het van belang dat de politie ook gebruik kan maken van de nieuwe technologische ontwikkelingen ten behoeve haar taakuitvoering. Ik vind het daarom ook van belang dat de politie de ruimte krijgt om te experimenteren met de inzet van nieuwe technologie, uiteraard binnen de geldende kaders. Het Nationaal Politielab AI is hier een voorbeeld van.

79.

Welke strafbare feiten met behulp van algoritmes en AI worden er gepleegd, en hoe vaak kwamen deze strafbare feiten in 2019 voor?

Antwoord vraag 79:

De politie heeft op dit moment geen aanwijzingen dat in Nederland al strafbare feiten gepleegd worden met AI.

AI Coalitie

40.

Welke partijen nemen naast de overheid nog meer deel aan de Nederlandse AI Coalitie?

Antwoord 40:

Naast overheden gaat om het grootbedrijf, MKB, kennis- en onderwijsinstellingen, brancheorganisaties en ziekenhuizen. U vindt een overzicht van de deelnemende partijen via https://nlaic.com/coalitiepartners

41.

Welke criteria worden gebruikt om partijen te selecteren voor de AI Coalitie?

Antwoord vraag 41:

Van deelnemende partijen worden concrete bijdragen verwacht aan de werkzaamheden van de Coalitie. Het moet gaan om in Nederland gevestigde rechtspersonen (geen privé personen), die aantoonbaar activiteiten hebben of plannen hebben, die bijdragen aan de ontwikkeling van Nederland op AI-gebied.

Overig

3.

Wanneer vindt de evaluatie van de wet Computercriminaliteit III plaats?

Antwoord vraag 3:

Twee jaar na de inwerkingtreding op 1 maart 2019 wordt de wet CCIII geëvalueerd door het WODC.

31.

Wordt ook overwogen om het Juridisch Loket te vervangen door AI? Zal zo'n Juridische Robot een positief of een negatief effect hebben op de kwaliteit van de advisering?

Antwoord vraag 31:

In de tweede voortgangsrapportage van het programma Rechtsbijstand (brief d.d. 19 december 2019, Kamerstuk 31 753, nr. 190) is uiteengezet op welke manier het Juridisch Loket bezig is de eigen dienstverlening dichter bij de burger te brengen. Onderdeel van het programma is ook de verbetering van online informatie en advies. Het einddoel is dat meer mensen terecht kunnen in een betrouwbare, begrijpelijke online omgeving, die met meer functionaliteiten op interactieve wijze helpt om problemen op te lossen. De komende tijd wordt een plan van aanpak gemaakt voor deze online omgeving. De Minister voor Rechtsbescherming sluit niet bij voorbaat uit dat in deze online omgeving ook artificiële intelligentie (AI) wordt ingezet. De inzet van AI en algoritmen in de rechtspleging dient steeds op verantwoorde wijze te geschieden. IJkpunten daartoe heeft de Minister voor Rechtsbescherming geschetst in zijn brief aan de Eerste Kamer.¹⁶

Robocop en andere filmverwijzingen

32.

Zijn politieagenten op straat ook te vervangen door AI? Aan welke concrete verschijningsvorm kan daarbij gedacht worden? Moet daarbij gedacht worden aan een variant op Robocop (een figuur uit een Amerikaanse sciencefiction-actiefilm uit 1987 en 2014)?

33.

Wat waren de positieve en negatieve kanten aan het functioneren van Robocop, in uw ogen? Kunt u hierbij ook ingaan op de kwaliteiten van Judge Dredd (een Amerikaanse actiefilm uit 1995)? Valt de Terminator (1984 e.v.) volgens u ook onder de gewenste AI?

Antwoord vragen 32 en 33:

Er is geen sprake van het vervangen van politieagenten op straat door AI. AI wordt gebruikt ter ondersteuning van het politiewerk. Zoals vele organisaties (bijvoorbeeld in de zorg) experimenteert de politie wel op kleine schaal met robotisering. Het is niet aan mij als Minister van Justitie en Veiligheid om in te gaan op de kwaliteiten, positieve en negatieve kanten van fictieve karakters uit Hollywoodfilms.

74.

Klopt het dat het boek «1984» (met daarin Big Brother) uit 1948, en de daarin beschreven surveillancestaat, in China inmiddels een realiteit geworden is? Kunt u uitsluiten dat elementen van zo’n politiestaat in Nederland ingang zullen vinden?

Antwoord vraag 74:

Helder moge zijn dat ik geen surveillance staat voor sta. De ontwikkelingen over AI bij de politie zoals die uit brief blijken geven ook geen aanleiding voor vrees daartoe. De Nederlandse wetgeving, de Europese richtlijnen en het EVRM zijn en blijven leidend bij de verdere ontwikkeling van AI. Ten aanzien van de vraag over China verwijs ik naar de brief van de Minister van Buitenlandse zaken dd. 15 mei jl.¹⁷

---

1 Kamerstukken 26 643 en 32 761, nr. 652.

2 Dechesne, F., Dignum, V., Zardiashvili, L., & Bieger, L. J. (2019). AI & Ethics at the Police, via https://www.universiteitleiden.nl/binaries/content/assets/rechtsgeleerdheid/instituut-voor-metajuridica/artificiele-intelligentie-en-ethiek-bij-de-politie/ai-and-ethics-at-the-police-towards-responsible-use-of-artificial-intelligence-at-the-dutch-police-2019.pdf.

3 Kamerstukken 26 643 en 32 761, nr. 641.

4 Dechesne, F., Dignum, V., Zardiashvili, L., & Bieger, L. J. (2019). AI & Ethics at the Police, via https://www.universiteitleiden.nl/binaries/content/assets/rechtsgeleerdheid/instituut-voor-metajuridica/artificiele-intelligentie-en-ethiek-bij-de-politie/ai-and-ethics-at-the-police-towards-responsible-use-of-artificial-intelligence-at-the-dutch-police-2019.pdf.

5 Dechesne, F., Dignum, V., Zardiashvili, L., & Bieger, L. J. (2019). AI & Ethics at the Police, via https://www.universiteitleiden.nl/binaries/content/assets/rechtsgeleerdheid/instituut-voor-metajuridica/artificiele-intelligentie-en-ethiek-bij-de-politie/ai-and-ethics-at-the-police-towards-responsible-use-of-artificial-intelligence-at-the-dutch-police-2019.pdf.

6 Kamerstuk 26 643, nr. 657.

7 Bijlage bij Kamerstuk 29 628, nr. 835.

8 Kamerstuk 30 950, nr. 183.

9 Bijlage bij Kamerstuk 29 628, nr. 835.

10 Bijlage bij Kamerstuk 29 628, nr. 835.

11 Kamerstuk 26 643, nr. 657.

12 Kamerstukken 26 643 en 32 761, nr. 652

13 Kamerstukken 32 761 en 30 821, nr. 152.

14 Kamerstuk 26 643, nr. 641.

15 Kamerstuk 35 170, nr. 2.

16 Kamerstuk 34 775 VI, AH.

17 Kamerstuk 35 207, nr. 1.