34 931 Bijeenkomsten van de Parlementaire Controlegroep (JPSG) Europol

H/ Nr. 7 HERDRUK¹ VERSLAG VAN EEN DIGITALE INTERPARLEMENTAIRE CONFERENTIE

Vastgesteld 5 april 2022

Op 28 februari 2022 vond vanuit Brussel, België, op digitale wijze de tiende bijeenkomst plaats van de gezamenlijke parlementaire controlegroep Europol (verder: JPSG).

De JPSG houdt op basis van artikel 51 van de Europolverordening² politiek toezicht op de activiteiten van het EU-agentschap voor politiesamenwerking Europol. De JPSG bestaat uit leden van de nationale parlementen – maximaal vier leden, gelijkelijk te verdelen over beide Kamers der Staten-Generaal – en van het Europees Parlement – LIBE-comité – en komt in beginsel twee maal per jaar bijeen.

Vanuit de Eerste Kamer namen de leden Veldhoen (GroenLinks) en Van Hattem (PVV) deel aan de conferentie. De Tweede Kamer werd vertegenwoordigd op ambtelijk niveau.

De delegatie brengt als volgt verslag uit.

1. Vaststelling van de agenda en welkomstwoord

De vergadering werd geopend door de covoorzitters van deze conferentie, mevrouw Yaël Braun-Pivet, voorzitter van de JPSG-delegatie van de Nationale Vergadering van Frankrijk, de heer François-Noël BUFFET, voorzitter van de senaat van de Franse JPSG-delegatie, de huidige voorzitter van de Raad van de Europese Unie, en de heer Juan López-Aguilar, voorzitter van de LIBE-commissie van het Europees Parlement.

Op initiatief van mevrouw Braun-Pivet hielden de deelnemers aan het begin van de bijeenkomst een minuut stilte voor de slachtoffers van de militaire inval in Oekraïne. Mevrouw Braun-Pivet maakte daarna van de gelegenheid gebruik de agenda kort, procedureel toe te lichten en een terugkoppeling te geven aan de vergadering van de Trojka-bijeenkomst, die plaatsvond direct voorafgaand aan de JPSG-vergadering. Tijdens deze vergadering benadrukte de Trojka dat het van belang is dat de schriftelijke vragen die, conform artikel 4.2 van het reglement van orde van de JPSG, worden gesteld door de JPSG-leden aan Europol, tijdig en uitputtend beantwoord worden.

2. Recente activiteiten Europol en presentatie van de stand van de onderhandelingen over de voorgestelde herziening van de Europol-verordening

De uitvoerend directeur van Europol, mevrouw Catherine De Bolle, verzorgde ter vergadering een presentatie van de activiteiten van en de ontwikkelingen binnen Europol. Ze keek daarbij terug op de periode sinds de vorige JPSG vergadering op 25 en 26 oktober 2021.³ Mevrouw De Bolle ging verder in op de betrokkenheid van Europol bij de situatie in Oekraïne. Europol is een partner van Oekraïne en staat permanent in contact en wisselt informatie uit met de verbindingsofficier – ook wel liaison officier – van Oekraïne. Ook staat Europol in nauw contact met de andere EU instituties en lichamen om de situatie in Oekraïne te volgen. Verder blijft Europol de politie-instanties en andere wetshandhavingsdiensten in Oekraïne en de burgers die zij beschermen en die geraakt zijn door dit conflict ondersteunen.

Mevrouw De Bolle nam notie van de oproep om Europol de schriftelijke vragen van de JPSG-leden beter en sneller te laten beantwoorden en zij gaf aan zich hiervoor sterk te maken.

Mevrouw De Bolle sprak verder de verwachting uit dat de voorgestelde wijziging van de Europolverordening, Europol in het huidige digitale tijdperk beter in staat zal stellen om lidstaten te ondersteunen in het tegengaan van misdrijven, terrorisme en grote veiligheidsbedreigingen. Eind januari 2022 is het concept programmeringsdocument van Europol voor de periode 2023–2025 aan de leden van de JPSG aangeboden, waarvan de Europol Strategie 2020+ de basis blijft. In haar presentatie gaf mevrouw De Bolle voorts een update van de operationele activiteiten van Europol. Mevrouw De Bolle gaf in dit kader aan dat de COVID-19 pandemie nog altijd effect heeft op de hoeveelheid en aard van de criminaliteit. Verder kondigde mevrouw De Bolle aan dat een update van de Europol Strategie 2000+ is voorzien in de komende periode.

Ten aanzien van de «big data»- uitdaging van Europol haalde mevrouw De Bolle de beslissing van 3 januari 2022 van de Europese Toezichthouder voor gegevensbescherming (EDPS) aan waarin wordt bepaald dat Europol het DSC⁴ voor grote en complexe datasets zonder categorisering van betrokkenen binnen een vaste bewaringstermijn van zes maanden moet voltooien en bij het verstrijken waarvan Europol wordt bevolen de gegevens te wissen. Tegen deze achtergrond verwelkomde mevrouw De Bolle het onderhandelaarsakkoord op de geamendeerde Europol oprichtingsverordening dat voor wat betreft het thema verwerking persoonsgegevens ook deels een oplossing biedt voor de «big data»-uitdaging van Europol.

De heer Wojciech Wiewiórowski, de Europees Toezichthouder gegevensbescherming (EDPS), koppelde vervolgens de werkzaamheden van de EDPS inzake Europol terug aan de JPSG-vergadering. De heer Wiewiórowski wees erop dat deze bijeenkomst naar alle waarschijnlijkheid de laatste zal zijn onder de huidige Europolverordening en dat de rol van de EDPS onder de nieuwe regelgeving in de praktijk kleiner zal worden. De heer Wiewiórowski lichtte voormelde EDPS-beslissing van 3 januari 2022 verder toe. De heer Wiewiórowski gaf aan dat Europol verschillende van de gegevensbeschermingsrisico’s heeft aangepakt die in het eerste onderzoek van de EDPS waren vastgesteld. Volgens spreker is echter geen significante vooruitgang geboekt bij het aanpakken van het grootste zorgpunt inhoudende dat Europol voortdurend persoonsgegevens over personen opslaat wanneer het niet heeft vastgesteld dat de verwerking voldoet aan de limieten die zijn vastgelegd in de huidige Europolverordening. Een dergelijke verzameling en verwerking van gegevens kan een enorme hoeveelheid informatie opleveren, waarvan de precieze inhoud vaak onbekend is voor Europol tot het moment dat deze wordt geanalyseerd en geëxtraheerd – een proces dat vaak jaren duurt. Een periode van 6 maanden voor de vooranalyse en filtering van grote datasets moet Europol in staat stellen te voldoen aan de operationele behoeften van de EU-lidstaten die voor technische en analytische ondersteuning afhankelijk zijn van Europol, en tegelijkertijd de risico's voor de rechten en vrijheden van personen tot een minimum te beperken, aldus de heer Wiewiórowski. Gelet op de operationele behoeften van Europol en de hoeveelheid tot nu toe verzamelde gegevens, heeft de EDPS besloten Europol een termijn van 12 maanden te geven om ervoor te zorgen dat het besluit wordt nageleefd voor de datasets die reeds in het bezit zijn van Europol.

3. Thematisch debat I Europols bijdrage in de strijd tegen migrantensmokkelaars

De heer Jean Philippe Lecouffe, plaatsvervangend uitvoerend directeur van Europol, directoraat Operaties, wees er in zijn presentatie op dat migrantensmokkel een ernstige, grensoverschrijdende criminele activiteit is, die het leven van migranten in gevaar brengt, blijk geeft van gebrek aan respect voor het menselijk leven, en de menselijke waardigheid uit winstbejag en de migratiebeheerdoelstellingen van de EU en de grondrechten van de betrokkenen, ondermijnt. De heer Lecouffe gaf tevens aan dat de afgelopen jaren Europol een toename heeft geregistreerd van deze activiteiten over alle routes om de Europese Unie in te komen, met name bij de aankomst over zee. Spreker wees erop dat smokkelnetwerken in staat zijn om hun aanbod van illegale diensten snel aan te passen en dat zij functioneren op verschillende manieren, afhankelijk van de geografische locaties en de context waarin zij opereren. Zij bieden diverse diensten aan, waaronder verschillende vervoerswijzen, safehouses langs de route en frauduleuze reisdocumenten. In het luchtvervoer speelt fraude met identiteitskaarten en visa een belangrijke rol. De heer Lecouffe gaf aan dat het opvoeren van de respons op migrantensmokkel een gemeenschappelijke uitdaging is voor de EU, haar lidstaten en de partnerlanden. Spreker wees erop dat het in 2016 opgerichte Europees Centrum tegen migrantensmokkel (EMSC) van Europol een centrale rol speelt in de samenwerking op het gebied van rechtshandhaving doordat het centrum de lidstaten operationele ondersteuning biedt bij hun onderzoeken door rechercheurs uit de lidstaten bijeen te brengen, analyses te verstrekken en deel te nemen aan actiedagen. De heer Lecouffe gaf aan dat gestreefd wordt naar een volledige-routeaanpak, waarbij internationale samenwerking en coördinatie met de partners en tussen de lidstaten worden gecombineerd met de inzet op ontwrichting van het bedrijfsmodel van mensensmokkelaars. Het EMSC zal zich de komende periode richten op een betere samenwerking met belangrijke landen van herkomst en doorreislanden en daarnaast op een uitbreiding van de kennisbasis waarbij de lidstaten zullen worden ondersteund in de ontwikkeling van nieuwe technologieën, aldus spreker.

De heer Johannes Luchner, adjunct-directeur-generaal, DG HOME, Europese Commissie, sprak over de menselijke tragedie die achter migrantensmokkel schuilgaat. De heer Luchner lichtte het op 29 september 2021 door de Europese Commissie gepresenteerde actieplan tegen migrantensmokkel nader toe. Spreker gaf als speerpunten van dit actieplan aan; i) een versterkte samenwerking met partnerlanden en internationale organisaties ter bestrijding van mensensmokkel; ii) het reageren op de instrumentalisering van illegale immigratie door overheidsactoren, iii) de versterking van het rechtskader voor het bestraffen van mensensmokkelaars; iv) het voorkomen van uitbuiting van gesmokkelde migranten; v) de versterking van de samenwerking en ondersteuning van het werk van rechthandhavingsinstanties en het gerechtelijk apparaat en vi) de uitbreiding van de kennisbasis. Tot slot wees de heer Luchner erop dat er nieuwe uitdagingen liggen in de strijd tegen migrantensmokkel aangezien mensensmokkelaars steeds vaker gebruikmaken van digitale diensten en instrumenten, zoals sociale media en mobiele apps voor werving, communicatie en geldovermakingen, het ophalen en overdragen van migranten, het verstrekken van routebegeleiding, het delen van foto's en video's van documenten en tickets en zelfs het monitoren van rechtshandhavingsactiviteiten. Spreker gaf tot slot het belang aan om te blijven inzetten op een intensivering van de samenwerking met de andere agentschappen zoals Eurojust en Frontex in de strijd tegen migrantensmokkel.

Mevrouw Silke Albert, expert misdaadpreventie, Afdeling Mensenhandel en Migrantensmokkel (HTMSS), Afdeling voor georganiseerde misdaad en illegale handel (OCB), Afdeling voor Verdragszaken (DTA), Bureau van de Verenigde Naties voor drugs en misdaad stond onder meer stil bij het verschil tussen migrantensmokkel en mensenhandel. Zij wees erop dat dit verschillende soorten misdrijven zijn waarop verschillende wetgeving van toepassing is. Beiden vormen weliswaar een grote bedreiging voor de slachtoffers en de lidstaten en derde staten, maar behoeven ook een verschillende aanpak.

In het daaropvolgende debat met JPSG-leden kwamen onder meer vragen naar voren over Oekraïne en de rol van Europol daarin. In dit kader vroeg het Nederlandse JPSG-lid Van Hattem (Eerste Kamer) onder meer om een toelichting te geven op Europols strategische samenwerking met Oekraïne en of de strategische samenwerking met Rusland nog bestaat.

In antwoord op de vraag van het lid Van Hattem gaf mevrouw De Bolle aan dat de strategische samenwerking met Rusland enkel nog op papier bestaat en dat hier thans geen uitvoering aan wordt gegeven.

4. Keynote Interventions

Dit betrof een sessie met Gérald Darmanin, Minister van Binnenlandse Zaken, van Frankrijk, en Olivier Onidi, adjunct directeur-generaal DG HOME, van de Europese Commissie. Laatstgenoemde verving Ylva Johansson, EU-commissaris voor Binnenlandse Zaken, die – gezien de op 24 februari 2022 gestarte militaire invasie van Oekraïne door Rusland – op verzoek van de JBZ Raad met spoed was afgereisd naar EU-lidstaten grenzend aan Oekraïne om de situatie aldaar in ogenschouw te nemen en EU-ondersteuning aan te bieden bij het omgaan van de ontstane situatie.

Minister Darmanin verwelkomde het onder Frans EU-Raadsvoorzitterschap tot stand gekomen (onderhandelaars)akkoord over amendering van de Europolverordening. Hij stelde dat met de nieuwe mandaat Europol meer effectief kan optreden, onder meer in de digitale sfeer waar de nieuwe verordening meer ruimte biedt om samen te werken met private (tech)bedrijven. Samenwerking die onontbeerlijk is bij het bestrijden van misdaad in het digitale domein.

Voor wat betreft de «big data»-uitdaging (hierboven reeds aan gerefereerd) stelde hij dat met de regels in de geamendeerde verordening betreffende de omgang met bulkdata, Europol nu weer vooruit kan. Hij tekende hierbij aan dat de datasets aangeleverd vanuit de lidstaten, in conformiteit zijn met de in die lidstaten (en op EU-niveau) geldende waarborgen – kennelijk in een poging te benadrukken dat de big data-uitdaging van Europol (die handelt over het te lang in bezit hebben van bestanden) niet ging om de vraag of de data in die bestanden rechtmatig waren verkregen.

De heer Onidi wees in relatie tot het eerder besproken onderwerp migrantensmokkel op de rol van het Europol Competence Centre dat lidstaten ondersteunt bij het snel informatie delen over mensensmokkelaars. Het Competence Centre ondersteunt lidstaten ook in hun vermogen om weerbaarheid tegen cybercrime op te bouwen.

Refererend aan de «big data»-uitdaging stelde hij dat eigenlijk alleen Europol de capaciteit heeft om bulkbestanden te analyseren en kruisverbanden met data in andere EU JBZ databanken te leggen. Hij verwees hierbij naar de Encrochat casus (waarbij de politie twintig miljoen chatberichten in het veel binnen het criminele circuit gebruikte Encrochat kon meelezen na het breken van de encryptie) waar de Franse en Nederlandse politie massieve databestanden aanleverden waarbij (enkel) Europol de capaciteit had die snel te analyseren.

De heer Onidi stelde verder dat de gewijzigde Europol verordening het agentschap in staat stelt intensiever samen te werken met derde landen. Ook onderstreepte hij dat de nieuwe tekst het parlementaire toezicht door de JPSG verstevigt, onder meer door introductie van de mogelijkheid van het uitvaardigen van formele opinies door de JPSG.

In het debat met JPSG-leden kwamen vragen naar voren over de rol en invloed van de nieuwe staffunctionaris grondrechten die de gewijzigde Europol verordening introduceert en over wijzigingen in de rol van de Europese Toezichthouder voor Gegevensbescherming bij het toezicht op Europol.

Het Spaanse EP-lid mevrouw Pagazaurtundúa (Renew, waar vanuit Nederland de VVD en D66 aan gelieerd zijn) vroeg zich af of nu Europese handhavingsautoriteiten, gefaciliteerd door Europol, steeds intensiever samenwerken, er niet ook toegewerkt moet worden naar een gezamenlijke «politie code». Ze stelde dat er onder burgers veel zorgen leven over privacy (ook wat betreft de toegang van de politie tot persoonlijke gegevens) en dat het van belang is de balans tussen (bevoegdheden) politie en (zorgen) burgers goed in evenwicht te houden en zo het vertrouwen van het publiek te behouden. Het Duitse Bundestag-lid Fiedler (SDP) sloot zich hierbij aan en riep op tot het komen tot een gezamenlijke EU politiecultuur, inclusief gezamenlijke trainingen en een code voor beroepsethiek.

In antwoord op de vragen, uitte de heer Onidi zich positief over de oproep tot een gezamenlijke EU «politie code» als iets om op de langere termijn naar toe te bewegen. Over het respecteren van grondrechten door Europol, stelde hij dat de standaarden die het agentschap aanlegt bij zijn activiteiten op hoog niveau geborgd zijn. Hij verwees naar de in juni dit jaar van kracht wordende verordening ter voorkoming van de verspreiding van terroristische online content, waarin ook Europol een rol speelt, als een voorbeeld van het borgen van grondrechten.

Minister Darmanin benadrukte tevens de borging van grondrechten in de nieuwe Europol verordening waarbij hij wees op de nieuwe staffunctionaris grondrechten binnen het agentschap, het toezicht door de EDPS, en de controle door de JPSG als drie soorten toezicht op Europol. Hij maakte een vergelijking met Frankrijk waar het toezicht op de nationale politie meerdere lagen kent, inclusief betrokkenheid van commissies voor burgerlijke vrijheden.

5. Thematisch debat II Risico's en kansen van kunstmatige intelligentie (AI) voor Europol

Het thematisch debat werd gestart met een interventie van Jürgen Ebner, adjunct directeur governance bij Europol. Hij stelde dat het gebruik van AI-technieken feitelijk een noodzakelijke voorwaarde is geworden voor Europol om zijn taken naar behoren uit voeren. Hij stelde dat AI-technieken het mogelijk maken binnen zeer omvangrijke databestanden de spreekwoordelijke naald in een hooiberg te vinden. AI en machine learning nemen hierbij mensen werk uit handen, werk dat Europol medewerkers gezien de enorm in omvang toegenomen databestanden, nauwelijks meer handmatig zouden kunnen verrichten. Hij haalde hier als voorbeeld beeldherkenningssystemen aan waarmee mega databestanden snel gescand kunnen worden op beelden van online, grensoverschrijdend kindermisbruik. Gebruik van deze technieken speelt voor Europol tijd vrij die ingezet wordt voor onderzoek dat anders mogelijk was blijven liggen.

Tegelijk stelde de heer Ebner een zeer open oog te hebben voor risico’s van AI technieken die bij inzet zonder adequate waarborgen kunnen leiden tot «potential harmful outcomes». Hij stelde dat daarom AI-technieken voor gebruik eerst aan een uitgebreid afwegingskader getoetst worden. Hij stelde dat Europol geen gebruik maakt van technieken als «predictive policing» (wiskundige, voorspellende analyses en andere analytische technieken bij wetshandhaving om potentiële criminele activiteiten te identificeren) en live gezichtsherkenningssystemen. Over de publieke acceptatie van AI-technieken, haalde hij een onderzoek onder 5.000 mensen van de universiteit van Sheffield /Centric aan waaruit naar voren kwam dat circa 90 procent van de respondenten de inzet van AI-technieken bij politieonderzoek in beginsel ondersteunt.

Olivier Onidi (adjunct directeur-generaal DG HOME) stelde dat het zoeken naar kruisverbanden in de zeer omvangrijke JBZ databanken moeilijk voorstelbaar is zonder de inzet van AI-technieken. Hij hield een pleidooi AI-technieken binnen de EU zelf te ontwikkelen om niet afhankelijk te zijn van technieken uit andere werelddelen. Hij benadrukte – net als de heer Ebner ― dat de gewijzigde Europol verordening erin voorziet dat onderzoek & innovatie projecten waarbij de verwerking van persoonsgegevens een rol speelt (daaronder begrepen de ontwikkeling van nieuwe AI-technieken) vijf hordes moeten passeren voordat ze in gang kunnen worden gezet: onder meer toestemming van de uitvoerend directeur, consultatie van de interne toezichthouder gegevensbescherming en van de nieuwe interne staffunctionaris grondrechten, en notificatie vooraf van de EDPS. De heer Onidi benadrukte verder de samenloop van deze bepalingen met de momenteel in Brussel in onderhandeling zijnde AI-verordening.

De derde spreker tijdens deze sessie was mevrouw Nathalie Smuha, onderzoeker recht en ethiek van AI/Technologie aan de rechten faculteit van de KU Leuven. Ze stelde dat AI geen nieuwe «magische techniek» maar eerder een set van data-analysetechnieken is, bedoeld voor het ondersteunen van tussentijdse of eindbeslissingen, gebaseerd op statistische methoden, kansrekening en correlatie (meer dan op causale verbanden). Ze benadrukte de grote mogelijkheden die AI-technieken bieden, bijvoorbeeld detectie van online misbruik van kinderen, maar gaf aan in haar presentatie vooral de risico’s te zullen belichten.

Mevrouw Smuha gaf aan dat de Europese Commissie, de uitdagingen van AI-technieken onderkennend, in 2018 een expertgroep op hoog niveau in het leven heeft geroepen (waar zij lid van is) om de kansen en de van gebruik van deze technieken risico’s in kaart te brengen. Deze expert groep – die mede aan de wieg stond van de AI-verordening die momenteel in Brussel op de onderhandelingstafel ligt – heeft het begrip betrouwbare AI geïntroduceerd, met als basisprincipes de robuustheid, ethiek en rechtmatigheid van AI-technieken. Daarbij moeten technieken onder meer «evidence based» en vrij van tendentie (bias) zijn. Persoonsgegevens en privacy dienen beschermd te worden en uitkomsten van AI-systemen dienen robuust te zijn onder meer in de zin dat ze reproduceerbaar zijn. Als bijzondere uitdagingen noemde zij dat de huidige conceptverordening niet enkel op huidige maar ook op toekomstige AI-technieken toegesneden moet zijn. En dat de risico’s van AI-technieken niet enkel in relatie tot individuen maar, gegeven de schaalbaarheid, ook in relatie tot de samenleving moeten worden gezien – bijvoorbeeld het risico van het ontstaan van asymmetrische informatiepositie die de balans tussen wetgevende, uitvoerende en rechtsprekende macht beïnvloedt. Voor wat betreft het basisprincipe ethiek stelde zij dat het afbakenen van toepassingen van AI die in ethische zin maatschappelijk aanvaardbaar of juist onwenselijk zijn, moeilijker is dan het bepalen welke toepassingen strikt verboden dienen te zijn.

De vragen van JPSG-leden richtten zich vooral op hoe het risico op discriminatie en «bias» bij het gebruik van AI-technieken voorkomen kan worden waarbij de Franse MEP Delbos-Corfield (Groenen) melding maakte van slechte ervaringen in het VK met het gebruik van deze technieken. Het Nederlandse JPSG-lid Van Hattem (Eerste Kamer) sneed het voornemen van de Europese Commissie aan tot het creëren van een Europese digitale identiteit (waarmee burgers zich digitaal kunnen identificeren bij webdienstaanbieders en desgewenst bepaalde persoonlijke informatie kunnen vrijgeven), en sprak zijn zorgen uit over de mogelijke interactie tussen dit initiatief en het gebruik van AI-technieken, en risico’s voor de privacy. Het Nederlandse JPSG-lid Veldhoen (Eerste Kamer) waarschuwde tegen het gebruik van zelf-lerende AI-systemen zonder menselijke controle en interventie. Zij stelde onder meer dat het op zich positief is dat bij gebruik van dergelijke systemen binnen Europol het nemen van beslissingen in de handen van mensen blijft maar vroeg zich, met het oog op rechtszekerheid en verantwoording, af of mensen enkel de eindbeslissingen nemen of dat ook tussentijdse beslissingen in handen blijven van mensen. Meer als opdracht aan zichzelf en mede JPSG-leden, riep zij parlementariërs in het algemeen op zich grondig te verdiepen in het complexe AI-vraagstuk en de impact op samenleving en democratie. Het Belgische JPSG-lid Metsu (Belgisch federaal parlement, NVA) vroeg zich af wat voor Europol expliciet de kansen zijn die AI-techniek kan bieden.

De heer Ebner antwoordde op de vraag naar mogelijkheden van AI dat ondertussen bij vrijwel alle justitiële onderzoeken binnen Europol AI-technieken ingezet worden gegeven de, de afgelopen jaren enorm gegroeide hoeveelheid data, betrokken bij brede maar ook individuele onderzoeken. Op de vraag van het lid Veldhoen stelde hij dat bij gebruik van AI-systemen vanaf het begin en in alle verdere stadia menselijke interventie voorzien is, waarbij hij ook wees op de rol van de nieuw te introduceren interne Europol staffunctionaris grondrechten. Op de vraag van het lid Van Hattem, antwoorde hij dat Europol zelf geen toegang heeft tot persoonsgegevens zoals die, die in de nog te introduceren Europese digitale identiteit besloten zouden liggen, en dat dergelijke data enkel vanuit de lidstaten kunnen worden aangeleverd, onder de daar geldende wettelijke vereisten, in het kader van een lopend onderzoek.

Mevrouw Smuha sloot af met de opmerking dat een EU verantwoordingskader voor gebruik van AI-technieken binnen Europol, en daarbuiten, toekomstbestendig moet zijn omdat de mogelijkheden van deze technieken en de hoeveelheid data die voorhanden is enkel sterk zal toenemen. Reagerend op vragen van leden naar voldoende middelen, stelde ze dat niet alleen voldoende financiële middelen nodig zijn, ook voor toezicht, maar evenzeer voldoende geschoold personeel dat in staat is met de complexiteit van AI-systemen om te gaan maar evenzeer met de ethische en juridische risico’s die AI-systemen introduceren. Alleen onder de voorwaarde van voldoende tijd, middelen en scholing kunnen functionarissen suggesties voor besluitvorming waar AI-systemen mee komen, voldoende kritisch beoordelen.

De JPSG co-voorzitters Braun-Pivet en López-Aguilar sloten de vergadering af onder dankzegging aan sprekers en leden. De volgende JPSG-vergadering zal in het najaar in Brussel, Belgie, plaatsvinden, de datum wordt binnenkort gecommuniceerd.

Namens de delegatie van de Eerste Kamer,

Veldhoen

Van Hattem

De griffier van de delegatie van de Eerste Kamer, Wittich-de Ridder

De griffier van de delegatie van de Tweede Kamer, Rook

---

1 i.v.m. correctie in de vastgestelde datum.

2 Verordening (EU) 2016/794 van het Europees Parlement en de Raad van 11 mei 2016 betreffende het Agentschap van de Europese Unie voor samenwerking op het gebied van rechtshandhaving (Europol).

3 Voor het verslag van die vergadering, zie: Kamerstuk 34 931, G / nr. 6.

4 De DSC is de handeling van het identificeren in deze datasets van verdachten, potentiële toekomstige criminelen, contacten en medewerkers, slachtoffers, getuigen en informanten die verband houden met criminele activiteiten.