35 913 Mededeling van de Commissie aan het Europees Parlement, de Raad, het Europees Economisch en Sociaal Comité en het Comité van de regio's: Bevordering van een Europese benadering van artificiële intelligentie (COM(2021)205) | Voorstel voor een Verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie (COM(2021)206) | Voorstel voor een Verordening van het Europees Parlement en de Raad betreffende machineproducten (COM(2021)202)

F BRIEF VAN VICEVOORZITTER ŠEFČOVIČ VAN DE EUROPESE COMMISSIE EN LID BRETON

Aan de Voorzitter van de vaste commissies voor Justitie en Veiligheid

Cc: Aan de Voorzitter van de Eerste Kamer der Staten-Generaal

Brussel, 5 februari 2022

De Commissie dankt de Eerste Kamer voor haar advies over de mededeling «Bevordering van een Europese aanpak van kunstmatige intelligentie» {COM (2021) 205 final} en het voorstel voor een verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie {COM(2021) 206 final}.

Artificiële intelligentie (AI) omvat snel evoluerende technologieën die een brede waaier van economische en maatschappelijke voordelen kunnen opleveren voor alle sectoren en sociale activiteiten. De aanpak van de Commissie bestaat erin de ontwikkeling van een ecosysteem van excellentie op het gebied van AI en een ecosysteem van vertrouwen in AI te bevorderen. Met dit wetgevingsvoorstel wil de Commissie mensen het vertrouwen geven om op AI gebaseerde oplossingen te omarmen en bedrijven aanmoedigen om deze oplossingen te ontwikkelen.

AI moet een instrument zijn dat ten dienste staat van de mens en uiteindelijk het menselijk welzijn vergroot. De regels voor AI die in de Unie beschikbaar is, moeten daarom mensgericht zijn, zodat mensen erop kunnen vertrouwen dat de technologie wordt gebruikt op een wijze die veilig is en in overeenstemming met het recht, met inbegrip van de grondrechten.

Het voorstel voor een wet inzake de artificiële intelligentie bevat met name geharmoniseerde regels voor het ontwikkelen, in de handel brengen en gebruiken van AI- systemen in de Unie, met als specifieke doelstellingen:

  • – ervoor zorgen dat AI-systemen die in de Unie in de handel worden gebracht en gebruikt, veilig zijn en in overeenstemming zijn met de grondrechten en waarden van de Unie;

  • – de ontwikkeling van een interne markt voor legale, veilige en betrouwbare toepassingen van AI vergemakkelijken;

  • – rechtszekerheid waarborgen teneinde investeringen en innovatie te faciliteren; en tevens

  • – de governance en effectieve handhaving van de bestaande wetgeving inzake grondrechten en veiligheidsvoorschriften inzake AI-systemen versterken.

Met haar voorstellen voor deze maatregelen geeft de Commissie gevolg aan de toezegging die voorzitter Von der Leyen heeft gedaan in de politieke beleidslijnen voor de Europese Commissie (2019–2024), nl. met wetgevingsvoorstellen te komen voor een gecoördineerde Europese aanpak van de menselijke en ethische implicaties van AI.

De Commissie besteedt serieus aandacht aan de bezorgdheid van de Eerste Kamer over een aantal aspecten en regelgevingskeuzes van de voorgestelde wet op de artificiële intelligentie, zoals het toepassingsgebied van de te verbieden praktijken op het gebied van AI, de risicogebaseerde aanpak en het governancesysteem. De Commissie heeft deze punten van zorg grondig geanalyseerd en zal in de bijlage bij dit antwoord meer duidelijkheid bieden. De opmerkingen in de bijlage zijn gebaseerd op het oorspronkelijke voorstel, dat de Commissie op 21 april 2021 heeft gepresenteerd. Dit voorstel doorloopt momenteel het wetgevingsproces, waarbij zowel het Europees Parlement als de Raad is betrokken.

De Commissie hoopt dat zij met die toelichting voldoende is ingegaan op de door de Eerste Kamer aan de orde gestelde punten en zij kijkt ernaar uit de politieke dialoog in de toekomst voort te zetten.

Maroš Šefčovič, Vicevoorzitter

Thierry Breton, Lid van de Commissie

Bijlage

De Commissie is ingenomen met het onderzoek dat de Eerste Kamer heeft verricht naar het belangrijke onderwerp artificiële intelligentie (AI). De vragen van de Eerste Kamer vormen een belangrijke bijdrage aan het lopende debat over het voorstel voor de wet op de artificiële intelligentie. De Commissie zal de gestelde vragen hieronder beantwoorden, gegroepeerd per onderwerp.

Met betrekking tot de verboden praktijken op het gebied van AI bedoeld in artikel 5 van het voorstel voor een wet op de artificiële intelligentie, en met name het gebruik van subliminale technieken die fysieke of psychologische schade kunnen veroorzaken, merkt de Commissie op dat dergelijke praktijken bijzonder schadelijk en in strijd met de waarden en grondrechten van de Unie zijn. Hoewel dergelijke praktijken inderdaad andere schade kunnen veroorzaken dan de in artikel 5, lid 1, punt a), genoemde fysieke en psychologische schade, heeft de Commissie besloten dat het belangrijk is om de rechtszekerheid voor exploitanten te waarborgen en alleen de risico’s aan te pakken die specifiek zijn voor AI en die niet onder andere wetgeving vallen. Risico’s die zich naast fysieke of psychologische schade kunnen voordoen, worden bestreken door de bestaande wetgeving ter bescherming van de grondrechten en de veiligheid en de regelgeving inzake specifieke activiteiten, zoals die van onlinetussenpersonen. De voorgestelde wet inzake digitale diensten zal bijvoorbeeld de mechanismen voor het verwijderen van illegale inhoud en voor de doeltreffende bescherming van de grondrechten van gebruikers online aanzienlijk verbeteren en het publieke toezicht op grote onlineplatforms versterken. De richtlijn bevat onder meer voor bepaalde onlineplatforms transparantievereisten die betrekking hebben op een reeks zaken, waaronder de algoritmen die voor aanbevelingen worden gebruikt, zodat de ontvangers passend worden geïnformeerd en invloed kunnen uitoefenen op de informatie die hen wordt aangeboden. Bovendien bevat de richtlijn oneerlijke handelspraktijken onder meer regels inzake misleidende handelingen en agressieve marketingtechnieken die ten doel hebben de keuzes van consumenten te beïnvloeden. Wat de bewijslast betreft, is de Commissie voornemens een voorstel in te dienen inzake de herziening van de regels inzake productaansprakelijkheid, ook met betrekking tot AI. Bovendien zullen verboden praktijken worden bestraft met de strengste sancties waarin het voorstel voor een wet op de artificiële intelligentie voorziet (artikel 71, lid 3), hetgeen waarschijnlijk de nodige afschrikkende werking zal hebben.

Het verbod op het in de handel brengen, de ingebruikneming of het gebruik van systemen met sociale scoreborden door overheidsinstanties acht de Commissie noodzakelijk vanwege de specifieke machtsongelijkheid en de grootschalige effecten van dergelijke systemen, waar vaak de gehele bevolking mee te maken krijgt. Niettemin kunnen de medewetgevers in het kader van de gewone wetgevingsprocedure overwegen het verbod op het gebruik van sociale scoreborden tot particuliere actoren uit te breiden.

Met betrekking tot AI-systemen die worden gebruikt voor biometrische identificatie, is de Commissie van mening dat het gebruik van biometrische identificatie op afstand in realtime inbreuk maakt op de rechten en vrijheden van de betrokkenen. Het kan de persoonlijke levenssfeer van een groot deel van de bevolking aantasten, een gevoel van voortdurend toezicht oproepen en indirect de uitoefening van de vrijheid van vergadering en andere grondrechten ontmoedigen. Bovendien houden het directe karakter van de gevolgen en de beperkte mogelijkheden voor nadere controles of correcties met betrekking tot het gebruik van dergelijke realtimesystemen verhoogde risico’s in voor de rechten en vrijheden van de betrokkenen. Volgens het voorstel voor een wet op de artificiële intelligentie betekent «realtime» dat het vastleggen van de biometrische gegevens, de vergelijking en de identificatie allemaal ogenblikkelijk, bijna ogenblikkelijk of in ieder geval zonder aanzienlijke vertraging plaatsvinden. Daarbij gaat het niet alleen om de ogenblikkelijke identificatie, maar ook om beperkte korte vertragingen om omzeiling te voorkomen, zoals uitgelegd in artikel 3, punt 37, van het voorstel.

De Commissie heeft bij het formuleren van het voorstel met name de risico’s en de voordelen van voor biometrische identificatie gebruikte AI-systemen zorgvuldig afgewogen en de reeds bestaande regels geanalyseerd. Krachtens de algemene verordening gegevensbescherming1 is het in beginsel reeds verboden biometrische gegevens met het oog op identificatie te verwerken voor andere doeleinden dan rechtshandhaving, specifieke situaties uitgezonderd. Dit geldt ook voor identificatie achteraf of op korte afstand in openbaar en particulier toegankelijke ruimten. De nationale gegevensbeschermingsautoriteiten hebben een aantal besluiten genomen om dergelijk gebruik te verbieden. De richtlijn rechtshandhaving2 bepaalt dat de verwerking van biometrische gegevens voor rechtshandhavingsdoeleinden slechts is toegelaten wanneer die verwerking bij het Unierecht of lidstatelijk recht is toegestaan. Op grond van artikel 10 van die richtlijn heeft een aantal lidstaten reeds voorzien in een rechtsgrondslag voor de naverwerking van biometrische gegevens, terwijl zij voor realtimeverwerking geen specifieke wetgeving hebben vastgesteld. Het voorstel voor een wet op de artificiële intelligentie bouwt voort op het acquis inzake gegevensbescherming en vult het aan door het gebruik van systemen voor biometrische identificatie op afstand in realtime op openbaar toegankelijke plaatsen voor rechtshandhavingsdoeleinden uitdrukkelijk te verbieden, tenzij drie beperkte uitzonderingen van toepassing zijn en krachtige waarborgen in acht worden genomen (waaronder onafhankelijke rechterlijke toestemming, geografische beperkingen en beperkingen in tijd van het gebruik, en beperking van de gegevens die in de referentiedatabank mogen worden opgenomen). Dit zorgt voor een gelijk speelveld voor het gebruik van AI-systemen voor biometrische identificatie op afstand.

De Commissie merkt ook op dat artikel 5 van de voorgestelde wet op de artificiële intelligentie geen rechtsgrondslag biedt voor de verwerking van persoonsgegevens in het kader van het gebruik van AI-systemen voor biometrische identificatie op afstand in realtime voor rechtshandhavingsdoeleinden, maar aanvullende nationale wetgeving vereist, mochten de lidstaten voornemens zijn dergelijke systemen in te zetten. De uiteindelijke beslissing in dit verband is dus aan de nationale wetgever.

Hoewel het gebruik van AI-systemen voor biometrische identificatie zeker aanzienlijke risico’s kan inhouden, kunnen dergelijke systemen voorts ook belangrijke voordelen opleveren, bijvoorbeeld op het gebied van de openbare veiligheid, onder meer in de strijd tegen terrorisme. AI-systemen voor het herkennen van emoties kunnen ook nuttig zijn, bijvoorbeeld om blinden of mensen met een autismespectrumstoornis te helpen en vermoeidheid achter het stuur op te sporen, zodat een waarschuwing kan worden gegeven om botsingen te voorkomen. Hetzelfde geldt voor biometrische categorisatiesystemen, die kunnen worden gebruikt voor het vaststellen en verifiëren van de leeftijd van gamers teneinde kinderen te beschermen tegen schadelijke inhoud, alsook voor het classificeren van beelden van seksueel misbruik van kinderen, waarbij biometrische categorisering wordt toegepast om de strafrechtelijke relevantie van de beelden vast te stellen of slachtoffers te lokaliseren. Om deze redenen wordt in het voorstel voor een wet op de artificiële intelligentie een passende verhouding tussen voordelen en risico's nagestreefd, in plaats van zaken zonder meer te verbieden.

Volgens het voorstel voor een wet op de artificiële intelligentie vormen alle AI-systemen die worden gebruikt voor biometrische identificatie op afstand (met inbegrip van realtime- en naverwerking) echter een hoog risico en moeten zij door een derde partij aan een conformiteitsbeoordeling worden onderworpen, voordat zij in de handel worden gebracht of in gebruik worden genomen. Dit moet ervoor zorgen dat de systemen die niet onder het verbod van artikel 5, lid 1, punt d), vallen, worden getest, gedocumenteerd en gebruikt op een wijze die in overeenstemming is met de grondrechten. Bovendien zal het gebruik van AI-systemen voor emotionele herkenning en biometrische categorisering onderworpen zijn aan transparantieverplichtingen, zodat mensen weten wanneer zij aan dergelijke systemen worden blootgesteld. Bijgevolg is de Commissie van mening dat de bestaande verplichtingen en beperkingen uit hoofde van de wetgeving inzake gegevensbescherming in combinatie met de nieuwe verplichtingen uit hoofde van het voorstel voor een wet op de artificiële intelligentie volstaan om de grondrechten te beschermen met betrekking tot biometrische systemen.

De Commissie neemt de bezorgdheid over de risicogebaseerde benadering van de voorgestelde wet op de artificiële intelligentie serieus. In het voorstel wordt een beperkt aantal AI-systemen aangemerkt als systemen met een hoog risico. Het gaat om systemen waarvan de Commissie bij het opstellen van het voorstel heeft vastgesteld dat de risico’s ervan voor de veiligheid en de grondrechten zich reeds hadden gemanifesteerd of zich in de nabije toekomst waarschijnlijk zouden manifesteren. Hoewel toekomstige technologische ontwikkelingen zouden kunnen leiden tot AI-systemen die risico’s met zich meebrengen in sectoren die we nu nog niet in beeld hebben en waar we dat niet verwachten, heeft de Commissie, om de rechtszekerheid te waarborgen en de voorgestelde wet inzake de artificiële intelligentie toekomstbestendig te maken, een aantal kritieke gebieden geïdentificeerd waarvan bekend is dat er zich momenteel risico’s voordoen. Op deze gebieden biedt het voorstel de mogelijkheid om, in het licht van de dynamische technologische en marktontwikkelingen, door middel van gedelegeerde handelingen snel nieuwe AI-systemen met een hoog risico toe te voegen, op basis van een solide reeks criteria en risicobeoordelingsmethoden. Mochten toekomstige ontwikkelingen toch leiden tot het gebruik van AI-systemen met een hoog risico op andere gebieden, dan kan de Commissie voorstellen voor passende wijzigingen indienen bij de medewetgevers van de EU.

Wat de vragen van de Eerste Kamer over de verplichtingen van aanbieders en gebruikers van AI-systemen betreft, legt de voorgestelde wet op de artificiële- intelligentie inderdaad het grootste deel van de beoogde verplichtingen op aan de aanbieders, hetgeen strookt met de EU-wetgeving inzake productveiligheid, terwijl de verplichtingen van de gebruikers strikt beperkt blijven tot wat nodig is om ervoor te zorgen dat het AI- systeem gedurende de volledige levenscyclus ervan veilig functioneert. Deze gebruikersverplichtingen omvatten de vereiste het AI-systeem toe te passen overeenkomstig de gebruiksaanwijzing. Bovendien blijven alle andere wettelijke verplichtingen van toepassing, zoals de verplichting een gegevensbeschermingseffectbeoordeling te verrichten. De Commissie wil ook benadrukken dat misbruik van een systeem een schending van de regels zou vormen.

Wat betreft de personen betreft die met AI-systemen te maken krijgen, houdt het voorstel zorgvuldig rekening met de rol die de bestaande instrumenten spelen bij het waarborgen van de relevante bescherming. Het voorstel voor een wet op de artificiële intelligentie heeft dus tot doel de uitvoering van bestaande wetgeving te vergemakkelijken, bijvoorbeeld inzake non-discriminatie, consumentenbescherming of gegevensbescherming, en de respectieve autoriteiten kunnen toegang krijgen tot alle informatie die nodig is om een zaak te behandelen. Mochten er inbreuken op de grondrechten worden gepleegd, dan is doeltreffende voorziening in rechte mogelijk door de transparantie en traceerbaarheid van het AI-systeem, gekoppeld aan strenge ex- postcontroles.

Met betrekking tot de bezorgdheid van de Eerste Kamer over de praktische uitvoering en politieke vertaling van wettelijke vereisten voor AI-systemen, wenst de Commissie te benadrukken dat voor de vereisten van de voorgestelde wet op de artificiële intelligentie gedetailleerde geharmoniseerde normen zullen gelden die zullen zijn ontwikkeld op het moment dat het voorstel van toepassing wordt. Hierdoor zal het aanzienlijk gemakkelijker worden om AI-systemen te ontwikkelen overeenkomstig de vereisten.

De Commissie is het ermee eens dat transparantie bij het gebruik van AI-systemen van groot belang is voor de bevordering van innovatie, die dan ook het hoofddoel van het beleid van de Unie op het gebied van artificiële intelligentie is. Met betrekking tot de vragen van de Eerste Kamer over governance en conformiteitsbeoordeling merkt de Commissie op dat de voorgestelde wet op de artificiële intelligentie voorziet in een tweelagige governancestructuur met een sleutelrol voor de nationale toezichthoudende autoriteiten, die belast zullen worden met de tenuitvoerlegging van de wetgeving.

Op grond van de voorgestelde regels zullen aanbieders van AI-systemen met een hoog risico een conformiteitsbeoordelingsprocedure moeten doorlopen die, indien zij met succes wordt afgerond, de aanbieder in staat zal stellen het AI-systeem in de Unie in de handel te brengen of in gebruik te nemen. In het geval van in producten ingebouwde AI- systemen zijn de conformiteitsbeoordelingsprocedures in het kader van de bestaande wetgeving inzake het in de handel brengen van het desbetreffende product van toepassing, zodat de conformiteitsbeoordeling in het algemeen zal worden uitgevoerd door een aangewezen conformiteitsbeoordelingsinstantie. Dit geldt ook voor systemen voor biometrische identificatie op afstand die voor andere doeleinden dan rechtshandhaving worden gebruikt. Voor andere op zichzelf staande AI-systemen met een hoog risico heeft de Commissie in dit stadium gekozen voor zelfbeoordeling. Er zij op gewezen dat het wetgevingsvoorstel al relevant is een vroeg stadium van de uitrol van het AI-systeem en dat de bestaande nationale en EU-regelgeving ook van toepassing is. Markttoezichtautoriteiten worden aangewezen om de naleving af te dwingen van de vereisten die zijn vastgelegd in het voorstel voor een wet op de artificiële intelligentie. Het Europees Comité voor artificiële intelligentie zal zorgen voor een coherente uitvoering in de hele Unie. Bijgevolg is de Commissie van mening dat een uitgebreide ex- antezelfbeoordeling, in combinatie met een krachtige handhaving achteraf door de autoriteiten, met inbegrip van aanzienlijke sancties in geval van schendingen, zal zorgen voor een doeltreffende, evenredige en realistische oplossing voor autonome AI-systemen (waarvoor momenteel geen regels gelden voordat zij in de handel worden gebracht). Bovendien bepaalt de voorgestelde wet op de artificiële intelligentie dat de Commissie ook een EU-databank moet bijhouden waarin alle autonome AI-systemen met een hoog risico moeten worden geregistreerd. Dit zal het markttoezicht op nationaal en EU-niveau vergemakkelijken en de transparantie voor het grote publiek vergroten. Ten slotte biedt het voorstel de Commissie de mogelijkheid om (door middel van een gedelegeerde handeling) op basis van ervaring en verzamelde informatie, deze aanpak voor AI-systemen met een hoog risico aan te vullen met een conformiteitsbeoordeling door derden. Dit zal een snelle aanpassing aan nieuwe risico’s of relevante bevindingen op het gebied van regelgeving mogelijk maken.

Tot slot zal de Commissie aanbieders van alle categorieën AI-systemen aanmoedigen gedragscodes op te stellen, teneinde concrete vereisten te formuleren en in te voeren die onder meer betrekking hebben op ecologische duurzaamheid, maar ook op bijvoorbeeld de diversiteit van ontwikkelingsteams, deelname van belanghebbenden aan het ontwerp en de ontwikkeling van de AI-systemen, en toegankelijkheid voor personen met een handicap. Bovendien voert de Commissie een actief beleid om AI in te zetten voor klimaat en milieu en voorziet zij in een aantal concrete maatregelen, zoals uiteengezet in de evaluatie van het gecoördineerde plan inzake artificiële intelligentie 20213.

X Noot
1

Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming).

X Noot
2

Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad.

Naar boven