35 134 Initiatiefnota van het lid Verhoeven over mededinging in de digitale economie

35 251 Wijziging van de Wet handhaving consumentenbescherming ter uitvoering van Verordening (EU) 2017/2394 van het Europees Parlement en de Raad van 12 december 2017 betreffende samenwerking tussen de nationale autoriteiten die verantwoordelijk zijn voor handhaving van de wetgeving inzake consumentenbescherming en tot intrekking van Verordening (EG) nr. 2006/2004

Nr. 14 BRIEF VAN DE STAATSSECRETARIS VAN ECONOMISCHE ZAKEN EN KLIMAAT

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 4 december 2020

Kunstmatige intelligentie (AI) biedt kansen voor bedrijven voor consumenten. In consumentenmarkten wordt steeds meer gebruik gemaakt van data, AI en algoritmen. Dit heeft voordelen voor bedrijven en consumenten. Tegelijkertijd weten bedrijven meer en meer over hun klanten en zijn zij hierdoor in staat om informatie gericht bij bepaalde groepen consumenten onder de aandacht brengen.

Het kabinet onderschrijft het belang van een sterke positie van de consument bij het gebruik van data, AI en algoritmen.¹ Deze brief gaat in op een toezegging over digitale prijsdiscriminatie² en drie moties: over malafide webwinkels³, over de transparantie van boekingsplatforms⁴ en over de versterking van de positie van de consument⁵. De toezegging en deze moties houden verband met data, AI en algoritmen vanuit het oogpunt van het consumentenbeleid.

1. Digitale prijsdiscriminatie

Tijdens het notaoverleg op 16 december 2019 over de initiatiefnota van het lid Verhoeven (D66) over mededinging in de digitale economie⁶, sprak ik met uw Kamer over de macht van techbedrijven. Tijdens dit debat kwam onder meer de vraag aan de orde of online prijsdiscriminatie wettelijk toegestaan is. Het lid Buitenweg (GroenLinks) vroeg in dit kader of ik advies wilde vragen bij het College voor de Rechten van de Mens (CRM) over digitale prijsdiscriminatie.

Ik heb in het kader van deze toezegging met het CRM gesproken. Het CRM beoordeelt aan de hand van het gelijkebehandelingsrecht of het personaliseren van prijzen in een specifiek geval verboden is (want discriminatie) of toegestaan (want juridisch gerechtvaardigd).

Het verbod op discriminatie volgens het gelijkebehandelingsrecht houdt in dat een bedrijf in beginsel geen direct of indirect onderscheid mag maken op grond van beschermde persoonskenmerken (zoals ras, geslacht, godsdienst, seksuele geaardheid of politieke overtuiging) die zijn opgenomen in de gelijkebehandelingswetgeving.⁷

Het CRM heeft de afgelopen jaren diverse oordelen uitgesproken over situaties die relevant zijn in het kader van prijsdifferentiatie. Als rode draad door deze oordelen loopt de omstandigheid dat het personaliseren van prijzen in beginsel is toegestaan, maar dat een bedrijf geen prijsverschil mag hanteren tussen persoon A en B, die zich in een vergelijkbare positie bevinden, als dat prijsverschil direct of indirect herleidbaar is tot één van de in de wet genoemde, beschermde persoonskenmerken. Een voorbeeld van dergelijke, onrechtmatige prijsdiscriminatie is het alleen aan vrouwen aanbieden van een gereduceerde toegangsprijs voor een evenement.⁸

Ik wil tot slot benadrukken dat burgers en bedrijven de mogelijkheid hebben om een melding te doen bij het CRM als zij vermoeden dat een bedrijf zich schuldig maakt aan prijsdiscriminatie.

2. Malafide webwinkels

De motie van het lid Palland (CDA) verzoekt het kabinet te onderzoeken hoe consumenten beter kunnen worden beschermd tegen malafide webwinkels door de huidige aanpak daarvan tegen het licht te houden en te verkennen of aanvullende maatregelen nodig zijn, en daarbij ook het huidige systeem van domeinnaamregistratie te betrekken. De motie verzoekt ook om hier in Europees verband aandacht voor te vragen en de Kamer hierover eind 2020 te rapporteren.

Malafide webwinkels misleiden bewust consumenten, bijvoorbeeld door bestelde producten niet te leveren of door nepproducten te verkopen. Voor zover het gaat om de strafrechtelijke vervolging van strafbare feiten, valt de aanpak van malafide webwinkels onder de verantwoordelijkheid van de Minister van Justitie en Veiligheid. Hieronder ga ik in op de aanpak van malafide webwinkels die onder mijn verantwoordelijkheid valt.

De toezichthouder Autoriteit Consument en Markt (ACM) kan, bijvoorbeeld met een last onder dwangsom of een bestuurlijke boete, handhavend optreden tegen webwinkels die de consumentenregels overtreden. De ACM heeft sinds de inwerkingtreding van de CPC-verordening⁹ in februari 2020 een nieuw handhavingsinstrument in handen gekregen, namelijk de mogelijkheid om, na voorafgaande machtiging door de rechter-commissaris, domeinnamen op zwart te doen zetten. Dit nieuwe instrument kan bijdragen aan een betere bescherming van consumenten tegen malafide webwinkels.

Het huidige systeem van domeinnaamregistratie binnen het .nl-domein wordt beheerd door de Stichting Internet Domeinregistratie Nederland (SIDN). De registratie van domeinnamen en het contact met domeinnaamhouders verloopt via tussenpersonen, zogenoemde registrars, die tegen een vergoeding bij SIDN zijn aangesloten. Registrars zijn contractueel verplicht aan SIDN bepaalde gegevens te verstrekken, zoals naam, adres en mailadres van nieuwe domeinnaamhouders. SIDN zorgt voor een verwijzing tussen de domeinnaam en het IP-adres via een geautomatiseerd proces.

SIDN en de registrars ondernemen diverse acties om malafide webwinkels aan te pakken. Een voorbeeld hiervan is het systeem dat het lab van SIDN heeft ontwikkeld, dat op basis van verdachte signalen en met behulp van zelflerende algoritmen nep-webwinkels herkent. Verdachte signalen kunnen bijvoorbeeld zijn het tijdstip waarop een domeinnaam is aangevraagd, het e-mailadres waarop een domeinnaam wordt geregistreerd en of sprake is van herregistratie. Van de verdachte domeinnamen wordt vervolgens aan de registrars gevraagd de registratiegegevens van de domeinnaamhouder te verifiëren. Kan de houder niet aantonen dat de gegevens correct zijn, dan wordt de domeinnaam buiten werking gesteld. De website kan dan niet meer via de domeinnaam bereikt worden.

SIDN kent daarnaast een notice- en takedownregeling gebaseerd op de Gedragscode Notice- en Takedown¹⁰, die ook is onderschreven door veel van de Nederlandse hostingaanbieders (partijen die ruimte bieden om websites op te slaan op een plek die altijd verbonden is met internet). Notice- and takedown vindt signaalgestuurd plaats. Op basis van meldingen over onmiskenbaar onrechtmatige of strafbare inhoud van een website een hostingsaanbieder de specifieke content van een website kan verwijderen. Daarnaast kan SIDN zo nodig de domeinnaam buiten werking stellen.

Verder ontvangt SIDN via samenwerkingen met onder andere de ACM via informatievorderingen en het Landelijk Meldpunt Internetoplichting van de politie signalen over onrechtmatige content, zoals malafide webwinkels. Deze manier waarbij SIDN, signaalgestuurd en op basis van eigen onderzoek, in samenwerking met registrars en hostingaanbieders domeinnamen op zwart kan zetten, levert mijns inziens een belangrijke bijdrage aan het aanpakken van malafide webwinkels. Ik juich de samenwerking tussen deze partijen dan ook toe.

Het aanmaken van domeinnamen door malafide webwinkels beperkt zich niet tot het Nederlandse domein (.nl) en gebeurt voornamelijk vanuit derde landen. Zogeheten registries die domeinnaamregistratie beheren (zoals SIDN), werken internationaal samen via de Council of European National Top-Level Domain Registries (CENTR) en de Internet Corporation for Assigned Names and Numbers (ICANN). Binnen deze organisaties worden informatie en succesvolle praktijkvoorbeelden uitgewisseld over de aanpak van malafide webwinkels en misbruik van domeinnaamregistratie. Ook vanuit de overheden verenigd in het Governmental Advisory Committee (GAC) van ICANN wordt steeds meer druk uitgeoefend om misbruik van domeinnaamregistratie proactief te bestrijden.

De huidige aanpak waarin ACM en SIDN samenwerken om malafide webwinkels aan te pakken werkt goed. De eerdergenoemde CPC-verordening is recent in werking getreden. Daarnaast worden nationaal en internationaal meerdere acties ondernomen om misbruik van domeinnaamregistratie aan te pakken. Ik zie geen noodzaak om op dit moment aanvullende maatregelen te overwegen.

3. Transparantie boekingsplatforms

Uw Kamer heeft mij middels de motie van het lid Aartsen (VVD) verzocht om in overleg met de ACM te rapporteren over transparantie van boekingsplatforms om gesjoemel met onlinerecensies en onlinereviews tegen te gaan. Ik heb hierover met de ACM gesproken. De ACM heeft aan mij meegedeeld dat zij momenteel een breed onderzoek uitvoert naar onlinerecensies van onder andere boekingsplatforms en webwinkels. De ACM verwacht in het eerste kwartaal van 2021 over de uitkomsten van het onderzoek te rapporteren. Zoals bekend kan ik niet ingaan op lopende onderzoeken van de ACM. Ik zie de resultaten het onderzoek van de ACM met interesse tegemoet. Verder ziet de ACM er actief op toe dat consumenten die online winkelen, kunnen vertrouwen op de informatie die de webwinkel geeft over onder meer het product, de prijs, de levertijd en het retourrecht. Dit is recentelijk reden geweest voor de ACM om een handhavingsbesluit te nemen richting een webwinkel.¹¹

De recente Europese Richtlijn betreffende betere handhaving en modernisering van de regels voor consumentenbescherming¹² bevat expliciete informatieverplichtingen die kunnen helpen bij het tegengaan van gesjoemel met onlinerecensies en onlinereviews. Zo verplicht de richtlijn handelaren die toegang bieden tot reviews van producten om aan de consument informatie te verstrekken hoe de handelaar verzekert (controleert) dat gepubliceerde consumentenbeoordelingen ook daadwerkelijk afkomstig zijn van consumenten die het product hebben gebruikt of gekocht.¹³

De richtlijn verbiedt daarnaast expliciet het beweren dat beoordelingen van producten zijn ingediend door consumenten die het product daadwerkelijk hebben gebruikt of aangekocht, zonder redelijke en proportionele stappen te nemen om na te gaan of deze beoordelingen afkomstig zijn van dergelijke consumenten.¹⁴ De richtlijn bepaalt ook dat het voor handelaren verboden is om valse beoordelingen en -aanbevelingen te (laten) plaatsen, zoals «likes» op sociale media, om hun producten te promoten, en om consumentenbeoordelingen of aanbevelingen op misleidende wijze voor te stellen, bijvoorbeeld door alleen positieve beoordelingen te publiceren en negatieve te verwijderen.¹⁵ De internetconsultatie van het wetsvoorstel ter implementatie van deze richtlijn is recent afgerond.¹⁶

Ik constateer dat zowel op het gebied van wetgeving als op het gebied van handhaving acties worden ondernomen om de transparantie van boekingsplatforms te bevorderen. Daarmee worden belangrijke stappen gezet om consumenten in staat te stellen om op basis van transparante en eerlijke informatie keuzes te kunnen (blijven) maken.

4. Versterking positie consumenten

De leden Moorlag en Buitenweg wijzen in hun motie op de nieuwe technologieën die het voor bedrijven mogelijk maken om op grote schaal data van consumenten te verzamelen. Zij vragen op welke wijze de positie van de consument kan worden versterkt. Data, AI en algoritmen zorgen voor veel nieuwe mogelijkheden voor het bedrijfsleven op het gebied van marketing en advertenties. Bedrijven zijn door het gebruik van data, AI en algoritmen beter in staat om hun aanbod af te stemmen op een specifieke groep consumenten, of zelfs een individuele consument. Deze praktijk heeft een grote vlucht genomen, met grote platforms als koplopers in deze ontwikkeling. Het onderwerp data, AI en algoritmen staat zowel op nationaal als op Europees niveau in de aandacht en er worden veel acties ondernomen. Ik zie erop toe dat het belang van de consument hierbij wordt meegenomen.

Nationale ontwikkelingen

Op 8 oktober 2019 heeft het kabinet het Strategisch Actieplan voor AI (SAPAI) gelanceerd.¹⁷ SAPAI bevat de overkoepelende AI-aanpak van dit kabinet en formuleert beleidsmaatregelen om de maatschappelijke en economische kansen van AI te benutten en daarbij de publieke belangen te borgen. In juni 2020 is ook een update van de Nederlandse Digitaliseringstrategie (NDS) gepubliceerd, waarin kabinetsbreed ambities en doelstellingen op het gebied van digitale transitie uiteen worden gezet.¹⁸ In beide documenten wordt het belang van consumentenbescherming benadrukt.

Het kabinet heeft daarnaast een ambtelijke projectgroep aangekondigd, die een gezamenlijke, openbare beleids- en onderzoeksagenda ontwikkelt op het gebied van normering van en toezicht op algoritmen.¹⁹ Ook heeft het kabinet recent per brief aan uw Kamer²⁰ gereageerd op diverse onderzoeken naar algoritmen, waaronder het door mij geïnitieerde onderzoek naar onvoorziene effecten van zelflerende algoritmen.²¹ Daaruit blijkt dat bedrijven steeds meer weten van hun klanten, terwijl consumenten vaak niet doorhebben dat zij bijvoorbeeld onderworpen zijn aan algoritmische besluitvorming.²² Daardoor is het voor consumenten soms lastig om te doorgronden in welke mate en op welke manier hun keuzegedrag wordt beïnvloed en wat zij daar desgewenst tegen kunnen doen.

In de brief geeft het kabinet aan dat nader verkend zal worden welke maatregelen kunnen bijdragen aan het tegengaan van eventuele negatieve effecten van algoritmen op consumenten.

Ik heb daarnaast een inventarisatie laten uitvoeren door de Universiteit van Tilburg naar het consumentenbeleid in de digitale economie, om in beeld te brengen hoe het consumentenbeleid toekomstbestendig kan worden gemaakt in het licht van digitale technologieën en toenemende dataverwerking van consumenten.²³ Een conclusie van het onderzoek is dat het grootschalige gebruik van data, AI en algoritmen door bedrijven voor een ongelijke(re) verhouding tussen bedrijf en consument kan zorgen.

Ook heb ik gesproken met toezichthouder ACM. Uit het gesprek met de ACM blijkt dat het voor toezichthouders als de ACM een uitdaging is om overtredingen van het consumentenrecht waarbij algoritmen een rol spelen op te sporen en aan te pakken. De ACM is daarom dit jaar een pilot gestart waarin zij methoden en werkwijzen om de werking van algoritmen die door marktpartijen worden gebruikt in de praktijk te controleren test en ontwikkelt.

Europese ontwikkelingen

Data, AI en algoritmen krijgen ook in de Europese Unie steeds meer aandacht, waaronder in het Witboek over kunstmatige intelligentie²⁴ en de nieuwe Europese Consumentenagenda²⁵ van de Europese Commissie. Hierin benadrukt de Europese Commissie dat consumentenbescherming een plaats moet krijgen bij het ontwikkelen van beleid op het terrein van AI.

Daarnaast moet uiterlijk per 28 mei 2022 de eerdergenoemde richtlijn modernisering consumentenbescherming zijn geïmplementeerd. Deze introduceert onder andere een aantal nieuwe informatieverplichtingen op het gebied van data, AI en algoritmen. Zo moeten handelaren voorafgaand aan het sluiten van een overeenkomst de consument informeren over het doen van een gepersonaliseerd aanbod, bijvoorbeeld als gebruik wordt gemaakt van een algoritme dat bijhoudt wat de consument heeft gekocht en welke websites hij heeft bekeken.²⁶ Voor online marktplaatsen (platforms) gaat daarnaast gelden dat zij algemene informatie (bijvoorbeeld over de belangrijkste standaardparameters) beschikbaar moeten stellen over hoe de rangschikking van het aanbod wordt bepaald.²⁷

Tot slot wordt op dit moment in Europees verband bezien of de Richtlijn productaansprakelijkheid²⁸ en de Richtlijn productveiligheid²⁹ moeten worden aangepast met het oog op nieuwe technologieën, waaronder software.

5. Conclusie

Het gebruik van data, AI en algoritmen heeft bedrijven en consumenten kansen en gemak opgeleverd. Desalniettemin is het belangrijk om ook oog te houden voor de keerzijden van deze ontwikkelingen. De digitale economie kan alleen floreren als de consument daarin een sterke positie inneemt. Daar is op nationaal en op Europees niveau aandacht voor. Ik houd uw Kamer vanzelfsprekend op de hoogte van de ontwikkelingen in de bovengenoemde trajecten.

De Staatssecretaris van Economische Zaken en Klimaat, M.C.G. Keijzer

---

1 Brief d.d. 20 november.

2 Kamerstuk 35 134, nr. 12.

3 Kamerstuk 35 251, nr. 10.

4 Kamerstuk 35 251, nr. 9.

5 Kamerstuk 35 134, nr. 6.

6 Kamerstuk 35 134, nr. 2.

7 Algemene wet gelijke behandeling, artikel 1 en artikel 7 lid 1.

8 College voor de Rechten van de Mens, 2015–39 (21 april 2015).

9 Verordening (EU) 2017/2394 van het Europees Parlement en de Raad van 12 december 2017 betreffende samenwerking tussen de nationale autoriteiten die verantwoordelijk zijn voor handhaving van de wetgeving inzake consumentenbescherming en tot intrekking van Verordening (EG) nr. 2006/2004.

10 https://noticeandtakedowncode.nl/wp-content/uploads/2018/12/ECP_01054-Gedragscode-notice-and-takedown-pdf-2.pdf.

11 https://www.acm.nl/nl/publicaties/acm-dwingt-webwinkel-we-love-musthaves-overtredingen-te-stoppen.

12 Richtlijn (EU) 2019/2161 van het Europees Parlement en de Raad van 27 november 2019 tot wijziging van Richtlijn 93/13/EEG van de Raad en Richtlijnen 98/6/EG, 2005/29/EG en 2011/83/EU van het Europees Parlement en de Raad wat betreft betere handhaving en modernisering van de regels voor consumentenbescherming in de Unie.

13 Richtlijn 2019/2161 (EU), artikel 3 lid 4 sub c.

14 Richtlijn 2019/2161 (EU), artikel 3 lid 7 sub b.

15 Ibidem.

16 https://www.internetconsultatie.nl/modernisering_consumentenbescherming.

17 Kamerstuk 35 212, nr. 3.

18 https://www.rijksoverheid.nl/binaries/rijksoverheid/documenten/rapporten/2020/06/25/ nederlandse-digitaliseringsstrategie-2020/Nederlandse+Digitaliseringsstrategie+2020.pdf.

19 Kamerstuk 35 212, nr. 5.

20 Brief d.d. 20 november 2020.

21 B.Schermer, J. van Ham en K.W. Falkena, Onvoorziene effecten van zelflerende algoritmen, Considerati (14 september 2020). In te zien via: https://www.rijksoverheid.nl/binaries/rijksoverheid/documenten/rapporten/2020/09/14/onvoorziene-effecten-van-zelflerende-algoritmen/Onvoorziene+effecten+van+zelflerende+algoritmen.pdf.

22 Ibidem, paragraaf 10.4.

23 V. Mak en F. Schemkes, Onderzoekstudie rondom consumentenbeleid in de digitale economie, Tilburg University (februari 2020). Het onderzoek gaat als bijlage bij deze brief. Raadpleegbaar via www.tweedekamer.nl.

24 https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf.

25 https://ec.europa.eu/info/files/new-consumer-agenda-strengthening-consumer-resilience-sustainable-recovery_en.

26 Richtlijn (EU) 2019/2161, artikel 4 lid 4 sub ii.

27 Richtlijn (EU) 2019/2161, artikel 4 lid 5.

28 Richtlijn 85/374/EEG van de Raad van 25 juli 1985 betreffende de onderlinge aanpassing van de wettelijke en bestuursrechtelijke bepalingen der Lidstaten inzake de aansprakelijkheid voor producten met gebreken.

29 Richtlijn 2001/95/EG van het Europees Parlement en de Raad van 3 december 2001 inzake algemene productveiligheid.