Vragen van het lid Slootweg (CDA) aan de Minister van Financiën en de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over het bericht «Deepfakes op TikTok maken illegale reclame voor leningen» (ingezonden 11 mei 2023).

Antwoord van Minister Kaag (Financiën) (ontvangen 3 juli 2023). Zie ook Aanhangsel Handelingen, vergaderjaar 2022–2023, nr. 2779.

Vraag 1

Bent u bekend met het bericht «Deepfakes op TikTok maken illegale reclame voor leningen» van BNR Nieuwsradio?1

Antwoord 1

Ja.

Vraag 2

Vindt u het met mij eveneens verwerpelijk dat een internationaal reclamenetwerk door middel van deepfakes met name jongeren met valse beloften naar leensites lokt?

Antwoord 2

Ja, reclame die is gebaseerd op valse beloften is sowieso verwerpelijk. Dat dit nog eens specifiek is gericht op jongeren maakt het nog kwalijker.

Vraag 3

Kun u aangeven welke wet- en regelgeving wordt overtreden door deze reclames op TikTok, zoals gesteld in het artikel, wie deze overtredingen begaat en wie verantwoordelijk is voor het naleven en handhaven van de wet- en regelgeving op dit punt?

Antwoord 3

Het is aan de rechter of toezichthouders om overtredingen vast te stellen, en niet aan het kabinet. Tot nu toe is voor zover bekend nog geen overtreding vastgesteld. Wij hebben evenmin informatie over lopende of nog te starten onderzoeken. Daarover kunnen de toezichthouders, die onafhankelijk zijn, ook geen uitspraken doen. Hieronder geef ik wel een overzicht van de wet- en regelgeving die in dit kader van toepassing is.

Regels die gelden voor de de uploader(s) van de reclamevideo´s:

  • Regels over oneerlijke handelspraktijken (Whc): In de bijlage onderdeel a van de Wet handhaving consumentenbescherming (Whc) staan onder meer de regels over oneerlijke handelspraktijken. Zo mag een onderneming het commerciële oogmerk bij een praktijk niet verbergen (als de gemiddelde consument daardoor een andere beslissing over de overeenkomst kan nemen dan hij anders had gedaan). Ook moet de onderneming onder meer essentiële informatie opnemen in reclame-uitingen waaronder zijn identiteit.

  • Regels in het kader van elektronische handel (Whc): De Whc kent ook informatieverplichtingen indien commerciële communicatie online wordt verricht. Degene die de commerciële communicatie online plaatst zorgt er onder andere voor dat de commerciële communicatie duidelijk als zodanig herkenbaar is en de commerciële communicatie zijn identiteit vermeldt.

  • Spamverbod: Daarnaast gelden er eventueel regels over spam. De ACM ziet toe op de naleving van het spamverbod in artikel 11.7 van de Telecommunicatiewet.

  • Regels in het kader van bemiddelen in of aanbieden van krediet (Wft, BGfo, Nrgfo): Indien er sprake is van bemiddelen in / of aanbieden van een financieel product zoals krediet dan dient een onderneming daarvoor een vergunning te hebben en te voldoen aan de relevante regelgeving uit onder meer art. 4:19, tweede lid, Wft en art. 53 BGfo die zien op correcte, duidelijke en niet-misleidende informatieverstrekking.

  • Op naleving van bovenstaande wet- en regelgeving wordt toezicht gehouden door de ACM en waar het een financiële dienst of activiteit betreft door de AFM.

Regels die gelden voor Google en/of TikTok als platform waarop de reclames worden aangeboden:

  • Regels in het kader van elektronische handel (BW): Op grond van de richtlijn elektronische handel gelden informatieverplichtingen voor aanbieders als Google die in het BW in artikel 3:15d zijn geïmplementeerd. Dat betekent dat Google informatie moet verstrekken over onder meer de identiteit van de aanbieder van de reclame en er gelden informatieverplichtingen indien Google commerciële communicatie via haar platformen verspreidt. Beoordeling van eventuele overtreding van deze wet is aan de civiele rechter.

  • Digital Services Act (DSA): Op grond van de DSA moeten Google en TikTok ervoor zorgen dat gebruikers, waaronder minderjarigen, zo veilig mogelijk gebruik kunnen maken van hun diensten. De DSA is voor Google vanaf eind augustus 2023 van toepassing. De Europese Commissie houdt toezicht op de grote platforms.

  • De DSA bevat verschillende geharmoniseerde zorgvuldigheidsverplichtingen. De zeer grote online platforms- en zoekmachines, waaronder TikTok en Google, moeten onder de DSA aan de strengste zorgvuldigheidsverplichtingen voldoen. Aanbieders van online platforms die op hun online-interfaces reclame tonen, moeten er verder voor zorgen dat voor elke specifieke reclame die wordt getoond duidelijk wordt dat de informatie reclame betreft, namens wie de reclame wordt getoond, wie er voor de reclame heeft betaald en op basis van elke parameters bepaald wordt aan welke afnemer(s) de reclame wordt getoond.

Vraag 4

Kunt u bevestigen dat ABN AMRO, ING en Pricewise niet betrokken zijn bij deze reclamestrategie en er evenmin van op de hoogte waren?

Antwoord 4

ABN AMRO, ING en Pricewise laten weten niet van deze advertentiewijze te weten en niet hiermee geassocieerd te willen worden. Zij hebben geprobeerd de reclames zo snel mogelijk uit de lucht te halen via TikTok en Google. TikTok heeft inmiddels aan ABN AMRO aangegeven dat de advertenties over leningen niet in lijn zijn met de richtlijnen voor financiële instanties. Alle advertenties zijn van het platform verwijderd. Ook zijn alle accounts geblokkeerd van waaruit de advertenties geplaatst zijn.

Vraag 5

Zo ja, ligt het voor deze bedrijven in de rede een financiële claim in te dienen bij de producent van deze reclames?

Antwoord 5

ING heeft aangeven om, indien duidelijk is wie er verantwoordelijk is voor het plaatsen van deze advertenties, te bekijken wat juridisch de mogelijkheden zijn en of het nodig is om hier actie op te ondernemen. De andere betrokken bedrijven hebben zich hier niet over uitgelaten. Vooralsnog zijn geen claims ingediend.

Vraag 6

Bent u bereid om als aandeelhouder van ABN AMRO aan te dringen op het stopzetten van deze reclames en het indienen van een schadeclaim bij de producent van deze reclames?

Antwoord 6

NLFI is namens de staat aandeelhouder. Het ministerie staat daarbij op afstand. Dee bank heeft uit zichzelf al de nodige acties ondernomen.

Vraag 7

Deelt u de opvatting dat de producent van deze deepfakereclames misbruik maakt van het reclamenetwerk van Google?

Antwoord 7

Google heeft aangegeven dat deze advertentie niet door Google op TikTok is weergegeven. Als Google advertenties aantreft van gebruikers die de beleidsregels inzake misleiding van gebruikers schenden, kan het account worden beëindigd. Zie daarnaast de beantwoording van vraag 3 voor wat betreft de regels die gelden voor de uploader(s) van de reclamevideo’s. Het is aan de bevoegde autoriteiten om te oordelen of er al dan niet sprake is van misbruik van het reclamenetwerk.

Vraag 8

Welke verantwoordelijkheid ligt er in juridisch en moreel opzicht bij zowel Google als TikTok om ervoor te zorgen dat gebruikers hun platform op een veilige manier kunnen gebruiken en oplichting van gebruikers met name jongeren te voorkomen?

Antwoord 8

Voor de beantwoording van deze vraag over de verantwoordelijkheden in juridisch opzicht verwijs ik naar het antwoord bij vraag 3, waarin de verantwoordelijkheden van Google en TikTok op grond van de DSA worden toegelicht. Naast verplichtingen op grond van de DSA dienen online platforms als Google en TikTok zich ook te houden aan het generieke consumentenrecht. Over welke verantwoordelijkheden en verplichtingen er rusten op online platforms op grond van het consumentenrecht heeft de ACM in 2020 vuistregels gepubliceerd: Vuistregels Online platformen (acm.nl).

Verder is het een taak van platformen zelf om ervoor te zorgen dat de informatie die via hun diensten wordt verspreid zo betrouwbaar mogelijk is, maar ook om ervoor te zorgen dat gebruikers beter in staat zijn om foutieve of misleidende informatie te herkennen en signaleren.

Vraag 9

Op welke wijze gaat u gebruikers, met name jongeren, beschermen tegen dergelijke praktijken die desastreuze financiële gevolgen kunnen hebben, met name omdat experts verwachten dat deepfake reclames in de nabije toekomst niet van echt te onderscheiden zijn?

Antwoord 9

De Nederlandse overheid zet allereerst in op het mediawijs en weerbaar maken van burgers en scholieren. Steeds meer scholen in Nederland besteden binnen de context van digitale geletterdheid en mediawijsheid aandacht aan bijvoorbeeld desinformatie. Voor scholen gebeurt dat onder meer door al bestaand lesmateriaal overzichtelijk te bundelen. Op die manier worden scholen geholpen met het vormgeven van hun lessen over deze onderwerpen. Voor de bredere kabinetsinzet ten aanzien van het versterken van de weerbaarheid van burgers, verwijs ik u naar de Kamerbrief over de Rijksbrede strategie effectieve aanpak van desinformatie2.

De digitale wereld is complex. Er is een substantiële kennisasymmetrie tussen de bedrijven die de digitale wereld maken en de gebruikers daarvan. De precieze werking van dataverzameling, -deling en -gebruik is ingewikkeld, beïnvloedingen zijn subtiel en ongemerkt (denk aan grafische ontwerpen om gebruikers bepaalde keuzes te laten maken), maar ook de werking van apparaten zelf of instellingen zijn voor een gemiddelde gebruiker vaak moeilijk te doorgronden. Hierdoor wordt het voor gebruikers moeilijk om een goede inschatting te maken van de effecten van online activiteiten op eigen welzijn. Zeker als het gaat om kinderen. Naast dat bedrijven verplicht zijn om zo transparant mogelijk te zijn over hoe hun producten werken is goede voorlichting aan kinderen, ouders en verzorgers over kansen en risico´s in de digitale wereld cruciaal. Zoals aangekondigd in de brief van 16 december 2022 wil het kabinet daarom een meerjarige, brede publiekscampagne starten3. Het thema desinformatie zal daar onderdeel van uitmaken.

Op grond van de DSA zijn grote online platforms- en zoekmachines verplicht om jaarlijks de systeemrisico’s die voortvloeien uit de werking of het gebruik van hun diensten in kaart te brengen en deze risico’s zo nodig beperken. Systeemrisico’s zijn bijvoorbeeld de verspreiding van illegale inhoud en/of desinformatie via hun diensten, al dan niet met gebruikmaking van deepfakes. De Europese Commissie zal hier toezicht op houden.

Als het specifiek gaat over reclames voor krediet ziet de AFM toe op de vergunningplicht voor consumptief krediet en de normen die bij het antwoord op vraag 3 worden genoemd. Kredietaanbieders moeten onder meer toetsen of de lening verantwoord kan worden verstrekt en een BKR-toets doen. Er mag bovendien alleen krediet worden verstrekt aan 18+. Een kredietcontract aan minderjarigen is niet rechtsgeldig.

Ten aanzien van gebruik van AI geldt dat er in Brussel onderhandeld wordt over de AI act. Gebruikers van generatieve AI, zoals systemen die videomateriaal genereren of bewerken die aanzienlijk op bestaande personen lijken, worden onder de AI Act verplicht om uiterlijk op het moment van de eerste interactie of blootstelling duidelijk te maken dat sprake is van gegenereerde content. Tot slot kan worden vermeld dat de Europese Commissie wil dat partijen die zich hebben aangesloten bij de Code of Practice on Disinformation, technologie gaan ontwikkelen zodat AI gegenereerde content duidelijk gelabeld wordt, zodat geen twijfel meer kan bestaan of iets echt of een deepfake is. Hierover is de Europese Commissie op dit moment in gesprek met de ondertekenaars van de EU Code of Practice on Disinformation.

Vraag 10

Welke mogelijkheden zijn er om dit soort illegale reclames aan te pakken, wanneer het verantwoordelijke bedrijf is geïdentificeerd?

Antwoord 10

Zie vraag 3. De toepasselijke wet- en regelgeving geven de bevoegde autoriteiten, waaronder de AFM, de ACM of in het geval van de DSA de Europese Commissie, een mandaat te handhaven indien de regels worden overtreden.

Naar boven