34 775 VI Vaststelling van de begrotingsstaten van het Ministerie van Justitie en Veiligheid (VI) voor het jaar 2018

AB BRIEF VAN DE MINISTER VOOR RECHTSBESCHERMING

Aan de Voorzitter van de Eerste Kamer der Staten-Generaal

Den Haag, 9 juli 2018

Tijdens het debat over de staat van de rechtsstaat op 22 mei jongstleden heeft het Lid Duthler van uw Kamer een motie ingediend waarin de regering wordt verzocht te onderzoeken of en op welke wijze het proces van digitale transformatie nadere normering behoeft. Daarbij zou volgens de motie specifiek aandacht moeten worden besteed aan het waarborgen van de vrijheid van informatie en het creëren van een level playing field zodat vrije en eerlijke concurrentie tussen aanbieders van producten en diensten op het gebied van digitale transformatie mogelijk wordt, en na te gaan op welke wijze in internationaal verband de uit dit onderzoek voortvloeiende acties opgepakt kunnen worden en de Kamer over de uitkomsten hiervan te informeren.¹

Op mijn verzoek is deze motie aangehouden onder de toezegging dat ik uw Kamer voor het zomerreces per brief informeer over wat er nationaal en in Europees verband aan trajecten loopt die (mede) betrekking hebben op de vraag naar nadere normering van het proces van digitale transformatie. Met deze brief doe ik deze toezegging gestand.

De inventarisatie van trajecten die deze brief bevat, is gebaseerd op informatie van de Ministeries van JenV, BZK, EZK, SZW, OCW, VWS en IenW.

Trajecten in nationaal verband

Nederlandse Digitaliseringsstrategie

Het kabinet heeft op 15 juni jl. als uitvloeisel van het regeerakkoord de Nederlandse Digitaliseringsstrategie uitgebracht. In deze strategie zet het kabinet in op twee sporen: het benutten van de maatschappelijke en economische kansen van digitalisering en het versterken van het fundament daaronder. Tot dat fundament behoort onder meer het werken aan praktische kaders en oplossingen voor de fundamentele vragen die de digitale transformatie op het terrein van grondrechten en ethiek oproept, bijvoorbeeld rondom autonomie, privacy en gelijke behandeling. Het gaat om trajecten die deels ook verderop in de brief aan de orde komen.

Onderzoek naar publieke waarden in de digitale samenleving en mensenrechten in het robottijdperk

Het Rathenau Instituut heeft in februari 2017 het rapport «Opwaarderen – Borgen van publieke waarden in de digitale samenleving» uitgebracht. In mei van datzelfde jaar heeft het instituut ook het rapport «Mensenrechten in het Robottijdperk» laten verschijnen. Op beide rapporten heeft het kabinet op 9 maart jl. een reactie naar uw kamer gezonden. In deze reactie kondigt het kabinet onder meer de oprichting van een interdepartementale werkgroep aan die de visie van het kabinet op de impact van digitalisering op de publieke waarden en mensenrechten nader zal uitwerken.² Deze werkgroep, die dit najaar van start zal gaan, zal zich vooral richten op het beleid inzake kunstmatige intelligentie en ethiek.

Effecten van algoritmen op grondrechten

De Universiteit Utrecht heeft in opdracht van de Minister van BZK een onderzoek uitgevoerd naar de effecten van algoritmes op grondrechten.³ In dit onderzoek komt het recht op vrijheid van meningsuiting en de vrijheid om informatie te ontvangen aan de orde. Het onderzoeksrapport zal nog voor de zomer naar de Kamer worden gestuurd. Dit onderzoek zal naar verwachting informatie opleveren die mede van belang kan zijn voor het onderzoek van de WRR naar kunstmatige intelligentie (zie hierna).

Nederlandse Cybersecurity Agenda (NCSA)

Het kabinet heeft op 20 april jl. de Nederlandse Cybersecurity Agenda (NCSA) naar de Tweede Kamer gezonden. In deze agenda wijst het kabinet erop dat de verregaande digitalisering regelmatig de balans tussen de kernwaarden veiligheid, vrijheid en economische groei onder druk zet. Het kabinet zet in op een heldere afweging van die belangen bij het maken van (beleids)keuzes en hierover transparantie te betrachten. Het beschermen van waarden en grondrechten in het digitale domein is eveneens een belangrijk onderdeel van cybersecurity. Burgers moeten er op kunnen rekenen dat hun grondrechten zowel online als offline gewaarborgd zijn, en dat hun privacy ook in het digitale domein gegarandeerd is.⁴

Onderzoek «Blockchain en de wet; een verkennend onderzoek»

Dit onderzoek wordt in opdracht van het WODC uitgevoerd door het Tilburg Institute for Law, Technology, and Society (TILT) en zal naar verwachting in november 2018 worden afgerond. Aan de hand van een vijftal cases wordt een verkennend onderzoek gedaan naar de ruimte die de wettelijke kaders bieden voor het benutten van de kansen van blockchain en voor het mitigeren van mogelijke risico’s, en naar aandachtspunten voor toekomstige wetgeving.⁵ In het onderzoek draait het uiteindelijk om de volgende use cases:

• 1. Een door de overheid beheerd eigendomsregister

• 2. Geautomatiseerde compliance van burgers aan overheidsregels

• 3. Smart contracts door private partijen

• 4. Internationaal vervoer van afval

• 5. Vastleggen en delen van privacygevoelige gegevens door de overheid

In het WODC-onderzoek «Cybercrime en witwassen»⁶ is onderzoek verricht naar het witwassen van bitcoins. Voor de ontwikkelingen rondom cryptovaluta wordt verwezen naar de kamerbrief van 7 maart jl (eerste appreciatie van de ontwikkelingen rondom cryptovaluta en de mogelijkheden om oneigenlijk gebruik en risico’s voor consumenten in te dammen).⁷

Onderzoek «Juridische aspecten van algoritmen die zelfstandig besluiten nemen; een verkennend onderzoek.»

De centrale vraag in dit onderzoek is welke domeinen zich de komende vijf tot tien jaren de belangrijkste kansen en risico’s gaan voordoen als het gaat om de toepassing van algoritmen die besluiten nemen en hoe deze zich verhouden tot de bestaande juridische kaders, waaronder de Algemene verordening gegevensbescherming. Het onderzoek moet nog worden gestart en zal worden uitgevoerd in opdracht van het WODC. Onderdeel van dit onderzoek zal zijn de vraag welke kansen kunstmatige intelligentie kan bieden voor een tijdige signalering, vooral in massale besluitvormingsprocessen, van mensen die door omstandigheden (tijdelijk) mogelijk niet zelfredzaam zijn.⁸

Adviesaanvraag aan de WRR over kunstmatige intelligentie

Om meer zicht te krijgen op de impact van kunstmatige intelligentie op publieke waarden heeft het kabinet de Wetenschappelijke Raad voor het Regeringsbeleid (WRR) gevraagd om daarover advies uit te brengen.⁹ Naar de impact van kunstmatige intelligentie zijn wel al onderzoeken uitgevoerd, maar die hebben gemeen dat zij monodisciplinair zijn en soms maar een specifieke sector betreffen. Omdat deze impact verschillende dimensies kent, bijvoorbeeld juridisch, economisch, ethisch en technisch, is er behoefte aan een discipline-overstijgend onderzoek, dat tevens sector-overstijgend is. Dit onderzoek is niet alleen gewenst en nuttig voor de nationale kennis- en beleidsontwikkeling, maar zal ook richtinggevende inbreng moeten geven voor de Europese en internationale discussies over dit onderwerp.

Onderzoek naar kunstmatige intelligentie in het onderwijs

Het Ministerie van OCW laat dit jaar onderzoek doen naar kunstmatige intelligentie in het onderwijs. Dit onderzoek sluit aan bij de algemene adviesaanvraag over kunstmatige intelligentie aan de WRR. Het onderzoek zal onder meer betrekking hebben op de grootste kansen en risico’s van kunstmatige intelligentie in het onderwijs voor publieke waarden. Het is de bedoeling dat uiterlijk begin 2019 een rapport wordt opgeleverd, dat mogelijk mede als casus voor het onderzoek van de WRR kan dienen. Indien de inhoud daartoe aanleiding geeft, zal het onderzoeksrapport van OCW aan de Tweede Kamer worden toegezonden.

Visie op open source

De Staatssecretaris van BZK ontwikkelt een beleidsvisie op vragen en moties uit de Tweede Kamer over het vrijgeven van overheidssoftware als open source software. Het vrijgeven van eigen software als open source software heeft als doel het bevorderen van de transparantie, participatie, innovatie en het creëren van meer bedrijvigheid door middel van een level playing field. Op dit terrein heeft BZK contact met de Europese Commissie waar dat noodzakelijk is. De beleidsvisie zal naar verwachting nog vóór de zomer gereed zijn.

Onderzoek naar de effecten van digitalisering op democratische waarde

De Raad voor het Openbaar Bestuur (ROB) stelt op verzoek van de Minister van BZK een advies op over de invloed van digitalisering op democratie.¹⁰ Dit onderwerp hangt samen met het in de motie genoemde onderwerp vrijheid van informatie. Op basis van de inhoud van het advies dat nu wordt opgesteld, zal worden bezien of en, zo ja, in hoeverre eventueel voortvloeiende acties in internationaal verband worden opgepakt. De ROB levert haar advies naar verwachting in het voorjaar van 2019 op.

Onderzoek naar desinformatie

Het Rathenau Instituut heeft in mei jl. het rapport «Digitalisering van het nieuws. Online nieuwsgedrag, desinformatie en personalisatie in Nederland» uitgebracht. Dit rapport bevat de resultaten van een onderzoek naar het online nieuwsgebruik in Nederland, het gebruik van internet en sociale media voor de verspreiding van desinformatie, en publieke bronnen over digitale technologie die de nieuwsstroom afstemmen op de interesses van de nieuwsconsument. Uit het onderzoek blijkt dat desinformatie en personalisatie in Nederland vooralsnog geen grote negatieve impact op de samenleving hebben gehad. De samenleving is tot zover weerbaar gebleken. Maar technologische ontwikkelingen gaan snel en de mediawijsheid blijft achter. Nederland zou zich daarom moeten voorbereiden op de toekomst en investeren in technologisch burgerschap. Het kabinet zal in het najaar met een reactie op het rapport komen. Inmiddels is op 18 juni jl. inzake de mededeling van de Europese Commissie aangaande bestrijding van online desinformatie een BNC-fiche (BNC) aan uw kamer gestuurd.

Experiment behoorlijk datagebruik in de openbare ruimte

Het Ministerie van BZK faciliteert de proeftuin «Behoorlijk datagebruik in de openbare ruimte», die moet leiden tot concrete «mores» voor de smart society en uitgangspunten voor verdere beleidsontwikkeling. De uitvoering van de proeftuin gebeurt in nauwe samenwerking met de VNG en een drietal regio’s (beoogd: regio’s Amsterdam, Eindhoven en Groningen). Een van de vraagstukken die aan bod zullen komen, is hoe te bevorderen dat burgers zowel individueel als collectief kunnen deelnemen aan de smart city, als een gelijkwaardige partner van bedrijven en gemeenten. Of de uit dit traject voortvloeiende acties in internationaal verband kunnen worden opgepakt, zal met name afhankelijk zijn van de vraag of de uitkomsten die gebaseerd zijn op lokale casuïstiek (rond crowd management, nudging, publiek-private samenwerking) een bredere, grensoverschrijdende toepassing kunnen krijgen en schaalbaar zijn. Na afloop van de proeftuin zal de Tweede Kamer over de uitkomsten geïnformeerd worden.

Analyse naar mededingingsrecht en regulering om markten competitief te houden

Het kabinet zet zich op Europees niveau in voor het competitief houden van markten waarop platforms actief zijn en voor helderheid over de vraag of aanpassingen in het (mededingings)instrumentarium nodig zijn. Het kabinet zal ook zelf een analyse verrichten naar verschillende instrumenten, waaronder tarief- en toegangsregulering, om markten competitief te houden. De Kamer zal daarover in de tweede helft van 2018 worden geïnformeerd.

Visie op datadeling

Om kansen te kunnen benutten en innovatie te bevorderen moeten partijen veilig en in vertrouwen data kunnen delen. Uiteraard zullen betrokken partijen hierbij de voorschriften in acht moeten nemen die bijvoorbeeld de Algemene Verordening Gegevensbescherming stelt aan vormen van datadelen waarbij persoonsgegevens worden verwerkt. Het kabinet zal in de tweede helft van 2018 een visie publiceren op datadeling om innovatie en concurrentie te bevorderen.

Onderzoek naar platformwerk¹¹

Onlangs heeft onderzoeksbureau SEO in opdracht van het Ministerie van SZW een onderzoek uitgevoerd naar de opkomst van het platformwerk. Daarin wordt onder meer nagegaan hoe digitale platformen zich verhouden tot het arbeidsrecht. De uitkomsten van het onderzoek worden, met een reactie vanuit het kabinet, voor het zomerreces naar uw Kamer gestuurd.

Informatie-standaardisering in de zorg

Het Ministerie van VWS subsidieert de ontwikkeling van een afsprakenstelsel en een set van standaarden in het programma MedMij. Dit programma wordt getrokken door de Patiëntenfederatie Nederland en moet zorgen voor een betrouwbaar en veilig stelsel van Persoonlijke Gezondheidsomgevingen (PGO’s) ten behoeve van regie door de burger op eigen zorg- en gezondheidsinformatie. Het afsprakenstelsel stelt eisen aan de ICT-leveranciers en creëert zo waarborgen, waar burgers en patiënten op kunnen vertrouwen. Het Informatieberaad zorg, waarin een groot aantal zorgkoepels, verzekeraars, gemeenten en VWS zijn vertegenwoordigd, stimuleert door vaststelling van generieke, zorgbrede open standaarden dat data tussen systemen kunnen stromen en er een level playing field kan ontstaan. Deze standaarden kennen hun basis in internationale standaarden. Omgekeerd probeert Nederland in zowel Europese als in mondiale gremia volgens de FAIR-principes (findable, accessible, interoperable, re-usable) draagvlak voor standaarden tot stand te brengen. Over de informatie-standaardisering in de zorg zal de Kamer eind 2018 worden geïnformeerd.

Trajecten in Europees verband

Ethische code voor kunstmatige intelligentie e.a.

Tegen eind 2018 zal de Europese Commissie ethische richtsnoeren voor de ontwikkeling van kunstmatige intelligentie uitbrengen, uitgaande van het EU-handvest van de grondrechten en rekening houdend met gegevensbescherming en transparantie. Met het oog op de ontwikkeling van deze richtsnoeren zal de Commissie alle relevante belanghebbenden bijeenbrengen in een Europese alliantie rondom kunstmatige intelligentie. Tegen medio 2019 zal de Commissie verder richtsnoeren uitbrengen voor de interpretatie van de richtlijn productaansprakelijkheid om te zorgen voor rechtszekerheid voor consumenten en producenten in het geval van producten met gebreken.¹²

Verhouding ondernemers die aanbieden via online platforms en platformbedrijven

Ondernemers die hun diensten of producten aanbieden op platforms kunnen daar veel baat van hebben, bijvoorbeeld door het grote bereik van platforms. Ondernemers kunnen daarmee ook afhankelijk worden van dergelijke platforms. In de onderlinge machtsverhoudingen is het van belang dat platforms zich eerlijk gedragen tegenover deze aanbieders. De Europese Commissie heeft recent een voorstel gepubliceerd om de relatie tussen bedrijven en platforms te verbeteren. Het kabinet zal zich in de onderhandelingen over het Europees voorstel over de relatie tussen platforms en bedrijven sterk maken voor een eerlijke en transparante relatie. Dit draagt bij aan een goed werkende platformeconomie. Het kabinet wil voorkomen dat het voorstel te veel gedetailleerde eisen aan platforms stelt met hoge uitvoeringskosten tot gevolg. Dit geldt met name voor kleine platforms, die door gedetailleerde eisen mogelijk lastiger kunnen concurreren met grotere platforms.¹³

Strategie zelfrijdende auto’s

In haar Mededeling «Op weg naar geautomatiseerde mobiliteit: een EU-strategie voor de mobiliteit» van 17 mei jl. heeft de Europese Commissie zich op het standpunt gesteld dat bij de ontwikkeling van zelfrijdende auto’s ook aandacht moet uitgaan naar ethische kwesties in verband met het overdragen van de verantwoordelijkheid bij het rijden naar voertuigen. Het gaat onder andere over onze verwachtingen inzake de manier waarop een voertuig moet reageren wanneer een ongeval niet kan worden vermeden, en de criteria die worden gebruikt om de beslissing van het voertuig te bepalen. Hierbij gaat het ook om de vraag wie aansprakelijk is wanneer een zelfrijdend voertuig betrokken is bij een ongeval. Voor beantwoording van dergelijke vragen zal zij een specifiek forum tot stand brengen dat samenwerkt met onder meer de Europese KI-alliantie om gesprekken op het Europese niveau te vergemakkelijken.

Onderzoek naar werkwijze social media door Europese privacytoezichthouders

Naar aanleiding van de gebeurtenissen rond Cambridge Analytica en Facebook onderzoekt een werkgroep van de samenwerkende Europese privacytoezichthouders hoe social media-platformen aan hun gegevens komen en hoe ze voorkomen dat anderen daar onrechtmatig toegang toe hebben. De Autoriteit persoonsgegevens wil een actieve rol spelen in deze werkgroep. De werkgroep zal in Europees verband ook een langetermijnstrategie ontwikkelen voor het gebruik van persoonsgegevens door social media. Zij zal niet alleen naar social media kijken, maar ook naar andere partijen als datahandelaren en app-ontwikkelaars.

Slot

Zonder de pretentie te hebben dat de gegeven inventarisatie geheel compleet is, meen ik dat zij een voldoende beeld geeft van de trajecten die er op het terrein van de digitale transformatie lopen waarbij op enigerlei wijze mede de vraag naar normering aan de orde is. Deze trajecten, die waar nodig uiteraard op elkaar worden afgestemd, gaan tezamen in voldoende mate in op de aspecten die in de motie worden genoemd. Daarbij vormt de Nederlandse Digitaliseringsstrategie die het kabinet onlangs heeft uitgebracht het «cement» tussen deze trajecten. Een onderzoek, zoals in de motie bepleit, zou daaraan naar mijn oordeel weinig toevoegen. Tegen deze achtergrond meen ik dan ook aanvaarding van de motie te moeten ontraden.

De Minister voor Rechtsbescherming, S. Dekker

---

1 Kamerstukken I 2017/18, 34 775 VI, V.

2 Kamerstukken I 2017/18, CVIII, S.

3 Dit onderzoek is aangekondigd in: Kamerstukken I 2017/18, CVIII, S, blz. 5–6.

4 Kamerstukken II 2017/18, 26 643, nr. 536.

5 Dit onderzoek is aangekondigd in: Kamerstukken I 2016/17, 33 009, F, blz. 8.

6 Beschikbaar via https://www.wodc.nl/onderzoeksdatabase/2540-criminele-dienstverlening-op-internet.aspx.

7 Kamerstukken II 2017/18, nr. 168.

8 Dit onderzoek is aangekondigd in: Kamerstukken II 2017/18, 34 775 VI, nr. 88, blz. 9.

9 Dit onderzoek is aangekondigd in: Kamerstukken I 2017/18, CVIII, S, blz. 10.

10 Dit onderzoek is aangekondigd in: Kamerstukken II 2016/17, 34 755 VII, nr. 52.

11 Werk in de vorm van fysieke dienstverlening waarbij een platform (app of website) wordt gebruikt om vraag en aanbod bij elkaar te brengen.

12 Kamerstukken II 2017/18, 22 112, nr. 2578, blz. 3.

13 Kamerstukken II 2017/18, 22 112, nr. 2579, blz. 6–7.