35 212 Initiatiefnota van het lid Middendorp: Menselijke grip op algoritmen

Nr. 5 BRIEF VAN DE MINISTER VOOR RECHTSBESCHERMING EN DE STAATSSECRETARISSEN VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN ECONOMISCHE ZAKEN EN KLIMAAT

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 15 oktober 2020

Bij brief van 20 april jl. hebben wij gereageerd op de initiatiefnota «Menselijke grip op algoritmen» van het lid van uw Kamer Middendorp. Die nota bevatte onder meer het voorstel om een Taskforce in te stellen die het operationeel toezichtkader voor algoritmen verder kan uitwerken. In reactie op dit voorstel hebben wij aangegeven dat het kabinet nader zal verkennen of en, zo ja, op welke punten en in welke vorm een dergelijke taskforce meerwaarde zou kunnen bieden en op grond daarvan een besluit zal nemen over het al dan niet instellen daarvan. Met deze brief informeren wij uw Kamer over de resultaten van deze verkenning en het besluit dat het kabinet daarop heeft genomen.

De verkenning heeft plaatsgevonden binnen de overlegstructuur van de Nederlandse Digitaliseringstrategie (NDS). De NDS bundelt kabinetsbreed de ambities voor een succesvolle digitale transitie. De interdepartementale NDS-structuur dient ter bespreking van en besluitvorming over onderwerpen op het terrein van digitalisering en daarmee ook beleidsvraagstukken op het terrein van algoritmen. Zij vormde dan ook de aangewezen structuur om de verkenning uit te voeren en daaruit conclusies te trekken.¹

Met «toezichtkader» wordt in de initiatiefnota gedoeld op het stelsel van normen (wetgeving, richtlijnen, beleidsinstrumenten) omtrent algoritmen en het toezicht dat op de naleving daarvan wordt gehouden. Zoals in onze brief van 20 april jl. is aangekondigd, heeft de verkenning zich toegespitst op de vraag of, en in welke vorm, een taskforce meerwaarde zou kunnen bieden voor nog openstaande beleidsvraagstukken of lopende trajecten met betrekking tot de normering en toezicht op algoritmen.² Ter beantwoording van deze vraag is een eerste inventarisatie gemaakt van dergelijke beleidsvraagstukken alsook een analyse van de reeds bestaande gremia (interne en externe overleg-, afstemmings- en adviesstructuren), hun onderlinge verhouding en hun rol bij beleidsvorming op dit terrein.

Bij de verkenning is tevens aandacht besteed aan de reden en achtergrond van het voorstel in de initiatiefnota om een taskforce in te stellen. Naast de initiatiefnota is daarbij ook rekening gehouden met het recente rapport van de Tijdelijke commissie Digitale toekomst en de onderbouwing door Kamerlid Middendorp van zijn voorstel in andere stukken, overleggen of debatten.³ Samengevat lijkt het voorstel te zijn ingegeven door de wens om de volgende punten op te pakken:

• Fragmentatie: het voorkomen van gefragmenteerd regeringsbeleid voor normering van en toezicht op algoritmen;

• Efficiënte organisatie: de rijksoverheid moet zich efficiënter organiseren op digitale thema’s, specifiek de normering van en toezicht op algoritmen;

• Snelheid: de snelheid van digitale ontwikkelingen noopt de overheid sneller tot beleid te komen op dit gebied;

• Visie: het vergroten van het vermogen structureel vooruit te kijken en visie te ontwikkelen op dit thema;

• Kennisbundeling: het bij dit alles betrekken van publieke en private kennis, specifiek van (technisch) experts en ambtenaren.

Samenwerking op het gebied van algoritmen

De afgelopen jaren hebben diverse departementen intensief samengewerkt met andere partijen binnen en buiten de overheid om het beleid over algoritmen en AI verder vorm te geven. Concreet resultaat hiervan zijn de drie brieven over algoritmen en AI die op 8 oktober 2019 naar de Kamer zijn gestuurd, namelijk:

• Strategisch Actieplan voor AI (SAPAI);

• Beleidsbrief AI, publieke waarden en mensenrechten;

• Brief »Waarborgen tegen risico’s van data-analyses door de overheid» met de bijbehorende richtlijnen voor algoritmische data-analyse door de overheid.⁴

• In deze stukken is ook aandacht voor normering en toezicht. Ook is voor deze stukken een duidelijke verantwoordelijkheidsverdeling gemaakt voor normering en toezicht met betrekking tot AI.⁵

Deze samenwerking om kennis te delen en toe te passen is hierna verder geïntensiveerd. Zo is tegelijk met SAPAI de Nederlandse AI-Coalitie gelanceerd. Dit publiek-private samenwerkingsverband is op 8 oktober 2019 gestart met een ambitieus AI-plan om publiek-private kennis te ontwikkelen en toe te passen op het gebied van kennis- en innovatie, human capital, datadelen voor AI en mensgerichte AI met en voor maatschappelijk en economisch relevante toepassingsgebieden. Inmiddels telt de Nederlandse AI Coalitie rond de 400 deelnemers, waaronder bijna alle departementen. Ook is begin dit jaar een samenwerkingsplatform AI, publieke waarden en mensenrechten opgericht waarin vertegenwoordigers van verschillende overheden, zowel centrale als decentrale, alsook externe partijen worden betrokken. Binnen het platform wordt kennis gedeeld over het onderwerp AI, publieke waarden en mensenrechten.

Daarnaast zijn overleggen tussen ambtenaren c.q. bewindslieden op het terrein van digitalisering en algoritmen thans ondergebracht in de NDS-structuur, waar structurele afstemming op alle niveaus (medewerkers, management en politiek) over digitalisering en AI plaatsvindt. De NDS-structuur draagt bij aan gezamenlijke beleidsontwikkeling en afstemming op het onderwerp digitalisering. Voorbeelden hiervan zijn afstemming over de jaarlijkse herijking van de NDS, gedachtevorming over de Nederlandse inzet op Europees digitaal gebied en voorliggende brief over de ambtelijke projectgroep normering en toezicht algoritmen. Met de jaarlijkse update van de NDS informeert het kabinet uw Kamer in samenhang over de voortgang van het realiseren van de digitale ambities, onder andere op het terrein van algoritmen en AI.⁶

Naast interne afstemmings- en overlegstructuren ontvangt het kabinet advies van verscheidene publieke en private partijen. Hierbij kan worden gedacht aan de Adviesraad voor Wetenschap, Technologie en Innovatie, de Wetenschappelijke Raad voor het Regeringsbeleid, het Rathenau Instituut en de Cybersecurity Raad, maar ook aan (verplichte) adviezen van de Raad van State en Autoriteit Persoonsgegevens. Voorts wijst het kabinet ook op de vele aanbestede onderzoeken die raken aan de normering van en toezicht op algoritmen.⁷

Verdere versteviging samenwerking

Tegen deze achtergrond concludeert het kabinet dat de bestaande overleg- en besluitvormingsstructuren zich stevig hebben (door)ontwikkeld en dat er voldoende partijen zijn die het kabinet kundig adviseren met betrekking tot de normering van en toezicht op algoritmen. Het is daarom niet nodig om een nieuw en omvangrijk gremium in te richten waarin al deze partijen zitting nemen. Wel behoeven de bestaande werkwijze en structuren op twee punten verdere verbetering:

• Het realiseren van beter gezamenlijk inzicht in de bestaande beleidsvraagstukken op het terrein van algoritmen, teneinde tijdige en gezamenlijke visie- en beleidsvorming te bevorderen en daarbij de relevante (overheids)experts te betrekken;

• Het, meer dan nu het geval is, gezamenlijk aanpakken van openstaande beleidsvraagstukken op het terrein van normering en toezicht op algoritmen.

Volgens het kabinet kan hierin worden voorzien door:

• 1. het ontwikkelen van een gezamenlijke, openbare beleids- en onderzoeksagenda op het gebied van normering van en toezicht op algoritmen (Hierna: «de agenda»);

• 2. het instellen of aanwijzen van een ambtelijke projectgroep (Hierna: ¨de projectgroep¨) die onder auspiciën van het bewindsliedenoverleg NDS belast zal worden met de ontwikkeling en verdere uitwerking van deze agenda.

Hiermee kunnen actuele en/of nieuwe vraagstukken rijksbreed worden geïdentificeerd en tijdig gezamenlijk worden opgepakt. De ontwikkeling en uitwerking van de agenda door een ambtelijke projectgroep maakt het mogelijk om gezamenlijk een visie te vormen en beleid te ontwikkelen waarmee het risico op fragmentatie wordt verkleind. Door problemen in eerste instantie gezamenlijk te identificeren en deze vervolgens tezamen aan te pakken wordt voorkomen dat er verschillende beleidsinitiatieven ontstaan gericht op dezelfde materie. Ook draagt deze werkwijze bij aan het verhogen van de snelheid van het overheidshandelen, onder meer door gedeelde capaciteitsinzet. Per onderwerp op de agenda zal de projectgroep bezien welke werkwijze zich het beste leent om tot een oplossing te komen, bijvoorbeeld door een extern onderzoek aan te besteden. Ook wanneer geen onderzoek wordt aanbesteed zal de projectgroep (technische) kennis en expertise inwinnen van externe actoren, bijvoorbeeld door het organiseren van ronde tafel bijeenkomsten met experts.

De projectgroep zal in oktober van start gaan met het opstellen van de agenda. Hoewel de uitwerking via de projectgroep verloopt zullen ook externe stakeholders worden betrokken bij het samenstellen van de agenda. Het kabinet borgt met deze aanpak dat de belangrijk geachte input van externe experts zowel bij de ontwikkeling als de uitwerking van de agenda wordt meegenomen. Dit om een breed gedragen agenda op het terrein van normering en toezicht op algoritmen te realiseren. Voor het samenstellen van de agenda zal in eerste instantie mede worden geput uit de inventarisatie die in het kader van deze verkenning is gemaakt. De bij de verkenning geïdentificeerde onderwerpen betreffen in algemene zin onder meer:

• Of, en zo ja welke, algoritmen verder genormeerd moeten worden en of bestaande normen die algoritmen reguleren voldoende ingevuld en werkbaar zijn;

• een verdere (doorlopende) uitwerking van het toezichtkader omtrent algoritmen, met daarbij aandacht voor daaraan rakende Europese trajecten en de vraag naar hoe het werk van toezichthouders wordt gecontroleerd;

• de meetbaarheid van de kwaliteit van ingezette algoritmen.

Over de ophanging en werkwijze van de projectgroep zullen op korte termijn nadere afspraken worden gemaakt. Hierover, als ook over de voorgestelde inhoud van de agenda, wordt u in december van dit jaar geïnformeerd.

Voorkomen van incidenten met algoritmen

Tot slot is tijdens het AO Digitale Overheid van 1 juli jl. aan het lid van uw Kamer Verhoeven toegezegd in onderhavige brief in te gaan op de vraag hoe het kabinet voornemens is incidenten met algoritmen te voorkomen. Hoewel incidenten met algoritmen niet zijn uit te sluiten, spant het kabinet zich in deze zoveel mogelijk te voorkomen. Daartoe worden de opgestelde richtlijnen voor het gebruik van algoritmen door overheden dit jaar verder aangescherpt en geëvalueerd. Op basis van de evaluatie, waaronder een kosten-batenanalyse, en ervaringen die met de richtlijnen zijn opgedaan, zal vervolgens worden bezien of het wenselijk en noodzakelijk is onderdelen van de richtlijnen wettelijk verplicht te stellen. Daarnaast wordt nog dit jaar gestart met de ontwikkeling van een model voor een impact assessment met betrekking tot algoritmen en mensenrechten, dat naar verwachting in het eerste kwartaal van 2021 gereed zal zijn. Dit impact assessment dient ertoe organisaties in een vroeg stadium te helpen bij het inventariseren en ondervangen van risico’s van algoritmen voor mensenrechten. Verder is de Algemene Rekenkamer een onderzoek gestart naar de inzet van voorspellende en voorschrijvende algoritmen door de rijksoverheid. Het onderzoeksrapport zal in januari 2021 verschijnen.⁸ Bovendien is in opdracht van het Ministerie van Economische Zaken en Klimaat onderzoek gedaan naar de mogelijke onvoorziene effecten van de inzet van (zelflerende) algoritmen door bedrijven en consumenten, waarvan niet duidelijk is hoe zij tot een besluit komen. Uw Kamer wordt dit najaar geïnformeerd over de uitkomsten van dit onderzoek. Deze verschillende activiteiten zijn erop gericht al in een vroege fase zicht te krijgen op de risico’s van de inzet van algoritmen door de overheid en het bedrijfsleven en deze risico’s zoveel mogelijk, op een verantwoorde wijze, te ondervangen.

De Minister voor Rechtsbescherming, S. Dekker

De Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties, R.W. Knops

De Staatssecretaris van Economische Zaken en Klimaat, M.C.G. Keijzer

---

1 In deze overlegstructuur zijn op ambtelijk niveau vrijwel alle departementen vertegenwoordigd. Aan de top van deze structuur staat het bewindspersonenoverleg NDS (BWO NDS) waarvan vier bewindspersonen vast onderdeel uitmaken (Staatssecretaris EZK, Staatssecretaris BZK, Minister JenV, Minister voor Rechtsbescherming) en waarbij, afhankelijk van de agenda, andere bewindspersonen kunnen aansluiten. Binnen deze structuur heeft de Interdepartementale Werkgroep AI (IWAI) de verkenning voorbereid.

2 Het gaat hierbij met name om beleidsvraagstukken van generieke of domein overstijgende aard. Sector- of domein specifieke vraagstukken over algoritmen behoren tot de verantwoordelijkheid van de vakdepartementen en lenen zich daarom minder voor onderzoek door een taskforce zoals in de initiatiefnota beoogd.

3 Eindrapport tijdelijke commissie digitale toekomst, zie https://www.tweedekamer.nl/kamerleden_en_commissies/commissies/tcdt. Verslag van een Algemeen Overleg over Digitalisering gehouden op 1 juni 2020 Kamerstuk 26 643, nr. 707.

4 Kamerstuk 26 643, nrs. 640, 641 en 642.

5 Zie Kamerstuk 26 643, nr. 641, p. 2–3. Deze afspraken zien specifiek op de aspecten «transparantie», «rechtsbescherming» en «toetsbaarheid».

6 Bijlage bij Kamerstuk 26 643, nr. 709

7 Een aantal recente voorbeelden hiervan zijn: »toezicht op het gebruik van algoritmen door de overheid» (Hooghiemstra en Partners), »juridische aspecten van algoritmen die besluiten nemen» (Universiteit Utrecht), »big data en modernisering van het procesrecht» (Tilburg University) en »onderzoek naar systeemprincipes voor AI-ontwikkelaars (Tilburg University»).

8 Zie: https://www.rekenkamer.nl/actueel/lopend-onderzoek/zicht-op-algoritmes.