26 643 Informatie- en communicatietechnologie (ICT)

Nr. 657 BRIEF VAN DE MINISTERS VAN BINNENLANDSE ZAKEN EN KONINKRIJKSRELATIES EN VOOR RECHTSBESCHERMING

Aan de Voorzitter van de Tweede Kamer der Staten-Generaal

Den Haag, 20 december 2019

Hierbij bieden wij uw Kamer het toegezegde onderzoek «Toezicht op gebruik van algoritmen door de overheid»¹ aan.² Doel van dit onafhankelijke onderzoek is nader inzicht te bieden in de wijze waarop het huidige toezicht op de toepassing van algoritmen bij de overheid is ingericht en op de manier waarop dit mogelijk nog beter kan.

Dit onderzoek, uitgevoerd door strategisch en juridisch adviesbureau Hooghiemstra & Partners, gaat in op de volgende hoofdvragen:

• In welke mate is er op dit moment een juridische basis voor toezicht op overheidsalgoritmen?

• In welke mate wordt op dit moment in de praktijk uitvoering gegeven aan toezicht op overheidsalgoritmen?

• Welke beleidsadviezen zijn te geven op basis van de resultaten van het onderzoek?

Dit onderzoek biedt de benodigde analyse voor het formuleren van de kabinetsreactie op een drietal recente moties, ingediend door de leden Verhoeven en Van der Molen³, Middendorp en Drost⁴ en Verhoeven en Van der Molen⁵. Het gaat om het deel van de moties waar het toezicht op algoritmen ingezet door overheden betreft. Voor zover daarin ook om richtlijnen wordt gevraagd, is aan deze moties reeds uitvoering gegeven.⁶ Tevens biedt dit onderzoek een overzicht van de belangrijkste toezichthouders voor de rijksoverheid. In zoverre wordt hiermee deels uitvoering gegeven aan de toezegging tijdens het Algemeen Overleg Digitale Overheid van 4 december 2019 om uw Kamer een overzicht van de toezichthouders per domein te doen toekomen (publiek en privaat). De Kabinetsreactie zal nader op dit aan te vullen overzicht ingaan.

Uit de uitgevoerde analyse van wet- en regelgeving volgt dat de onderzoekers geen juridische lacune hebben geconstateerd in de toezichtstaken. Dit hangt nauw samen met het feit dat het gebruik van algoritmen een middel is en daarmee integraal onderdeel is van de taakuitoefening door de overheid. De onderzoekers bevelen aan voorlopig geen afzonderlijke toezichthouder te introduceren en geen meldplicht te introduceren voor ingrijpende algoritmen, maar in plaats daarvan een algoritme impact assessment in te voeren.

Uit interviews volgt dat van structureel onderzoek naar het gebruik van algoritmen door de overheid nog geen sprake is. Wel is het fenomeen onder titels als «digitalisering» of «algoritmen» opgenomen in onderzoeksagenda’s en beleidsplannen.

De centrale aanbevelingen uit het onderzoek:

• Borg de democratische legitimatie bij inzet van overheidsalgoritmen. Formuleer algemene standaarden, waaraan overheidsalgoritmen moeten voldoen en die niet alleen voor juristen en beleidsmedewerkers hanteerbaar zijn, maar ook voor dataspecialisten.

• Laat overheidsorganisaties die algoritmen willen inzetten een impact assessment uitvoeren voordat het besluit genomen wordt algoritmen te gaan gebruiken. Dit instrument helpt organisaties om risico’s te identificeren, te mitigeren en na te gaan of zich nog restrisico’s voordoen. Regel dat organisaties die restrisico’s hebben vastgesteld maar wel gebruik willen maken van de algoritmen, de betrokken toezichthouder kunnen verzoeken om een «voorafgaande raadpleging». Introduceer een zorgplicht voor overheidsorganisaties bij de inzet van algoritmes, zodat zij expliciet verantwoordelijk zijn voor de juistheid van de door hen ingezette algoritmen en laat organisaties periodieke audits uitvoeren.

• Doe nader onderzoek naar het geven van (eventueel een wettelijk verankerde) experimenteerruimte aan overheidsorganisaties op het gebied van de inzet van algoritmen. Hierdoor kunnen de uitvoeringspraktijk en toezichthoudende organisaties van elkaar leren.

• Stel zoals in Duitsland een commissie samen uit een variëteit van wetenschappers en experts om tot gezamenlijk gedragen standpunten te komen. Ontwikkel gezamenlijke definities voor termen als «bias», «auditeerbaarheid» en «transparantie».

• Bevorder het maatschappelijk debat over digitalisering in de samenleving.

Op grond van onze verantwoordelijkheid voor het openbaar bestuur en de digitale overheid, respectievelijk systeemverantwoordelijkheid voor transparantie, toetsbaarheid en rechtsbescherming rond AI/algoritmes zullen wij in het eerste kwartaal van 2020 aan uw Kamer een reactie op de aanbevelingen in dit rapport aanbieden.

De Minister van Binnenlandse Zaken en Koninkrijksrelaties, R.W. Knops

De Minister voor Rechtsbescherming, S. Dekker

---

1 Raadpleegbaar via www.tweedekamer.nl

2 Kamerstuk 26 643 en 32 761, nr. 642.

3 Kamerstuk 26 643, nr. 610.

4 Kamerstuk 35 200 VII, nr. 14.

5 Kamerstuk 26 643, nr. 632.

6 Kamerstuk 26 643 en 32 761, nr. 641.