Inkoopvoorwaarden Algoritmische toepassingen Provincie Noord-Holland 2023

• 1. De Algemene Inkoopvoorwaarden Provincies 2023 voor leveringen en diensten vast te stellen en bekend te maken in het Provinciaal Blad;

• 2. De Inkoopvoorwaarden Algoritmische Toepassingen Provincie Noord-Holland 2023 vast te stellen en bekend te maken in het Provinciaal Blad;

• 3. De Algemene Inkoopvoorwaarden Provincies 2018 voor leveringen en diensten in te trekken;

• 4. General Terms and Conditions of the Provincial Authority of Noord-Holland for the Purchase of Goods and Services version 2018 in te trekken.

Inkoopvoorwaarden Algoritmische toepassingen Provincie Noord-Holland 2023

Artikel 1 Definities

De hierna volgende begrippen worden in deze algemene inkoopvoorwaarden in de hierna vermelde betekenis gebruikt:

• a. Algoritmische toepassing: software waardoor op geautomatiseerde wijze voorspellingen worden gedaan, beslissingen worden genomen en/of adviezen worden gegeven door gebruik te maken van data-analyse, statistiek en/of zelflerende logica.

• b. Beoogde gebruik: het oplossen van de door de Provincie voorafgaand aan het gebruik van de Algoritmische toepassing gedefinieerde probleem of problemen.

• c. Besluiten: besluiten van de Provincie die bestuursrechtelijk, privaatrechtelijk en/of feitelijk van aard zijn en die direct of indirect één of meer burgers van de Provincie, bezoekers van de Provincie of bedrijven of andersoortige instellingen die in de Provincie zijn gevestigd in aanmerkelijke mate treffen.

• d. Overeenkomst: de afspraken tussen de Provincie en Opdrachtnemer waarvan de Voorwaarden onderdeel uitmaken.

• e. Procedurele transparantie: het verstrekken van informatie over het doel van de Algoritmische toepassing en het proces dat is gevolgd bij de ontwikkeling en toepassing van de Algoritmische toepassing en de in dat kader gebruikte data, waaronder in ieder geval moet worden begrepen het geven van inzicht in de gemaakte keuzes en de gehanteerde aannames, de categorieën van data die zijn gebruikt bij het ontwikkelen van de Algoritmische toepassing, de wijze waarop in menselijke tussenkomst is voorzien in de Algoritmische toepassing, de gebruikte methode om risico’s te identificeren, de geïdentificeerde risico’s en de maatregelen die zijn genomen om de risico’s te mitigeren en de partijen die betrokken zijn geweest bij het ontwikkelen van de Algoritmische toepassing en hun rol.

• f. Provincie: provincie Noord-Holland

• g. Technische transparantie: het verstrekken van informatie aan de hand waarvan de Provincie inzicht kan krijgen in de technische werking van de Algoritmische toepassing, waaronder in ieder geval kan worden begrepen het verstrekken van de broncode van de Algoritmische toepassing, de technische specificaties die zijn gebruikt bij de ontwikkeling van de Algoritmische toepassing, de bij de ontwikkeling van de Algoritmische toepassing gebruikte data, technische informatie over de wijze waarop de bij de ontwikkeling van de Algoritmische toepassing gebruikte data zijn verkregen en bewerkt, informatie over de gehanteerde ontwikkelmethode en het doorlopen ontwikkelproces, motivatie van de keuze voor een bepaald model en bijbehorende parameters en informatie over de prestaties van de Algoritmische toepassing.

• h. Uitlegbaar(heid): Het op individueel niveau kunnen uitleggen waarom een Algoritmische toepassing tot een bepaalde beslissing of uitkomst komt. Tenzij Partijen uitdrukkelijk anders overeenkomen, vormt daar in ieder geval onderdeel van dat duidelijk is wat de belangrijkste factoren zijn op basis waarvan een Algoritmische toepassing tot een bepaalde uitkomst is gekomen en welke wijzigingen in de input moeten worden doorgevoerd om tot een andere uitkomst te komen. Onder het Uitlegbaar maken van een Algoritmische toepassing valt mede het verstrekken van alle (technische) informatie die nodig is om in een bezwaarprocedure, een beroepsprocedure of een andere juridische procedure de totstandkoming van een Besluit toe te lichten en om de wederpartij en eventuele andere belanghebbenden de gelegenheid te bieden de totstandkoming van een Besluit te toetsen zodat de wederpartij reële rechtsbescherming wordt geboden.

• i. Voorwaarden: de Inkoopvoorwaarden Algoritmische toepassingen Provincie Noord-Holland 2023

Artikel 2 Toepasselijkheid

• 1. Deze Voorwaarden zijn van toepassing indien Opdrachtnemer aan de Provincie een Algoritmische toepassing levert die door de Provincie wordt gebruikt bij het nemen van besluiten, het voorbereiden van Besluiten of in het kader van handhavings- of fraudeonderzoek.

• 2. Deze Voorwaarden zijn eveneens van toepassing indien Opdrachtnemer aan de Provincie een Algoritmische toepassing levert die wordt ingezet voor het nemen van beslissingen of het voorbereiden van beslissingen over medewerkers van de Provincie.

• 3. Deze Voorwaarden zijn van toepassing ongeacht of Opdrachtnemer de Algoritmische toepassing in de vorm van een product, als onderdeel van een dienst of als onderdeel van een ontwikkelovereenkomst aan de Provincie levert.

• 4. Indien de Algoritmische toepassing onderdeel uitmaakt van één of meerdere softwareproducten die door Opdrachtnemer gezamenlijk aan de Provincie worden geleverd, vormen deze softwareproducten gezamenlijk de Algoritmische toepassing waarop deze Voorwaarden van toepassing zijn, tenzij Partijen anders overeenkomen.

Artikel 3 Kwaliteit van de data

• 1. Indien en voor zover de Algoritmische toepassing wordt ontwikkeld op basis van data die door de Provincie aan Opdrachtnemer worden aangeleverd, zal Opdrachtnemer de redelijkerwijs van hem te verwachten maatregelen nemen om ervoor te zorgen dat de bij het ontwikkelen van de Algoritmische toepassing gebruikte data worden geanalyseerd, gestructureerd en/of bewerkt:

  • a. volgens een gemotiveerde aanpak die onder meer, maar niet uitsluitend, tot doel heeft om sociaal geconstrueerde vertekening, onnauwkeurigheden, fouten, vergissingen en ongewenste vooringenomenheid (“bias”) in deze data zoveel als redelijkerwijs mogelijk te voorkomen;

  • b. op een wijze die in overeenstemming is met toepasselijke wet- en regelgeving.

• 2. Indien en voor zover de Algoritmische toepassing wordt ontwikkeld op basis van data die niet door de Provincie aan Opdrachtnemer worden aangeleverd, zal Opdrachtnemer ervoor zorgen dat de bij het ontwikkelen van de Algoritmische toepassing gebruikte data worden verzameld, geanalyseerd, gestructureerd en/of bewerkt:

  • a. volgens een gemotiveerde aanpak die onder meer, maar niet uitsluitend, tot doel heeft om sociaal geconstrueerde vertekening, onnauwkeurigheden, fouten, vergissingen en ongewenste vooringenomenheid (“bias”) in deze data zoveel als redelijkerwijs mogelijk te voorkomen;

  • b. op een wijze die in overeenstemming is met toepasselijke wet- en regelgeving.

• 3. Indien en voor zover Opdrachtnemer de Algoritmische toepassing voorafgaand aan het sluiten van de Overeenkomst heeft ontwikkeld, staat Opdrachtnemer ervoor in dat de in artikel 3 lid 2 beschreven maatregelen reeds zijn genomen.

Artikel 4 Rechten op de data

• 1. Alle rechten met betrekking tot de data die in het kader van de Overeenkomst door de Provincie aan Opdrachtnemer worden verstrekt, komen toe aan de Provincie. Opdrachtnemer heeft niet het recht deze data te gebruiken voor andere doeleinden dan het uitvoeren van de Overeenkomst. Opdrachtnemer zal deze data op eerste verzoek van de Provincie vernietigen en/of tot afgifte van de data aan de Provincie overgaan.

• 2. Alle rechten met betrekking tot de data die in het kader van de uitvoering van de Overeenkomst worden gecreëerd of verzameld, komen toe aan de Provincie. Tenzij Partijen anders overeenkomen, heeft Opdrachtnemer niet het recht deze data te gebruiken voor andere doeleinden dan het uitvoeren van de Overeenkomst. Opdrachtnemer zal deze data op eerste verzoek van de Provincie vernietigen en/of tot afgifte van de data aan de Provincie overgaan.

• 3. Afgifte van de in artikel 4 lid 1 en 4 lid 2 bedoelde data vindt plaats in een door de Provincie aan te wijzen gangbaar bestandsformaat. Indien Opdrachtnemer voor het omzetten van de data naar het door de Provincie gewenste bestandsformaat aanvullende werkzaamheden dient te verrichten, zal de Provincie Opdrachtnemer hiervoor een redelijke vergoeding betalen. Een geschil over de hoogte van de door Provincie aan Opdrachtnemer te betalen vergoeding, kan voor Opdrachtnemer geen reden zijn om zijn verplichtingen uit deze Voorwaarden op te schorten.

• 4. Op eerste verzoek van de Provincie zal Opdrachtnemer bewijs van vernietiging van de data verstrekken.

Artikel 5 Kwaliteit van de Algoritmische toepassing

• 1. Opdrachtnemer verklaart dat de Algoritmische toepassing is ontwikkeld en functioneert op een wijze die in overeenstemming is met wet- en regelgeving.

• 2. Opdrachtnemer verklaart dat de Algoritmische toepassing volgens een gemotiveerde aanpak is ontwikkeld.

• 3. Opdrachtnemer verklaart dat de Algoritmische toepassing nauwkeurig en correct functioneert.

• 4. Opdrachtnemer verklaart dat de Algoritmische toepassing geschikt is voor het Beoogde gebruik.

Artikel 6 Transparantie over de Algoritmische toepassing

• 1. Opdrachtnemer zal op eerste verzoek van de Provincie aan de Provincie Technische transparantie verschaffen om de Provincie in staat te stellen een audit uit te voeren als bedoeld in artikel 9. De Provincie zal dergelijke informatie uitsluitend opvragen en gebruiken indien en voor zover dat noodzakelijk is voor de toepassing van artikel 9. De Provincie zal op grond van artikel 6.2 aan haar verstrekte bedrijfsvertrouwelijke informatie geheimhouden en na afloop van een audit als bedoeld in artikel 9 vernietigen, tenzij een op de Provincie rustende wettelijke verplichting zich tegen geheimhouding of vernietiging verzet of de Provincie de informatie nodig heeft in het kader van een geschil met Opdrachtnemer of een derde.

• 2. Bij de toepassing van artikel 6 lid 2 kan Opdrachtnemer ervoor kiezen om de broncode van de Algoritmische toepassing niet af te geven aan de Provincie, maar aan een door de Provincie aan te wijzen en in te schakelen onafhankelijke derde die namens de Provincie de in artikel 9 bedoelde audit zal uitvoeren. Eventuele meerkosten die daaruit voortvloeien komen voor rekening van Opdrachtnemer. De Provincie kan van Opdrachtnemer eisen dat een voorschot wordt betaald in verband met de kosten van de onafhankelijke derde.

• 3. De Provincie dient te allen tijde de mogelijkheid te hebben om de werking van de Algoritmische toepassing uit te leggen (Uitlegbaarheid). Opdrachtnemer is verplicht aan het Uitlegbaar maken van de Algoritmische toepassing zijn volledige medewerking te geven en alle daarvoor benodigde informatie aan de Provincie te verstrekken. De Provincie heeft het recht om de in dat kader door Opdrachtnemer verstrekte informatie met derden te delen en openbaar te maken.

• 4. Gedurende de looptijd van de Overeenkomst vormen de in dit artikel beschreven verplichtingen resultaatsverplichtingen en is de Provincie, tenzij Partijen anders overeenkomen, voor het nakomen van deze verplichtingen geen aanvullende vergoeding verschuldigd aan Opdrachtnemer. Na de looptijd van de Overeenkomst vormen de in dit artikel beschreven verplichtingen inspanningsverbintenissen en is de Provincie voor de in dat kader door Opdrachtnemer te verrichtten werkzaamheden een redelijke vergoeding verschuldigd.

• 5. Indien sprake is van een overlap tussen de informatie die wordt verstrekt op basis van de verschillende leden van dit artikel, staat het de Provincie steeds vrij het voor haar meest aantrekkelijke regime te kiezen.

Artikel 7 Risicomangementstrategie bij ontwikkeling van de Algoritmische toepassing

• 1. Bij de ontwikkeling van de Algoritmische toepassing zal Opdrachtnemer een gangbare en up-to-date risicomanagementstrategie hanteren die passend is voor de aard van de Algoritmische toepassing. Bij het toepassen van deze risicomanagementstrategie zal Opdrachtnemer de belangrijkste risico’s identificeren die zich kunnen voordoen bij het gebruik van de Algoritmische toepassing door de Provincie en maatregelen treffen teneinde de geïdentificeerde risico’s beheersbaar te maken. Bij het identificeren van de risico’s zal Opdrachtnemer indien relevant in ieder geval aandacht besteden aan het risico dat niet wordt voldaan aan één of meer van de verplichtingen genoemd in artikel 3 en artikel 5, risico’s die verband houden met discriminatie, de mogelijkheid voor de Provincie om controle te houden over de Algoritmische toepassing en gegevensbescherming.

• 2. Opdrachtnemer zal de in artikel 7 lid 1 beschreven risicomanagementstrategie op dusdanige wijze uitvoeren en documenteren dat de tijdens de in artikel 9 bedoelde audit kan controleren of Opdrachtnemer aan de in artikel 7 lid 1 beschreven verplichting heeft voldaan.

• 3. Indien en voor zover Opdrachtnemer de Algoritmische toepassing voorafgaand aan het sluiten van de Overeenkomst heeft ontwikkeld, staat Opdrachtnemer ervoor in dat de in artikel 7 lid 1 en artikel 7 lid 2 beschreven handelingen reeds hebben plaatsgevonden. Op eerste verzoek van de Provincie zal Opdrachtnemer daarvan bewijs aanleveren.

Artikel 8 Beheer van de Algoritmische toepassing

• 1. Indien Opdrachtnemer de Algoritmische toepassing in de vorm of als onderdeel van een dienst aanbiedt of beheer en onderhoud aan de Algoritmische toepassing verricht, staat Opdrachtnemer ervoor in dat de Algoritmische toepassing en de daarbij behorende documentatie gedurende de looptijd van de Overeenkomst aan de in artikel 5 genoemde voorwaarden blijft voldoen.

• 2. Indien Opdrachtnemer de Algoritmische toepassing in de vorm of als onderdeel van een dienst aanbiedt of beheer en onderhoud aan de Algoritmische toepassing verricht, maakt onderdeel van de door Opdrachtnemer te leveren diensten uit dat Opdrachtnemer gedurende de looptijd van de Overeenkomst continue zal monitoren of de in artikel 7 lid 1 bedoelde risico’s nog actueel zijn en of de in artikel 7 lid 1 bedoelde maatregelen effectief zijn. Indien dat niet het geval blijkt te zijn, zal Opdrachtnemer aanvullende maatregelen treffen.

• 3. Onderdeel van de in artikel 8 lid 2 bedoelde verplichting is dat Opdrachtnemer zal informeren indien nieuwe risico’s bekend worden of de in artikel 7 lid 1 bedoelde maatregelen niet effectief blijken te zijn.

Artikel 9 Audit of andersoortige controle

• 1. Opdrachtnemer is te allen tijde verplicht om mee te werken aan een door of namens de Provincie uit de voeren audit of andersoortige controle waarin wordt beoordeeld of Opdrachtnemer de in de Overeenkomst gestelde voorwaarden naleeft. Deze medewerking ziet onder meer op het geven van Technische transparantie, het geven van Procedurele transparantie, het inzicht geven in de uitgevoerde risicomanagementstrategie, het beschikbaar stellen van personeel van Opdrachtnemer voor het houden van interviews en het geven van toegang tot de locaties van Opdrachtnemer.

• 2. De Provincie zal een rapport op (laten) stellen waarin de conclusies van de audit worden vastgelegd. In het rapport zal de Provincie vastleggen in hoeverre Opdrachtnemer de verplichtingen uit de Overeenkomst naleeft. Indien de Provincie vaststelt dat Opdrachtnemer de verplichtingen uit dit artikel niet naleeft, is Opdrachtnemer verplicht om binnen de door de Provincie in het rapport vastgestelde redelijke termijn de door de Provincie geconstateerde gebreken te verhelpen. Herstelt Opdrachtnemer de door de Provincie geconstateerde gebreken niet binnen de in het rapport vastgelegde hersteltermijn, verkeert Opdrachtnemer van rechtswege in verzuim.

• 3. De Provincie heeft het recht de conclusies van het in artikel 9 lid 2 bedoelde rapport openbaar te maken. Bij strijdigheid tussen artikel 6 lid 2 en artikel 9 lid 3 heeft artikel 9 lid 3 voorrang.

• 4. De Provincie heeft het recht om maximaal één keer per kalenderjaar een audit uit te (laten) voeren.

• 5. De Provincie kan besluiten de audit (gedeeltelijk) te laten uitvoeren door een onafhankelijke auditor.

• 6. De kosten van de eventueel door de Provincie in te schakelen auditor komen voor rekening van de Provincie. Voor eventuele kosten die Opdrachtnemer in het kader van de audit zal maken voor andere werkzaamheden dan het verstrekken van Technische transparantie of Procedurele transparantie, zal de Provincie Opdrachtnemer een redelijke vergoeding betalen. Een geschil over de hoogte van een dergelijke vergoeding kan voor Opdrachtnemer nooit reden zijn om zijn verplichtingen uit deze Voorwaarden op te schorten. Een dergelijke vergoeding hoeft de Provincie niet te betalen indien uit de audit blijkt dat Opdrachtnemer deze Voorwaarden op wezenlijke punten niet naleeft of heeft nageleefd.

Artikel 10 Kosten

Tenzij Partijen anders overeenkomen of in deze Voorwaarden uitdrukkelijk anders is bepaald, is de Provincie voor de werkzaamheden die voortvloeiden uit deze Voorwaarden geen aanvullende vergoeding verschuldigd aan Opdrachtnemer.