Skip to content

Commit

Permalink
Release v2.0/controleren vereisten 8 (#500)
Browse files Browse the repository at this point in the history
Co-authored-by: Nout van Deijck <[email protected]>
  • Loading branch information
BartdeVisser and noutvandeijck authored Dec 17, 2024
1 parent ad20b8c commit d1c58e3
Show file tree
Hide file tree
Showing 7 changed files with 19 additions and 59 deletions.
Original file line number Diff line number Diff line change
Expand Up @@ -18,11 +18,9 @@ hide:
<!-- tags -->

## Vereiste

Organisaties die algoritmes gebruiken voor publieke taken nemen besluiten zorgvuldig.

## Toelichting

Het zorgvuldigheidsvereiste eist dat een besluit met de nodige zorgvuldigheid wordt voorbereid en juist wordt genomen.
Dit vraagt onder meer om een zorgvuldig onderzoek naar informatie, feiten, een zorgvuldige beslissingsprocedure en een deugdelijke besluitvorming.

Expand All @@ -32,7 +30,6 @@ Dit betekent dat bij de ontwikkeling en gebruik van algoritmes informatie moet w
- Dat de werking van het algoritme is onderzocht en is vastgesteld dat dit [passend is](5-ver-03-functioneren-in-lijn-met-doeleinden.md) om te gebruiken in een besluitvormingsproces.

## Bronnen

- [Afdeling 3.2 Algemene wet bestuursrecht](https://wetten.overheid.nl/jci1.3:c:BWBR0005537&hoofdstuk=3&afdeling=3.2&z=2024-05-01&g=2024-05-01)
- [Afdeling 3.4 Algemene wet bestuursrecht](https://wetten.overheid.nl/jci1.3:c:BWBR0005537&hoofdstuk=3&afdeling=3.4&z=2024-05-01&g=2024-05-01)
- [Advies artikel 22 AVG en geautomatiseerde selectie-instrumenten](https://www.autoriteitpersoonsgegevens.nl/system/files?file=2024-10/Advies%20geautomatiseerde%20besluitvorming%20artikel%2022%20AVG.pdf)
Expand All @@ -41,7 +38,6 @@ Dit betekent dat bij de ontwikkeling en gebruik van algoritmes informatie moet w
<!-- tags-ai-act -->

## Risico

De werking van het algoritmes sluit niet of onvoldoende aan bij de juridische en ethische grenzen van de te ondersteunen wettelijke taak.
Hierdoor kunnen ongewenste gevolgen ontstaan zoals een onjuist of onzorgvuldig genomen besluit.

Expand Down
Original file line number Diff line number Diff line change
Expand Up @@ -17,12 +17,9 @@ hide:

<!-- tags -->
## Vereiste

Een besluit berust op een deugdelijke en kenbare motivering.


## Toelichting

De Awb eist dat een besluit een deugdelijke en kenbare motivering heeft. Dit geldt ook als algoritmes worden ingezet. Een betrokkene moet in staat zijn om te controleren of de overheid een besluit correct heeft genomen. Het motiveringsbeginsel draagt bij aan doelen als verantwoording kunnen afleggen en het bieden van rechtsbescherming. Het kan in samenhang worden gezien met [transparantieverplichtingen](avg-07-transparantie-bij-verwerken-persoonsgegevens.md) die voortkomen uit de AVG.

Het is van belang dat inzichtelijk wordt gemaakt in het besluit welke gegevens zijn verwerkt en welke 'aannames' een algoritme bevat. Dit speelt in het bijzonder als gebruik wordt gemaakt van geautomatiseerde besluitvormingsprocessen. Hierbij kan worden gedacht aan:
Expand All @@ -49,20 +46,16 @@ Een besluit moet informatie hierover bevatten om als om als voldoende draagkrach
Het motiveringsbeginsel op grond van de Awb is beperkt tot besluiten in de zin van de Awb.

## Bronnen

- [Artikel 3:46 en 3:47 Awb](https://wetten.overheid.nl/BWBR0005537/2024-09-01/#Hoofdstuk3_Afdeling3.7_Artikel3:46)
- Jurisprudentie over AERIUS (ABRvS 18 juli 2018, ECLI:NL:RVS:2018:2454), Hof van Justitie C-274/18
- [Advies artikel 22 AVG en geautomatiseerde selectie-instrumenten](https://www.autoriteitpersoonsgegevens.nl/system/files?file=2024-10/Advies%20geautomatiseerde%20besluitvorming%20artikel%2022%20AVG.pdf)

## Wanneer van toepassing?
<!-- tags-ai-act -->


## Risico

Het is onduidelijk op wat voor manier het algoritmes heeft bijgedragen aan de totstandkoming van een besluit.


## Maatregelen { data-search-exclude }

<!-- list_maatregelen vereiste/awb-02-motiveringsbeginsel no-search no-onderwerp no-rol no-levenscyclus -->
Original file line number Diff line number Diff line change
Expand Up @@ -16,30 +16,25 @@ hide:
<!-- tags -->

## Vereiste

Informatie en informatiesystemen moeten op de juiste manier worden beveiligd.

## Toelichting

Informatiebeveiliging is het proces van vaststellen van de vereiste beveiliging van informatiesystemen in termen van vertrouwelijkheid, beschikbaarheid en integriteit alsmede het treffen, onderhouden en controleren van een samenhangend pakket van bijbehorende maatregelen.

In Nederland is besloten dat overheidsinstellingen de Baseline Informatiebeveiliging Overheid (BIO) dienen toe te passen over hun informatie en informatiesystemen.
De BIO beoogt de beveiliging van informatie(systemen) bij alle bestuurslagen en bestuursorganen van de overheid te bevorderen, zodat alle onderdelen erop kunnen vertrouwen dat onderling uitgewisselde gegevens, in lijn met wet- en regelgeving, passend beveiligd zijn.

Algoritmes en hun output kunnen onderdeel worden van de informatie en informatiesystemen waar de BIO op van toepassing is.
Het is van belang om algoritmische toepassingen en AI-systemen op de juiste manier te beveiligen.
Algoritmes en hun output kunnen onderdeel worden van de informatie en informatiesystemen waar de BIO op van toepassing is. Het is van belang om algoritmische toepassingen en AI-systemen op de juiste manier te beveiligen.

## Bronnen

- [Baseline Informatiebeveiliging Overheid](https://www.bio-overheid.nl/category/producten?product=BIO)
- [Besluit voorschrift informatiebeveiliging rijksdienst 2007](https://wetten.overheid.nl/jci1.3:c:BWBR0022141&z=2007-07-01&g=2007-07-01)

## Wanneer van toepassing?
<!-- tags-ai-act -->

## Risico

Er kunnen risico's ontstaan zoals ongeautoriseerde toegang, vernietiging, verlies, wijziging of niet-toegestane verwerking van gegevens als de informatie en informatiesystemen onvoldoende zijn beveiligd.

## Maatregelen { data-search-exclude }

<!-- list_maatregelen vereiste/bio-01-beveiliging-informatie-en-informatiesystemen no-search no-onderwerp no-rol no-levenscyclus -->
Original file line number Diff line number Diff line change
@@ -1,7 +1,8 @@
---
title: Impactvolle algoritmes en hoog-risico-AI-systemen staan in het Nederlandse Algoritmeregister
id: urn:nl:ak:ver:bzk-01
toelichting: Het publiceren van algoritmes draagt bij aan transparantie voor belanghebbenden en derden over welke algoritmes worden gebruikt door de overheid. Het is vastgesteld beleid dat overheidsinstellingen, tenzij er uitsluitingsgronden zijn, de door hen gebruikte impactvolle algoritmes en hoog-risico AI-systemen publiceren in het algoritmeregister. Er wordt gewerkt aan wetgeving om het bij wet verplicht te stellen.
toelichting: Het publiceren van algoritmes draagt bij aan transparantie voor belanghebbenden en derden over welke algoritmes worden gebruikt door de overheid. Het is vastgesteld beleid dat overheidsinstellingen, tenzij er uitsluitingsgronden zijn, de door hen gebruikte impactvolle algoritmes en hoog-risico AI-systemen publiceren in het algoritmeregister.

levenscyclus:
- implementatie
- monitoring-en-beheer
Expand All @@ -15,15 +16,13 @@ hide:

<!-- tags -->
## Vereiste

Bestuursorganen publiceren algoritmes met impact en hoog-risico-AI-systemen in het [Nederlandse Algoritmeregister](../hulpmiddelen/algoritmeregister.md).

## Toelichting

Het publiceren van algoritmes draagt bij aan transparantie voor belanghebbenden en derden over welke algoritmes worden gebruikt door de overheid.
Het is vastgesteld beleid dat overheidsinstellingen, tenzij er uitsluitingsgronden zijn, de door hen gebruikte impactvolle algoritmes en hoogrisico AI-systemen publiceren in het algoritmeregister.
Er wordt gewerkt aan wetgeving om het bij wet verplicht te stellen.

Er wordt gewerkt aan wetgeving om dit bij wet verplicht te stellen.

## Bronnen (bestaand beleid)
- [Handreiking Algoritmeregister](https://www.digitaleoverheid.nl/wp-content/uploads/sites/8/2023/12/Handreiking-Algoritmeregister-versie-1.0.pdf)
Expand All @@ -34,14 +33,11 @@ Er wordt gewerkt aan wetgeving om het bij wet verplicht te stellen.
<!-- tags-ai-act -->

## Risico

Door het niet publiceren van impactvolle algoritmes of hoog risico AI -systemen in het Algoritmeregister, is het voor betrokkenen of belanghebbenden minder goed mogelijk om de overheid kritisch te volgen, te bevragen en te controleren op de inzet van deze technologieën die hen kunnen raken.
Bij het onjuist of onvolledig publiceren in het Algortimeregister ontstaat er een risico dat betrokkenen en belanghebbenden onjuiste inschattingen maken over het gebruik van het algoritmes en daardoor in hun rechten worden beperkt.

## Maatregelen { data-search-exclude }

<!-- list_maatregelen vereiste/bzk-01-algoritmeregister no-search no-onderwerp no-rol no-levenscyclus -->

## hulpmiddelen

<!-- list_hulpmiddelen vereiste/bzk-01-algoritmeregister no-search no-onderwerp no-rol no-levenscyclus no-id -->
Original file line number Diff line number Diff line change
@@ -1,5 +1,5 @@
---
title: Databanken worden alleen gebruikt met toestemming van de databank-producent
title: Databanken worden alleen gebruikt met toestemming van de databank-producent.
id: urn:nl:ak:ver:dat-01
toelichting: Het is verboden om zonder goedkeuring van de producent een databanken op te vragen en/of te hergebruiken.
levenscyclus:
Expand All @@ -14,23 +14,18 @@ hide:

<!-- tags -->
## Vereiste

Het is verboden om zonder goedkeuring van de producent een databank op te vragen en/of te hergebruiken.

## Toelichting

De Databankrichtlijn en Databankenwet beschermt de producten/fabrikanten van databanken tegen onrechtmatige toe-eigening van een databank.
Degene die een substantiële financiële en professionele investering heeft verricht om de inhoud van de databank te verkijgen en te verzamelen, krijgt een verbodsrecht en kan zo anderen verbieden de databank te gebruiken.

Bij verkrijgen gaat het om "het verzamelen van de werken, gegevens of andere zelfstandige elementen die tezamen de inhoud van de databank vormen".
Dit recht bestaat naast het recht op bescherming van de originele keuze of rangschikking van de inhoud van databanken (auteurswet).


Voor het ontwikkelen van algoritme is data nodig.
De data die hiervoor wordt gebruikt mag niet ongeoorloofd zijn verkregen uit een databank.

Voor het ontwikkelen van algoritme is data nodig. De data die hiervoor wordt gebruikt mag niet ongeoorloofd zijn verkregen uit een databank.

## Bronnen

- [Artikel 1 en 2 Databankenwet](https://wetten.overheid.nl/jci1.3:c:BWBR0010591&artikel=I&z=2021-06-07&g=2021-06-07)
- [Artikel 5a en 5b Databankenwet](https://wetten.overheid.nl/jci1.3:c:BWBR0010591&artikel=I&z=2021-06-07&g=2021-06-07)
- [Artikel 7 Databankrichtlijn](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:31996L0009)
Expand All @@ -39,12 +34,9 @@ De data die hiervoor wordt gebruikt mag niet ongeoorloofd zijn verkregen uit een
## Wanneer van toepassing?
<!-- tags-ai-act -->


## Risico

Als een ontwikkelaar onbevoegd gebruik heeft gemaakt van data uit een databank bij de ontwikkeling van algoritmes, wordt het databankenrecht geschonden van de eigenaar.
De eigenaar van de databank kan bijvoorbeeld ontrekking van de data uit het handelsverkeer, vernietiging en onbruikbaarmaking eisen, wat vergaande gevolgen kan hebben voor het gebruik kunnen maken van de algoritmische toepassing of AI-systeem.
De eigenaar van de databank kan bijvoorbeeld ontrekking van de data uit het handelsverkeer, vernietiging en onbruikbaarmaking eisen, wat vergaande gevolgen kan hebben voor het gebruik kunnen maken van de algoritmische toepassing of AI-systeem.

## Maatregelen { data-search-exclude }

<!-- list_maatregelen vereiste/dat-01-databankenwet no-search no-onderwerp no-rol no-levenscyclus -->
Original file line number Diff line number Diff line change
@@ -1,5 +1,5 @@
---
title: Algoritmes schenden geen grondrechten of mensenrechten
title: Algoritmes schenden geen grondrechten of mensenrechten.
id: urn:nl:ak:ver:grw-01
toelichting: Fundamentele vrijheden, mensenrechten en grondrechten worden beschermd bij de inzet van algoritmes.
levenscyclus:
Expand All @@ -18,22 +18,18 @@ hide:

<!-- tags -->
## Vereiste

Fundamentele vrijheden, mensenrechten en grondrechten worden beschermd bij de inzet van algoritmes.

## Toelichting

Mensenrechten gelden voor alle mensen op de wereld.
De mensenrechten in Nederland zijn beschermd door nationale wetten en internationale verdragen.
In Nederland staan veel mensenrechten in hoofdstuk 1 van de Grondwet.
Deze rechten heten ook wel ’grondrechten’.
Deze rechten worden ook wel ’grondrechten’ genoemd.
Een bekend voorbeeld is artikel 1 van de Grondwet.
Om mensenrechten te beschermen zijn ze op Europees en internationaal niveau in verschillende verklaringen en verdragen vastgelegd.


Mensenrechten kunnen soms onder druk komen te staan.
De inzet van algoritmes kan bijvoorbeeld een bedreiging vormen voor de privacy van burgers, voor het recht op gelijke behandeling en voor het recht op behoorlijk bestuur.
Het is daarom belangrijk om tijdig te onderzoeken of er sprake is of kan zijn van een eventuele inbreuk op fundamentele rechten en vrijheden van burgers. Het is van belang dat maatregelen worden getroffen om een eventuele inbreuk te voorkomen.
Mensenrechten kunnen bij overheidshandelen en de inzet van algoritmes soms onder druk komen te staan.
De inzet van algoritmes kan bijvoorbeeld een bedreiging vormen voor de privacy van burgers, voor het recht op gelijke behandeling en voor het recht op behoorlijk bestuur.
Het is daarom belangrijk om [tijdig te onderzoeken of er sprake is of kan zijn van een eventuele inbreuk op fundamentele rechten](../hulpmiddelen/IAMA.md) en vrijheden van burgers. Het is van belang dat maatregelen worden getroffen om een eventuele inbreuk te voorkomen.

## Bronnen

Expand All @@ -52,15 +48,11 @@ Het is daarom belangrijk om tijdig te onderzoeken of er sprake is of kan zijn va
## Wanneer van toepassing?
<!-- tags-ai-act -->


## Risico

Grondrechten kunnen worden geraakt door de inzet van algoritmes met eventuele schadelijke gevolgen voor betrokkenen.

## Maatregelen { data-search-exclude }

<!-- list_maatregelen vereiste/grw-01-fundamentele-rechten no-search no-onderwerp no-rol no-levenscyclus -->

## hulpmiddelen

## Hulpmiddelen
<!-- list_hulpmiddelen vereiste/grw-01-fundamentele-rechten no-search no-onderwerp no-rol no-levenscyclus no-id -->
Original file line number Diff line number Diff line change
@@ -1,9 +1,10 @@
---
title: Algoritmes discrimineren niet
title: Algoritmes discrimineren niet.
id: urn:nl:ak:ver:grw-02
toelichting: Allen die zich in Nederland bevinden, worden in gelijke gevallen gelijk behandeld. Directe en indirecte discriminatie wegens godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, handicap, seksuele gerichtheid of op welke grond dan ook, is niet toegestaan.
levenscyclus:
- dataverkenning-en-datapreparatie
- ontwerp
- ontwikkelen
- verificatie-en-validatie
- monitoring-en-beheer
onderwerp:
Expand All @@ -17,19 +18,17 @@ hide:
<!-- tags -->

## Vereiste

Allen die zich in Nederland bevinden, worden in gelijke gevallen gelijk behandeld.
Directe en indirecte discriminatie wegens godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, handicap, seksuele gerichtheid of op welke grond dan ook, is niet toegestaan.

## Toelichting

Overheidsinstanties moeten zich bij het uitvoeren van hun taken onthouden van discriminatie, ook wanneer er gebruik wordt gemaakt van algoritmes.
Wanneer er algoritmes worden gebruikt om selecties te maken van burgers, dienen we te streven naar een gelijke behandeling van personen of groepen ten opzichte van andere personen in een vergelijkbare situatie.

Hierbij is het belangrijk te beseffen dat discriminatie ook op indirecte wijze kan ontstaan.
Hiervan is sprake wanneer een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een beschermd persoonskenmerk in vergelijking met andere personen in het bijzonder benadeelt, tenzij hiervoor een objectieve rechtvaardiging bestaat.

## Bronnen

- [Artikel 1 Grondwet](https://wetten.overheid.nl/jci1.3:c:BWBR0001840&hoofdstuk=1&artikel=1&z=2023-02-22&g=2023-02-22)
- [Artikel 14 Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden, Rome, 04-11-1950](https://wetten.overheid.nl/jci1.3:c:BWBV0001000&titeldeel=I&artikel=14&z=2021-08-01&g=2021-08-01)
- [Artikel 21 Handvest van de Grondrechten van de Europese Unie](https://eur-lex.europa.eu/legal-content/NL/TXT/PDF/?uri=CELEX:12012P/TXT)
Expand All @@ -41,11 +40,8 @@ Hiervan is sprake wanneer een ogenschijnlijk neutrale bepaling, maatstaf of hand
## Wanneer van toepassing?
<!-- tags-ai-act -->


## Risico

Het risico bestaat dat het model onwenselijke systematische afwijkingen creëert voor specifieke personen, groepen of andere eenheden, wat kan duiden op directe of indirecte discriminerende effecten van het algoritme.

## Maatregelen { data-search-exclude }

<!-- list_maatregelen vereiste/grw-02-non-discriminatie no-search no-onderwerp no-rol no-levenscyclus -->

0 comments on commit d1c58e3

Please sign in to comment.