Skip to content

Commit

Permalink
Release v1.5/maatregelen bias (#273)
Browse files Browse the repository at this point in the history
Co-authored-by: Jasper van der Heide <[email protected]>
Co-authored-by: Nout van Deijck <[email protected]>
  • Loading branch information
3 people authored Sep 25, 2024
1 parent 8bf8f2f commit c899b5f
Show file tree
Hide file tree
Showing 5 changed files with 243 additions and 4 deletions.
6 changes: 4 additions & 2 deletions docs/maatregelen/aselecte_steekproeven.md
Original file line number Diff line number Diff line change
@@ -1,9 +1,11 @@
---
# vul hier een titel in voor deze maatregel
title: Aselecte steekproeven
title: Gebruik aselecte steekproeven als er gebruik gemaakt wordt van risicogestuurde selectie
# geef hier een korte toelichting van deze maatregel
toelichting: Uitvoeren van aselecte steekproeven aanvullend op risicogestuurde selectie
toelichting: Zorg dat een risicogestuurde selectie niet alleen gemaakt wordt op basis van een algoritme, maar dat er ook willekeurige gevallen toegevoegd worden aan de selectie. Deze aselecte steekproeven kunnen gebruikt worden om modellen te onderhouden.
vereiste:
- aia-29-beoordelen-gevolgen-grondrechten
- grw-02-non-discriminatie
- aia-10-nauwkeurigheid-robuustheid-cyberbeveiliging
# vul hier de fasen van de levenscyclus in die horen bij deze maatregel
levenscyclus:
Expand Down
51 changes: 51 additions & 0 deletions docs/maatregelen/functioneren_in_lijn_met_doeleinden.md
Original file line number Diff line number Diff line change
@@ -0,0 +1,51 @@
---
title: Stel vast dat het algoritme voortdurend functioneert in lijn met de vastgestelde doelstelling
toelichting: Stel vast dat het algoritme voortdurend functioneert in lijn met de vastgestelde doelstelling
vereiste:
- zorgvuldigheidsbeginsel
levenscyclus:
- ontwikkelen
- verificatie-en-validatie
- monitoring-en-beheer
onderwerp:
- technische-robuustheid-en-veiligheid
- bias-en-non-discriminatie
- governance
rollen:
- opdrachtgever
- projectleider
- data-scientist
hide:
- navigation
---

<!-- tags -->

## Maatregel
Stel vast dat het algoritme voortdurend functioneert in lijn met de [vastgestelde doelstelling](formuleren_doelstellling.md).

## Toelichting
- Vertaal de [vastgestelde doelstelling](formuleren_doelstellling.md) naar functionele eisen voor het algoritme. Werk het vastgestelde doel uit in een beschrijving in logische taal/pseudo code of documentatie die handvatten biedt aan de ontwikkelaar.
- Monitor de mate waarin aan deze eisen wordt voldaan door het algoritme.
- Bepaal en leg vast hoe eventuele parameters, business rules en indicatoren bepaald worden. Zorg dat dit breed wordt afgestemd in de organisatie (ontwikkelteam, opdrachtgevers en beheer).
- Houd hier rekening met eventuele [(statistische) bias](../onderwerpen/bias-en-non-discriminatie/index.md#statistische-bias): meten we daadwerkelijk wat we denken te meten?
- Wanneer het algoritme meerdere doelen dient, is het belangrijk ook te evalueren op meerdere functionele eisen.
- Wanneer er sprake is van een (handmatige) behandeling, bepaal dan wanneer deze behandeling als 'succesvol' gezien kan worden.

## Bijbehorende vereiste(n)

<!-- list_vereisten_on_maatregelen_page -->

## Risico
Het algoritme functioneert niet in lijn met geformuleerde doelstellingen.
<!-- iets toevoegen over scope creep -->


## Bronnen
- [Toetsingskader Algoritmes Algemene Rekenkamer, 2.01](https://www.rekenkamer.nl/onderwerpen/algoritmes/documenten/publicaties/2024/05/15/het-toetsingskader-aan-de-slag)
- [Impact Assessment Mensenrechten en Algoritmes, 1](https://www.rijksoverheid.nl/documenten/rapporten/2021/02/25/impact-assessment-mensenrechten-en-algoritmes)
- [Onderzoekskader Algoritmes Auditdienst Rijk, DM.1](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)

## Voorbeeld

Heb jij een goed voorbeeld? Laat het ons weten!
5 changes: 4 additions & 1 deletion docs/maatregelen/index.md
Original file line number Diff line number Diff line change
Expand Up @@ -37,4 +37,7 @@ Deze maatregel helpt om te voldoen aan de vereiste om niet te discrimineren. Maa

## Overzicht maatregelen

<!-- list_maatregelen -->
<!-- list_maatregelen -->

## Help ons deze pagina te verbeteren
Deel je idee, suggestie of opmerking via [GitHub](https://github.com/MinBZK/Algoritmekader/edit/main/docs/maatregelen/index.md) of mail ons via [[email protected]](mailto:[email protected]).
2 changes: 1 addition & 1 deletion docs/maatregelen/kwetsbare_groepen.md
Original file line number Diff line number Diff line change
Expand Up @@ -47,7 +47,7 @@ De impact van het algoritme op de besluitvorming en op personen, doelgroepen en/
## Bronnen
| Bron |
|-------------------------------------------------------------------------------------------------------------------------------------------------------|
| [Onderzoekskader Algoritmes Auditdienst Rijk, SV.4](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023) |
| [Onderzoekskader Algoritmes Auditdienst Rijk, SV.4, DM.16](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023) |
| [Kamerstukken II 2023/24, 31066-1374](https://www.tweedekamer.nl/downloads/document?id=2024D15214) |
| [Impact Assessment Mensenrechten en Algoritmes, 4.1](https://open.overheid.nl/documenten/ronl-c3d7fe94-9c62-493f-b858-f56b5e246a94/pdf) |
| [Handreiking non-discriminatie by design, 1.7 en 1.8 en 1.15](https://open.overheid.nl/documenten/ronl-3f9fa69c-acf4-444d-96e1-5c48df00eb3c/pdf) |
Expand Down
Loading

0 comments on commit c899b5f

Please sign in to comment.