From 0fe2aed26f16271baf7060d10a85fb87e778a2e7 Mon Sep 17 00:00:00 2001 From: Ruth Koole <71120805+ruthkoole@users.noreply.github.com> Date: Tue, 21 May 2024 22:05:56 +0200 Subject: [PATCH 1/7] add workflow for formatting md code --- .github/workflows/prettier.yaml | 26 ++++++++++++++++++++++++++ 1 file changed, 26 insertions(+) create mode 100644 .github/workflows/prettier.yaml diff --git a/.github/workflows/prettier.yaml b/.github/workflows/prettier.yaml new file mode 100644 index 0000000000..81298b2f81 --- /dev/null +++ b/.github/workflows/prettier.yaml @@ -0,0 +1,26 @@ +name: Format md files + +on: + pull_request: + branches: + - main + - release + +jobs: + prettier: + runs-on: ubuntu-latest + + steps: + - name: Checkout + uses: actions/checkout@v3 + with: + # Make sure the actual branch is checked out when running on pull requests + ref: ${{ github.head_ref }} + # This is important to fetch the changes to the previous commit + fetch-depth: 0 + + - name: Prettify code + uses: creyD/prettier_action@v4.3 + with: + # This part is also where you can pass other options, for example: + prettier_options: --write **/*.md From 39bf7c3b1521ff3e71dd275f4044c7029c83b55f Mon Sep 17 00:00:00 2001 From: ruthkoole Date: Tue, 21 May 2024 20:15:50 +0000 Subject: [PATCH 2/7] Prettified Code! --- CONTRIBUTING.md | 71 ++++---- LICENSE.md | 2 +- README.md | 14 +- .../conformiteitsbeoordeling/index.md | 6 +- docs/bouwblokken/data/index.md | 15 +- docs/bouwblokken/duurzaamheid/index.md | 22 +-- .../bouwblokken/fundamentele-rechten/index.md | 26 +-- .../fundamentele-rechten/non-discriminatie.md | 76 ++++----- docs/bouwblokken/governance/index.md | 5 +- docs/bouwblokken/index.md | 152 +++++++++--------- docs/bouwblokken/menselijke-controle/index.md | 22 ++- .../privacy-en-gegevensbescherming/index.md | 18 +-- docs/bouwblokken/publieke-inkoop/index.md | 50 +++--- .../index.md | 35 ++-- docs/bouwblokken/transparantie/index.md | 29 ++-- docs/index.md | 42 ++--- docs/instrumenten/index.md | 59 +++---- docs/levenscyclus/archiveren.md | 5 +- .../dataverkenning-en-datapreparatie.md | 27 ++-- docs/levenscyclus/implementatie.md | 25 ++- docs/levenscyclus/index.md | 43 ++--- docs/levenscyclus/monitoren.md | 4 +- docs/levenscyclus/monitoring-en-beheer.md | 20 ++- docs/levenscyclus/ontwerp.md | 27 ++-- docs/levenscyclus/ontwikkelen.md | 21 ++- docs/levenscyclus/probleemanalyse.md | 19 ++- docs/levenscyclus/uitfaseren.md | 29 ++-- docs/levenscyclus/verificatie-en-validatie.md | 31 ++-- docs/maatregelen/index.md | 8 +- docs/overhetalgoritmekader/definities.md | 57 ++++--- docs/overhetalgoritmekader/index.md | 107 ++++++------ docs/rollen/communicatieadviseur.md | 2 +- docs/rollen/data-scientist.md | 2 +- docs/rollen/domeinspecialist.md | 2 +- docs/rollen/index.md | 38 ++--- docs/rollen/informatiebeheerder.md | 2 +- docs/rollen/inkoopadviseur.md | 2 +- docs/rollen/privacy-officer.md | 2 +- docs/rollen/projectleider.md | 2 +- docs/vereisten/algoritmeregister.md | 91 ++++++----- docs/vereisten/archiefwet.md | 94 +++++------ docs/vereisten/auteursrechten.md | 93 ++++++----- ...van_proportionaliteit_en_subsidiariteit.md | 100 ++++++------ ...jkheden_bij_verwerking_persoonsgegevens.md | 86 +++++----- ...liging_informatie_en_informatiesystemen.md | 94 ++++++----- docs/vereisten/beveiliging_van_verwerking.md | 91 ++++++----- .../bevorder_ai_geletterdheid_personeel.md | 83 +++++----- .../bewaartermijn_voor_documentatie.md | 90 +++++------ .../geb_dpia_verplicht_bij_hoog_risico.md | 86 +++++----- docs/vereisten/index.md | 40 ++--- .../vereisten/kwaliteitscriteria_voor_data.md | 82 +++++----- docs/vereisten/non_discriminatie.md | 97 ++++++----- ..._op_niet_geautomatiseerd_besluitvorming.md | 84 +++++----- ...nische_documentatie_voor_hoog_risico_ai.md | 127 +++++++-------- docs/vereisten/transparantie.md | 87 +++++----- docs/vereisten/zorgvuldigheidsbeginsel.md | 100 ++++++------ includes/begrippenlijst.md | 2 +- 57 files changed, 1317 insertions(+), 1329 deletions(-) diff --git a/CONTRIBUTING.md b/CONTRIBUTING.md index aabff35bff..4b106ec141 100644 --- a/CONTRIBUTING.md +++ b/CONTRIBUTING.md @@ -8,13 +8,14 @@ Het zal het voor het team van het Algoritmekader een stuk makkelijker maken en d We kijken uit naar alle bijdragen! šŸŽ‰ > ## Opmerking +> > Werken in Github is voor het team Algoritmekader nieuw en experimenteel. -> Dit vraagt voor ons om een aangepaste werkwijze en hier is bepaalde expertise voor nodig. -> Het begin is gemaakt en het team Algoritmekader is nog lerende om hier optimaal invulling aan te geven. -> Hierdoor kan het iets langer duren voordat er wordt gereageerd op suggesties of toevoegingen. +> Dit vraagt voor ons om een aangepaste werkwijze en hier is bepaalde expertise voor nodig. +> Het begin is gemaakt en het team Algoritmekader is nog lerende om hier optimaal invulling aan te geven. +> Hierdoor kan het iets langer duren voordat er wordt gereageerd op suggesties of toevoegingen. > We werken aan een duidelijk proces om hier goed mee om te gaan (deze guidelines zijn daar een voorbeeld van). -> Daarnaast werken we niet aan alle bouwblokken tegelijk. Deze worden Ć©Ć©n voor Ć©Ć©n opgepakt. -> Aanbevelingen over onderwerpen die later op de planning staan kunnen daardoor ook iets langer duren om te verwerken, en worden mogelijk pas verwerkt wanneer dit bouwblok wordt uitgewerkt. +> Daarnaast werken we niet aan alle bouwblokken tegelijk. Deze worden Ć©Ć©n voor Ć©Ć©n opgepakt. +> Aanbevelingen over onderwerpen die later op de planning staan kunnen daardoor ook iets langer duren om te verwerken, en worden mogelijk pas verwerkt wanneer dit bouwblok wordt uitgewerkt. ## Inhoudsopgave @@ -25,6 +26,7 @@ We kijken uit naar alle bijdragen! šŸŽ‰ - [Hoe we werken op GitHub](#hoe-we-werken-op-github) ### Code of Conduct + Dit project en iedereen die eraan deelneemt, valt onder de [Code of Conduct](https://github.com/MinBZK/Algoritmekader?tab=coc-ov-file#readme). Door deel te nemen, wordt van je verwacht dat je je aan deze code houdt. Meld onacceptabel gedrag @@ -34,9 +36,9 @@ aan **[algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl)**. ### Maak een issue aan -Voordat je een [Issues](https://github.com/MinBZK/Algoritmekader/issues) gaat aanmaken, kan je bekijken of jouw vraag al tussen de bestaande [Issues](https://github.com/MinBZK/Algoritmekader/issues) staat. Wellicht staat er al een issue tussen die jou vraag kan beantwoorden. +Voordat je een [Issues](https://github.com/MinBZK/Algoritmekader/issues) gaat aanmaken, kan je bekijken of jouw vraag al tussen de bestaande [Issues](https://github.com/MinBZK/Algoritmekader/issues) staat. Wellicht staat er al een issue tussen die jou vraag kan beantwoorden. -Als je jouw vraag nog steeds wilt stellen, kan je een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aanmaken. +Als je jouw vraag nog steeds wilt stellen, kan je een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aanmaken. 1. Gebruik daarvoor de knop new issue. 2. Schrijf je vraag of opmerking is en geef een heldere toelichting. @@ -48,29 +50,35 @@ Als je jouw vraag nog steeds wilt stellen, kan je een [Issue](https://github.com Je kan je vragen ook altijd stellen door een mail te sturen naar **[algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl)**. ## Ik wil iets bijdragen -Er zijn verschillende manieren waarop je kan bijdragen. Zie hieronder de mogelijkheden. + +Er zijn verschillende manieren waarop je kan bijdragen. Zie hieronder de mogelijkheden. > #### Ter kennisgeving +> > Wanneer je bijdraagt aan dit project, moet je ermee akkoord gaan dat je 100% van de inhoud hebt geschreven, dat je de benodigde rechten op de inhoud hebt en dat de inhoud die je bijdraagt mag worden geleverd onder de Code of Conduct. ### Sluit je aan bij een werkgroep + Voor sommige bouwblokken wordt er gewerkt met werkgroepen, om de informatie verder uit te werken. Deelname aan een werkgroep kost tijd. Werkgroepen komen regelmatig bij elkaar, en tussendoor worden bepaalde zaken uitgewerkt door werkgroepleden. Wil je op Ć©Ć©n van de onderwerpen meewerken? Stuur dan een bericht naar **[algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl)**. ### Neem deel aan een sprint review / klankbord / demo -Het team van het algoritmekader werkt in sprints van ongeveer 3 weken. Daarin werken we toe naar de volgende release van het Algoritmekader. Ongeveer eens in de 6 weken vindt er een nieuwe release plaats. Wanneer er een release is, wordt deze altijd toegelicht en gepresenteerd in een open online review / demo. Deze kan je vrijblijvend volgen. Zo blijf je op de hoogte en kun je een bijdrage leveren. [Bekijk de agenda op Algoritmes Pleio](https://algoritmes.pleio.nl/events) voor de komende bijeenkomsten. + +Het team van het algoritmekader werkt in sprints van ongeveer 3 weken. Daarin werken we toe naar de volgende release van het Algoritmekader. Ongeveer eens in de 6 weken vindt er een nieuwe release plaats. Wanneer er een release is, wordt deze altijd toegelicht en gepresenteerd in een open online review / demo. Deze kan je vrijblijvend volgen. Zo blijf je op de hoogte en kun je een bijdrage leveren. [Bekijk de agenda op Algoritmes Pleio](https://algoritmes.pleio.nl/events) voor de komende bijeenkomsten. ### Ik wil een fout / bug melden -Heb je een foutje gevonden in het Algoritmekader? Dan kan je deze melden door een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aan te maken. -Voordat je een [Issues](https://github.com/MinBZK/Algoritmekader/issues) gaat aanmaken, kan je bekijken of jouw gevonden fout al tussen de bestaande [Issues](https://github.com/MinBZK/Algoritmekader/issues) staat. +Heb je een foutje gevonden in het Algoritmekader? Dan kan je deze melden door een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aan te maken. + +Voordat je een [Issues](https://github.com/MinBZK/Algoritmekader/issues) gaat aanmaken, kan je bekijken of jouw gevonden fout al tussen de bestaande [Issues](https://github.com/MinBZK/Algoritmekader/issues) staat. -Als je de gevonden fout nog steeds wilt melden, kan je een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aanmaken. +Als je de gevonden fout nog steeds wilt melden, kan je een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aanmaken. 1. Gebruik daarvoor de knop new issue. -2. Beschrijf de fout duidelijk en geef een heldere toelichting. Voeg waar mogelijk een screenshot toe. +2. Beschrijf de fout duidelijk en geef een heldere toelichting. Voeg waar mogelijk een screenshot toe. 3. Het team van het Algoritmekader zal deze issue labelen als `bug` en pakt jouw issue zo snel mogelijk op. Mogelijk neemt het team van het Algoritmekader contact op voor een verduidelijking of een oplossing. - + ### Ik wil een verbetering voorstellen + Heb je een suggestie of wil je een verbetering voorstellen? Dat kan gaan om een compleet nieuwe functionaliteit van de site of om kleine verbeteringen. Het volgen van onderstaande instructie helpt het team van het algoritmekader om je suggestie te begrijpen en gerelateerde suggesties te vinden. Je kan een suggestie doen door een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aan te maken of door een Pull Request te maken. @@ -79,40 +87,43 @@ Je kan een suggestie doen door een [Issue](https://github.com/MinBZK/Algoritmeka - Voordat je een suggestie gaat maken, kan je bekijken of jouw suggestie al tussen de bestaande [Issues](https://github.com/MinBZK/Algoritmekader/issues) staat. Wellicht bestaat er al een issue die jouw suggestie beschrijft, en zijn we er al mee bezig. - Zoek uit of jouw idee past binnen het doel en de scope van het project. Wat zijn de voordelen van deze functionaliteit of toevoeging? Het is aan jou om het team van het Algoritmekader en de community te overtuigen dat dit een nuttige toevoeging is aan het Algoritmekader. Houd in gedachten dat we functioanliteiten willen die nuttig zijn -voor de meerderheid van onze gebruikers en niet slechts voor een kleine groep. + voor de meerderheid van onze gebruikers en niet slechts voor een kleine groep. #### Een issue aanmaken -Als je jouw suggestie nog steeds wilt doen, kan je een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aanmaken. +Als je jouw suggestie nog steeds wilt doen, kan je een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aanmaken. 1. Gebruik daarvoor de knop new issue. 2. Beschrijf duidelijk jouw suggestie en geef een heldere toelichting en onderbouwing waarom dit een goede toevoeging zal zijn aan het Algoritmekader 3. Het team van het Algoritmekader zal deze issue labelen als `enhancement` en pakt jouw issue zo snel mogelijk op. Mogelijk neemt het team van het Algoritmekader contact op voor een verduidelijking of een oplossing. - -> Afhankelijk van de complexiteit en het onderwerp van jouw suggestie kan het even duren voordat deze wordt opgepakt door het team van het Algoritmekader. + +> Afhankelijk van de complexiteit en het onderwerp van jouw suggestie kan het even duren voordat deze wordt opgepakt door het team van het Algoritmekader. #### Een pull-request maken -Kun je niet uit de voeten met de issues? + +Kun je niet uit de voeten met de issues? Bijvoorbeeld omdat je verschillende wijzigingsvoorstellen wilt doen? Je kan ook gebruik maken van een [Fork en een Pull Request](https://docs.github.com/en/pull-requests/collaborating-with-pull-requests/working-with-forks). -Het team van Algoritmekader bekijkt daarna jouw aanpassingen en kan bij akkoord jouw aanpassingen *mergen*. Er zijn ook andere manieren om een pull request te doen. [Meer daarover](https://docs.github.com/en/pull-requests/collaborating-with-pull-requests/proposing-changes-to-your-work-with-pull-requests/creating-a-pull-request). +Het team van Algoritmekader bekijkt daarna jouw aanpassingen en kan bij akkoord jouw aanpassingen _mergen_. Er zijn ook andere manieren om een pull request te doen. [Meer daarover](https://docs.github.com/en/pull-requests/collaborating-with-pull-requests/proposing-changes-to-your-work-with-pull-requests/creating-a-pull-request). -> Afhankelijk van de complexiteit en het onderwerp van jouw suggestie kan het even duren voordat deze wordt opgepakt door het team van het Algoritmekader. +> Afhankelijk van de complexiteit en het onderwerp van jouw suggestie kan het even duren voordat deze wordt opgepakt door het team van het Algoritmekader. > #### Preview van een pull-request -> We maken gebruik van de tool [pr-preview-action](https://github.com/rossjrw/pr-preview-action) om automatisch previews te maken van een pull-request. -Dit maakt het mogelijk om de wijzigingen die zijn gedaan in een pull-request al te bekijken in de uiteindelijke omgeving. -> Wanneer er een pull-request gedaan wordt via een fork, leidt dit helaas tot een error, zie [Issue #79](https://github.com/MinBZK/Algoritmekader/issues/79). Dit blokkeert de pull-request niet. +> +> We maken gebruik van de tool [pr-preview-action](https://github.com/rossjrw/pr-preview-action) om automatisch previews te maken van een pull-request. +> Dit maakt het mogelijk om de wijzigingen die zijn gedaan in een pull-request al te bekijken in de uiteindelijke omgeving. +> Wanneer er een pull-request gedaan wordt via een fork, leidt dit helaas tot een error, zie [Issue #79](https://github.com/MinBZK/Algoritmekader/issues/79). Dit blokkeert de pull-request niet. ### Hoe we werken op Github -We werken met [Markdown](https://www.markdownguide.org/basic-syntax/) bestanden. -Dit is bestandsformaat voor platte tekstbestanden en wordt door veel verschillende tools ondersteund. Dit maakt het eenvoudig om versiebeheer op het Algoritmekader toe te passen. -Daarnaast maken gebruik van [mkdocs](https://www.mkdocs.org/) en [material for mkdocs](https://squidfunk.github.io/mkdocs-material/) om de informatie op een interactieve wijze inzichtelijk te maken op de website van [het Algoritmekader](https://minbzk.github.io/Algoritmekader/). +We werken met [Markdown](https://www.markdownguide.org/basic-syntax/) bestanden. +Dit is bestandsformaat voor platte tekstbestanden en wordt door veel verschillende tools ondersteund. Dit maakt het eenvoudig om versiebeheer op het Algoritmekader toe te passen. + +Daarnaast maken gebruik van [mkdocs](https://www.mkdocs.org/) en [material for mkdocs](https://squidfunk.github.io/mkdocs-material/) om de informatie op een interactieve wijze inzichtelijk te maken op de website van [het Algoritmekader](https://minbzk.github.io/Algoritmekader/). #### Wil je een nieuwe pagina aanmaken? -In het [mkdocs.yml](https://github.com/MinBZK/Algoritmekader/blob/main/mkdocs.yml) bestand staan de settings voor deze website. + +In het [mkdocs.yml](https://github.com/MinBZK/Algoritmekader/blob/main/mkdocs.yml) bestand staan de settings voor deze website. In principe hoef je hier niets aan aan te passen, maar als je een nieuwe pagina wilt aanmaken kan het nodig zijn om hier een aanpassing in te doen. -Onderdeel van deze settings is namelijk de navigatie voor de site (welke pagina's zijn zichtbaar, en welke pagina's vallen daaronder). Dit staat in de nav: sectie. +Onderdeel van deze settings is namelijk de navigatie voor de site (welke pagina's zijn zichtbaar, en welke pagina's vallen daaronder). Dit staat in de nav: sectie. Indien je een nieuwe pagina wilt toevoegen, is het vaak nodig deze wijziging ook door te voeren in het [mkdocs.yml](https://github.com/MinBZK/Algoritmekader/blob/main/mkdocs.yml) bestand. - diff --git a/LICENSE.md b/LICENSE.md index 72261d7c71..ed38ebab56 100644 --- a/LICENSE.md +++ b/LICENSE.md @@ -285,4 +285,4 @@ the rights granted in Article 2 of this Licence and protect the covered Source Code from exclusive appropriation. All other changes or additions to this Appendix require the production of a new -EUPL version. \ No newline at end of file +EUPL version. diff --git a/README.md b/README.md index deec60051c..3ca9e6475c 100644 --- a/README.md +++ b/README.md @@ -1,17 +1,21 @@ [![Built with Material for MkDocs](https://img.shields.io/badge/Material_for_MkDocs-brightgreen?logo=MaterialForMkDocs&logoColor=white)](https://squidfunk.github.io/mkdocs-material/) # Algoritmekader -We ontwikkelen het Algoritmekader op een open manier via Github. -Deze repository wordt deployed op [https://minbzk.github.io/Algoritmekader](https://minbzk.github.io/Algoritmekader/). +We ontwikkelen het Algoritmekader op een open manier via Github. + +Deze repository wordt deployed op [https://minbzk.github.io/Algoritmekader](https://minbzk.github.io/Algoritmekader/). ### Dit is de Github repository voor het Algoritmekader -In deze repository ontwikkelen wij het Algoritmekader. Boven op deze pagina vind je de bestanden van het Algoritmekader. -De informatie van het algoritmekader wordt uitgewerkt in verschillende markdown bestanden (een bestandsformaat voor platte tekstbestanden). + +In deze repository ontwikkelen wij het Algoritmekader. Boven op deze pagina vind je de bestanden van het Algoritmekader. +De informatie van het algoritmekader wordt uitgewerkt in verschillende markdown bestanden (een bestandsformaat voor platte tekstbestanden). Deze bestanden worden inzichtelijk gemaakt met behulp van [mkdocs](https://www.mkdocs.org/) en [material for mkdocs](https://squidfunk.github.io/mkdocs-material/). ## Hoe kun je bijdragen? -Dat kan op verschillende manieren. Zie onze [Contributing Guidelines](https://github.com/MinBZK/Algoritmekader/blob/main/CONTRIBUTING.md) voor meer uitleg over hoe je kan bijdragen aan het Algoritmekader. + +Dat kan op verschillende manieren. Zie onze [Contributing Guidelines](https://github.com/MinBZK/Algoritmekader/blob/main/CONTRIBUTING.md) voor meer uitleg over hoe je kan bijdragen aan het Algoritmekader. ## Vragen? + Maak een [Issue](https://github.com/MinBZK/Algoritmekader/issues) aan op GitHub. Of mail [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl) diff --git a/docs/bouwblokken/conformiteitsbeoordeling/index.md b/docs/bouwblokken/conformiteitsbeoordeling/index.md index d992ed978b..694ff43ed1 100644 --- a/docs/bouwblokken/conformiteitsbeoordeling/index.md +++ b/docs/bouwblokken/conformiteitsbeoordeling/index.md @@ -10,14 +10,12 @@ Hier komt een beschrijving van dit bouwblok. !!! info "Opmerking" - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. - + Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. ## Vereisten - ## Maatregelen - \ No newline at end of file + diff --git a/docs/bouwblokken/data/index.md b/docs/bouwblokken/data/index.md index 5953f55d4d..bccf28ed46 100644 --- a/docs/bouwblokken/data/index.md +++ b/docs/bouwblokken/data/index.md @@ -6,17 +6,17 @@ icon: material/database ![data](../../afbeeldingen/bouwblokken/data.jpg "visuele weergave data"){align="right"; width="50%"} -Het ontwikkelen en gebruiken van algoritmes en AI-systemen kan niet gepaard gaan zonder het verwerken van data. -In het geval van AI wordt data gebruikt om het algoritme te trainen, te valideren en te testen. -Wanneer beslissingen worden genomen op basis van de output van een algoritme of AI-systeem, dan wordt deze beslissing ook genomen op basis van de onderliggende data. -Om algoritmes en AI-systemen op een verantwoorde manier toe te passen, dient dus ook de data op een verantwoorde manier gebruikt te worden. +Het ontwikkelen en gebruiken van algoritmes en AI-systemen kan niet gepaard gaan zonder het verwerken van data. +In het geval van AI wordt data gebruikt om het algoritme te trainen, te valideren en te testen. +Wanneer beslissingen worden genomen op basis van de output van een algoritme of AI-systeem, dan wordt deze beslissing ook genomen op basis van de onderliggende data. +Om algoritmes en AI-systemen op een verantwoorde manier toe te passen, dient dus ook de data op een verantwoorde manier gebruikt te worden. -In dit bouwblok werken we uit welke vereisten er zijn voor verantwoord datagebruik, en geven we praktische maatregelen hoe dit ingevuld kan worden binnen overheidsorganisaties. -We zoeken hierbij de aansluiting op bestaande instrumenten, zoals de [Toolbox verantwoord datagebruik](https://realisatieibds.nl/page/view/628d59dd-0755-4c20-8217-d3f26d9d8a5c/toolbox-voor-verantwoord-datagebruik). +In dit bouwblok werken we uit welke vereisten er zijn voor verantwoord datagebruik, en geven we praktische maatregelen hoe dit ingevuld kan worden binnen overheidsorganisaties. +We zoeken hierbij de aansluiting op bestaande instrumenten, zoals de [Toolbox verantwoord datagebruik](https://realisatieibds.nl/page/view/628d59dd-0755-4c20-8217-d3f26d9d8a5c/toolbox-voor-verantwoord-datagebruik). !!! info "Opmerking" - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. + Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. ## Vereisten @@ -27,4 +27,5 @@ We zoeken hierbij de aansluiting op bestaande instrumenten, zoals de [Toolbox ve ## Nuttige informatie + - FAIR data: [GO FAIR Foundation](https://www.gofair.foundation/). diff --git a/docs/bouwblokken/duurzaamheid/index.md b/docs/bouwblokken/duurzaamheid/index.md index db4173d5f5..906ad79635 100644 --- a/docs/bouwblokken/duurzaamheid/index.md +++ b/docs/bouwblokken/duurzaamheid/index.md @@ -6,32 +6,32 @@ icon: material/leaf ![duurzaamheid](../../afbeeldingen/bouwblokken/duurzaamheid.jpg "visuele weergave duurzaamheid"){align="right"; width="50%"} -Onze impact op natuur en milieu is groot. -Er zijn grote doelen gesteld om duurzamer te gaan leven en werken. Binnen alle overheidsorganisaties, op allerlei verschillende gebieden, wordt gekeken hoe er duurzamer te werk kan worden gegaan, dus ook bij ICT-voorzieningen. +Onze impact op natuur en milieu is groot. +Er zijn grote doelen gesteld om duurzamer te gaan leven en werken. Binnen alle overheidsorganisaties, op allerlei verschillende gebieden, wordt gekeken hoe er duurzamer te werk kan worden gegaan, dus ook bij ICT-voorzieningen. Bij het duurzamer maken van ICT kan gedacht worden aan de fysieke kant (hardware) en de digitale kant (software, algoritmes). Met betrekking tot hardware kan men bijvoorbeeld zo duurzaam mogelijk hardware inkopen (circulariteit van apparaten en materialen) en proberen de levensduur van apparaten en onderdelen te maximaliseren. -In het Algoritmekader gaan we specifiek in op de duurzaamheidsaspecten van algoritmes en AI-systemen. +In het Algoritmekader gaan we specifiek in op de duurzaamheidsaspecten van algoritmes en AI-systemen. -## Duurzaamheid algoritmes en AI-systemen -Het concept duurzaamheid is een groot en generiek begrip, dat vele sub-themaā€™s introduceert. -Deze themaā€™s raken onder andere het ontwerp, de ontwikkeling en de inzet van algoritmes en AI-systemen. +## Duurzaamheid algoritmes en AI-systemen + +Het concept duurzaamheid is een groot en generiek begrip, dat vele sub-themaā€™s introduceert. +Deze themaā€™s raken onder andere het ontwerp, de ontwikkeling en de inzet van algoritmes en AI-systemen. Met de opkomst van grotere en ingewikkeldere modellen, grotere datasets, en de groeiende interesse in (generatieve) AI, groeit ook het energie- en waterverbruik. -Dit verbruik ontstaat ook bij het trainen van grotere en complexere rekenmodellen zoals Large Language Models, en de opslag van zeer grote (vaak multimediale) datasets in datacenter. +Dit verbruik ontstaat ook bij het trainen van grotere en complexere rekenmodellen zoals Large Language Models, en de opslag van zeer grote (vaak multimediale) datasets in datacenter. Dit bouwblok van het Algoritmekader biedt daarom een gestructureerd overzicht van vereisten, maatregelen en instrumenten die ondersteunen bij het ontwikkelen en toepassen van algoritmes en AI-systemen op een duurzame wijze. -Zo kunnen bewuste keuzes worden gemaakt die niet alleen voldoen aan de functionaliteiten, maar ook bijdragen aan de SDGā€™s en de doelstellingen uit het Nederlandse klimaatakkoord. -Bij duurzame ontwikkeling en toepassing van algoritmes kan bijvoorbeeld gedacht worden aan energie-efficiĆ«nte programmering en duurzaam datacenterbeheer. +Zo kunnen bewuste keuzes worden gemaakt die niet alleen voldoen aan de functionaliteiten, maar ook bijdragen aan de SDGā€™s en de doelstellingen uit het Nederlandse klimaatakkoord. +Bij duurzame ontwikkeling en toepassing van algoritmes kan bijvoorbeeld gedacht worden aan energie-efficiĆ«nte programmering en duurzaam datacenterbeheer. !!! info "Opmerking" - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vindt je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. + Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vindt je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. ## Vereisten - ## Maatregelen diff --git a/docs/bouwblokken/fundamentele-rechten/index.md b/docs/bouwblokken/fundamentele-rechten/index.md index fe58fb1d42..73ad5591a7 100644 --- a/docs/bouwblokken/fundamentele-rechten/index.md +++ b/docs/bouwblokken/fundamentele-rechten/index.md @@ -6,28 +6,28 @@ icon: material/scale-balance ![fundamentele-rechten](../../afbeeldingen/bouwblokken/fundamentele-rechten.jpg "visuele weergave fundamentele rechten"){align="right"; width="50%"} -Wanneer overheden publieke taken uitvoeren, dienen fundamentele rechten van burgers te worden beschermd. -Dat geldt ook als overheden gebruik maken van algoritmes of AI-systemen om hun plublieke taken uit te voeren. +Wanneer overheden publieke taken uitvoeren, dienen fundamentele rechten van burgers te worden beschermd. +Dat geldt ook als overheden gebruik maken van algoritmes of AI-systemen om hun plublieke taken uit te voeren. In Nederland beschermen we onze grondrechten met de [Grondwet](https://www.denederlandsegrondwet.nl/id/vlxups19rfoe/hoofdstuk_1_grondrechten) en met (internationale) mensenrechtenverdragen, zoals het [Europees Verdrag tot bescherming van de rechten van de mens en de fundamentele vrijheden (EVRM)](https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=LEGISSUM:eu_human_rights_convention). -Mensenrechtenverdragen bevatten een aantal fundamentele rechten en vrijheden die niet in de Grondwet staan. +Mensenrechtenverdragen bevatten een aantal fundamentele rechten en vrijheden die niet in de Grondwet staan. -Afhankelijk van de werking van algoritmes en AI-systemen en de publieke taak die wordt ondersteund, kunnen verschillende grondrechten worden geraakt. -Denk hierbij aan het verbod op ongelijke behandeling of het recht op eerbiediging van de persoonlijke levenssfeer. -Het is van belang hier in een vroeg stadium aandacht aan te besteden door dit te analyseren. -Een zorgvuldige aanpak tijdens de ontwikkeling van een algoritme kan ervoor zorgen dat er tijdig wordt geanticipeerd en maatregelen worden getroffen om een ongerechtvaardigde inbreuk op grondrechten te voorkomen. +Afhankelijk van de werking van algoritmes en AI-systemen en de publieke taak die wordt ondersteund, kunnen verschillende grondrechten worden geraakt. +Denk hierbij aan het verbod op ongelijke behandeling of het recht op eerbiediging van de persoonlijke levenssfeer. +Het is van belang hier in een vroeg stadium aandacht aan te besteden door dit te analyseren. +Een zorgvuldige aanpak tijdens de ontwikkeling van een algoritme kan ervoor zorgen dat er tijdig wordt geanticipeerd en maatregelen worden getroffen om een ongerechtvaardigde inbreuk op grondrechten te voorkomen. -Een aantal wezenlijke grondrechten die vaak worden geraakt met de inzet van algoritmen en AI, komen ook afzonderlijk in andere onderdelen van het algoritmekader aan bod. -Dit geldt bijvoorbeeld op het recht op persoonsgegevensbescherming in het bouwblok [Privacy en gegevensbescherming](../../bouwblokken/privacy-en-gegevensbescherming/index.md) of het verbod op ongelijke behandeling in het bouwblok [Bias en non-discriminatie](non-discriminatie.md). +Een aantal wezenlijke grondrechten die vaak worden geraakt met de inzet van algoritmen en AI, komen ook afzonderlijk in andere onderdelen van het algoritmekader aan bod. +Dit geldt bijvoorbeeld op het recht op persoonsgegevensbescherming in het bouwblok [Privacy en gegevensbescherming](../../bouwblokken/privacy-en-gegevensbescherming/index.md) of het verbod op ongelijke behandeling in het bouwblok [Bias en non-discriminatie](non-discriminatie.md). -In dit bouwblok van het algoritmekader beschrijven we wat de vereisten zijn rondom het beschermen van fundamentele rechten. -Vervolgens worden deze vereisten ook vertaald in praktische maatregelen en instrumenten die overheden kunnen toepassen om invulling te geven aan deze vereisten. +In dit bouwblok van het algoritmekader beschrijven we wat de vereisten zijn rondom het beschermen van fundamentele rechten. +Vervolgens worden deze vereisten ook vertaald in praktische maatregelen en instrumenten die overheden kunnen toepassen om invulling te geven aan deze vereisten. !!! info "Opmerking" - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. + Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. -Onderdeel van het bouwblok Fundamentele rechten is het onderwerp [Bias en non-discriminatie](non-discriminatie.md). +Onderdeel van het bouwblok Fundamentele rechten is het onderwerp [Bias en non-discriminatie](non-discriminatie.md). ## Vereisten diff --git a/docs/bouwblokken/fundamentele-rechten/non-discriminatie.md b/docs/bouwblokken/fundamentele-rechten/non-discriminatie.md index 526b5c7354..74bcda8e18 100644 --- a/docs/bouwblokken/fundamentele-rechten/non-discriminatie.md +++ b/docs/bouwblokken/fundamentele-rechten/non-discriminatie.md @@ -1,65 +1,69 @@ --- title: Bias en non-discriminatie --- + !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). Algoritmes worden binnen de overheid veelvuldig ingezet om publieke taken uit te voeren. Dit biedt veel kansen, maar er zijn ook risico's aan verbonden. -Hoewel algoritmes in sommige gevallen kunnen bijdragen aan het tegengaan van discriminatie, kan bias[^1] in het algoritme ook leiden tot een ongelijke en oneerlijke behandeling van burgers of groepen, en kan er ook sprake zijn van discriminerende effecten. -In dit bouwblok van het algoritmekader besteden we aandacht aan de onderwerpen bias, eerlijkheid en non-discriminatie. -We werken uit wat bias is, hoe bias kan ontstaan, hoe we dit kunnen signaleren, welke maatregelen er genomen kunnen worden om dit te voorkomen en geven we handvatten wat te doen wanneer een (onwenselijke) bias is gesignaleerd. +Hoewel algoritmes in sommige gevallen kunnen bijdragen aan het tegengaan van discriminatie, kan bias[^1] in het algoritme ook leiden tot een ongelijke en oneerlijke behandeling van burgers of groepen, en kan er ook sprake zijn van discriminerende effecten. +In dit bouwblok van het algoritmekader besteden we aandacht aan de onderwerpen bias, eerlijkheid en non-discriminatie. +We werken uit wat bias is, hoe bias kan ontstaan, hoe we dit kunnen signaleren, welke maatregelen er genomen kunnen worden om dit te voorkomen en geven we handvatten wat te doen wanneer een (onwenselijke) bias is gesignaleerd. -Hierbij is het goed om op te merken dat het omgaan met het thema bias gedurende het ontwikkelen, inkopen of gebruik van het algoritme vraagt om continue aandacht voor dit onderwerp. -Het betreft geen probleem dat eenmalig kan worden weggenomen, maar het vraagt voortdurende reflectie op eerlijkheid en rechtvaardigheid van het systeem. +Hierbij is het goed om op te merken dat het omgaan met het thema bias gedurende het ontwikkelen, inkopen of gebruik van het algoritme vraagt om continue aandacht voor dit onderwerp. +Het betreft geen probleem dat eenmalig kan worden weggenomen, maar het vraagt voortdurende reflectie op eerlijkheid en rechtvaardigheid van het systeem. [^1]: In het Nederlands vertaald als vooringenomenheid, vooroordeel of neiging -Dit bouwblok wordt uitgewerkt in vereisten die weergeven wat er vanuit wet- en regelgeving en bestaande toetsingskaders vereist is om bias en discriminatie tegen te gaan. -Daarbij worden er suggesties gedaan hoe deze vereisten kunnen worden nageleefd met concrete maatregelen, en welke actoren daarbij betrokken kunnen zijn. +Dit bouwblok wordt uitgewerkt in vereisten die weergeven wat er vanuit wet- en regelgeving en bestaande toetsingskaders vereist is om bias en discriminatie tegen te gaan. +Daarbij worden er suggesties gedaan hoe deze vereisten kunnen worden nageleefd met concrete maatregelen, en welke actoren daarbij betrokken kunnen zijn. Waar mogelijk worden concrete voorbeelden en best practices uit de praktijk gegeven en zal worden aangegeven bij welk type algoritmen of AI dit relevant is. -Deze vereisten en maatregelen worden ook gekoppeld aan de algoritme levenscyclus. -Dit geeft een beeld van wanneer bepaalde vereisten of maatregelen, bij het ontwikkelen van algoritmen en AI, moeten worden geadresseerd. +Deze vereisten en maatregelen worden ook gekoppeld aan de algoritme levenscyclus. +Dit geeft een beeld van wanneer bepaalde vereisten of maatregelen, bij het ontwikkelen van algoritmen en AI, moeten worden geadresseerd. -Door bij de ontwikkeling van algoritmes rekening te houden met vereisten die voorkomen uit wet- en regelgeving, het type algoritme of AI en de potentiĆ«le risicoā€™s die ontstaan bij het gebruiken ervan, kunnen negatieve gevolgen worden voorkomen. +Door bij de ontwikkeling van algoritmes rekening te houden met vereisten die voorkomen uit wet- en regelgeving, het type algoritme of AI en de potentiĆ«le risicoā€™s die ontstaan bij het gebruiken ervan, kunnen negatieve gevolgen worden voorkomen. -De onderwerpen bias en non-discriminatie spelen daarom een belangrijke rol bij de totstandkoming van verantwoord ontwikkelde algoritmen en AI en het gebruik daarvan door ambtenaren. +De onderwerpen bias en non-discriminatie spelen daarom een belangrijke rol bij de totstandkoming van verantwoord ontwikkelde algoritmen en AI en het gebruik daarvan door ambtenaren. ## Aanbevelingen + [Rathenau](https://www.rathenau.nl/nl/digitalisering/algoritmes-afwegen) -* Geef als uitvoeringsorganisatie meer inzicht in hoe biastoetsing plaatsvindt -* Zet een nationaal kennisplatform voor biastoetsing op waar expertise kan worden ontwikkeld en gedeeld. Bepaal welke mate van standaardisatie gewenst is en of wettelijke eisen nodig zijn. +- Geef als uitvoeringsorganisatie meer inzicht in hoe biastoetsing plaatsvindt +- Zet een nationaal kennisplatform voor biastoetsing op waar expertise kan worden ontwikkeld en gedeeld. Bepaal welke mate van standaardisatie gewenst is en of wettelijke eisen nodig zijn. [ADR](https://open.overheid.nl/documenten/7052294a-e70a-4084-88da-d09ae5f202cb/file) -* Plaats de handreiking in een kader in relatie tot andere instrumenten -* Overweeg een risicogerichte benadering voor de toepassing van de handreiking -* Werk aan het vergroten van bewustzijn voor algoritmen en (data-)ethiek in de organisatie -* Zorg voor duidelijkheid in taken en verantwoordelijkheden van verschillende betrokkenen -* Beleg verantwoordelijkheid voor de handreiking en borg de (blijvende) aandacht ervoor -* Verplichte toepassing van de handreiking kan bestaande initiatieven tenietdoen +- Plaats de handreiking in een kader in relatie tot andere instrumenten +- Overweeg een risicogerichte benadering voor de toepassing van de handreiking +- Werk aan het vergroten van bewustzijn voor algoritmen en (data-)ethiek in de organisatie +- Zorg voor duidelijkheid in taken en verantwoordelijkheden van verschillende betrokkenen +- Beleg verantwoordelijkheid voor de handreiking en borg de (blijvende) aandacht ervoor +- Verplichte toepassing van de handreiking kan bestaande initiatieven tenietdoen [Toetsingskader ADR](https://open.overheid.nl/documenten/61b54381-d331-40ed-8fce-b2883b195f25/file) -* De definitie van de verschillende groepen en de gewenste prestatie van het model voor deze groepen zijn opgenomen in de functionele eisen. -* De mate van geaccepteerde bias in de uitkomst is opgenomen in de functionele eisen en uitgewerkt in meetbare prestatiecriteria. -* De methoden om bias te voorkomen, detecteren en corrigeren zijn vastgelegd. -* De mate van bias in de data, dataverzameling en het model zijn in kaart gebracht. -* Tijdens de ontwikkeling van het model is beoordeeld of er een verschil bestaat tussen de prestatie van het model tussen verschillende subgroepen. De prestatiemetrieken afleidbaar uit de confusionmatrix zijn vergeleken voor deze subgroepen. -* De uitkomstbias van productiedata is beoordeeld voor de verschillende subgroepen en voldoet aan de prestatiecriteria. -* Bij de geconstateerde bias is beoordeeld of deze op discriminatie duidt. +- De definitie van de verschillende groepen en de gewenste prestatie van het model voor deze groepen zijn opgenomen in de functionele eisen. +- De mate van geaccepteerde bias in de uitkomst is opgenomen in de functionele eisen en uitgewerkt in meetbare prestatiecriteria. +- De methoden om bias te voorkomen, detecteren en corrigeren zijn vastgelegd. +- De mate van bias in de data, dataverzameling en het model zijn in kaart gebracht. +- Tijdens de ontwikkeling van het model is beoordeeld of er een verschil bestaat tussen de prestatie van het model tussen verschillende subgroepen. De prestatiemetrieken afleidbaar uit de confusionmatrix zijn vergeleken voor deze subgroepen. +- De uitkomstbias van productiedata is beoordeeld voor de verschillende subgroepen en voldoet aan de prestatiecriteria. +- Bij de geconstateerde bias is beoordeeld of deze op discriminatie duidt. [College voor de Rechten van de Mens](https://publicaties.mensenrechten.nl/publicatie/61a734e65d726f72c45f9dce) (Richtlijnen) -* Overheidsinstanties mogen bij opsporings- en handhavingsbevoegdheden, met het oog op effectiviteit, efficiĆ«ntie en kostenbesparing, gebruik maken van risicoprofielen. Binnen deze risicoprofielen mogen ervaringsgegevens die tot een bepaalde vooronderstelling leiden een rol spelen, tenzij dit leidt tot discriminatie op grond van ras of nationaliteit -* Risicoprofielen die uitsluitend of in doorslaggevende mate gebaseerd zijn op ras (waaronder etniciteit en afkomst) zijn in strijd met het discriminatieverbod; -* Risicoprofielen die zich richten op Ć©Ć©n bepaalde afkomst of nationaliteit hebben een stigmatiserend effect en zijn daarom strijdig met het discriminatieverbod; -* Risicoprofielen die uitsluitend gebaseerd zijn op nationaliteit zijn zeer moeilijk te rechtvaardigen; -* Risicoprofielen waarin ras of nationaliteit mede een rol speelt, kunnen slechts gerechtvaardigd worden door zeer zwaarwegende redenen; -* Het gebruik van ras of nationaliteit als selectiecriterium binnen een risicoprofiel is nooit toegestaan als er geen objectieve relatie kan worden aangetoond tussen dit selectiecriterium en het legitieme doel van het profiel; -* In alle gevallen moeten de selectiecriteria binnen een risicoprofiel samen voldoende relevant en objectief (geschikt) zijn om op een effectieve wijze bij te dragen aan de verwezenlijking van het nagestreefde legitieme doel; -* Het gebruik van ras of nationaliteit als selectiecriterium binnen een risicoprofiel moet daarnaast noodzakelijk zijn om het gewenste doel tebereiken. -* Selectiebeslissingen moeten te allen tijde uitlegbaar zijn. +- Overheidsinstanties mogen bij opsporings- en handhavingsbevoegdheden, met het oog op effectiviteit, efficiĆ«ntie en kostenbesparing, gebruik maken van risicoprofielen. Binnen deze risicoprofielen mogen ervaringsgegevens die tot een bepaalde vooronderstelling leiden een rol spelen, tenzij dit leidt tot discriminatie op grond van ras of nationaliteit +- Risicoprofielen die uitsluitend of in doorslaggevende mate gebaseerd zijn op ras (waaronder etniciteit en afkomst) zijn in strijd met het discriminatieverbod; +- Risicoprofielen die zich richten op Ć©Ć©n bepaalde afkomst of nationaliteit hebben een stigmatiserend effect en zijn daarom strijdig met het discriminatieverbod; +- Risicoprofielen die uitsluitend gebaseerd zijn op nationaliteit zijn zeer moeilijk te rechtvaardigen; +- Risicoprofielen waarin ras of nationaliteit mede een rol speelt, kunnen slechts gerechtvaardigd worden door zeer zwaarwegende redenen; +- Het gebruik van ras of nationaliteit als selectiecriterium binnen een risicoprofiel is nooit toegestaan als er geen objectieve relatie kan worden aangetoond tussen dit selectiecriterium en het legitieme doel van het profiel; +- In alle gevallen moeten de selectiecriteria binnen een risicoprofiel samen voldoende relevant en objectief (geschikt) zijn om op een effectieve wijze bij te dragen aan de verwezenlijking van het nagestreefde legitieme doel; +- Het gebruik van ras of nationaliteit als selectiecriterium binnen een risicoprofiel moet daarnaast noodzakelijk zijn om het gewenste doel tebereiken. +- Selectiebeslissingen moeten te allen tijde uitlegbaar zijn. + ## Mogelijke hulpmiddelen en methoden -* [Fairness Handbook](https://amsterdamintelligence.com/resources/the-fairness-handbook) + +- [Fairness Handbook](https://amsterdamintelligence.com/resources/the-fairness-handbook) diff --git a/docs/bouwblokken/governance/index.md b/docs/bouwblokken/governance/index.md index ecdc108664..543e6fe88a 100644 --- a/docs/bouwblokken/governance/index.md +++ b/docs/bouwblokken/governance/index.md @@ -10,8 +10,7 @@ Hier komt een beschrijving van dit bouwblok. !!! info "Opmerking" - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. - + Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. ## Vereisten @@ -19,4 +18,4 @@ Hier komt een beschrijving van dit bouwblok. ## Maatregelen - \ No newline at end of file + diff --git a/docs/bouwblokken/index.md b/docs/bouwblokken/index.md index b2a1e44052..a6ae2b2c01 100644 --- a/docs/bouwblokken/index.md +++ b/docs/bouwblokken/index.md @@ -3,138 +3,136 @@ title: Bouwblokken summary: Hier staat een korte samenvatting over dit onderwerp icon: material/cube hide: - - toc - - navigation + - toc + - navigation ---
-- ### [Fundamentele rechten](../bouwblokken/fundamentele-rechten/index.md) +- ### [Fundamentele rechten](../bouwblokken/fundamentele-rechten/index.md) - --- + *** - ![fundamentele-rechten](../afbeeldingen/iconen/fundamentele-rechten.png) - - --- + ![fundamentele-rechten](../afbeeldingen/iconen/fundamentele-rechten.png) - Het bouwblok fundamentele rechten is opgesplitst in verschillende delen + *** - [:octicons-arrow-right-24: Naar fundamentele rechten](../bouwblokken/fundamentele-rechten/index.md) + Het bouwblok fundamentele rechten is opgesplitst in verschillende delen - [:octicons-arrow-right-24: Naar bias en non-discriminatie](../bouwblokken/fundamentele-rechten/non-discriminatie.md) + [:octicons-arrow-right-24: Naar fundamentele rechten](../bouwblokken/fundamentele-rechten/index.md) -- ### [Publieke inkoop](../bouwblokken/publieke-inkoop/index.md) - - --- - - ![publieke-inkoop](../afbeeldingen/iconen/inkoop.png) - - --- + [:octicons-arrow-right-24: Naar bias en non-discriminatie](../bouwblokken/fundamentele-rechten/non-discriminatie.md) - Op deze pagina vind je relevante informatie wanneer je als overheidsorganisatie algoritmes of AI wilt inkopen. +- ### [Publieke inkoop](../bouwblokken/publieke-inkoop/index.md) - [:octicons-arrow-right-24: Naar publieke inkoop](../bouwblokken/publieke-inkoop/index.md) + *** -- ### [Privacy en gegevensbescherming](../bouwblokken/privacy-en-gegevensbescherming/index.md) + ![publieke-inkoop](../afbeeldingen/iconen/inkoop.png) - --- + *** - ![privacy-en-gegevensbescherming](../afbeeldingen/iconen/privacy-en-gegevensbescherming.png) - - --- + Op deze pagina vind je relevante informatie wanneer je als overheidsorganisatie algoritmes of AI wilt inkopen. - Op deze pagina vind je relevante informatie over privacy en gegevensbescherming die van belang is wanneer je gebruik maakt van algoritmes of AI. + [:octicons-arrow-right-24: Naar publieke inkoop](../bouwblokken/publieke-inkoop/index.md) - [:octicons-arrow-right-24: Naar privacy en gegevensbescherming](../bouwblokken/privacy-en-gegevensbescherming/index.md) +- ### [Privacy en gegevensbescherming](../bouwblokken/privacy-en-gegevensbescherming/index.md) -- ### [Transparantie](../bouwblokken/transparantie/index.md) - - --- + *** - ![transparantie](../afbeeldingen/iconen/transparantie.png) + ![privacy-en-gegevensbescherming](../afbeeldingen/iconen/privacy-en-gegevensbescherming.png) - --- + *** - Op deze pagina vind je de relevantie informatie over transparantie die van belang is wanneer je gebruik maakt van algoritmes of AI. + Op deze pagina vind je relevante informatie over privacy en gegevensbescherming die van belang is wanneer je gebruik maakt van algoritmes of AI. - [:octicons-arrow-right-24: Naar transparantie](../bouwblokken/transparantie/index.md) + [:octicons-arrow-right-24: Naar privacy en gegevensbescherming](../bouwblokken/privacy-en-gegevensbescherming/index.md) -- ### [Conformiteitsbeoordeling](../bouwblokken/conformiteitsbeoordeling/index.md) - - --- +- ### [Transparantie](../bouwblokken/transparantie/index.md) - ![conformiteitsbeoordeling](../afbeeldingen/iconen/conformiteitsbeoordeling.png) + *** - --- + ![transparantie](../afbeeldingen/iconen/transparantie.png) - Hier kunnen we een korte tekst kwijt over conformiteitsbeoordeling + *** - [:octicons-arrow-right-24: Naar conformiteitsbeoordeling](../bouwblokken/conformiteitsbeoordeling/index.md) + Op deze pagina vind je de relevantie informatie over transparantie die van belang is wanneer je gebruik maakt van algoritmes of AI. -- ### [Data](../bouwblokken/data/index.md) - - --- + [:octicons-arrow-right-24: Naar transparantie](../bouwblokken/transparantie/index.md) - ![data](../afbeeldingen/iconen/data.png) +- ### [Conformiteitsbeoordeling](../bouwblokken/conformiteitsbeoordeling/index.md) - --- + *** - Hier kunnen we een korte tekst kwijt over data + ![conformiteitsbeoordeling](../afbeeldingen/iconen/conformiteitsbeoordeling.png) - [:octicons-arrow-right-24: Naar data](../bouwblokken/data/index.md) + *** -- ### [Duurzaamheid](../bouwblokken/duurzaamheid/index.md) - - --- + Hier kunnen we een korte tekst kwijt over conformiteitsbeoordeling - ![duurzaamheid](../afbeeldingen/iconen/duurzaamheid.png) + [:octicons-arrow-right-24: Naar conformiteitsbeoordeling](../bouwblokken/conformiteitsbeoordeling/index.md) - --- +- ### [Data](../bouwblokken/data/index.md) - Hier kunnen we een korte tekst kwijt over duurzaamheid + *** - [:octicons-arrow-right-24: Naar duurzaamheid](../bouwblokken/duurzaamheid/index.md) + ![data](../afbeeldingen/iconen/data.png) -- ### [Governance](../bouwblokken/governance/index.md) - - --- + *** - ![governance](../afbeeldingen/iconen/governance.png) + Hier kunnen we een korte tekst kwijt over data - --- + [:octicons-arrow-right-24: Naar data](../bouwblokken/data/index.md) - Hier kunnen we een korte tekst kwijt over governance +- ### [Duurzaamheid](../bouwblokken/duurzaamheid/index.md) - [:octicons-arrow-right-24: Naar governance](../bouwblokken/governance/index.md) + *** -- ### [Menselijke controle](../bouwblokken/menselijke-controle/index.md) - - --- + ![duurzaamheid](../afbeeldingen/iconen/duurzaamheid.png) - ![menselijke-controle](../afbeeldingen/iconen/menselijke-controle.png) + *** - --- + Hier kunnen we een korte tekst kwijt over duurzaamheid - Hier kunnen we een korte tekst kwijt over menselijke controle + [:octicons-arrow-right-24: Naar duurzaamheid](../bouwblokken/duurzaamheid/index.md) - [:octicons-arrow-right-24: Naar menselijke controle](../bouwblokken/menselijke-controle/index.md) +- ### [Governance](../bouwblokken/governance/index.md) -- ### [Technische robuustheid en veiligheid](../bouwblokken/technische-robuustheid-en-veiligheid/index.md) - - --- + *** - ![technische-robuustheid-en-veiligheid](../afbeeldingen/iconen/technische-robuustheid-en-veiligheid.png) + ![governance](../afbeeldingen/iconen/governance.png) - --- + *** - Hier kunnen we een korte tekst kwijt over technische robuustheid en veiligheid + Hier kunnen we een korte tekst kwijt over governance - [:octicons-arrow-right-24: Naar technische robuustheid en veiligheid](../bouwblokken/technische-robuustheid-en-veiligheid/index.md) + [:octicons-arrow-right-24: Naar governance](../bouwblokken/governance/index.md) -
+- ### [Menselijke controle](../bouwblokken/menselijke-controle/index.md) + + *** + + ![menselijke-controle](../afbeeldingen/iconen/menselijke-controle.png) + + *** + + Hier kunnen we een korte tekst kwijt over menselijke controle + + [:octicons-arrow-right-24: Naar menselijke controle](../bouwblokken/menselijke-controle/index.md) + +- ### [Technische robuustheid en veiligheid](../bouwblokken/technische-robuustheid-en-veiligheid/index.md) + *** + + ![technische-robuustheid-en-veiligheid](../afbeeldingen/iconen/technische-robuustheid-en-veiligheid.png) + + *** + + Hier kunnen we een korte tekst kwijt over technische robuustheid en veiligheid + + [:octicons-arrow-right-24: Naar technische robuustheid en veiligheid](../bouwblokken/technische-robuustheid-en-veiligheid/index.md) + + !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). - diff --git a/docs/bouwblokken/menselijke-controle/index.md b/docs/bouwblokken/menselijke-controle/index.md index 4f19ed0de0..7366a8a644 100644 --- a/docs/bouwblokken/menselijke-controle/index.md +++ b/docs/bouwblokken/menselijke-controle/index.md @@ -6,25 +6,23 @@ icon: material/account-check ![menselijke-controle](../../afbeeldingen/bouwblokken/menselijke-controle.jpg "visuele weergave menselijke controle"){align="right"; width="50%"} -Bij het uitvoeren van publieke taken is het van belang dat natuurlijke personen kunnen controleren of deze taken correct worden uitgevoerd en dat er kan worden bijgestuurd als dat nodig is. -Datzelfde geldt voor als een overheidsinstantie algoritmes of AI-systemen gebruiken bij het ondersteunen van deze taken. Het is van belang dat zowel bij de ontwikkeling en als het gebruik door natuurlijke personen kan worden ingegrepen en dat er sprake is van betekenisvolle menselijke tussenkomst waar dat nodig is. -Hier kan worden gedacht aan het verkeerd (gaan) werken van een AI-systeem en dat hierdoor de output onbetrouwbaar en onjuist wordt. In dergelijke gevallen zal een natuurlijk persoon in staat moeten zijn om deze situatie te signaleren en het algoritme of AI-systeem (tijdelijk) te kunnen stoppen. +Bij het uitvoeren van publieke taken is het van belang dat natuurlijke personen kunnen controleren of deze taken correct worden uitgevoerd en dat er kan worden bijgestuurd als dat nodig is. +Datzelfde geldt voor als een overheidsinstantie algoritmes of AI-systemen gebruiken bij het ondersteunen van deze taken. Het is van belang dat zowel bij de ontwikkeling en als het gebruik door natuurlijke personen kan worden ingegrepen en dat er sprake is van betekenisvolle menselijke tussenkomst waar dat nodig is. +Hier kan worden gedacht aan het verkeerd (gaan) werken van een AI-systeem en dat hierdoor de output onbetrouwbaar en onjuist wordt. In dergelijke gevallen zal een natuurlijk persoon in staat moeten zijn om deze situatie te signaleren en het algoritme of AI-systeem (tijdelijk) te kunnen stoppen. -Het verschilt, afgewogen tegen de potentiĆ«le negatieve gevolgen of risico's voor personen, welke mechanismen moeten worden ingericht in en rondom algoritmes en AI-systemen. -Hoog risico AI-systemen zullen een intensiever inrichting van menselijke controle nodig hebben, bijvoorbeeld met meerdere mensen die de output controleren, dan algoritmes die niet impact vol zijn. -Om deze controles uit te kunnen voeren zullen deze personen moeten beschikken over de noodzakelijke competenties, opleiding en bevoegdheden om deze taak uit te voeren. Er zullen ook functionele eisen aan het systeem moeten worden gesteld, zodat ook daadwerkelijk kan worden ingegrepen. -Hierbij kan worden gedacht aan een stopknop die kan worden gebruikt waarmee die werking van het algoritme of AI-systeem kan worden gepauzeerd. -Gedurende de gehele levenscyclus is het van belang dat menselijke controle wordt gepositioneerd en dat bijbehorende taken goed kunnen worden uitgevoerd. - -In dit bouwblok van het Algoritmekader wordt uitgewerkt aan welke vereisten moet worden voldaan met betrekking menselijke controle. -Dit wordt aangevuld met praktische maatregelen die kunnen worden toegepast ter inspiratie voor organisaties. Deze vereisten en maatregelen worden gekoppeld aan de levenscyclus, zodat zowel bij de ontwikkeling als het gebruik kan worden geraadpleegd hoe organisaties invulling kunnen geven aan menselijk controle. +Het verschilt, afgewogen tegen de potentiĆ«le negatieve gevolgen of risico's voor personen, welke mechanismen moeten worden ingericht in en rondom algoritmes en AI-systemen. +Hoog risico AI-systemen zullen een intensiever inrichting van menselijke controle nodig hebben, bijvoorbeeld met meerdere mensen die de output controleren, dan algoritmes die niet impact vol zijn. +Om deze controles uit te kunnen voeren zullen deze personen moeten beschikken over de noodzakelijke competenties, opleiding en bevoegdheden om deze taak uit te voeren. Er zullen ook functionele eisen aan het systeem moeten worden gesteld, zodat ook daadwerkelijk kan worden ingegrepen. +Hierbij kan worden gedacht aan een stopknop die kan worden gebruikt waarmee die werking van het algoritme of AI-systeem kan worden gepauzeerd. +Gedurende de gehele levenscyclus is het van belang dat menselijke controle wordt gepositioneerd en dat bijbehorende taken goed kunnen worden uitgevoerd. +In dit bouwblok van het Algoritmekader wordt uitgewerkt aan welke vereisten moet worden voldaan met betrekking menselijke controle. +Dit wordt aangevuld met praktische maatregelen die kunnen worden toegepast ter inspiratie voor organisaties. Deze vereisten en maatregelen worden gekoppeld aan de levenscyclus, zodat zowel bij de ontwikkeling als het gebruik kan worden geraadpleegd hoe organisaties invulling kunnen geven aan menselijk controle. ## Vereisten - ## Maatregelen diff --git a/docs/bouwblokken/privacy-en-gegevensbescherming/index.md b/docs/bouwblokken/privacy-en-gegevensbescherming/index.md index c5341e971f..84559ccb49 100644 --- a/docs/bouwblokken/privacy-en-gegevensbescherming/index.md +++ b/docs/bouwblokken/privacy-en-gegevensbescherming/index.md @@ -6,24 +6,22 @@ icon: material/shield-lock ![privacy-en-gegevensbescherming](../../afbeeldingen/bouwblokken/privacy-en-gegevensbescherming.jpg "visuele weergave privacy en gegevensbescherming"){align="right"; width="50%"} -Overheidsinstanties verwerken vaak persoonsgegevens om hun taken uit te voeren en maatschappelijke waarden te creĆ«ren. Met de opkomst van algoritmes en kunstmatige intelligentie (AI) worden deze gegevens steeds vaker gebruikt om processen te optimaliseren, zoals bij het beoordelen van subsidieaanvragen of het verlenen van vergunningen. +Overheidsinstanties verwerken vaak persoonsgegevens om hun taken uit te voeren en maatschappelijke waarden te creĆ«ren. Met de opkomst van algoritmes en kunstmatige intelligentie (AI) worden deze gegevens steeds vaker gebruikt om processen te optimaliseren, zoals bij het beoordelen van subsidieaanvragen of het verlenen van vergunningen. +Bij het gebruik van algoritmes en AI-systemen is van groot belang om aandacht te besteden aan privacy en gegevensbescherming. Deze technologieĆ«n variĆ«ren van eenvoudige rekenregels tot complexe machine learning-modellen en generatieve AI, elk met hun eigen specifieke risicoā€™s. +Bijvoorbeeld, eenvoudige AI kan basisberekeningen uitvoeren, terwijl complexere AI-voorspellingen kan doen of informatie kan genereren. Ongeacht de complexiteit is het identificeren van risicoā€™s en het implementeren van passende beheersmaatregelen essentieel om de privacy van burgers te waarborgen en gevoelige gegevens te beschermen. -Bij het gebruik van algoritmes en AI-systemen is van groot belang om aandacht te besteden aan privacy en gegevensbescherming. Deze technologieĆ«n variĆ«ren van eenvoudige rekenregels tot complexe machine learning-modellen en generatieve AI, elk met hun eigen specifieke risicoā€™s. -Bijvoorbeeld, eenvoudige AI kan basisberekeningen uitvoeren, terwijl complexere AI-voorspellingen kan doen of informatie kan genereren. Ongeacht de complexiteit is het identificeren van risicoā€™s en het implementeren van passende beheersmaatregelen essentieel om de privacy van burgers te waarborgen en gevoelige gegevens te beschermen. +Bij de inzet van AI in de publieke sector moeten overheidsinstanties rekening houden met de vereisten uit privacywetgeving, zoals de Algemene Verordening Gegevensbescherming (AVG). Dit omvat onder andere het minimaliseren van gegevensgebruik, implementeren van een privacy by design werkwijze waar mogelijk, en het transparant zijn over hoe en waarom (persoons)gegevens worden verwerkt. +Het toewijzen van verantwoordelijkheden en het opstellen van duidelijke richtlijnen voor gegevensverwerking zijn belangrijke stappen in dit proces. -Bij de inzet van AI in de publieke sector moeten overheidsinstanties rekening houden met de vereisten uit privacywetgeving, zoals de Algemene Verordening Gegevensbescherming (AVG). Dit omvat onder andere het minimaliseren van gegevensgebruik, implementeren van een privacy by design werkwijze waar mogelijk, en het transparant zijn over hoe en waarom (persoons)gegevens worden verwerkt. -Het toewijzen van verantwoordelijkheden en het opstellen van duidelijke richtlijnen voor gegevensverwerking zijn belangrijke stappen in dit proces. - -Het bouwblok privacy en gegevensbescherming van algoritmen en AI-systemen wordt ook geĆÆntegreerd in de algoritmelevenscyclus. -Dit biedt inzicht in wanneer specifieke vereisten en maatregelen tijdens de ontwikkeling van algoritmen en AI-systemen moeten worden toegepast. -Door deze vereisten in de levenscyclus te integreren, kunnen de gebruikers inzichten opdoen wanneer deze maatregelen kunnen worden geĆÆmplementeerd. +Het bouwblok privacy en gegevensbescherming van algoritmen en AI-systemen wordt ook geĆÆntegreerd in de algoritmelevenscyclus. +Dit biedt inzicht in wanneer specifieke vereisten en maatregelen tijdens de ontwikkeling van algoritmen en AI-systemen moeten worden toegepast. +Door deze vereisten in de levenscyclus te integreren, kunnen de gebruikers inzichten opdoen wanneer deze maatregelen kunnen worden geĆÆmplementeerd. ## Vereisten - ## Maatregelen diff --git a/docs/bouwblokken/publieke-inkoop/index.md b/docs/bouwblokken/publieke-inkoop/index.md index b287033c4c..b18fb206ea 100644 --- a/docs/bouwblokken/publieke-inkoop/index.md +++ b/docs/bouwblokken/publieke-inkoop/index.md @@ -5,54 +5,52 @@ icon: material/cart ![publieke-inkoop](../../afbeeldingen/bouwblokken/publieke-inkoop.jpg "visuele weergave publieke inkoop"){align="right"; width="50%"} -Door middel van publieke inkoop wordt door overheidsinstellingen software ingekocht. Deze software wordt ingekocht om ambtenaren te ondersteunen met hun werkzaamheden om zo maatschappelijk waarden te creĆ«ren. Het kan bijvoorbeeld gaan om het inkopen van een systeem waarmee een aanvraag voor een subsidie of vergunning kan worden behandeld. Het virtueel vergaderen of het digitaal samenwerken aan documenten zijn hier ook voorbeelden van. +Door middel van publieke inkoop wordt door overheidsinstellingen software ingekocht. Deze software wordt ingekocht om ambtenaren te ondersteunen met hun werkzaamheden om zo maatschappelijk waarden te creĆ«ren. Het kan bijvoorbeeld gaan om het inkopen van een systeem waarmee een aanvraag voor een subsidie of vergunning kan worden behandeld. Het virtueel vergaderen of het digitaal samenwerken aan documenten zijn hier ook voorbeelden van. !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). +Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). +Software met algoritmen en AI wordt vaak ontwikkeld door gespecialiseerde aanbieders en bevat steeds meer algoritmen en AI. Het komt ook voor dat de overheid deze technologie zelf ontwikkelt. Deze algoritmen en AI kunnen eenvoudig van aard zijn, zoals het maken van een eenvoudige berekening. Zij kunnen complexer van aard zijn, zoals een voorspelling geven of het genereren van informatie. In het laatste geval kan worden gedacht aan ChatGPT, Google Bard of Co-Pilot. +Er zijn verschillende type technologieĆ«n die vallen onder het bereik van algoritmen en AI. In dit kader drukken we deze uit als ā€˜rekenregelā€™, ā€˜machine learningā€™ en ā€˜generatieve AIā€™. Elke technologie heeft eigen bijzondere aandachtspunten. Ook de bijbehorende risicoā€™s kunnen per type verschillen. Het identificeren van deze risicoā€™s en het treffen van beheersmaatregelen is daarbij van belang. Dat geldt in het bijzonder als algoritmen en AI bijdragen aan de totstandkoming van overheidsbesluitvorming en impactvolle beslissingen die burgers en ondernemingen raken. -Software met algoritmen en AI wordt vaak ontwikkeld door gespecialiseerde aanbieders en bevat steeds meer algoritmen en AI. Het komt ook voor dat de overheid deze technologie zelf ontwikkelt. Deze algoritmen en AI kunnen eenvoudig van aard zijn, zoals het maken van een eenvoudige berekening. Zij kunnen complexer van aard zijn, zoals een voorspelling geven of het genereren van informatie. In het laatste geval kan worden gedacht aan ChatGPT, Google Bard of Co-Pilot. -Er zijn verschillende type technologieĆ«n die vallen onder het bereik van algoritmen en AI. In dit kader drukken we deze uit als ā€˜rekenregelā€™, ā€˜machine learningā€™ en ā€˜generatieve AIā€™. Elke technologie heeft eigen bijzondere aandachtspunten. Ook de bijbehorende risicoā€™s kunnen per type verschillen. Het identificeren van deze risicoā€™s en het treffen van beheersmaatregelen is daarbij van belang. Dat geldt in het bijzonder als algoritmen en AI bijdragen aan de totstandkoming van overheidsbesluitvorming en impactvolle beslissingen die burgers en ondernemingen raken. - -Door bij publieke inkoop van software met algoritmen en AI rekening te houden met vereisten die voorkomen uit wet- en regelgeving, toepassen van publieke waarden, het type algoritme of AI en de potentiĆ«le risicoā€™s die ontstaan bij het gebruiken ervan, kunnen negatieve gevolgen worden voorkomen. Publieke inkoop speelt daarom een belangrijke rol bij de totstandkoming van verantwoord ontwikkelde algoritmen en AI en het gebruik daarvan door ambtenaren. +Door bij publieke inkoop van software met algoritmen en AI rekening te houden met vereisten die voorkomen uit wet- en regelgeving, toepassen van publieke waarden, het type algoritme of AI en de potentiĆ«le risicoā€™s die ontstaan bij het gebruiken ervan, kunnen negatieve gevolgen worden voorkomen. Publieke inkoop speelt daarom een belangrijke rol bij de totstandkoming van verantwoord ontwikkelde algoritmen en AI en het gebruik daarvan door ambtenaren. In dit deel van het Algoritmekader wordt nader ingegaan op deze vereisten. Er worden suggesties gedaan hoe deze vereisten kunnen worden nageleefd en welke rollen daarbij betrokken kunnen zijn. Waar mogelijk worden concrete voorbeelden uit de praktijk gegeven en zal worden aangegeven bij welk type algoritmen of AI dit relevant is. -Het publiek inkopen van algoritmen en AI wordt ook gekoppeld aan de algoritme levenscyclus. Dit geeft een beeld van wanneer bepaalde vereisten en maatregelen, bij het ontwikkelen van algoritmen en AI, moeten worden geadresseerd. Door deze vereisten ook te vertalen naar het inkoopproces, zullen de rollen binnen het inkoopproces beter in staat zijn om te duiden wanneer en hoe dit kan worden geadresseerd. Dit moet bijdragen aan een goed samenspel met aanbieders, zodat de kansen van algoritmen en AI worden benut en de negatieve gevolgen worden voorkomen. +Het publiek inkopen van algoritmen en AI wordt ook gekoppeld aan de algoritme levenscyclus. Dit geeft een beeld van wanneer bepaalde vereisten en maatregelen, bij het ontwikkelen van algoritmen en AI, moeten worden geadresseerd. Door deze vereisten ook te vertalen naar het inkoopproces, zullen de rollen binnen het inkoopproces beter in staat zijn om te duiden wanneer en hoe dit kan worden geadresseerd. Dit moet bijdragen aan een goed samenspel met aanbieders, zodat de kansen van algoritmen en AI worden benut en de negatieve gevolgen worden voorkomen. - ## Algoritme levenscyclus -Algoritmen en AI kunnen een grote impact hebben op onze maatschappij. Daarom is het van belang dat deze op een verantwoorde manier worden ontwikkeld en gebruikt. Het toepassen van de algoritme levenscyclus is hierover een bruikbare leidraad. De algoritme levenscyclus bestaat uit meerdere fasen. De werkzaamheden die noodzakelijk zijn om een verantwoord algoritme of AI te ontwikkelen, kunnen logisch worden gekoppeld aan deze fasen. -Deze levenscyclus kan worden gebruikt voor alle typen algoritmen en AI. Het verschilt uiteraard wel per type wat moet worden gedaan en dit is mede afhankelijk van de risico classificatie. Bij hoge risico toepassing zal meer moeten worden gedaan om risicoā€™s te mitigeren dan als er sprake is van lage risico toepassingen. De levenscyclus geeft een bruikbaar overzicht voor leveranciers en opdrachtgevers wanneer welke werkzaamheden moeten worden uitgevoerd. Het laat ook zien welke werkzaamheden moeten zijn afgerond als algoritmen en AI in de markt mogen worden gezet en klaar zijn voor gebruik. + +Algoritmen en AI kunnen een grote impact hebben op onze maatschappij. Daarom is het van belang dat deze op een verantwoorde manier worden ontwikkeld en gebruikt. Het toepassen van de algoritme levenscyclus is hierover een bruikbare leidraad. De algoritme levenscyclus bestaat uit meerdere fasen. De werkzaamheden die noodzakelijk zijn om een verantwoord algoritme of AI te ontwikkelen, kunnen logisch worden gekoppeld aan deze fasen. +Deze levenscyclus kan worden gebruikt voor alle typen algoritmen en AI. Het verschilt uiteraard wel per type wat moet worden gedaan en dit is mede afhankelijk van de risico classificatie. Bij hoge risico toepassing zal meer moeten worden gedaan om risicoā€™s te mitigeren dan als er sprake is van lage risico toepassingen. De levenscyclus geeft een bruikbaar overzicht voor leveranciers en opdrachtgevers wanneer welke werkzaamheden moeten worden uitgevoerd. Het laat ook zien welke werkzaamheden moeten zijn afgerond als algoritmen en AI in de markt mogen worden gezet en klaar zijn voor gebruik. Bij het publiek inkopen van software met bijbehorende algoritmen en AI zijn de wensen van de behoeftesteller en de doelstellingen van de organisatie van groot belang. Dit kan tot verschillende situaties leiden: -ā€¢ Een al ontwikkelde kant-en-klare oplossing voldoet direct aan deze wensen en doelstellingen; +ā€¢ Een al ontwikkelde kant-en-klare oplossing voldoet direct aan deze wensen en doelstellingen; -ā€¢ Een al ontwikkelde oplossing moet eerst worden aangepast voordat deze kan worden gebruikt; +ā€¢ Een al ontwikkelde oplossing moet eerst worden aangepast voordat deze kan worden gebruikt; -ā€¢ Er moet een nieuwe oplossing worden ontwikkeld om te voldoen aan de wensen. +ā€¢ Er moet een nieuwe oplossing worden ontwikkeld om te voldoen aan de wensen. -Deze inschatting is dus bepalend wat wel en niet van een product mag worden verwacht. Dit is relevant voor zowel de leverancier als de opdrachtgever. Het is aannemelijk dat als het om risicovolle (nog te ontwikkelen) algoritmen of AI gaat, de opdrachtgever een intensieve bijdrage moet leveren aan de samenwerking om het product te kunnen gebruiken. De opdrachtgever zal bijvoorbeeld moeten aangeven wat de juridische en ethische grenzen zijn van de uiteindelijk werking van het algoritme of AI. Als een kant-en-klare oplossing wordt afgenomen, dan zal de leverancier moeten laten zien dat de ontwikkelde algoritmen en AI voldoen aan alle vereisten en moet dit kunnen aantonen. +Deze inschatting is dus bepalend wat wel en niet van een product mag worden verwacht. Dit is relevant voor zowel de leverancier als de opdrachtgever. Het is aannemelijk dat als het om risicovolle (nog te ontwikkelen) algoritmen of AI gaat, de opdrachtgever een intensieve bijdrage moet leveren aan de samenwerking om het product te kunnen gebruiken. De opdrachtgever zal bijvoorbeeld moeten aangeven wat de juridische en ethische grenzen zijn van de uiteindelijk werking van het algoritme of AI. Als een kant-en-klare oplossing wordt afgenomen, dan zal de leverancier moeten laten zien dat de ontwikkelde algoritmen en AI voldoen aan alle vereisten en moet dit kunnen aantonen. -De inzichten uit de algoritme levenscyclus kunnen ondersteunen bij bijvoorbeeld de behoeftestelling, het maken van make-or-buy beslissingen, de te hanteren aanbestedingsvorm, de totstandkoming van de selectie- en gunningseisen, contractspecificaties en de uitvoering en management van het contract. De algoritme levenscyclus kan worden geraadpleegd via het tabblad boven aan deze pagina. Per fase en per type algoritme of AI kan worden bekeken aan welke vereisten moet worden voldaan en welke beheersmaatregelen kunnen worden getroffen. +De inzichten uit de algoritme levenscyclus kunnen ondersteunen bij bijvoorbeeld de behoeftestelling, het maken van make-or-buy beslissingen, de te hanteren aanbestedingsvorm, de totstandkoming van de selectie- en gunningseisen, contractspecificaties en de uitvoering en management van het contract. De algoritme levenscyclus kan worden geraadpleegd via het tabblad boven aan deze pagina. Per fase en per type algoritme of AI kan worden bekeken aan welke vereisten moet worden voldaan en welke beheersmaatregelen kunnen worden getroffen. ## Vereisten -Nagenoeg alle vereisten die gelden voor algoritmen en AI kunnen een plek krijgen in het publiek inkoopproces. Daarom is ervoor gekozen om hier niet een opsomming te geven van al deze vereisten, maar wordt verwezen we naar het gedeelte ['Vereisten'](https://minbzk.github.io/Algoritmekader/vereisten/) in het Algoritmekader. +Nagenoeg alle vereisten die gelden voor algoritmen en AI kunnen een plek krijgen in het publiek inkoopproces. Daarom is ervoor gekozen om hier niet een opsomming te geven van al deze vereisten, maar wordt verwezen we naar het gedeelte ['Vereisten'](https://minbzk.github.io/Algoritmekader/vereisten/) in het Algoritmekader. -In de laag van 'maatregelen' bij de vereisten voor algoritmes en AI-systemen, wordt uitgewerkt wat vanuit publieke inkoop kan worden gedaan om op een betekenisvolle manier invulling te geven aan deze vereisten. Daarvoor kan ook op het tabblad 'publieke inkoop' worden geklikt om deze maatregelen te filteren. +In de laag van 'maatregelen' bij de vereisten voor algoritmes en AI-systemen, wordt uitgewerkt wat vanuit publieke inkoop kan worden gedaan om op een betekenisvolle manier invulling te geven aan deze vereisten. Daarvoor kan ook op het tabblad 'publieke inkoop' worden geklikt om deze maatregelen te filteren. -Zie hieronder bij bruikbare informatie en bronnen in het bijzonder de Europese modelcontractbepaling voor (niet) hoog risico AI-systemen en contractvoorwaarden voor algoritmen. Dit geeft een beeld hoe de vereisten onderdeel kunnen worden gemaakt van contractvoorwaarden. +Zie hieronder bij bruikbare informatie en bronnen in het bijzonder de Europese modelcontractbepaling voor (niet) hoog risico AI-systemen en contractvoorwaarden voor algoritmen. Dit geeft een beeld hoe de vereisten onderdeel kunnen worden gemaakt van contractvoorwaarden. ## Maatregelen -Hieronder volgt een overzicht van de maatregelen die (voor zover zijn uitgewerkt) kunnen worden getroffen om invulling te geven aan de vereisten. - +Hieronder volgt een overzicht van de maatregelen die (voor zover zijn uitgewerkt) kunnen worden getroffen om invulling te geven aan de vereisten. !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Er wordt momenteel hard gewerkt, mede door de Werkgroep Publieke Inkoop, om maatregelen te definiĆ«ren vanuit het perspectief publieke inkoop bij de vereisten. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader) of via algoritmes@minbzk.nl. +Het Algoritmekader is nog volop in ontwikkeling. Er wordt momenteel hard gewerkt, mede door de Werkgroep Publieke Inkoop, om maatregelen te definiĆ«ren vanuit het perspectief publieke inkoop bij de vereisten. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader) of via algoritmes@minbzk.nl. ## Bruikbare informatie en bronnen @@ -65,13 +63,3 @@ Hieronder volgt een overzicht van de maatregelen die (voor zover zijn uitgewerkt [Inkoopproces](https://www.pianoo.nl/nl/inkoopproces) [Community of Practis Digitale Innovatie](https://www.pianoo.nl/nl/themas/innovatie/netwerken/community-practice-digitale-innovaties) - - - - - - - - - - diff --git a/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md b/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md index 94155e89c5..54b2e9223b 100644 --- a/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md +++ b/docs/bouwblokken/technische-robuustheid-en-veiligheid/index.md @@ -6,33 +6,34 @@ icon: material/cog ![technische-robuustheid-en-veiligheid](../../afbeeldingen/bouwblokken/technische-robuustheid-en-veiligheid.jpg "visuele weergave technische robuustheid en veiligheid"){align="right"; width="50%"} -Wanneer algoritmes of AI-systemen worden gebruikt om publieke taken uit te voeren, dient het onderliggende systeem voldoende robuust en veilig te zijn. +Wanneer algoritmes of AI-systemen worden gebruikt om publieke taken uit te voeren, dient het onderliggende systeem voldoende robuust en veilig te zijn. -## Technische robuustheid -De technische robuustheid van een algoritme of AI-systeem beschrijft het vermogen om het gewenste prestatieniveau onder alle omstandigheden te handhaven [^1]. -Dit betekent dat algoritmes en AI-systemen vergelijkbaar moeten presteren ondanks externe of zware veranderingen in de omgeving. +## Technische robuustheid + +De technische robuustheid van een algoritme of AI-systeem beschrijft het vermogen om het gewenste prestatieniveau onder alle omstandigheden te handhaven [^1]. +Dit betekent dat algoritmes en AI-systemen vergelijkbaar moeten presteren ondanks externe of zware veranderingen in de omgeving. Robuustheid kan daarnaast ook duiden op eigenschappen als veerkracht, betrouwbaarheid en nauwkeurigheid van het systeem. -Wanneer het algoritme of het AI-systeem niet voldoet aan de eisen wat betreft robuustheid, nauwkeurigheid of de prestaties van het systeem, voordat het systeem in gebruik is genomen kan het systeem onbedoelde schade aanrichten voor betrokkenen, bijvoorbeeld door negatieve impact op grondrechten wanneer resultaten onjuist of niet worden gegenereerd of geĆÆnterpreteerd. +Wanneer het algoritme of het AI-systeem niet voldoet aan de eisen wat betreft robuustheid, nauwkeurigheid of de prestaties van het systeem, voordat het systeem in gebruik is genomen kan het systeem onbedoelde schade aanrichten voor betrokkenen, bijvoorbeeld door negatieve impact op grondrechten wanneer resultaten onjuist of niet worden gegenereerd of geĆÆnterpreteerd. -Er moeten technische en organisatorische maatregelen getroffen worden om de robuustheid van algoritmes en AI-systemen te waarborgen. -Dit kunnen bijvoorbeeld maatregelen zijn bestaande uit vooraf bepaalde mechanismen die het systeem in staat stellen om de werking veilig te onderbreken wanneer daar redenen voor zijn of wanneer de prestaties van het algoritme buiten vooraf bepaalde grenzen treedt. +Er moeten technische en organisatorische maatregelen getroffen worden om de robuustheid van algoritmes en AI-systemen te waarborgen. +Dit kunnen bijvoorbeeld maatregelen zijn bestaande uit vooraf bepaalde mechanismen die het systeem in staat stellen om de werking veilig te onderbreken wanneer daar redenen voor zijn of wanneer de prestaties van het algoritme buiten vooraf bepaalde grenzen treedt. -## Veiligheid -Naast robuustheid dient het onderliggende systeem ook voldoende beveiligd te zijn, zodat het systeem weerbaar is tegen pogingen het systeem te wijzigen en onrechtmatig gebruik door derden, en die onbedoelde schade tot een minimum beperkt. -Om te zorgen voor een passend niveau van cyberbeveiliging die aansluit op de risico's van het systeem, dienen er passende maatregelen zoals veiligheidscontroles genomen te worden. -Daarbij dient er rekening te worden gehouden met de onderliggende ICT-infrastructuur. +## Veiligheid -In dit bouwblok van het algoritmekader werken we uit aan welke vereisten er voldaan moet worden om de technische robuustheid en veiligheid te waarborgen. -Dit wordt aangevuld met praktische maatregelen en instrumenten die gebruikt en toegepast kunnen worden om invulling te geven aan deze vereisten. +Naast robuustheid dient het onderliggende systeem ook voldoende beveiligd te zijn, zodat het systeem weerbaar is tegen pogingen het systeem te wijzigen en onrechtmatig gebruik door derden, en die onbedoelde schade tot een minimum beperkt. +Om te zorgen voor een passend niveau van cyberbeveiliging die aansluit op de risico's van het systeem, dienen er passende maatregelen zoals veiligheidscontroles genomen te worden. +Daarbij dient er rekening te worden gehouden met de onderliggende ICT-infrastructuur. -[^1]: Zie [NEN-EN-ISO/IEC 22989:2023 en](https://www.nen.nl/nen-en-iso-iec-22989-2023-en-312642) [^2] -[^2]: Hoewel het gebruik van de NEN-ISO-normen in het Algoritmekader auteursrechtelijk is beschermd, heeft het Nederlands Normalisatie Instituut (NEN) voor het gebruik in het Algoritmekader toestemming verleend. Zie [nen.nl](https://www.nen.nl/) voor meer informatie over NEN en het gebruik van hun producten. +In dit bouwblok van het algoritmekader werken we uit aan welke vereisten er voldaan moet worden om de technische robuustheid en veiligheid te waarborgen. +Dit wordt aangevuld met praktische maatregelen en instrumenten die gebruikt en toegepast kunnen worden om invulling te geven aan deze vereisten. -!!! info "Opmerking" +[^1]: Zie [NEN-EN-ISO/IEC 22989:2023 en](https://www.nen.nl/nen-en-iso-iec-22989-2023-en-312642) [^2] +[^2]: Hoewel het gebruik van de NEN-ISO-normen in het Algoritmekader auteursrechtelijk is beschermd, heeft het Nederlands Normalisatie Instituut (NEN) voor het gebruik in het Algoritmekader toestemming verleend. Zie [nen.nl](https://www.nen.nl/) voor meer informatie over NEN en het gebruik van hun producten. - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. +!!! info "Opmerking" + Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. ## Vereisten diff --git a/docs/bouwblokken/transparantie/index.md b/docs/bouwblokken/transparantie/index.md index dca0b48008..b583080ccc 100644 --- a/docs/bouwblokken/transparantie/index.md +++ b/docs/bouwblokken/transparantie/index.md @@ -6,33 +6,32 @@ icon: material/magnify ![transparantie](../../afbeeldingen/bouwblokken/transparantie.jpg "visuele weergave transparantie"){align="right"; width="50%"} -Om openheid te bieden en controleerbaarheid te zijn moeten overheidsinstanties transparant zijn over inzet van algoritmen en AI. +Om openheid te bieden en controleerbaarheid te zijn moeten overheidsinstanties transparant zijn over inzet van algoritmen en AI. Het is van belang dat overheden nadenken over hun besluitvormingsprocessen en dat zij de werking en toegevoegde waarde van het inzetten van een algoritme kunnen uitleggen. -Dit is bijzonder relevant als een algoritme of AI-systeem impact heeft en besluiten maakt of de totstandkoming van besluitvorming die burgers raken ondersteunt. +Dit is bijzonder relevant als een algoritme of AI-systeem impact heeft en besluiten maakt of de totstandkoming van besluitvorming die burgers raken ondersteunt. -Als burgers geen kennis kunnen nemen van de gebruikte algoritmes en in hoeverre diens output hen raakt, kunnen zij zich niet verdedigen tegen nadelige gevolgen zoals discriminatie of een onjuist genomen beslissing of besluit. -Daarnaast versterkt transparantie de controlerende functie van burgers en journalistiek, omdat burgers kunnen aangeven of een uitleg over een algoritmisch systeem duidelijk is en of zij de werking van het systeem hetzelfde ervaren. +Als burgers geen kennis kunnen nemen van de gebruikte algoritmes en in hoeverre diens output hen raakt, kunnen zij zich niet verdedigen tegen nadelige gevolgen zoals discriminatie of een onjuist genomen beslissing of besluit. +Daarnaast versterkt transparantie de controlerende functie van burgers en journalistiek, omdat burgers kunnen aangeven of een uitleg over een algoritmisch systeem duidelijk is en of zij de werking van het systeem hetzelfde ervaren. -Transparantie bij algoritmes en AI gaat zowel over het bekendmaken van de inzet en bijbehorende doelen, als ook over openheid van het type model en de gebruikte factoren. -Gebruikers moeten in staat zijn om de werking en de output van een algoritme of AI-systeem te begrijpen, zodat zij onderbouwde beslissingen of besluiten kunnen nemen. -Dit betekent bijvoorbeeld ook dat gebruikers bewust moet worden gemaakt dat zij communiceren of interageren met een algoritme of AI-systeem, dat zij worden geĆÆnformeerd over de mogelijkheden en beperkingen van een systeem en dat betrokkenen worden geĆÆnformeerd over hun rechten. +Transparantie bij algoritmes en AI gaat zowel over het bekendmaken van de inzet en bijbehorende doelen, als ook over openheid van het type model en de gebruikte factoren. +Gebruikers moeten in staat zijn om de werking en de output van een algoritme of AI-systeem te begrijpen, zodat zij onderbouwde beslissingen of besluiten kunnen nemen. +Dit betekent bijvoorbeeld ook dat gebruikers bewust moet worden gemaakt dat zij communiceren of interageren met een algoritme of AI-systeem, dat zij worden geĆÆnformeerd over de mogelijkheden en beperkingen van een systeem en dat betrokkenen worden geĆÆnformeerd over hun rechten. - In dit bouwblok van het algoritmekader besteden we aandacht aan transparantie naar gebruikers en betrokkenen, transparantie door documentatie en opname in het [algoritmeregister]( https://algoritmes.overheid.nl/nl), uitlegbaarheid en traceerbaarheid van een besluit. - Hier worden de vereisten uitgewerkt die bestaan op basis van wet- en regelgeving en bestaand beleid met betrekking tot transparantie van algoritmen en AI. - Er worden suggesties gedaan hoe deze vereisten kunnen worden nageleefd met concrete maatregelen en welke rollen betrokken kunnen zijn. - Waar mogelijk worden voorbeelden en best practices uit de praktijk gegeven en zal worden aangegeven bij welk type algoritmen of AI dit relevant is. - Deze vereisten en maatregelen worden ook gekoppeld aan de levenscyclus van een algoritme. - Dit geeft een beeld van wanneer vereisten of maatregelen met betrekking tot transparantie, bij het ontwikkelen en gebruiken van algoritmen en AI, moeten en kunnen worden geadresseerd. +In dit bouwblok van het algoritmekader besteden we aandacht aan transparantie naar gebruikers en betrokkenen, transparantie door documentatie en opname in het [algoritmeregister](https://algoritmes.overheid.nl/nl), uitlegbaarheid en traceerbaarheid van een besluit. +Hier worden de vereisten uitgewerkt die bestaan op basis van wet- en regelgeving en bestaand beleid met betrekking tot transparantie van algoritmen en AI. +Er worden suggesties gedaan hoe deze vereisten kunnen worden nageleefd met concrete maatregelen en welke rollen betrokken kunnen zijn. +Waar mogelijk worden voorbeelden en best practices uit de praktijk gegeven en zal worden aangegeven bij welk type algoritmen of AI dit relevant is. +Deze vereisten en maatregelen worden ook gekoppeld aan de levenscyclus van een algoritme. +Dit geeft een beeld van wanneer vereisten of maatregelen met betrekking tot transparantie, bij het ontwikkelen en gebruiken van algoritmen en AI, moeten en kunnen worden geadresseerd. !!! info "Opmerking" - Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. + Dit bouwblok moet nog ontwikkeld worden. Deze pagina is dus nog niet volledig. Op deze pagina vind je mogelijk wel al onderdelen waar we aandacht aan willen besteden in dit bouwblok. ## Vereisten - ## Maatregelen diff --git a/docs/index.md b/docs/index.md index 43e1c8baae..aa84ddb686 100644 --- a/docs/index.md +++ b/docs/index.md @@ -5,46 +5,50 @@ hide: - navigation --- -# Welkom bij het algoritmekader! +# Welkom bij het algoritmekader! !!! tip "TL;DR" - Algoritmes en AI bieden kansen, maar ook risicoā€™s. Om ervoor te zorgen dat algoritmes en AI op een verantwoorde manier gebruikt worden en publieke waarden gewaarborgd zijn, maken we een interactief Algoritmekader, zodat organisaties in alle fasen van de levenscyclus van algoritmische en AI-toepassingen praktische handvatten hebben en weten aan welke vereisten zij zich moeten houden. + Algoritmes en AI bieden kansen, maar ook risicoā€™s. Om ervoor te zorgen dat algoritmes en AI op een verantwoorde manier gebruikt worden en publieke waarden gewaarborgd zijn, maken we een interactief Algoritmekader, zodat organisaties in alle fasen van de levenscyclus van algoritmische en AI-toepassingen praktische handvatten hebben en weten aan welke vereisten zij zich moeten houden. -De invloed van digitalisering is overal merkbaar in ons persoonlijke en zakelijke leven: het internet, smartphones, apps en online platformen zijn niet meer weg te denken uit ons dagelijks bestaan. -Dat geldt ook voor hoe de overheid haar werk doet. -Het gaat daarbij niet alleen om het aanbieden van digitale dienstverlening, maar ook om hoe de overheid beslissingen neemt. Algoritmes en AI bieden hierbij kansen, maar ook risicoā€™s. +De invloed van digitalisering is overal merkbaar in ons persoonlijke en zakelijke leven: het internet, smartphones, apps en online platformen zijn niet meer weg te denken uit ons dagelijks bestaan. +Dat geldt ook voor hoe de overheid haar werk doet. +Het gaat daarbij niet alleen om het aanbieden van digitale dienstverlening, maar ook om hoe de overheid beslissingen neemt. Algoritmes en AI bieden hierbij kansen, maar ook risicoā€™s. -Het is niet altijd herleidbaar wanneer algoritmes en AI gebruikt worden en of in die gevallen publieke waarden gewaarborgd zijn en hoe dat gebeurt. -Specifiek voor de overheid geldt dat het voor burgers en ondernemers duidelijk moet zijn wanneer een algoritme is gebruikt in besluitvorming, vooral wanneer dat potentieel impact heeft op diens situatie. -Bovendien is belangrijk dat beslissingen niet worden ervaren als ā€˜black boxā€™. +Het is niet altijd herleidbaar wanneer algoritmes en AI gebruikt worden en of in die gevallen publieke waarden gewaarborgd zijn en hoe dat gebeurt. +Specifiek voor de overheid geldt dat het voor burgers en ondernemers duidelijk moet zijn wanneer een algoritme is gebruikt in besluitvorming, vooral wanneer dat potentieel impact heeft op diens situatie. +Bovendien is belangrijk dat beslissingen niet worden ervaren als ā€˜black boxā€™. ## Het Algoritmekader -Waardengedreven met algoritmes en AI werken, betekent dat er aandacht moet zijn voor zaken als rollen en verantwoordelijkheden (governance), risicoā€™s op bias/discriminatie vroegtijdig detecteren, het veilig kunnen verweken van gegevens, de uitvoering van mensenrechtentoetsen (zoals IAMAā€™s) en adequate inkoopvoorwaarden afspreken voor algoritmes die de overheid inkoopt bij derden. -Aan deze opsomming zie je al dat op een verantwoorde manier met AI en algoritmes werken niet de verantwoordelijkheid is of kan zijn van Ć©Ć©n enkele professional in een organisatie. -Het vraagt bewustzijn en adequaat optreden van alle betrokkenen. -Van data scientists en beleidsmedewerkers, tot inkopers en bestuurders. En voor elk van deze professionals zijn andere vereisten en maatregelen relevant. Daarom maken we een Algoritmekader dat voor elk van deze professionals op een praktische manier te raadplegen is. Waarbij ze niet stranden in een overload aan informatie, maar kunnen vinden wat voor hen nuttig is. +Waardengedreven met algoritmes en AI werken, betekent dat er aandacht moet zijn voor zaken als rollen en verantwoordelijkheden (governance), risicoā€™s op bias/discriminatie vroegtijdig detecteren, het veilig kunnen verweken van gegevens, de uitvoering van mensenrechtentoetsen (zoals IAMAā€™s) en adequate inkoopvoorwaarden afspreken voor algoritmes die de overheid inkoopt bij derden. -Bij het bouwen aan het Algoritmekader maken we zoveel mogelijk gebruik van wat er al is: vereisten uit wet- en regelgeving en standaarden, maatregelen uit de praktijk (best practises) en instrumenten. Het kader brengt dit samen op een logische manier in een interactieve kennisbank. Zodat overheden in alle fasen van de levenscyclus van algoritmische en AI-toepassingen praktische handvatten hebben. Het kader wordt een praktisch hulpmiddel om algoritmes en AI verantwoord te kunnen inzetten en te voldoen aan de (minimale) vereisten die wet- en regelgeving daaraan stellen. +Aan deze opsomming zie je al dat op een verantwoorde manier met AI en algoritmes werken niet de verantwoordelijkheid is of kan zijn van Ć©Ć©n enkele professional in een organisatie. +Het vraagt bewustzijn en adequaat optreden van alle betrokkenen. +Van data scientists en beleidsmedewerkers, tot inkopers en bestuurders. En voor elk van deze professionals zijn andere vereisten en maatregelen relevant. Daarom maken we een Algoritmekader dat voor elk van deze professionals op een praktische manier te raadplegen is. Waarbij ze niet stranden in een overload aan informatie, maar kunnen vinden wat voor hen nuttig is. -De informatie in het Algoritmekader is logisch aan elkaar gekoppeld, zodat gebruikers interactief door de informatie kunnen navigeren. Er kan worden gestart vanuit de algoritme levenscyclus, de bouwblokken, de vereisten, maatregelen en rollen via de bovenstaande tabs. De informatie is 'gelaagd' opgebouwd. Dat betekent dat kan worden doorgeklikt om meer gedetailleerde informatie te raadplegen. De zoekbalk kan eveneens worden benut en spoedig is het mogelijk om exports naar PDF te maken van de geraadpleegde informatie. +Bij het bouwen aan het Algoritmekader maken we zoveel mogelijk gebruik van wat er al is: vereisten uit wet- en regelgeving en standaarden, maatregelen uit de praktijk (best practises) en instrumenten. Het kader brengt dit samen op een logische manier in een interactieve kennisbank. Zodat overheden in alle fasen van de levenscyclus van algoritmische en AI-toepassingen praktische handvatten hebben. Het kader wordt een praktisch hulpmiddel om algoritmes en AI verantwoord te kunnen inzetten en te voldoen aan de (minimale) vereisten die wet- en regelgeving daaraan stellen. + +De informatie in het Algoritmekader is logisch aan elkaar gekoppeld, zodat gebruikers interactief door de informatie kunnen navigeren. Er kan worden gestart vanuit de algoritme levenscyclus, de bouwblokken, de vereisten, maatregelen en rollen via de bovenstaande tabs. De informatie is 'gelaagd' opgebouwd. Dat betekent dat kan worden doorgeklikt om meer gedetailleerde informatie te raadplegen. De zoekbalk kan eveneens worden benut en spoedig is het mogelijk om exports naar PDF te maken van de geraadpleegde informatie. We werken open en samen aan het Algoritmekader; iedereen kan deze ontwikkeling volgen en eraan bijdragen. -We werken samen met verschillende overheidsorganisaties en kennisinstellingen. -Wil je hier meer over weten, lees dan verder op de pagina waar we dit toelichten. +We werken samen met verschillende overheidsorganisaties en kennisinstellingen. +Wil je hier meer over weten, lees dan verder op de pagina waar we dit toelichten. !!! info "Disclaimer" - Het Algoritmekader is volop in ontwikkeling. Het is mogelijk dat je zaken in het kader kunt tegenkomen die niet af of soms zelfs fout kunnen zijn. Mocht je denken dat er iets niet klopt, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). We werken stap voor stap toe naar een inhoudelijk zo correct en dekkend mogelijk Algoritmekader. + Het Algoritmekader is volop in ontwikkeling. Het is mogelijk dat je zaken in het kader kunt tegenkomen die niet af of soms zelfs fout kunnen zijn. Mocht je denken dat er iets niet klopt, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). We werken stap voor stap toe naar een inhoudelijk zo correct en dekkend mogelijk Algoritmekader. ## Eerdere versies van het algoritmekader -Zie het [Implementatiekader](https://www.rijksoverheid.nl/documenten/rapporten/2023/06/30/implementatiekader-verantwoorde-inzet-van-algoritmen) dat in juni 2023 naar de Tweede Kamer is verzonden. + +Zie het [Implementatiekader](https://www.rijksoverheid.nl/documenten/rapporten/2023/06/30/implementatiekader-verantwoorde-inzet-van-algoritmen) dat in juni 2023 naar de Tweede Kamer is verzonden. ## Bijdragen aan het algoritmekader? + We ontwikkelen het Algoritmekader op een open manier via [GitHub](https://github.com/MinBZK/Algoritmekader). Bekijk de [ontwikkelomgeving](https://github.com/MinBZK/Algoritmekader) van het Algoritmekader. -### Heb je een vraag of opmerking? +### Heb je een vraag of opmerking? + Neem contact op via [GitHub](https://github.com/MinBZK/Algoritmekader) (zie punt 4 of 5) of stuur een email naar algoritmes@minbzk.nl. [Stuur een mail :fontawesome-solid-paper-plane:](mailto:algoritmes@minbzk.nl?subject=Vraag%20over%20het%20algoritmekader){ .md-button } diff --git a/docs/instrumenten/index.md b/docs/instrumenten/index.md index bdb4487d9a..3084052562 100644 --- a/docs/instrumenten/index.md +++ b/docs/instrumenten/index.md @@ -7,52 +7,53 @@ summary: Hier staat een korte samenvatting over dit onderwerp Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). -Er is een groot aanbod aan instrumenten die kunnen worden ingezet tijdens de ontwikkeling, gebruik, beoordeling en/of monitoring van algoritmes. Binnen het Algoritmekader worden instrumenten als volgt gedefinieerd: - -> Een instrument heeft als doel om op systematische wijze (een bepaald aspect van) verantwoorde en effectieve inzet van algoritmes te bevorderen en/of te evalueren. Een instrument bevat hulpmiddelen of richtlijnen om kenmerken, prestaties, effecten en risicoā€™s van de inzet van algoritmes in kaart te brengen, te beoordelen en mogelijk te verbeteren[^1]. +Er is een groot aanbod aan instrumenten die kunnen worden ingezet tijdens de ontwikkeling, gebruik, beoordeling en/of monitoring van algoritmes. Binnen het Algoritmekader worden instrumenten als volgt gedefinieerd: -[^1]: Definitie opgesteld door team Algoritmekader +> Een instrument heeft als doel om op systematische wijze (een bepaald aspect van) verantwoorde en effectieve inzet van algoritmes te bevorderen en/of te evalueren. Een instrument bevat hulpmiddelen of richtlijnen om kenmerken, prestaties, effecten en risicoā€™s van de inzet van algoritmes in kaart te brengen, te beoordelen en mogelijk te verbeteren[^1]. -Instrumenten worden ontwikkeld door de verschillende partijen, zoals de overheid, wetenschap en industrie. -Bekende voorbeelden hiervan zijn het IAMA (UU) en het Toetsingskader Algoritmes (ARK). -Het team Algoritmekader heeft verschillende instrumenten geanalyseerd. -Wat opvalt is dat er (veel) overlap zit tussen deze instrumenten wat betreft doel en onderwerpen. -Het is voor gebruikers ook niet altijd duidelijk wanneer welk instrument kan of moeten worden ingezet en of het dan alle relevante aspecten van een onderwerp dekt. +[^1]: Definitie opgesteld door team Algoritmekader -Door een beperkt aantal instrumenten op te nemen in het Algoritmekader, wordt geprobeerd om organisaties handvatten te bieden voor het inzetten van passende instrumenten. -Er is gekozen voor een aanpak waarbij bekende instrumenten worden gelinkt aan de verschillende bouwblokken van het Algoritmekader. -Een instrument zal worden opgenomen wanneer: +Instrumenten worden ontwikkeld door de verschillende partijen, zoals de overheid, wetenschap en industrie. +Bekende voorbeelden hiervan zijn het IAMA (UU) en het Toetsingskader Algoritmes (ARK). +Het team Algoritmekader heeft verschillende instrumenten geanalyseerd. +Wat opvalt is dat er (veel) overlap zit tussen deze instrumenten wat betreft doel en onderwerpen. +Het is voor gebruikers ook niet altijd duidelijk wanneer welk instrument kan of moeten worden ingezet en of het dan alle relevante aspecten van een onderwerp dekt. -- Deze bekend is onder een gebruikersgroep (van overheidsorganisaties/-medewerkers) die relatief groot genoeg is; -- Kan worden vastgesteld of het instrument reeds vaker wordt ingezet; -- Kan worden vastgesteld of ervaringen met het instrument overwegend positief zijn +Door een beperkt aantal instrumenten op te nemen in het Algoritmekader, wordt geprobeerd om organisaties handvatten te bieden voor het inzetten van passende instrumenten. +Er is gekozen voor een aanpak waarbij bekende instrumenten worden gelinkt aan de verschillende bouwblokken van het Algoritmekader. +Een instrument zal worden opgenomen wanneer: -Bovendien is het van belang dat een instrument in ieder geval passend is voor algoritmes binnen het overheidsdomein. -Wanneer een gebruiker informatie zoekt binnen een bouwblok, zal (wanneer beschikbaar) worden verwezen naar het betreffende instrument dat onderwerpen uit het betreffende bouwblok ondersteunt. -Het is de bedoeling dat daarbij een korte beschrijving van het instrument wordt opgenomen. -Indien hier (op termijn) informatie over beschikbaar is, zullen ook voor- en nadelen worden opgenomen. -Een gebruiker kan er dan voor kiezen het betreffende instrument wel of niet in te zetten. +- Deze bekend is onder een gebruikersgroep (van overheidsorganisaties/-medewerkers) die relatief groot genoeg is; +- Kan worden vastgesteld of het instrument reeds vaker wordt ingezet; +- Kan worden vastgesteld of ervaringen met het instrument overwegend positief zijn -Deze aanpak geniet de voorkeur boven het opnemen van alle bestaande/bekende instrumenten in het Algoritmekader. -Er zou dan alsnog sprake zijn van een grote hoeveelheid overlap tussen de verschillende instrumenten en onduidelijkheid opleveren voor gebruikers. -Een ander praktisch aspect is dat het niet voor elk instrument valt vast te stellen of het van goede kwaliteit is. -Een inhoudelijke analyse van elk individueel instrument zou ook een opdracht op zichzelf zijn, die op het moment van schrijven niet is uit te voeren binnen de ontwikkeling van het Algoritmekader. +Bovendien is het van belang dat een instrument in ieder geval passend is voor algoritmes binnen het overheidsdomein. +Wanneer een gebruiker informatie zoekt binnen een bouwblok, zal (wanneer beschikbaar) worden verwezen naar het betreffende instrument dat onderwerpen uit het betreffende bouwblok ondersteunt. +Het is de bedoeling dat daarbij een korte beschrijving van het instrument wordt opgenomen. +Indien hier (op termijn) informatie over beschikbaar is, zullen ook voor- en nadelen worden opgenomen. +Een gebruiker kan er dan voor kiezen het betreffende instrument wel of niet in te zetten. -Tot slot is het belangrijk te benadrukken dat een instrument iets anders is dan een wettelijke verplichting. -Er bestaan wettelijke verplichtingen die de inzet van bepaalde instrumenten voorschrijven. Een bekend voorbeeld hiervan is de DPIA. Echter is de inzet van de meeste instrumenten niet verplicht en ligt de keuze meestal bij de gebruiker. +Deze aanpak geniet de voorkeur boven het opnemen van alle bestaande/bekende instrumenten in het Algoritmekader. +Er zou dan alsnog sprake zijn van een grote hoeveelheid overlap tussen de verschillende instrumenten en onduidelijkheid opleveren voor gebruikers. +Een ander praktisch aspect is dat het niet voor elk instrument valt vast te stellen of het van goede kwaliteit is. +Een inhoudelijke analyse van elk individueel instrument zou ook een opdracht op zichzelf zijn, die op het moment van schrijven niet is uit te voeren binnen de ontwikkeling van het Algoritmekader. + +Tot slot is het belangrijk te benadrukken dat een instrument iets anders is dan een wettelijke verplichting. +Er bestaan wettelijke verplichtingen die de inzet van bepaalde instrumenten voorschrijven. Een bekend voorbeeld hiervan is de DPIA. Echter is de inzet van de meeste instrumenten niet verplicht en ligt de keuze meestal bij de gebruiker. ## De instrumenten + Het Algoritmekader is tot stand gekomen op basis van de volgende instrumenten: -| **Naam instrument** | **Categorie** | **Jaartal uitgebracht** | **Verantwoordelijke organisatie** | **Ontwikkeld door** | **null** | **null** | **Ontwikkeld voor** | **null** | **null** | **Voor overheidsorganisatie specfiek** | **Volwassenheidsniveau** | **Locatie** | **Doel** | **null** | **null** | **null** | **Mogelijke wettelijke verplichting** | **Toelichting doel** | **Toepassing** | -|--------------------------------------------------------------------------------------------------------------|----------------------|-------------------------|----------------------------------------------------------|---------------------|------------|----------|---------------------|------------|----------|----------------------------------------|--------------------------|----------------|-------------|----------|-----------|--------------|---------------------------------------|------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|----------------------| +| **Naam instrument** | **Categorie** | **Jaartal uitgebracht** | **Verantwoordelijke organisatie** | **Ontwikkeld door** | **null** | **null** | **Ontwikkeld voor** | **null** | **null** | **Voor overheidsorganisatie specfiek** | **Volwassenheidsniveau** | **Locatie** | **Doel** | **null** | **null** | **null** | **Mogelijke wettelijke verplichting** | **Toelichting doel** | **Toepassing** | +| ------------------------------------------------------------------------------------------------------------ | -------------------- | ----------------------- | -------------------------------------------------------- | ------------------- | ---------- | -------- | ------------------- | ---------- | -------- | -------------------------------------- | ------------------------ | -------------- | ----------- | -------- | --------- | ------------ | ------------------------------------- | ---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | -------------------- | --- | --- | | | | | | overheid | wetenschap | overig | overheid | wetenschap | overig | | | | Informerend | Sturend | Normerend | Faciliterend | | | technologie algemeen | | Impact Assessment Mensenrechten en Algoritmes | Impact Assessment | 2021 | Universiteit Utrecht | ja | ja | | ja | ja | | | In gebruik | Internationaal | Ā± | - | - | + | ja | Dit impact assessment werkt in eerste instantie faciliterend voor het gesprek. Maar biedt ook veel informatie. | Ā± | | Handreiking Non-discriminatie by Design | Handleiking/leidraad | 2021 | Binnenlandse Zaken | ja | ja | nee | ja | ja | ja | | In gebruik | Nationaal | + | + | - | Ā± | nee | Deze handreiking is bedoeld voor projectleiders die sturing geven aan systeembouwers, data-analisten en AI-experts op het gebied van het discriminatieverbod. | - | | De Ethische Data Assistent (DEDA) | Handleiking/leidraad | 2022 | Utrecht Data School | nee | ja | nee | ja | ja | ja | | In gebruik | Nationaal | + | - | - | + | nee | DEDA helpt data-analisten, projectmanagers en beleidsmakers om samen ethische problemen in dataprojecten, datamanagement en databeleid te herkennen. | - | | Toetsingskader Algoritmes Algemene Rekenkamer | Toetsingskader | 2020 | Algemene Rekenkamer | ja | nee | nee | ja | ja | ja | | In gebruik | Nationaal | + | + | - | - | nee | Dit toetsingskader is een instrument dat aandacht besteedt aan de relevante perspectieven op algoritmes. Met een vertaling van normenkaders en richtlijnen naar verschillende aspecten waarop algoritmes kunnen worden getoetst. Een instrument dat bovendien rekening houdt met de risicoā€™s en de onderzoeksvragen die in een toetsingskader aan bod moeten komen. | - | | Baseline Informatiebeveiliging Overheid | Wet- en regelgeving | 2018 | Binnenlandse Zaken | ja | nee | nee | ja | nee | nee | | In gebruik | Nationaal | - | - | + | - | ja | De Baseline Informatiebeveiliging Overheid (BIO) is het basisnormenkader voor informatiebeveiliging binnen alle overheidslagen (Rijk, gemeenten, provincies en waterschappen). | + | -| Framework for Meaningful Engagement | Handleiking/leidraad | 2023 | Action Coalition on Civic Engagement for AI (Denemarken) | ja | nee | ja | ja | ja | ja | | In gebruik | Internationaal | + | Ā± | - | + | nee | Dit kader is gecreĆ«erd om iedereen die producten of diensten ontwerpt met behulp van AI, machine learning of op algoritme-gebaseerde gegegevensanalyse in staat te stellen belanghebbenden bij dat proces te betrekken. | Ā± | | + | +| Framework for Meaningful Engagement | Handleiking/leidraad | 2023 | Action Coalition on Civic Engagement for AI (Denemarken) | ja | nee | ja | ja | ja | ja | | In gebruik | Internationaal | + | Ā± | - | + | nee | Dit kader is gecreĆ«erd om iedereen die producten of diensten ontwerpt met behulp van AI, machine learning of op algoritme-gebaseerde gegegevensanalyse in staat te stellen belanghebbenden bij dat proces te betrekken. | Ā± | | + | | Waarborgen Selectie-Instrumenten voor de Belastingdienst | Handleiking/leidraad | 2023 | Belastingdienst | ja | nee | nee | ja | nee | nee | FinanciĆ«n (Fin) | In gebruik | Nationaal | + | + | Ā± | - | nee | Een waarborgenkader voor selectie-instrumenten waarmee de rechtmatigheid en transparantie van de instrumenten (beter) gegarandeerd kunnen worden. | + | | Modelbepalingen en toelichting voor verantwoord gebruik van algoritme door de overheid (contractvoorwaarden) | Handleiking/leidraad | 2022 | Gemeente Amsterdam | ja | nee | nee | ja | nee | nee | Gemeenten | In gebruik | Nationaal | + | + | Ā± | - | nee | | + | | AI Impact Assessment | Handleiking/leidraad | 2022 | Infrastructuur en Waterstaat | ja | nee | nee | ja | ja | ja | | In gebruik | Nationaal | Ā± | - | - | + | nee | Het AI Impact Assessment (AIIA) is een hulpmiddel voor het maken van afwegingen bij het inzetten van kunstmatige intelligentie (artificial intelligence, AI) in een project. Het AIIA dient als instrument voor het gesprek en het vastleggen van het denkproces zodat onder andere de verantwoording, kwaliteit en reproduceerbaarheid worden vergroot. | - | diff --git a/docs/levenscyclus/archiveren.md b/docs/levenscyclus/archiveren.md index bcfad3ad6e..a56814330d 100644 --- a/docs/levenscyclus/archiveren.md +++ b/docs/levenscyclus/archiveren.md @@ -1,9 +1,9 @@ ---- +--- title: Archiveren --- Wanneer het algoritme of AI-model niet langer nodig is of wordt vervangen door een verbeterde versie, wordt het gearchiveerd. Dit omvat het behouden van documentatie en eventuele relevante artefacten. - + ## Vereisten @@ -15,4 +15,3 @@ Wanneer het algoritme of AI-model niet langer nodig is of wordt vervangen door e !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). - diff --git a/docs/levenscyclus/dataverkenning-en-datapreparatie.md b/docs/levenscyclus/dataverkenning-en-datapreparatie.md index 3a85d3ab38..fc168649b5 100644 --- a/docs/levenscyclus/dataverkenning-en-datapreparatie.md +++ b/docs/levenscyclus/dataverkenning-en-datapreparatie.md @@ -1,24 +1,23 @@ ---- +--- title: Dataverkenning en datapreparatie --- In deze fase worden relevante datasets geĆÆdentificeerd en geanalyseerd om inzicht te krijgen. Daarna worden de gegevens verzameld, gereinigd en voorbereid voor gebruik. -In deze fase worden relevante datasets geĆÆdentificeerd en wanneer nodig wordt nieuwe data verzameld. -In deze fase zal ook de ontwikkelomgeving (verder) worden ingericht indien nodig. -Het is van belang dat voorafgaand aan verzameling is vastgesteld dat de benodigde data mag worden verwerkt en dat de juiste maatregelen worden getroffen, zodra de data kan worden verwerkt. -Denk hierbij aan het anonimiseren, pseudonimiseren of aggregeren van persoonsgegevens. -De data zullen vervolgens worden opgeschoond, geanalyseerd en voorbereid voor verdere verwerking. - -Het is van belang dat dataverzameling op de juiste manier gebeurt, en dat datasets die gebruikt gaan worden van goede kwaliteit zijn. -In deze fase is het van belang om de datakwaliteit en eventuele bias in de dataset te onderzoeken. -Indien er risico's optreden door bijvoorbeeld missende data of niet representatieve data, is het belangrijk om te kijken wat voor effecten dit heeft op het oorspronkelijke ontwerp van het algoritme of AI-systeem. -Dit kan betekenen dat nieuwe keuzes moeten worden gemaakt in het ontwerp en eventueel eerste deze fase van ontwerp (deels) opnieuw moet worden doorlopen. +In deze fase worden relevante datasets geĆÆdentificeerd en wanneer nodig wordt nieuwe data verzameld. +In deze fase zal ook de ontwikkelomgeving (verder) worden ingericht indien nodig. +Het is van belang dat voorafgaand aan verzameling is vastgesteld dat de benodigde data mag worden verwerkt en dat de juiste maatregelen worden getroffen, zodra de data kan worden verwerkt. +Denk hierbij aan het anonimiseren, pseudonimiseren of aggregeren van persoonsgegevens. +De data zullen vervolgens worden opgeschoond, geanalyseerd en voorbereid voor verdere verwerking. -Met voorgaande handelingen wordt het fundament gelegd om het algoritme of AI-systeem te kunnen ontwikkelen. -In de praktijk zal bijvoorbeeld het analyseren van de data niet stoppen na deze fase, maar terugkerend zijn in alle fasen die volgen. -Als de verzamelde data van voldoende kwaliteit is en de vereiste maatregelen zijn getroffen, dan kan worden gestart met het ontwikkelen van het algoritme of AI-systeem. +Het is van belang dat dataverzameling op de juiste manier gebeurt, en dat datasets die gebruikt gaan worden van goede kwaliteit zijn. +In deze fase is het van belang om de datakwaliteit en eventuele bias in de dataset te onderzoeken. +Indien er risico's optreden door bijvoorbeeld missende data of niet representatieve data, is het belangrijk om te kijken wat voor effecten dit heeft op het oorspronkelijke ontwerp van het algoritme of AI-systeem. +Dit kan betekenen dat nieuwe keuzes moeten worden gemaakt in het ontwerp en eventueel eerste deze fase van ontwerp (deels) opnieuw moet worden doorlopen. +Met voorgaande handelingen wordt het fundament gelegd om het algoritme of AI-systeem te kunnen ontwikkelen. +In de praktijk zal bijvoorbeeld het analyseren van de data niet stoppen na deze fase, maar terugkerend zijn in alle fasen die volgen. +Als de verzamelde data van voldoende kwaliteit is en de vereiste maatregelen zijn getroffen, dan kan worden gestart met het ontwikkelen van het algoritme of AI-systeem. ## Vereisten diff --git a/docs/levenscyclus/implementatie.md b/docs/levenscyclus/implementatie.md index 99465eb46a..502153c1a9 100644 --- a/docs/levenscyclus/implementatie.md +++ b/docs/levenscyclus/implementatie.md @@ -1,20 +1,20 @@ ---- +--- title: Implementatie --- -In deze fase wordt het algoritme of AI-systeem in de praktijk gebracht en duurzaam geĆÆntegreerd in het bedrijfsproces. -In de praktijk worden veelal eerst een pilot uitgevoerd voor een afgebakende periode of over een beperkt aan zaken. -In deze situatie, een pilot, wordt tijdelijk productiedata verwerkt. -Dit vraagt om een goede samenwerking tussen het ontwikkelteam en de gebruikers van het algoritme of AI-systeem. -Niet alleen de prestaties van het algoritme of AI-systeem worden nogmaals gevalideerd, maar bijvoorbeeld ook of de output zodanig wordt gepresenteerd dat gebruikers hiermee kunnen werken. -Na deze pilot wordt onderzocht in hoeverre het algoritme of AI-systeem presteert conform wens en verwachting. -Er kan worden gekozen om het algoritme eerst nog door te ontwikkelen op basis van de bevindingen, uit te faseren of om de oplossing structureel onderdeel te maken van de bedrijfsvoering door het te implementeren. +In deze fase wordt het algoritme of AI-systeem in de praktijk gebracht en duurzaam geĆÆntegreerd in het bedrijfsproces. +In de praktijk worden veelal eerst een pilot uitgevoerd voor een afgebakende periode of over een beperkt aan zaken. +In deze situatie, een pilot, wordt tijdelijk productiedata verwerkt. +Dit vraagt om een goede samenwerking tussen het ontwikkelteam en de gebruikers van het algoritme of AI-systeem. +Niet alleen de prestaties van het algoritme of AI-systeem worden nogmaals gevalideerd, maar bijvoorbeeld ook of de output zodanig wordt gepresenteerd dat gebruikers hiermee kunnen werken. +Na deze pilot wordt onderzocht in hoeverre het algoritme of AI-systeem presteert conform wens en verwachting. +Er kan worden gekozen om het algoritme eerst nog door te ontwikkelen op basis van de bevindingen, uit te faseren of om de oplossing structureel onderdeel te maken van de bedrijfsvoering door het te implementeren. Als een besluit wordt genomen om de oplossing te implementeren, dan is het van belang dat gebruikers goed begrijpen hoe de resultaten van het algoritme of AI-systeem moeten worden geĆÆnterpreteerd, dat de rest-risico's bekend zijn, de verantwoordelijkheden belegd zijn en dat er duidelijke werkinstructies zijn over het gebruik van het algoritme of AI-systeem. -Service- en incidentmanagement moet volledig worden geoperationaliseerd, zodat gebruikers kunnen worden geholpen bij vragen of incidenten. -Een kenmerkend element van deze fase is dat vanaf nu betrokkenen onderhevig zijn aan de werking van het algoritme of AI-systeem. -Beslissingen en besluiten komen nu bijvoorbeeld mede of geheel door de werking van het algoritme of AI-systeem tot stand. -Waar passend, bijvoorbeeld bij impactvolle of hoog risico AI-systemen wordt dit duidelijk gecommuniceerd naar betrokken, voordat de oplossing volledig is geĆÆmplementeerd. +Service- en incidentmanagement moet volledig worden geoperationaliseerd, zodat gebruikers kunnen worden geholpen bij vragen of incidenten. +Een kenmerkend element van deze fase is dat vanaf nu betrokkenen onderhevig zijn aan de werking van het algoritme of AI-systeem. +Beslissingen en besluiten komen nu bijvoorbeeld mede of geheel door de werking van het algoritme of AI-systeem tot stand. +Waar passend, bijvoorbeeld bij impactvolle of hoog risico AI-systemen wordt dit duidelijk gecommuniceerd naar betrokken, voordat de oplossing volledig is geĆÆmplementeerd. ## Vereisten @@ -27,4 +27,3 @@ Waar passend, bijvoorbeeld bij impactvolle of hoog risico AI-systemen wordt dit !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). - diff --git a/docs/levenscyclus/index.md b/docs/levenscyclus/index.md index 7e771ecb19..bf57328fef 100644 --- a/docs/levenscyclus/index.md +++ b/docs/levenscyclus/index.md @@ -1,35 +1,36 @@ ---- +--- title: Levenscyclus icon: material/reload ---- +--- !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). -Algoritmes en AI kunnen door overheidsorganisaties worden gebruikt, bijvoorbeeld bij het leveren van diensten of het nemen van besluiten. -Algoritmes en AI-systemen doorlopen een zogeheten levenscyclus. -Een algoritme wordt ontwikkeld, in productie genomen, en na enige tijd van gebruik kan worden besloten het gebruik ervan te beĆ«indigen. -Omdat de levenscyclus van een algoritme en AI aanzet tot nadenken over de inzet van algoritmes van begin tot eind is het bruikbaar als leidraad om relevante informatie te structureren en te communiceren. -Wat is het doel, gaat het gebruik ervan wel naar verwachting, wanneer moet wat worden gedaan en wat als het gebruik ten einde loopt? -In praktijk kan het zo zijn dat de levenscyclus anders verloopt, bijvoorbeeld omdat na validatie en verificatie eerst terug naar de tekentafel moet worden gegaan (ontwerpfase) omdat het nog niet aan de wensen of vereisten voldoet. +Algoritmes en AI kunnen door overheidsorganisaties worden gebruikt, bijvoorbeeld bij het leveren van diensten of het nemen van besluiten. +Algoritmes en AI-systemen doorlopen een zogeheten levenscyclus. +Een algoritme wordt ontwikkeld, in productie genomen, en na enige tijd van gebruik kan worden besloten het gebruik ervan te beĆ«indigen. +Omdat de levenscyclus van een algoritme en AI aanzet tot nadenken over de inzet van algoritmes van begin tot eind is het bruikbaar als leidraad om relevante informatie te structureren en te communiceren. +Wat is het doel, gaat het gebruik ervan wel naar verwachting, wanneer moet wat worden gedaan en wat als het gebruik ten einde loopt? +In praktijk kan het zo zijn dat de levenscyclus anders verloopt, bijvoorbeeld omdat na validatie en verificatie eerst terug naar de tekentafel moet worden gegaan (ontwerpfase) omdat het nog niet aan de wensen of vereisten voldoet. - ![Levenscyclus](levenscyclus.jpg) +![Levenscyclus](levenscyclus.jpg) !!! note "opmerking" - De fasen van de levenscyclus zijn recent aangepast. Het bijbehorende figuur krijgt nog een update en wordt zo snel mogelijk aangepast. +De fasen van de levenscyclus zijn recent aangepast. Het bijbehorende figuur krijgt nog een update en wordt zo snel mogelijk aangepast. -## Verschillende versies levenscyclus -De stappen in de levenscyclus van het Algoritmekader zijn gebaseerd op een samenvoeging van meer dan tien verschillende levenscyclusmodellen. -Zie [hier](../levenscyclus/Levenscyclus%20vergelijkingstabel.pdf) een overzicht. -Afhankelijk van hoe een organisatie het ontwikkelproces inricht, kan een levenscyclusmodel er net weer anders uitzien. -De huidige indeling is gekozen omdat deze het beste aansluit bij bestaande levenscyclusmodellen en bij de behoeftes en werkwijze van overheidsinstanties. +## Verschillende versies levenscyclus -## Doorlopend verantwoord +De stappen in de levenscyclus van het Algoritmekader zijn gebaseerd op een samenvoeging van meer dan tien verschillende levenscyclusmodellen. +Zie [hier](../levenscyclus/Levenscyclus%20vergelijkingstabel.pdf) een overzicht. +Afhankelijk van hoe een organisatie het ontwikkelproces inricht, kan een levenscyclusmodel er net weer anders uitzien. +De huidige indeling is gekozen omdat deze het beste aansluit bij bestaande levenscyclusmodellen en bij de behoeftes en werkwijze van overheidsinstanties. -Om tot een wettige, ethisch verantwoorde en robuuste inzet van algoritmes en AI te komen zullen in elke fase van de levenscyclus specifieke handelingen of maatregelen moeten worden getroffen. +## Doorlopend verantwoord + +Om tot een wettige, ethisch verantwoorde en robuuste inzet van algoritmes en AI te komen zullen in elke fase van de levenscyclus specifieke handelingen of maatregelen moeten worden getroffen. In het Algoritmekader worden vereisten en maatregelen gekoppeld aan de levenscyclus. -De meeste vereisten waar algoritmen en AI aan moeten voldoen zullen in meerdere fasen van levenscyclus relevant zijn. -Zo zijn transparantie, veiligheid, privacy, risicomanagement, en de afweging van ethische aspecten belangrijk in iedere fase van de levenscyclus. -Maatregelen bij de vereisten kunnen fijnmaziger worden gekoppeld aan verschillende fases van de levenscyclus, hoewel bepaalde maatregelen ook terugkerend zullen zijn en voortdurend aandacht moeten krijgen. -Naast een beschrijving van de betreffende fase, wordt weergeven welke vereisten en maatregelen relevant kunnen zijn binnen deze fase. \ No newline at end of file +De meeste vereisten waar algoritmen en AI aan moeten voldoen zullen in meerdere fasen van levenscyclus relevant zijn. +Zo zijn transparantie, veiligheid, privacy, risicomanagement, en de afweging van ethische aspecten belangrijk in iedere fase van de levenscyclus. +Maatregelen bij de vereisten kunnen fijnmaziger worden gekoppeld aan verschillende fases van de levenscyclus, hoewel bepaalde maatregelen ook terugkerend zullen zijn en voortdurend aandacht moeten krijgen. +Naast een beschrijving van de betreffende fase, wordt weergeven welke vereisten en maatregelen relevant kunnen zijn binnen deze fase. diff --git a/docs/levenscyclus/monitoren.md b/docs/levenscyclus/monitoren.md index 72447b9fc9..d7b11287e5 100644 --- a/docs/levenscyclus/monitoren.md +++ b/docs/levenscyclus/monitoren.md @@ -1,4 +1,4 @@ ---- +--- title: Monitoren --- @@ -12,8 +12,6 @@ Het algoritme of AI-model wordt voortdurend gemonitord om ervoor te zorgen dat h - !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). - diff --git a/docs/levenscyclus/monitoring-en-beheer.md b/docs/levenscyclus/monitoring-en-beheer.md index b39e506f89..e46bce10d2 100644 --- a/docs/levenscyclus/monitoring-en-beheer.md +++ b/docs/levenscyclus/monitoring-en-beheer.md @@ -1,16 +1,16 @@ ---- +--- title: Monitoring en beheer --- -Het algoritme of AI-systeem wordt in deze fase voortdurend gemonitord om ervoor te zorgen dat het blijft presteren zoals verwacht en kan worden gebruikt door gebruikers. -Eventuele afwijkingen of degradatie van prestaties worden gesignaleerd en er worden maatregelen getroffen om dit te herstellen. -Dit is van belang vanuit een technisch perspectief (presteert het model nog wel waar het voor ontworpen is), maar ook vanuit een juridische en ethische blik (functioneert het model nog wel rechtmatig en zijn er geen onvoorziene nadelige effecten op mens en maatschappij). -Hierbij dient ook voortdurend gemonitord te worden of de omstandigheden waarin het algoritme of AI-systeem wordt gebruikt veranderlijk zijn, en of daar op geanticipeerd moet worden. -Dit kan bijvoorbeeld spelen bij veranderende data of bij het uitvoeren van nieuw beleid of wet- en regelgeving in het werkproces dat wordt ondersteund met het algoritme of AI-systeem. +Het algoritme of AI-systeem wordt in deze fase voortdurend gemonitord om ervoor te zorgen dat het blijft presteren zoals verwacht en kan worden gebruikt door gebruikers. +Eventuele afwijkingen of degradatie van prestaties worden gesignaleerd en er worden maatregelen getroffen om dit te herstellen. +Dit is van belang vanuit een technisch perspectief (presteert het model nog wel waar het voor ontworpen is), maar ook vanuit een juridische en ethische blik (functioneert het model nog wel rechtmatig en zijn er geen onvoorziene nadelige effecten op mens en maatschappij). +Hierbij dient ook voortdurend gemonitord te worden of de omstandigheden waarin het algoritme of AI-systeem wordt gebruikt veranderlijk zijn, en of daar op geanticipeerd moet worden. +Dit kan bijvoorbeeld spelen bij veranderende data of bij het uitvoeren van nieuw beleid of wet- en regelgeving in het werkproces dat wordt ondersteund met het algoritme of AI-systeem. -Het is van belang dat beheer wordt uitgevoerd over het algoritme of AI-systeem, zodat de (gehele) oplossing operationeel blijft. -Een wijziging in onderliggende systemen kan er bijvoorbeeld voor zorgen dat het algoritme of AI-systeem niet meer wordt voorzien van de noodzakelijk data om de benodigde output te genereren. -Het beheerteam zorgt ervoor dat dergelijke situaties worden voorkomen of opgelost. Er kunnen ook incidenten worden gemeld door gebruikers die worden opgelost door het beheerteam. +Het is van belang dat beheer wordt uitgevoerd over het algoritme of AI-systeem, zodat de (gehele) oplossing operationeel blijft. +Een wijziging in onderliggende systemen kan er bijvoorbeeld voor zorgen dat het algoritme of AI-systeem niet meer wordt voorzien van de noodzakelijk data om de benodigde output te genereren. +Het beheerteam zorgt ervoor dat dergelijke situaties worden voorkomen of opgelost. Er kunnen ook incidenten worden gemeld door gebruikers die worden opgelost door het beheerteam. ## Vereisten @@ -20,8 +20,6 @@ Het beheerteam zorgt ervoor dat dergelijke situaties worden voorkomen of opgelos - !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). - diff --git a/docs/levenscyclus/ontwerp.md b/docs/levenscyclus/ontwerp.md index 541be22283..e6e48d7477 100644 --- a/docs/levenscyclus/ontwerp.md +++ b/docs/levenscyclus/ontwerp.md @@ -1,25 +1,25 @@ ---- +--- title: Ontwerp --- -In de ontwerpfase wordt het conceptuele ontwerp van het AI-systeem uitgedacht. -Het is van belang om belangrijke uitgangspunten en beleid, zoals doelarchitectuur en de datastrategie, van de betreffende organisatie meteen te verwerken in het ontwerp en dat het applicatielandschap en de databronnen in beeld wordt gebracht. -In deze fase worden doorgaans veel werkzaamheden verzet, zoals business- en informatieanalyse, om een goed beeld te krijgen hoe aan de beoogde doelstellingen kan worden voldaan met een passende oplossing. +In de ontwerpfase wordt het conceptuele ontwerp van het AI-systeem uitgedacht. +Het is van belang om belangrijke uitgangspunten en beleid, zoals doelarchitectuur en de datastrategie, van de betreffende organisatie meteen te verwerken in het ontwerp en dat het applicatielandschap en de databronnen in beeld wordt gebracht. +In deze fase worden doorgaans veel werkzaamheden verzet, zoals business- en informatieanalyse, om een goed beeld te krijgen hoe aan de beoogde doelstellingen kan worden voldaan met een passende oplossing. -Het is goed denkbaar dat meerdere ontwerpen in deze fase tot stand komen voor het te ontwikkelen algoritme of AI-systeem. -Het is van belang om deze ontwerpen te toetsen bij bijvoorbeeld de proceseigenaar, opdrachtgever en gebruiker, maar ook bij informatiebeveiligingsadviseurs, privacy officers, informatiebeheerders, architecten of een ethicus. +Het is goed denkbaar dat meerdere ontwerpen in deze fase tot stand komen voor het te ontwikkelen algoritme of AI-systeem. +Het is van belang om deze ontwerpen te toetsen bij bijvoorbeeld de proceseigenaar, opdrachtgever en gebruiker, maar ook bij informatiebeveiligingsadviseurs, privacy officers, informatiebeheerders, architecten of een ethicus. Deze experts kunnen vanuit hun vakgebied een eerste toets doen in hoeverre het ontwerp haalbaar of gewenst is, aansluit bij de gebruikersbehoefte, aan welke vereisten moet worden voldaan of dat er risicoanalyses moeten worden uitgevoerd en een onafhankelijke commissies moet worden betrokken. -Met deze input kan het ontwerp worden verbeterd en vraagstukken over bijvoorbeeld governance en risicomanagement verder worden uitgewerkt. -In deze fase kan ook een eerste stap worden gezet om de vereisten te vertalen naar concrete maatregelen, te structureren en te beleggen bij de betrokken experts. -Als bijvoorbeeld is vastgesteld dat persoonsgegevens noodzakelijkerwijs moeten worden verwerkt en hier een grondslag voor is, dan is het van belang dat voorafgaand aan de dataverkenning en datapreparatie fase voldoende (technische) maatregelen zijn getroffen om de data veilig te verwerken in de beoogde (ontwikkel)omgeving. +Met deze input kan het ontwerp worden verbeterd en vraagstukken over bijvoorbeeld governance en risicomanagement verder worden uitgewerkt. +In deze fase kan ook een eerste stap worden gezet om de vereisten te vertalen naar concrete maatregelen, te structureren en te beleggen bij de betrokken experts. +Als bijvoorbeeld is vastgesteld dat persoonsgegevens noodzakelijkerwijs moeten worden verwerkt en hier een grondslag voor is, dan is het van belang dat voorafgaand aan de dataverkenning en datapreparatie fase voldoende (technische) maatregelen zijn getroffen om de data veilig te verwerken in de beoogde (ontwikkel)omgeving. -Daarnaast dient er in de ontwerpfase ook aandacht besteed te worden aan de succesfactoren van een algoritme of AI-systeem. +Daarnaast dient er in de ontwerpfase ook aandacht besteed te worden aan de succesfactoren van een algoritme of AI-systeem. Het is belangrijk om in een multidisciplinaire setting te bepalen hoe het algoritme in de praktijk geĆ«valueerd kan worden en wanneer we kunnen spreken van een rechtvaardig succes. -Hierbij dient er ook te worden nagedacht over evaluatiemethoden om na te gaan of het algoritme of AI-systeem voldoet aan bijvoorbeeld het vereiste van non-discriminatie. +Hierbij dient er ook te worden nagedacht over evaluatiemethoden om na te gaan of het algoritme of AI-systeem voldoet aan bijvoorbeeld het vereiste van non-discriminatie. -Nadat een besluit is genomen over het definitieve ontwerp van het algoritme of AI-systeem, kan worden gestart met het inrichten van de ontwikkelomgeving (indien nodig), de dataverkenning, datapreparatie. -Dit besluit betekent dat een akkoord wordt gegeven voor het type algoritme en de beoogde werking. +Nadat een besluit is genomen over het definitieve ontwerp van het algoritme of AI-systeem, kan worden gestart met het inrichten van de ontwikkelomgeving (indien nodig), de dataverkenning, datapreparatie. +Dit besluit betekent dat een akkoord wordt gegeven voor het type algoritme en de beoogde werking. ## Vereisten @@ -29,7 +29,6 @@ Dit besluit betekent dat een akkoord wordt gegeven voor het type algoritme en de - !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/levenscyclus/ontwikkelen.md b/docs/levenscyclus/ontwikkelen.md index 7622a039fd..cac664fbf3 100644 --- a/docs/levenscyclus/ontwikkelen.md +++ b/docs/levenscyclus/ontwikkelen.md @@ -1,19 +1,19 @@ ---- +--- title: Ontwikkelen --- -Dit is de fase waarin het algoritme of AI-systeem wordt ontwikkeld door het ontwikkelteam. +Dit is de fase waarin het algoritme of AI-systeem wordt ontwikkeld door het ontwikkelteam. Als het gaat om AI-systemen, omvat deze fase het trainen van modellen met behulp van de voorbereide gegevens. -Als het gaat om algoritmes op basis van rekenregels, betreft dit het implementeren van deze rekenregels in de (ontwikkelomgeving van de) systemen. +Als het gaat om algoritmes op basis van rekenregels, betreft dit het implementeren van deze rekenregels in de (ontwikkelomgeving van de) systemen. -Het algoritme of AI-systeem technisch correct ontwikkelen, inclusief het kunnen begrijpen van de beperkingen ervan, vraagt om een samenspel van expertise vanuit verschillende disciplines. -Denk hierbij aan de proceseigenaar, domeinexperts van het te ondersteunen werkproces, data scientists, data engineer, (privacy)juristen, beleidsmedewerkers en een ethicus. -Een voorbeeld hiervan is het beoordelen van de zogenaamde inputvariabelen of rekenregels (die voor een groot deel bepalen hoe een algoritme of AI-systeem functioneert) van een machine learning model of algoritme. -Deze rollen zijn bijzonder waardevol bij het beoordelen of deze variabelen of rekenregels juridisch zijn toegestaan, ethisch wenselijk zijn, technisch gezien- voldoende significant zijn en of deze van toegevoegde waarde zijn voor gebruikers. -Dit multidisciplinaire team kan tijdens de ontwikkeling continu bijsturen, zodat het algoritme of AI-systeem op een verantwoorde wijze functioneert en aansluit bij de beoogde doelstellingen. +Het algoritme of AI-systeem technisch correct ontwikkelen, inclusief het kunnen begrijpen van de beperkingen ervan, vraagt om een samenspel van expertise vanuit verschillende disciplines. +Denk hierbij aan de proceseigenaar, domeinexperts van het te ondersteunen werkproces, data scientists, data engineer, (privacy)juristen, beleidsmedewerkers en een ethicus. +Een voorbeeld hiervan is het beoordelen van de zogenaamde inputvariabelen of rekenregels (die voor een groot deel bepalen hoe een algoritme of AI-systeem functioneert) van een machine learning model of algoritme. +Deze rollen zijn bijzonder waardevol bij het beoordelen of deze variabelen of rekenregels juridisch zijn toegestaan, ethisch wenselijk zijn, technisch gezien- voldoende significant zijn en of deze van toegevoegde waarde zijn voor gebruikers. +Dit multidisciplinaire team kan tijdens de ontwikkeling continu bijsturen, zodat het algoritme of AI-systeem op een verantwoorde wijze functioneert en aansluit bij de beoogde doelstellingen. -In deze fase is niet alleen het ontwikkelen van een algoritme of AI-systeem, maar ook het documenteren van belangrijke afwegingen en het opstellen van technische documentatie van groot belang. -Daarnaast zullen tal van (technische) maatregelen moeten worden getroffen zoals de verdere beveiliging van het informatiesysteem of bij de ontsluiting van de output naar gebruikers, het automatische genereren van logs en het inrichten van service en incidentmanagementprocedures. +In deze fase is niet alleen het ontwikkelen van een algoritme of AI-systeem, maar ook het documenteren van belangrijke afwegingen en het opstellen van technische documentatie van groot belang. +Daarnaast zullen tal van (technische) maatregelen moeten worden getroffen zoals de verdere beveiliging van het informatiesysteem of bij de ontsluiting van de output naar gebruikers, het automatische genereren van logs en het inrichten van service en incidentmanagementprocedures. ## Vereisten @@ -23,7 +23,6 @@ Daarnaast zullen tal van (technische) maatregelen moeten worden getroffen zoals - !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/levenscyclus/probleemanalyse.md b/docs/levenscyclus/probleemanalyse.md index 2d51d47ece..bd7e945bde 100644 --- a/docs/levenscyclus/probleemanalyse.md +++ b/docs/levenscyclus/probleemanalyse.md @@ -1,17 +1,17 @@ ---- +--- title: Probleemanalyse --- -In deze fase wordt het probleem en de doelstellingen van een opdrachtgever geanalyseerd en beschreven. -Er wordt bijvoorbeeld onderzocht welke publieke taak moet worden ondersteund en welke publieke waarden daarbij moeten worden beschermd of juist gerealiseerd. +In deze fase wordt het probleem en de doelstellingen van een opdrachtgever geanalyseerd en beschreven. +Er wordt bijvoorbeeld onderzocht welke publieke taak moet worden ondersteund en welke publieke waarden daarbij moeten worden beschermd of juist gerealiseerd. In deze fase wordt onderzocht of het ontwikkelen van een algoritme of AI-systeem een geschikt middel is om het doel te realiseren en het probleem op te lossen. -Dat hangt van verschillende zaken af. -Hierbij kan worden gedacht aan de middelen (capaciteit en financiĆ«le middelen) die nodig zijn om algoritmen en AI op een verantwoorde wijze te ontwikkelen, de complexiteit van de oplossing, het in beeld brengen van de verwachte risico's (hoog over), een eerste beeld krijgen bij wat voor data nodig zijn en het in kaart brengen en beleggen van de verschillende verantwoordelijkheden. -Daarnaast is het van belang om het beleid met betrekking tot de inzet van algoritme en AI van een organisatie te raadplegen. +Dat hangt van verschillende zaken af. +Hierbij kan worden gedacht aan de middelen (capaciteit en financiĆ«le middelen) die nodig zijn om algoritmen en AI op een verantwoorde wijze te ontwikkelen, de complexiteit van de oplossing, het in beeld brengen van de verwachte risico's (hoog over), een eerste beeld krijgen bij wat voor data nodig zijn en het in kaart brengen en beleggen van de verschillende verantwoordelijkheden. +Daarnaast is het van belang om het beleid met betrekking tot de inzet van algoritme en AI van een organisatie te raadplegen. -Er zal een conclusie moeten volgen of de ontwikkeling van een algoritme of AI-systeem passend is. -Deze fase wordt doorgaans afgerond met een akkoord van de (gemandateerd) verantwoordelijk(en)/opdrachtgever om een algoritme of een AI-systeem te ontwikkelen. -Een vastgestelde business case of plan van aanpak vormen veelal de basis om de ontwerpfase te starten met de benodigde experts. +Er zal een conclusie moeten volgen of de ontwikkeling van een algoritme of AI-systeem passend is. +Deze fase wordt doorgaans afgerond met een akkoord van de (gemandateerd) verantwoordelijk(en)/opdrachtgever om een algoritme of een AI-systeem te ontwikkelen. +Een vastgestelde business case of plan van aanpak vormen veelal de basis om de ontwerpfase te starten met de benodigde experts. ## Vereisten @@ -21,7 +21,6 @@ Een vastgestelde business case of plan van aanpak vormen veelal de basis om de o - !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/levenscyclus/uitfaseren.md b/docs/levenscyclus/uitfaseren.md index a2957a17de..408148e8ef 100644 --- a/docs/levenscyclus/uitfaseren.md +++ b/docs/levenscyclus/uitfaseren.md @@ -1,23 +1,23 @@ ---- +--- title: Uitfaseren --- -Als wordt besloten dat het algoritme of AI-systeem niet langer nodig is of wordt vervangen door een wezenlijk andere versie, wordt het gearchiveerd en uitgefaseerd. -Hiermee wordt ervoor gezocht dat later kan worden gereconstrueerd hoe het algoritme of AI-systeem heeft gefunctioneerd en dat gebruikers er geen gebruik meer van kunnen maken. +Als wordt besloten dat het algoritme of AI-systeem niet langer nodig is of wordt vervangen door een wezenlijk andere versie, wordt het gearchiveerd en uitgefaseerd. +Hiermee wordt ervoor gezocht dat later kan worden gereconstrueerd hoe het algoritme of AI-systeem heeft gefunctioneerd en dat gebruikers er geen gebruik meer van kunnen maken. + +Archiveren betekent dat documentatie en eventuele relevante artefacten (zoals logbestanden en de parameters van het model) worden bewaard voor een bepaalde periode. +Het gaat daarbij ook om informatie over het algoritme of AI-systeem, bijvoorbeeld het besluit en onderbouwing waarom het niet meer wordt gebruikt en waarom het in het verleden wel gebruikt werd. +Archiveren is niet enkel relevant aan het einde van de levenscyclus, maar is ook gedurende het gebruik van het algoritme of AI-systeem van belang. +Er moet tijdig worden vastgesteld welke versies van een model moeten worden gearchiveerd, bijvoorbeeld al tijdens de ontwerpfase. -Archiveren betekent dat documentatie en eventuele relevante artefacten (zoals logbestanden en de parameters van het model) worden bewaard voor een bepaalde periode. -Het gaat daarbij ook om informatie over het algoritme of AI-systeem, bijvoorbeeld het besluit en onderbouwing waarom het niet meer wordt gebruikt en waarom het in het verleden wel gebruikt werd. -Archiveren is niet enkel relevant aan het einde van de levenscyclus, maar is ook gedurende het gebruik van het algoritme of AI-systeem van belang. -Er moet tijdig worden vastgesteld welke versies van een model moeten worden gearchiveerd, bijvoorbeeld al tijdens de ontwerpfase. +Bij AI-systemen is er in praktijk vaak sprake van hertrainen op nieuwe data, wat het model anders maakt en andere voorspellingen kan doen geven. +Ook meer eenvoudige algoritmes kunnen gedurende de tijd veranderen en andere voorspellingen geven, bijvoorbeeld door veranderende data of veranderende rekenregels. +Er moet worden vastgesteld welke versies van een model moet gearchiveerd. -Bij AI-systemen is er in praktijk vaak sprake van hertrainen op nieuwe data, wat het model anders maakt en andere voorspellingen kan doen geven. -Ook meer eenvoudige algoritmes kunnen gedurende de tijd veranderen en andere voorspellingen geven, bijvoorbeeld door veranderende data of veranderende rekenregels. -Er moet worden vastgesteld welke versies van een model moet gearchiveerd. +Bij uitfaseren wordt het algoritme of AI-systeem verwijderd uit de productieomgeving en, na archivering, wordt de trainingsdata uit de ontwikkelomgeving verwijderd. +Het algoritme is hiermee niet meer te gebruiken door gebruikers. +Gebruikers moeten hier vooraf over worden geĆÆnformeerd en waar passend, bijvoorbeeld bij impactvolle of hoog risico AI-systemen, worden betrokkenen geĆÆnformeerd over het beĆ«indigen van het gebruik. -Bij uitfaseren wordt het algoritme of AI-systeem verwijderd uit de productieomgeving en, na archivering, wordt de trainingsdata uit de ontwikkelomgeving verwijderd. -Het algoritme is hiermee niet meer te gebruiken door gebruikers. -Gebruikers moeten hier vooraf over worden geĆÆnformeerd en waar passend, bijvoorbeeld bij impactvolle of hoog risico AI-systemen, worden betrokkenen geĆÆnformeerd over het beĆ«indigen van het gebruik. - ## Vereisten @@ -29,4 +29,3 @@ Gebruikers moeten hier vooraf over worden geĆÆnformeerd en waar passend, bijvoor !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). - diff --git a/docs/levenscyclus/verificatie-en-validatie.md b/docs/levenscyclus/verificatie-en-validatie.md index d21fdcf7ca..2202b84ba8 100644 --- a/docs/levenscyclus/verificatie-en-validatie.md +++ b/docs/levenscyclus/verificatie-en-validatie.md @@ -1,24 +1,24 @@ ---- +--- title: Verificatie en validatie --- -Bij de verificatie en validatie van het algoritme of AI-systeem dient bepaald te worden of het algoritme of AI-systeem gebouwd is volgens de (technische) specificaties en voldoet aan de beoogde doelstellingen. -Hiervoor moeten technische, maar ook organisatorische maatregelen worden getroffen. +Bij de verificatie en validatie van het algoritme of AI-systeem dient bepaald te worden of het algoritme of AI-systeem gebouwd is volgens de (technische) specificaties en voldoet aan de beoogde doelstellingen. +Hiervoor moeten technische, maar ook organisatorische maatregelen worden getroffen. -Bij verificatie kan worden gedacht aan het (laten) controleren of het algoritme of AI-systeem voldoet aan de (technische) specificaties, bijvoorbeeld door een interne of externe audit of in de toekomst een conformiteitsbeoordeling voor hoog risico AI-systemen. -Hiermee kan (onafhankelijk) worden vastgesteld of het systeem voldoet aan de vereisten die organisaties daaraan stellen. -Op basis van bevindingen uit een audit of conformiteitsbeoordeling, is het denkbaar dat het ontwikkelteam nog bepaalde maatregelen moet treffen om te voldoen aan de specificaties. +Bij verificatie kan worden gedacht aan het (laten) controleren of het algoritme of AI-systeem voldoet aan de (technische) specificaties, bijvoorbeeld door een interne of externe audit of in de toekomst een conformiteitsbeoordeling voor hoog risico AI-systemen. +Hiermee kan (onafhankelijk) worden vastgesteld of het systeem voldoet aan de vereisten die organisaties daaraan stellen. +Op basis van bevindingen uit een audit of conformiteitsbeoordeling, is het denkbaar dat het ontwikkelteam nog bepaalde maatregelen moet treffen om te voldoen aan de specificaties. -Bij het valideren van een algoritme of AI-systeem moet worden bepaald of het goed genoeg presteert en of het geschikt is voor het beoogde doel van het systeem. -Wanneer het een AI-systeem betreft, is het belangrijk dat dit gevalideerd wordt op nieuwe, niet eerder geziene data. -Het valideren betreft het iteratief evalueren van de nauwkeurigheid en prestaties van het systeem. -Daarnaast is het ook belangrijk om te valideren of het algoritme gelijke prestaties toont voor verschillende groepen en om te testen hoe het algoritme presteert in uitzonderlijke gevallen. -Het is net als in de ontwerpfase belangrijk dat een multidisciplinair team beoordeelt of de werking passend en bijvoorbeeld non-discriminatoir is. -In het geval van impactvolle algoritmen of hoog risico AI-systemen, is het raadzaam om een onafhankelijke commissie of partij te betrekken die een advies geeft over de werking van het algoritme of AI-systeem. +Bij het valideren van een algoritme of AI-systeem moet worden bepaald of het goed genoeg presteert en of het geschikt is voor het beoogde doel van het systeem. +Wanneer het een AI-systeem betreft, is het belangrijk dat dit gevalideerd wordt op nieuwe, niet eerder geziene data. +Het valideren betreft het iteratief evalueren van de nauwkeurigheid en prestaties van het systeem. +Daarnaast is het ook belangrijk om te valideren of het algoritme gelijke prestaties toont voor verschillende groepen en om te testen hoe het algoritme presteert in uitzonderlijke gevallen. +Het is net als in de ontwerpfase belangrijk dat een multidisciplinair team beoordeelt of de werking passend en bijvoorbeeld non-discriminatoir is. +In het geval van impactvolle algoritmen of hoog risico AI-systemen, is het raadzaam om een onafhankelijke commissie of partij te betrekken die een advies geeft over de werking van het algoritme of AI-systeem. -In praktijk zal vaak na validatie weer worden teruggegaan naar de ontwikkelfase om prestaties van het model te verbeteren voorafgaand aan implementatie van de oplossing. -Het is ook denkbaar dat het algoritme of AI-systeem onvoldoende aansluit bij de doelstellingen en het gebruik ervan moet wordt beĆ«indigd. -Een andere conclusie kan zijn dat het presteert conform verwachting en naar de implementatiefase kan worden gegaan. +In praktijk zal vaak na validatie weer worden teruggegaan naar de ontwikkelfase om prestaties van het model te verbeteren voorafgaand aan implementatie van de oplossing. +Het is ook denkbaar dat het algoritme of AI-systeem onvoldoende aansluit bij de doelstellingen en het gebruik ervan moet wordt beĆ«indigd. +Een andere conclusie kan zijn dat het presteert conform verwachting en naar de implementatiefase kan worden gegaan. ## Vereisten @@ -28,7 +28,6 @@ Een andere conclusie kan zijn dat het presteert conform verwachting en naar de i - !!! info "Disclaimer" Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/maatregelen/index.md b/docs/maatregelen/index.md index 20eba77af3..2e68728a29 100644 --- a/docs/maatregelen/index.md +++ b/docs/maatregelen/index.md @@ -2,7 +2,7 @@ title: Maatregelen --- -De maatregelen die zijn opgenomen in het Algoritmekader geven aan 'hoe' overheidsorganisaties invulling *kunnen* geven aan specifieke vereisten. +De maatregelen die zijn opgenomen in het Algoritmekader geven aan 'hoe' overheidsorganisaties invulling _kunnen_ geven aan specifieke vereisten. Deze laag is aan het Algoritmekader toegevoegd, omdat het organisaties handvatten kan geven om zelf op een betekenisvolle wijze invulling te geven aan de vereisten. In het Algoritmekader zijn al deze maatregelen gekoppeld aan de levenscyclus van een algoritme, vereisten en rollen. Daarmee is inzichtelijk wanneer en met wie deze maatregelen logischerwijs in stelling kunnen worden gebracht. @@ -20,8 +20,9 @@ Dit moet organisaties helpen om met hun beschikbare middelen effectief en gerich Om tot een overzicht van de maatregelen te komen is naar een aantal waardevolle bronnen gekeken. Het [Toetsingskader Algoritmes](https://www.rekenkamer.nl/onderwerpen/algoritmes-digitaal-toetsingskader) van de Algemene Rekenkamer en het [Onderzoekskader algoritmes](https://www.rijksoverheid.nl/documenten/rapporten/2023/07/11/onderzoekskader-algoritmes-adr-2023)van de Auditdienst Rijk zijn daar goede voorbeelden van. Daarnaast is ook de kennis van experts binnen en buiten het team Algoritmekader toegevoegd om te kunnen duiden welke maatregelen in de praktijk kunnen worden getroffen om te voldoen aan de vereisten. - + ## Standaarden + Op nationaal, Europees en internationaal niveau wordt momenteel gewerkt aan de totstandkoming van standaarden. Deze standaarden worden opgesteld door gespecialiseerde organisaties (NEN, JTC21 en ISO) en ondergaan een uitgebreid proces. Dit proces zorgt uiteindelijk voor brede consensus voor de standaarden. @@ -31,6 +32,5 @@ Waar mogelijk zullen de standaarden onderdeel worden van het Algoritmekader en t Er zal een verwijzing worden gemaakt naar de betreffende standaard. Hierover moeten nog nadere afspraken worden gemaakt met deze standaardisatieorganisaties. - !!! note "Opmerking" - Hier volgt in een volgende versie een opsomming van de maatregelen. \ No newline at end of file +Hier volgt in een volgende versie een opsomming van de maatregelen. diff --git a/docs/overhetalgoritmekader/definities.md b/docs/overhetalgoritmekader/definities.md index ab5e61cc35..4ff11fdc96 100644 --- a/docs/overhetalgoritmekader/definities.md +++ b/docs/overhetalgoritmekader/definities.md @@ -5,62 +5,67 @@ title: Definities Welke definities gebruikt het Algoritmekader? Je vindt een overzicht op deze pagina. Deze definities komen overeen met de definities van het het [Algoritmeregister](https://algoritmes.overheid.nl/nl), zie daarvoor de [Handreiking Algoritmeregister](https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister) ### Definitie van een algoritme + Er zijn veel definities van een algoritme. Voor het algoritmekader hanteren we de definitie van de Algemene Rekenkamer: > 'Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.ā€™ -Dit is een brede definitie die de maximale reikwijdte weergeeft van algoritmes waarvoor het Algoritmekader relevant is. Waar de definitie van de Algemene Rekenkamer schrijft ā€œom een probleem op te lossen of een vraag te beantwoordenā€, verstaan we daar ook onder ā€œom een taak of proces uit te voeren of tot een besluit te komenā€. In het uitvoeren van een taak of het komen tot een besluit kunnen Ć©Ć©n of meer algoritmes voorkomen. Daarnaast hebben we het bij het Algoritmekader over zowel ArtificiĆ«le Intelligentie (AI) als algoritmes. De essentie is dat AI is opgebouwd uit algoritmes. Maar niet alle algoritmes zijn AI. +Dit is een brede definitie die de maximale reikwijdte weergeeft van algoritmes waarvoor het Algoritmekader relevant is. Waar de definitie van de Algemene Rekenkamer schrijft ā€œom een probleem op te lossen of een vraag te beantwoordenā€, verstaan we daar ook onder ā€œom een taak of proces uit te voeren of tot een besluit te komenā€. In het uitvoeren van een taak of het komen tot een besluit kunnen Ć©Ć©n of meer algoritmes voorkomen. Daarnaast hebben we het bij het Algoritmekader over zowel ArtificiĆ«le Intelligentie (AI) als algoritmes. De essentie is dat AI is opgebouwd uit algoritmes. Maar niet alle algoritmes zijn AI. ![Infographic](5113 Infogr Relatie AI en algoritmes.jpg) !!! opmerking "Gebruikte terminologie" - De termen hoog-risico, impactvol, AI en Algoritmes worden veel door elkaar gebruikt. - Wij hanteren uitsluitend de volgende twee termen: +De termen hoog-risico, impactvol, AI en Algoritmes worden veel door elkaar gebruikt. +Wij hanteren uitsluitend de volgende twee termen: - 1. **Hoog-risico AI (-systeem)** + 1. **Hoog-risico AI (-systeem)** Hiermee bedoelen we altijd de definitie zoals deze in de AI-verordening wordt gehanteerd. 2. **Impactvolle algoritmes** Dit betreft de minimale reikwijdte van het Algoritmekader. Het omvat de hoog-risico AI-systemen zoals gedefinieerd in de AI-verordening Ć©n - de algoritmes die we daarnaast als impactvol beschouwen. + de algoritmes die we daarnaast als impactvol beschouwen. ## Relatie scope Algoritmekader en de AI-Verordening + Op dit moment wordt op EU-niveau de AI-verordening ontwikkeld, die naar verwachting van toepassing wordt op een deel van de algoritmes in gebruik bij de overheid. In de AI-verordening zijn AI-systemen onderverdeeld in verschillende categorieĆ«n: verboden praktijken, hoog-risico AI-systemen, AI-systemen met manipulatierisicoā€™s en AI-systemen met geen/minimale risicoā€™s. Afhankelijk van de categorie waarin een AI-systeem valt, gelden zwaardere of minder zware eisen waar die systemen aan moeten voldoen. Het Algoritmekader is hoe dan ook relevant voor hoog-risico AI-systemen volgens de definitie van de AI-verordening. Een AI-systeem is hoog-risico als het voldoet aan de volgende eisen: + 1. Het AI-systeem valt onder de definitie van AI-systemen in artikel 3 lid 1 van de -verordening en moet o.a. autonome elementen bevatten, en + verordening en moet o.a. autonome elementen bevatten, en 2. Het AI-systeem wordt in een van de toepassingsgebieden van ANNEX III ingezet -zoals biometrie, kritieke infrastructuur en rechtshandhaving. Bovenstaande betreft een versimpelde beschrijving van de AI-verordening. In bijlage 2 van de [Handreiking Algoritmeregister](https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister) is meer informatie te vinden over de AI-verordening. Aangezien de AI-verordening nog in onderhandeling is, bestaat de kans dat de classificatie van hoog-risico AI-systemen nog wordt aangepast. + zoals biometrie, kritieke infrastructuur en rechtshandhaving. Bovenstaande betreft een versimpelde beschrijving van de AI-verordening. In bijlage 2 van de [Handreiking Algoritmeregister](https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister) is meer informatie te vinden over de AI-verordening. Aangezien de AI-verordening nog in onderhandeling is, bestaat de kans dat de classificatie van hoog-risico AI-systemen nog wordt aangepast. ### Definitie van impactvolle algoritmes + Om te bepalen of een algoritme in aanmerking komt voor publicatie in het Algoritmeregister, is een hulpmiddel 'Selectie' gemaakt. Het zijn dezelfde algoritmes die relevant zijn voor het Algoritmekader. Dit hulpmiddel wordt hieronder weergegeven in de figuur, en is ook leidend voor het Algoritmekader. -![Hulpmiddel selectie publicatie Algoritmeregister -WĆ©l publicatie in het register als: -* Hoog risico volgens AI-Act - * Hoogrisico algoritmes volgens de voorlopige definitie van de AI-Act in 8 toepassingsgebieden. -* Impact op betrokkenen - * Algoritme heeft directe rechtsgevolgen voor betrokkenen - * Algoritme beĆÆnvloedt hoe de overheid een betrokkenen of groep classificeert. -Mogelijke publicatie: -* Andere overwegingen - * demystificatie - * Maatschappelijk debat - * Media aandacht - * Toezichthouder - * Vragen van burgers of media - * Onderdeel van een Woo-verzoek -Mogelijke uitzonderingsgronden. In uitzonderlijke gevallen worden algoritmes maar gedeeltelijk of helemaal niet gepubliceerd. -* Wettelijke uitzonderingsgronden zoals in de Wet open overheid of de Wet politiegegevens -* 'Gaming the System' -* Valt buiten categorie A t/m C](5113 Infogr Publicatie in Algoritmeregister (002).jpg) +![Hulpmiddel selectie publicatie Algoritmeregister +WĆ©l publicatie in het register als: + +- Hoog risico volgens AI-Act + - Hoogrisico algoritmes volgens de voorlopige definitie van de AI-Act in 8 toepassingsgebieden. +- Impact op betrokkenen + _ Algoritme heeft directe rechtsgevolgen voor betrokkenen + _ Algoritme beĆÆnvloedt hoe de overheid een betrokkenen of groep classificeert. + Mogelijke publicatie: +- Andere overwegingen + _ demystificatie + _ Maatschappelijk debat + _ Media aandacht + _ Toezichthouder + _ Vragen van burgers of media + _ Onderdeel van een Woo-verzoek + Mogelijke uitzonderingsgronden. In uitzonderlijke gevallen worden algoritmes maar gedeeltelijk of helemaal niet gepubliceerd. +- Wettelijke uitzonderingsgronden zoals in de Wet open overheid of de Wet politiegegevens +- 'Gaming the System' +- Valt buiten categorie A t/m C](5113 Infogr Publicatie in Algoritmeregister (002).jpg) Voor meer toelichting over dit hulpmiddel verwijzen we naar de [Handreiking Algoritmeregister](https://algoritmes.pleio.nl/wiki/view/19bb6e9e-7a97-43d5-bef3-b1d66e59f4ff/handreiking-algoritmeregister). diff --git a/docs/overhetalgoritmekader/index.md b/docs/overhetalgoritmekader/index.md index 7f292c3341..17c7058953 100644 --- a/docs/overhetalgoritmekader/index.md +++ b/docs/overhetalgoritmekader/index.md @@ -2,75 +2,80 @@ title: Over het Algoritmekader --- -Het is van belang dat algoritmes en AI op een verantwoorde manier worden ontwikkeld en gebruikt. -Dit betekent dat er aandacht moet zijn voor zaken als rollen en verantwoordelijkheden (governance), risicoā€™s op bias/discriminatie vroegtijdig detecteren, de uitvoering van mensenrechtentoetsen (zoals IAMAā€™s) en adequate inkoopvoorwaarden afspreken voor algoritmes die de overheid inkoopt bij derden. +Het is van belang dat algoritmes en AI op een verantwoorde manier worden ontwikkeld en gebruikt. +Dit betekent dat er aandacht moet zijn voor zaken als rollen en verantwoordelijkheden (governance), risicoā€™s op bias/discriminatie vroegtijdig detecteren, de uitvoering van mensenrechtentoetsen (zoals IAMAā€™s) en adequate inkoopvoorwaarden afspreken voor algoritmes die de overheid inkoopt bij derden. -Maar hoe doe je dat dan? Hier helpt het Algoritmekader je bij: een interactieve kennisbank waarin je kunt zoeken naar informatie op basis van een onderwerp, een fase uit de levenscyclus of jouw rol. +Maar hoe doe je dat dan? Hier helpt het Algoritmekader je bij: een interactieve kennisbank waarin je kunt zoeken naar informatie op basis van een onderwerp, een fase uit de levenscyclus of jouw rol. ### Levenscyclus van een algoritme, vereisten, maatregelen en rollen -In het Algoritmekader wordt inzichtelijk gemaakt aan welke vereisten overheidsorganisaties moeten voldoen. -Daarbij wordt ook aangegeven hoe zij hier op een betekenisvolle wijze invulling aan kunnen geven (maatregelen). -![levenscyclus](../afbeeldingen/levenscyclus/levenscyclus.jpg "visuele weergave levenscyclus van een algoritme"){align="right"; width="60%"} - -Het Algoritmekader is zodanig ingericht dat gebruikers vanuit verschillende invalshoeken informatie kunnen raadplegen die voor hen relevant is. -Zo kan vanuit de algoritme levenscyclus worden onderzocht in welke fase aan welke vereisten en maatregelen aandacht moet worden besteed. -Het is ook mogelijk om vanuit een specifieke rol, bijvoorbeeld een ethicus of data scientist, te raadplegen bij welke vereisten of maatregelen zij logischerwijs betrokken zijn. +In het Algoritmekader wordt inzichtelijk gemaakt aan welke vereisten overheidsorganisaties moeten voldoen. +Daarbij wordt ook aangegeven hoe zij hier op een betekenisvolle wijze invulling aan kunnen geven (maatregelen). +![levenscyclus](../afbeeldingen/levenscyclus/levenscyclus.jpg "visuele weergave levenscyclus van een algoritme"){align="right"; width="60%"} +Het Algoritmekader is zodanig ingericht dat gebruikers vanuit verschillende invalshoeken informatie kunnen raadplegen die voor hen relevant is. +Zo kan vanuit de algoritme levenscyclus worden onderzocht in welke fase aan welke vereisten en maatregelen aandacht moet worden besteed. +Het is ook mogelijk om vanuit een specifieke rol, bijvoorbeeld een ethicus of data scientist, te raadplegen bij welke vereisten of maatregelen zij logischerwijs betrokken zijn. ### Type technologie en risicoclassificatie -Het Algoritmekader geeft gebruikers de mogelijkheid om informatie te 'filteren'. -Dit kan bijvoorbeeld worden gedaan op basis van type technologie en risicoclassificatie. -Zo kunnen gebruikers snel zien wat zij in een bepaalde situaties moeten doen. -In het geval van een hoge risico AI-systeem waarbij persoonsgegevens worden verwerkt zullen aan meer vereisten moeten worden voldaan dan in het geval van een eenvoudige rekenregel die geen impact heeft op individuen of de maatschappij. -Deze inzichten moeten overheidsorganisaties helpen om effectief en gericht hun middelen in te kunnen zetten. -Aan deze functionaliteit wordt momenteel gewerkt. + +Het Algoritmekader geeft gebruikers de mogelijkheid om informatie te 'filteren'. +Dit kan bijvoorbeeld worden gedaan op basis van type technologie en risicoclassificatie. +Zo kunnen gebruikers snel zien wat zij in een bepaalde situaties moeten doen. +In het geval van een hoge risico AI-systeem waarbij persoonsgegevens worden verwerkt zullen aan meer vereisten moeten worden voldaan dan in het geval van een eenvoudige rekenregel die geen impact heeft op individuen of de maatschappij. +Deze inzichten moeten overheidsorganisaties helpen om effectief en gericht hun middelen in te kunnen zetten. +Aan deze functionaliteit wordt momenteel gewerkt. ### Standaarden -Een belangrijk uitgangspunt van het Algoritmekader is dat bestaande kennis zoveel mogelijk wordt gebundeld en aansluiting wordt gezocht bij relevante ontwikkelingen. -Het proces van standaardisering op nationaal, Europees en Internationaal niveau is daar een belangrijk voorbeeld van. -De standaarden zullen in grote mate gaan duiden 'hoe' organisaties invulling kunnen geven aan specifieke vereisten. -De kracht achter standaarden is dat deze door gespecialiseerde organisaties zijn opgesteld en gedragen zijn door brede consensus. -Het volgen van deze standaarden levert een 'vermoeden van conformiteit op' en is daarmee bijzonder waardevol om onderdeel te maken van het Algoritmekader. + +Een belangrijk uitgangspunt van het Algoritmekader is dat bestaande kennis zoveel mogelijk wordt gebundeld en aansluiting wordt gezocht bij relevante ontwikkelingen. +Het proces van standaardisering op nationaal, Europees en Internationaal niveau is daar een belangrijk voorbeeld van. +De standaarden zullen in grote mate gaan duiden 'hoe' organisaties invulling kunnen geven aan specifieke vereisten. +De kracht achter standaarden is dat deze door gespecialiseerde organisaties zijn opgesteld en gedragen zijn door brede consensus. +Het volgen van deze standaarden levert een 'vermoeden van conformiteit op' en is daarmee bijzonder waardevol om onderdeel te maken van het Algoritmekader. ### Best practices en instrumenten -In het Algoritmekader wordt geprobeerd om zoveel mogelijk 'best practises' te koppelen aan vereisten en maatregelen die organisaties kunnen treffen. -Daarmee wordt de materie tastbaarder en praktischer. -Zo zijn rapporten te vinden van uitgevoerde bias analyses, gepubliceerde broncode van door overheidsorganisatie ontwikkeld algoritmes, specifieke adviezen en belangrijke uitspraken. -Er wordt ook een overzicht gegeven van bruikbare instrumenten die kunnen worden gehanteerd. + +In het Algoritmekader wordt geprobeerd om zoveel mogelijk 'best practises' te koppelen aan vereisten en maatregelen die organisaties kunnen treffen. +Daarmee wordt de materie tastbaarder en praktischer. +Zo zijn rapporten te vinden van uitgevoerde bias analyses, gepubliceerde broncode van door overheidsorganisatie ontwikkeld algoritmes, specifieke adviezen en belangrijke uitspraken. +Er wordt ook een overzicht gegeven van bruikbare instrumenten die kunnen worden gehanteerd. ## Status van het Algoritmekader -Het Algoritmekader is op zichzelf niet verplicht voor overheidsorganisaties om te gebruiken, maar het gaat wel uit van bestaande vereisten op basis van wet- en regelgeving waar deze organisaties aan gebonden zijn. -Het Algoritmekader geeft structuur aan wat organisaties moeten doen. -Overheden wordt aanbevolen het kader te volgen, maar mogen te allen tijde zelf bepalen hoe zij invulling geven aan de vereisten, wie daarbij betrokken zijn, onder wiens verantwoordelijkheid en wanneer. -Kortom, de vereisten zijn verplicht en de maatregelen (hoe kan hieraan worden voldaan aan de vereisten) zijn ter inspiratie om organisaties op weg te helpen. +Het Algoritmekader is op zichzelf niet verplicht voor overheidsorganisaties om te gebruiken, maar het gaat wel uit van bestaande vereisten op basis van wet- en regelgeving waar deze organisaties aan gebonden zijn. +Het Algoritmekader geeft structuur aan wat organisaties moeten doen. + +Overheden wordt aanbevolen het kader te volgen, maar mogen te allen tijde zelf bepalen hoe zij invulling geven aan de vereisten, wie daarbij betrokken zijn, onder wiens verantwoordelijkheid en wanneer. +Kortom, de vereisten zijn verplicht en de maatregelen (hoe kan hieraan worden voldaan aan de vereisten) zijn ter inspiratie om organisaties op weg te helpen. ## Doorontwikkeling -7 juli 2023 is de [eerste versie van het Implementatiekader](https://www.rijksoverheid.nl/documenten/rapporten/2023/06/30/implementatiekader-verantwoorde-inzet-van-algoritmen) naar de Tweede Kamer verstuurd, vergezeld door de Kamerbrief 'Verzamelbrief algoritmen reguleren'. -Dit kan worden beschouwd als de eerste versie van het Algoritmekader. Het implementatiekader verantwoorde inzet van algoritmen is in oktober 2023 hernoemd naar 'het Algoritmekader'. -In oktober 2023 is gestart met de doorontwikkeling van het Algoritmekader, zowel op inhoud als op vorm. Dat betekent dat inhoudelijke toevoegingen worden gedaan (denk aan hetgeen voortkomt uit de AI-verordening) en er wordt onderzocht hoe informatie zo optimaal mogelijk aan gebruikers getoond kan worden. -Het doel is dat het Algoritmekader gebruikers op een praktische wijze helpt bij het uitvoeren van hun werkzaamheden. -Het interactief kunnen doorzoeken van de informatie is daar een voorbeeld van. +7 juli 2023 is de [eerste versie van het Implementatiekader](https://www.rijksoverheid.nl/documenten/rapporten/2023/06/30/implementatiekader-verantwoorde-inzet-van-algoritmen) naar de Tweede Kamer verstuurd, vergezeld door de Kamerbrief 'Verzamelbrief algoritmen reguleren'. +Dit kan worden beschouwd als de eerste versie van het Algoritmekader. Het implementatiekader verantwoorde inzet van algoritmen is in oktober 2023 hernoemd naar 'het Algoritmekader'. -Eind 2024 zal de tweede versie van het Algoritmekader worden opgeleverd. -Dan moeten de vereisten en de maatregelen zijn uitgewerkt voor zover dan bekend. -Hierna zal het Algoritmekader in 'beheer' worden genomen. Dat betekent dat doorlopend de laatste ontwikkelingen, in afstemming met de omgeving, worden toegevoegd zodat het Algoritmekader actueel en betrouwbaar blijft. +In oktober 2023 is gestart met de doorontwikkeling van het Algoritmekader, zowel op inhoud als op vorm. Dat betekent dat inhoudelijke toevoegingen worden gedaan (denk aan hetgeen voortkomt uit de AI-verordening) en er wordt onderzocht hoe informatie zo optimaal mogelijk aan gebruikers getoond kan worden. +Het doel is dat het Algoritmekader gebruikers op een praktische wijze helpt bij het uitvoeren van hun werkzaamheden. +Het interactief kunnen doorzoeken van de informatie is daar een voorbeeld van. + +Eind 2024 zal de tweede versie van het Algoritmekader worden opgeleverd. +Dan moeten de vereisten en de maatregelen zijn uitgewerkt voor zover dan bekend. +Hierna zal het Algoritmekader in 'beheer' worden genomen. Dat betekent dat doorlopend de laatste ontwikkelingen, in afstemming met de omgeving, worden toegevoegd zodat het Algoritmekader actueel en betrouwbaar blijft. ## Samenwerking met de omgeving -Een belangrijk uitgangspunt van het Algoritmekader is dat het kader op een open en transparante manier wordt ontwikkeld. -Hierbij wordt gebruik gemaakt van verschillende communicatiekanalen, zoals een communityplatform, GitHub, periodieke bijeenkomsten en (waar passend) werkgroepen. -Informatie over algoritmes en AI worden uitgewerkt. -Zodra deze informatie op 'niveau' is, wordt dit in Github geplaatst en daarmee 'gepubliceerd'. -Dit noemen we *releases*. - -De motivatie om op deze ā€˜open sourceā€™ manier aan dit Algoritmekader te werken is enerzijds de omgeving van deze informatie te voorzien en anderzijds om de omgeving uit te nodig om hier feedback op te geven. -Werken in Github is voor het team Algoritmekader nieuw en experimenteel. -Het biedt de mogelijkheid voor alle geĆÆnteresseerden om hun kennis en zienswijze te delen. -Daarmee kan (nieuwe)kennis snel onderdeel worden gemaakt van het Algoritmekader, waarmee idealiter het Algoritmekader doorlopende actueel wordt gehouden en mogelijk ook op basis van (brede) consensus. -Tegelijkertijd vraagt dit om een aangepaste werkwijze en is hier bepaalde expertise voor nodig. -Het begin is gemaakt en het team Algoritmekader is nog lerende om hier optimaal invulling aan te geven. -Voor nu betekent dit concreet dat het langer kan duren voordat wordt gereageerd op suggesties of toevoegingen. -Er wordt gewerkt aan het inrichten van goede processen om snel en kundig te reageren. + +Een belangrijk uitgangspunt van het Algoritmekader is dat het kader op een open en transparante manier wordt ontwikkeld. +Hierbij wordt gebruik gemaakt van verschillende communicatiekanalen, zoals een communityplatform, GitHub, periodieke bijeenkomsten en (waar passend) werkgroepen. +Informatie over algoritmes en AI worden uitgewerkt. +Zodra deze informatie op 'niveau' is, wordt dit in Github geplaatst en daarmee 'gepubliceerd'. +Dit noemen we _releases_. + +De motivatie om op deze ā€˜open sourceā€™ manier aan dit Algoritmekader te werken is enerzijds de omgeving van deze informatie te voorzien en anderzijds om de omgeving uit te nodig om hier feedback op te geven. +Werken in Github is voor het team Algoritmekader nieuw en experimenteel. +Het biedt de mogelijkheid voor alle geĆÆnteresseerden om hun kennis en zienswijze te delen. +Daarmee kan (nieuwe)kennis snel onderdeel worden gemaakt van het Algoritmekader, waarmee idealiter het Algoritmekader doorlopende actueel wordt gehouden en mogelijk ook op basis van (brede) consensus. +Tegelijkertijd vraagt dit om een aangepaste werkwijze en is hier bepaalde expertise voor nodig. +Het begin is gemaakt en het team Algoritmekader is nog lerende om hier optimaal invulling aan te geven. +Voor nu betekent dit concreet dat het langer kan duren voordat wordt gereageerd op suggesties of toevoegingen. +Er wordt gewerkt aan het inrichten van goede processen om snel en kundig te reageren. diff --git a/docs/rollen/communicatieadviseur.md b/docs/rollen/communicatieadviseur.md index 4fb8d1784e..529728df13 100644 --- a/docs/rollen/communicatieadviseur.md +++ b/docs/rollen/communicatieadviseur.md @@ -12,4 +12,4 @@ title: Communicatieadviseur !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/data-scientist.md b/docs/rollen/data-scientist.md index ab974f2ef7..ac3710ee06 100644 --- a/docs/rollen/data-scientist.md +++ b/docs/rollen/data-scientist.md @@ -12,4 +12,4 @@ title: Data scientist !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/domeinspecialist.md b/docs/rollen/domeinspecialist.md index ec952a1559..5e93e8fc23 100644 --- a/docs/rollen/domeinspecialist.md +++ b/docs/rollen/domeinspecialist.md @@ -12,4 +12,4 @@ title: Domeinspecialist !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/index.md b/docs/rollen/index.md index 17a7617b9e..bd2518347a 100644 --- a/docs/rollen/index.md +++ b/docs/rollen/index.md @@ -3,27 +3,27 @@ title: Rollen icon: material/account --- -In dit deel van het Algoritmekader kan per rol informatie worden geraadpleegd over het verantwoord ontwikkelen en gebruiken van algoritmes en AI. -Om verantwoorde inzet van algoritmes en AI te bereiken is een samenspel nodig tussen verschillende expertises die op het juiste moment worden ingezet. -In de praktijk creĆ«ren organisaties specifieke rollen of functies (hierna: rol) waarbij wordt verwacht dat medewerkers met deze rol de gevraagde expertise toepassen. -Zo zal een data scientist betrokken zijn bij het ontwikkelen en trainen van algoritme en AI en zal een privacy officer maatregelen definiĆ«ren voor het beschermen van persoonsgegevens. +In dit deel van het Algoritmekader kan per rol informatie worden geraadpleegd over het verantwoord ontwikkelen en gebruiken van algoritmes en AI. +Om verantwoorde inzet van algoritmes en AI te bereiken is een samenspel nodig tussen verschillende expertises die op het juiste moment worden ingezet. +In de praktijk creĆ«ren organisaties specifieke rollen of functies (hierna: rol) waarbij wordt verwacht dat medewerkers met deze rol de gevraagde expertise toepassen. +Zo zal een data scientist betrokken zijn bij het ontwikkelen en trainen van algoritme en AI en zal een privacy officer maatregelen definiĆ«ren voor het beschermen van persoonsgegevens. -In het Algoritmekader wordt een poging gedaan om te duiden welke rol(len) bij de realisatie van vereisten en maatregelen betrokken (kunnen) zijn. -Deze laag van het Algoritmekader dient om meerdere redenen alleen ter inspiratie. -Dat komt bijvoorbeeld omdat organisaties andere rollen gebruiken, bepaalde expertise samenvoegen in Ć©Ć©n rol of omdat bepaalde expertise nog niet is verworven binnen een organisatie. -Het koppelen van vereisten en maatregelen aan rollen raakt ook het onderwerpen van taakstelling en verantwoordelijkheden. -Ook dit zal bij organisaties op verschillende manieren belegd zijn of worden. +In het Algoritmekader wordt een poging gedaan om te duiden welke rol(len) bij de realisatie van vereisten en maatregelen betrokken (kunnen) zijn. +Deze laag van het Algoritmekader dient om meerdere redenen alleen ter inspiratie. +Dat komt bijvoorbeeld omdat organisaties andere rollen gebruiken, bepaalde expertise samenvoegen in Ć©Ć©n rol of omdat bepaalde expertise nog niet is verworven binnen een organisatie. +Het koppelen van vereisten en maatregelen aan rollen raakt ook het onderwerpen van taakstelling en verantwoordelijkheden. +Ook dit zal bij organisaties op verschillende manieren belegd zijn of worden. -Ondanks voorgaande wordt in het Algoritmekader hier een aanzet toe gedaan. -Voor sommige maatregelen is het namelijk evident dat dit hoort bij een bepaalde rol. -Het kan medewerkers met vergelijkbare rollen ook een inzicht geven in wat er nodig is en van hen kan worden verwacht. -Het laat daarnaast zien dat het rand voorwaardelijk is dat er voldoende ruimte is om met een multidisciplinair team, en al dan niet met een aanbieder, te kunnen samenwerken om tot een verantwoorde inzet van algoritmes en AI te komen. +Ondanks voorgaande wordt in het Algoritmekader hier een aanzet toe gedaan. +Voor sommige maatregelen is het namelijk evident dat dit hoort bij een bepaalde rol. +Het kan medewerkers met vergelijkbare rollen ook een inzicht geven in wat er nodig is en van hen kan worden verwacht. +Het laat daarnaast zien dat het rand voorwaardelijk is dat er voldoende ruimte is om met een multidisciplinair team, en al dan niet met een aanbieder, te kunnen samenwerken om tot een verantwoorde inzet van algoritmes en AI te komen. -Als een rol wordt opgenomen in het Algoritmekader, dan wordt geprobeerd om dit aan te laten sluiten bij wat doorgaans wordt gehanteerd binnen (omvangrijkere) organisaties. -Er wordt een beknopte omschrijving gegeven bij deze rol en geen functieprofiel. -Vooralsnog wordt de rol gekoppeld aan vereisten en maatregelen en niet de verantwoordelijke afdeling, directie etc. (bijvoorbeeld CIO of CDO). -Hier wordt wel al verwezen naar het nog te ontwikkelen gedeelte [Governance](../bouwblokken/governance/index.md) van het Algoritmekader. -Aan dit bouwblok wordt onmiddels gewerkt. +Als een rol wordt opgenomen in het Algoritmekader, dan wordt geprobeerd om dit aan te laten sluiten bij wat doorgaans wordt gehanteerd binnen (omvangrijkere) organisaties. +Er wordt een beknopte omschrijving gegeven bij deze rol en geen functieprofiel. +Vooralsnog wordt de rol gekoppeld aan vereisten en maatregelen en niet de verantwoordelijke afdeling, directie etc. (bijvoorbeeld CIO of CDO). +Hier wordt wel al verwezen naar het nog te ontwikkelen gedeelte [Governance](../bouwblokken/governance/index.md) van het Algoritmekader. +Aan dit bouwblok wordt onmiddels gewerkt. !!! note "Opmerking" - Er is al een aantal rollen toegevoegd aan het algoritmekader. Dit wordt nog aangvuld, en de rollen worden nog gekoppeld aan vereisten en maatregelen. +Er is al een aantal rollen toegevoegd aan het algoritmekader. Dit wordt nog aangvuld, en de rollen worden nog gekoppeld aan vereisten en maatregelen. diff --git a/docs/rollen/informatiebeheerder.md b/docs/rollen/informatiebeheerder.md index 6ae1ba79d9..35737f8976 100644 --- a/docs/rollen/informatiebeheerder.md +++ b/docs/rollen/informatiebeheerder.md @@ -12,4 +12,4 @@ title: Informatiebeheerder !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/inkoopadviseur.md b/docs/rollen/inkoopadviseur.md index 47f532b96d..f3cd5757d2 100644 --- a/docs/rollen/inkoopadviseur.md +++ b/docs/rollen/inkoopadviseur.md @@ -12,4 +12,4 @@ title: Inkoopadviseur !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/privacy-officer.md b/docs/rollen/privacy-officer.md index 555d3be27b..644d5e4972 100644 --- a/docs/rollen/privacy-officer.md +++ b/docs/rollen/privacy-officer.md @@ -12,4 +12,4 @@ title: Privacy-officer !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/rollen/projectleider.md b/docs/rollen/projectleider.md index 7b62238a30..462a6e2004 100644 --- a/docs/rollen/projectleider.md +++ b/docs/rollen/projectleider.md @@ -12,4 +12,4 @@ title: Projectleider !!! info "Disclaimer" - Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). \ No newline at end of file + Het Algoritmekader is nog volop in ontwikkeling. Op deze plek willen we vooral aan de slag gaan op een open en transparante wijze. Het is dus niet definitief. Dat betekent dat er dingen opstaan die niet af zijn en soms zelfs fout. Mocht er iets niet kloppen, laat het ons weten via [GitHub](https://github.com/MinBZK/Algoritmekader). diff --git a/docs/vereisten/algoritmeregister.md b/docs/vereisten/algoritmeregister.md index 9eca78a749..2b9f8dafef 100644 --- a/docs/vereisten/algoritmeregister.md +++ b/docs/vereisten/algoritmeregister.md @@ -1,78 +1,77 @@ --- title: Impactvolle algoritmes en ai worden gepubliceerd in het algoritmeregister -toelichting: Het publiceren van impactvolle algoritmes en AI draagt bij aan transparantie voor belanghebbenden en derden over welke algoritmes en AI worden gebruikt door de overheid. Het is vastgesteld beleid dat overheidsinstellingen, tenzij er uitsluitingsgronden zijn, de door hen gebruikte impactvolle algoritmes en hoogrisico AI-systemen publiceren in het algoritmeregister. Er wordt gewerkt aan wetgeving om het bij wet verplicht te stellen. -status_vereiste: - - Geldend - - -levenscyclus: -- ontwikkelen -- verificatie-en-validatie -- implementatie -- monitoring-en-beheer -bouwblok: -- transparantie -rekenregels: -- niet-impactvol: Nee -- impactvol: Ja -machine-learning: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja +toelichting: Het publiceren van impactvolle algoritmes en AI draagt bij aan transparantie voor belanghebbenden en derden over welke algoritmes en AI worden gebruikt door de overheid. Het is vastgesteld beleid dat overheidsinstellingen, tenzij er uitsluitingsgronden zijn, de door hen gebruikte impactvolle algoritmes en hoogrisico AI-systemen publiceren in het algoritmeregister. Er wordt gewerkt aan wetgeving om het bij wet verplicht te stellen. +status_vereiste: + - Geldend + - +levenscyclus: + - ontwikkelen + - verificatie-en-validatie + - implementatie + - monitoring-en-beheer +bouwblok: + - transparantie +rekenregels: + - niet-impactvol: Nee + - impactvol: Ja +machine-learning: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Bestuursorganen publiceren algoritmes met impact en hoog-risico AI-systemen in het Algoritmeregister. -## Toelichting +## Toelichting Het publiceren van impactvolle algoritmes en AI draagt bij aan transparantie voor belanghebbenden en derden over welke algoritmes en AI worden gebruikt door de overheid. Het is vastgesteld beleid dat overheidsinstellingen, tenzij er uitsluitingsgronden zijn, de door hen gebruikte impactvolle algoritmes en hoogrisico AI-systemen publiceren in het algoritmeregister. Er wordt gewerkt aan wetgeving om het bij wet verplicht te stellen. +## Bronnen -## Bronnen - -| Bron | -|-----------------------------| -|Handreiking Algoritmeregister| -|Werkagenda| -|Kamerbrieven| +| Bron | +| ----------------------------- | +| Handreiking Algoritmeregister | +| Werkagenda | +| Kamerbrieven | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Door het niet publiceren van impactvolle of hoog risico AI -systemen in het Algoritmeregister, is het voor betrokkenen of belanghebbenden niet mogelijk om de overheid kritisch te volgen, te bevragen en te controleren op de inzet van deze technologiĆ«n die hen kunnen raken. +## Normen -## Normen - -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/archiefwet.md b/docs/vereisten/archiefwet.md index 576c8a40e3..cc0c30d07d 100644 --- a/docs/vereisten/archiefwet.md +++ b/docs/vereisten/archiefwet.md @@ -1,80 +1,80 @@ --- title: De archiefwet is ook van toepassing op algoritmes en ai toelichting: Volgens de Archiefwet moeten overheden informatie bewaren. Op basis van deze informatie moet gereconstrueerd kunnen worden hoe besluiten, ook in de context van algoritmes en AI, tot stand zijn gekomen. Informatie over en van algoritmes en AI moet daarom ook bewaard en vernietigd worden. -status_vereiste: - - Geldend -levenscyclus: -- uitfaseren -- implementatie -- monitoring-en-beheer -bouwblok: -- technische-robuustheid-en-veiligheid -- governance -- data -- privacy-en-gegevensbescherming -rekenregels: -- niet-impactvol: Ja -- impactvol: Ja -machine-learning: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja +status_vereiste: + - Geldend +levenscyclus: + - uitfaseren + - implementatie + - monitoring-en-beheer +bouwblok: + - technische-robuustheid-en-veiligheid + - governance + - data + - privacy-en-gegevensbescherming +rekenregels: + - niet-impactvol: Ja + - impactvol: Ja +machine-learning: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Overheidsorganen zijn verplicht de onder hen berustende archiefbescheiden in goede, geordende en toegankelijke staat te brengen en te bewaren, alsmede zorg te dragen voor de vernietiging van de daarvoor in aanmerking komende archiefbescheiden. -## Toelichting +## Toelichting Volgens de Archiefwet moeten overheden informatie bewaren. -Op basis van deze informatie moet gereconstrueerd kunnen worden hoe besluiten, ook in de context van algoritmes en AI, tot stand zijn gekomen. +Op basis van deze informatie moet gereconstrueerd kunnen worden hoe besluiten, ook in de context van algoritmes en AI, tot stand zijn gekomen. Informatie over en van algoritmes en AI moet daarom ook bewaard en vernietigd worden. -## Bronnen +## Bronnen | Bron | -|-----------------------------| -|Artikel 3 Archiefwet| -|Artikel 15 lid 2 Archiefwet| -|Archiefbesluit 1995| -|Archiefregeling| +| --------------------------- | +| Artikel 3 Archiefwet | +| Artikel 15 lid 2 Archiefwet | +| Archiefbesluit 1995 | +| Archiefregeling | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Zonder goede toepassing van de Archiefwet is het voor betrokkene(n) of derden niet mogelijk om achteraf te reconstrueren en te controleren hoe besluiten, waar algoritmes en AI aan hebben bijgedragen, tot stand zijn gekomen. -Het nalaten om archiefbescheiden na verloop van tijd te verwijderen brengt risico's met zich mee op het gebied van privacy en informatiebeveiliging - +Het nalaten om archiefbescheiden na verloop van tijd te verwijderen brengt risico's met zich mee op het gebied van privacy en informatiebeveiliging -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/auteursrechten.md b/docs/vereisten/auteursrechten.md index 364dfad120..0b7eb74d71 100644 --- a/docs/vereisten/auteursrechten.md +++ b/docs/vereisten/auteursrechten.md @@ -1,81 +1,80 @@ --- title: Auteursrechten mogen niet worden geschonden -toelichting: Bepaalde vormen van algoritmes en AI worden ontwikkeld op basis van grote hoeveelheden data. Deze data wordt gebruikt voor het trainen en testen van algoritmes en AI. Het gebruiken van deze data mag geen inbreuk maken op Auteursrechten van diegene die deze rechten heeft. Ook de gegenereerde output van algoritmes en AI mag geen inbreuk maken op deze rechten. -status_vereiste: - - Geldend -levenscyclus: -- dataverkenning-en-datapreparatie -- ontwerp -bouwblok: -- data -- governance -rekenregels: -- niet-impactvol: Ja -- impactvol: Ja -machine-learning: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja +toelichting: Bepaalde vormen van algoritmes en AI worden ontwikkeld op basis van grote hoeveelheden data. Deze data wordt gebruikt voor het trainen en testen van algoritmes en AI. Het gebruiken van deze data mag geen inbreuk maken op Auteursrechten van diegene die deze rechten heeft. Ook de gegenereerde output van algoritmes en AI mag geen inbreuk maken op deze rechten. +status_vereiste: + - Geldend +levenscyclus: + - dataverkenning-en-datapreparatie + - ontwerp +bouwblok: + - data + - governance +rekenregels: + - niet-impactvol: Ja + - impactvol: Ja +machine-learning: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Auteursrechten mogen niet geschonden worden bij het ontwikkelen en gebruiken van algoritmes en AI. -## Toelichting +## Toelichting Bepaalde vormen van algoritmes en AI worden ontwikkeld op basis van grote hoeveelheden data. Deze data wordt gebruikt voor het trainen en testen van algoritmes en AI. Het gebruiken van deze data mag geen inbreuk maken op Auteursrechten van diegene die deze rechten heeft. Ook de gegenereerde output van algoritmes en AI mag geen inbreuk maken op deze rechten. +## Bronnen -## Bronnen - -| Bron | -|-----------------------------| -|Artikel 1 Auteurswet| -|Artikel 4-9 Auteurswet| -|Artikel 10 Auteurswet| -|Artikel 13 Auteurswet| -|Artikel 15n jo. 15o Auteurswet| -|Artikel 3 en 4 van de DSM-richtlijn (EU 2019/790)| +| Bron | +| ------------------------------------------------- | +| Artikel 1 Auteurswet | +| Artikel 4-9 Auteurswet | +| Artikel 10 Auteurswet | +| Artikel 13 Auteurswet | +| Artikel 15n jo. 15o Auteurswet | +| Artikel 3 en 4 van de DSM-richtlijn (EU 2019/790) | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Het niet voldoen aan het auteursrecht in AI-systemen en algoritmes kan leiden tot onrechtmatig gebruik van auteursrechtelijk beschermde inhoud, wat kan resulteren in mogelijke juridische geschillen, boetes en schadevergoedingen voor inbreuk op het auteursrecht. Bovendien kan het niet naleven van het auteursrecht het vertrouwen van gebruikers en belanghebbenden ondermijnen, wat kan leiden tot reputatieschade en gebrek aan vertrouwen. - -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md b/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md index 549010c6c0..367ad51b24 100644 --- a/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md +++ b/docs/vereisten/beginsel_van_proportionaliteit_en_subsidiariteit.md @@ -1,81 +1,81 @@ --- title: Proportionaliteit en subsidiariteit -toelichting: Proportionaliteit vereist dat de impact van gegevensverwerking op de persoonlijke levenssfeer voor de toepassing van een algoritme of AI-systeem en voor het genereren van de benodigde output in balans is met het beoogde doel. Subsidiariteit vereist dat persoonsgegevens alleen moeten worden verwerkt als dit de minst inbreukmakende manier is om het doel te bereiken. Deze principes waarborgen dat de privacy van individuen wordt gerespecteerd en dat gegevensverwerking niet verder gaat dan redelijk is voor legitieme doeleinden. Het is van belang om deze principes te hanteren om te bepalen of en in welke vorm een algoritme of AI-systeem moet toegepast en om tot een passende mate van gegevensverwerking te komen om het doel te bereiken. -status_vereiste: - - geldend -levenscyclus: -- probleemanalyse -- ontwerp -- dataverkenning-en-datapreparatie -- ontwikkelen -- verificatie-en-validatie -- implementatie -- monitoring-en-beheer -- uitfaseren -bouwblok: -- governance -- privacy-en-gegevensbescherming -rekenregels: -- niet-impactvol: Nee -- impactvol: Ja -machine-learning: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja +toelichting: Proportionaliteit vereist dat de impact van gegevensverwerking op de persoonlijke levenssfeer voor de toepassing van een algoritme of AI-systeem en voor het genereren van de benodigde output in balans is met het beoogde doel. Subsidiariteit vereist dat persoonsgegevens alleen moeten worden verwerkt als dit de minst inbreukmakende manier is om het doel te bereiken. Deze principes waarborgen dat de privacy van individuen wordt gerespecteerd en dat gegevensverwerking niet verder gaat dan redelijk is voor legitieme doeleinden. Het is van belang om deze principes te hanteren om te bepalen of en in welke vorm een algoritme of AI-systeem moet toegepast en om tot een passende mate van gegevensverwerking te komen om het doel te bereiken. +status_vereiste: + - geldend +levenscyclus: + - probleemanalyse + - ontwerp + - dataverkenning-en-datapreparatie + - ontwikkelen + - verificatie-en-validatie + - implementatie + - monitoring-en-beheer + - uitfaseren +bouwblok: + - governance + - privacy-en-gegevensbescherming +rekenregels: + - niet-impactvol: Nee + - impactvol: Ja +machine-learning: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja --- ## Vereiste -Gegevensverwerking moet in verhouding staan tot het beoogde doel en persoonsgegevens mogen alleen verwerkt worden als er geen minder ingrijpende manier is om het doel te bereiken. Voor zover het gaat om de verwerking van persoonsgegevens moet dit vereiste aantoonbaar zijn. +Gegevensverwerking moet in verhouding staan tot het beoogde doel en persoonsgegevens mogen alleen verwerkt worden als er geen minder ingrijpende manier is om het doel te bereiken. Voor zover het gaat om de verwerking van persoonsgegevens moet dit vereiste aantoonbaar zijn. -## Toelichting +## Toelichting Proportionaliteit vereist dat de impact van gegevensverwerking op de persoonlijke levenssfeer voor de toepassing van een algoritme of AI en voor het genereren van de benodigde output in balans is met het beoogde doel. -Subsidiariteit vereist dat persoonsgegevens alleen moeten worden verwerkt als dit de minst inbreukmakende manier is om het doel te bereiken. +Subsidiariteit vereist dat persoonsgegevens alleen moeten worden verwerkt als dit de minst inbreukmakende manier is om het doel te bereiken. Deze principes waarborgen dat de privacy van individuen wordt gerespecteerd en dat gegevensverwerking niet verder gaat dan noodzakelijk is voor legitieme doeleinden. Het is van belang om deze principes te hanteren om te bepalen of en in welke vorm een algoritmes en AI moet toegepast en om tot een passende mate van gegevensverwerking te komen om het doel te bereiken. -## Bronnen +## Bronnen -| Bron | -|-----------------------------| -|[Overweging 170 Algemene Verordening Gegevensbescherming](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:32016R0679) | -|[Artikel 5(4) Verdrag betreffende de Europese Unie, Maastricht, 07-02-1992](https://wetten.overheid.nl/jci1.3:c:BWBV0001507&titeldeel=I&artikel=5&z=2013-07-01&g=2013-07-01) | -|[Artikel 52 Handvest van de Grondrechten van de Europese Unie](https://eur-lex.europa.eu/legal-content/NL/TXT/PDF/?uri=CELEX:12012P/TXT) | -|[Protocol betreffende de toepassing van de beginselen van subsidiariteit en evenredigheid Verdrag betreffende de Europese Unie, Maastricht, 07-02-1992](https://wetten.overheid.nl/jci1.3:c:BWBV0001507&artikel=1&z=2013-07-01&g=2013-07-01) | -|[Artikel 1.10, 1.13 en 1.16 Aanbestedingswet 2012](https://wetten.overheid.nl/jci1.3:c:BWBR0032203&deel=1&hoofdstuk=1.2&afdeling=1.2.2&artikel=1.10&z=2022-03-02&g=2022-03-02) | -|[Artikel 5(1)(c) Algemene Verordening Gegevensbescherming](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:32016R0679) | +| Bron | +| -------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | +| [Overweging 170 Algemene Verordening Gegevensbescherming](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:32016R0679) | +| [Artikel 5(4) Verdrag betreffende de Europese Unie, Maastricht, 07-02-1992](https://wetten.overheid.nl/jci1.3:c:BWBV0001507&titeldeel=I&artikel=5&z=2013-07-01&g=2013-07-01) | +| [Artikel 52 Handvest van de Grondrechten van de Europese Unie](https://eur-lex.europa.eu/legal-content/NL/TXT/PDF/?uri=CELEX:12012P/TXT) | +| [Protocol betreffende de toepassing van de beginselen van subsidiariteit en evenredigheid Verdrag betreffende de Europese Unie, Maastricht, 07-02-1992](https://wetten.overheid.nl/jci1.3:c:BWBV0001507&artikel=1&z=2013-07-01&g=2013-07-01) | +| [Artikel 1.10, 1.13 en 1.16 Aanbestedingswet 2012](https://wetten.overheid.nl/jci1.3:c:BWBR0032203&deel=1&hoofdstuk=1.2&afdeling=1.2.2&artikel=1.10&z=2022-03-02&g=2022-03-02) | +| [Artikel 5(1)(c) Algemene Verordening Gegevensbescherming](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:32016R0679) | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Zonder toetsing aan het proportinaliteits- en subsidiariteitsbeginsel ontstaat het risico dat er een onnodig zware en daardoor onrechtmatige inbreuk wordt gemaakt op de privacyrechten van betrokkenen. -## Maatregelen +## Maatregelen diff --git a/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md b/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md index 7c9f83f4cc..1341468446 100644 --- a/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md +++ b/docs/vereisten/beschrijven_en_toewijzen_van_verantwoordelijkheden_bij_verwerking_persoonsgegevens.md @@ -1,78 +1,78 @@ --- title: Verantwoordelijkheden worden toegewezen en beschreven toelichting: Bij het verwerken van persoonsgegevens voor algoritmes en AI-systemen moeten de verantwoordelijkheden duidelijk beschreven en toegewezen zijn. De verwerkingsverantwoordelijke is degene die ervoor zorgt dat deze verantwoordelijkheden worden nageleefd en kan dit aantonen, wat bekend staat als de verantwoordingsplicht. Deze maatregelen zijn essentieel om de naleving van regelgeving met betrekking tot gegevensbescherming te waarborgen en het vertrouwen van gebruikers in de verwerking van hun gegevens te vergroten. -status_vereiste: - - Geldend -levenscyclus: -- ontwerp -- dataverkenning-en-datapreparatie -- ontwikkelen -- monitoring-en-beheer -- uitfaseren -bouwblok: -- governance -- privacy-en-gegevensbescherming -rekenregels: -- niet-impactvol: ja -- impactvol: Ja -machine-learning: -- niet-impactvol: ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: ja -- impactvol: Ja -- hoog-risico: Ja +status_vereiste: + - Geldend +levenscyclus: + - ontwerp + - dataverkenning-en-datapreparatie + - ontwikkelen + - monitoring-en-beheer + - uitfaseren +bouwblok: + - governance + - privacy-en-gegevensbescherming +rekenregels: + - niet-impactvol: ja + - impactvol: Ja +machine-learning: + - niet-impactvol: ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste De verantwoordelijkheden bij de verwerking van persoonsgegevens voor algoritmes en AI-systemen moeten zijn beschreven en zijn toegekend. De verwerkingsverantwoordelijke is verantwoordelijk voor de naleving van de beginselen inzake de verwerking van persoonsgegevens en kan deze aantonen ("verantwoordingsplicht"). -## Toelichting +## Toelichting Bij het verwerken van persoonsgegevens voor algoritmes en AI-systemen moeten de verantwoordelijkheden duidelijk beschreven en toegewezen zijn. De verwerkingsverantwoordelijke is degene die ervoor zorgt dat deze verantwoordelijkheden worden nageleefd en kan dit aantonen, wat bekend staat als de verantwoordingsplicht. Deze maatregelen zijn essentieel om de naleving van regelgeving met betrekking tot gegevensbescherming te waarborgen en het vertrouwen van gebruikers in de verwerking van hun gegevens te vergroten. -## Bronnen +## Bronnen -| Bron | -|-----------------------------| -|Artikel 24, 26, 27, 28 en 29, 5 lid 2 AVG| +| Bron | +| ----------------------------------------- | +| Artikel 24, 26, 27, 28 en 29, 5 lid 2 AVG | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Door rollen en verantwoordelijkheden rondom de verwerking van persoonsgegevens niet te duiden en te beleggen, ontstaat het risico dat persoonsgegevens onrechtmatig on onveilig worden verwerkt. +## Normen -## Normen - -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md b/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md index 822810866b..6fdb093770 100644 --- a/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md +++ b/docs/vereisten/beveiliging_informatie_en_informatiesystemen.md @@ -1,81 +1,79 @@ --- title: Beveiliging informatie en informatiesystemen -toelichting: Informatiebeveiliging is het proces van vaststellen van de vereiste beveiliging van informatiesystemen in termen van vertrouwelijkheid, beschikbaarheid en integriteit alsmede het treffen, onderhouden en controleren van een samenhangend pakket van bijbehorende maatregelen. In Nederland is besloten dat overheidsinstellingen de Baseline Informatiebeveiliging Overheid dienen toe te passen over hun informatie en informatiesystemen. De BIO beoogt de beveiliging van informatie(systemen) bij alle bestuurslagen en bestuursorganen van de overheid te bevorderen, zodat alle onderdelen erop kunnen vertrouwen dat onderling uitgewisselde gegevens, in lijn met wet- en regelgeving, passend beveiligd zijn. Algoritmes en AI-systemen en hun output kunnen onderdeel worden van de informatie en informatiesystemen waar de BIO op van toepassing is. Het is van belang om algoritmische toepassingen en AI-systemen op de juiste manier te beveiligen. -status_vereiste: - - Geldend -levenscyclus: -- ontwerp -- implementatie -- monitoring-en-beheer -- dataverkenning-en-datapreparatie -- verificatie-en-validatie -- uitfaseren -bouwblok: -- technische-robuustheid-en-veiligheid -rekenregels: -- niet-impactvol: ja -- impactvol: Ja -machine-learning: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja +toelichting: Informatiebeveiliging is het proces van vaststellen van de vereiste beveiliging van informatiesystemen in termen van vertrouwelijkheid, beschikbaarheid en integriteit alsmede het treffen, onderhouden en controleren van een samenhangend pakket van bijbehorende maatregelen. In Nederland is besloten dat overheidsinstellingen de Baseline Informatiebeveiliging Overheid dienen toe te passen over hun informatie en informatiesystemen. De BIO beoogt de beveiliging van informatie(systemen) bij alle bestuurslagen en bestuursorganen van de overheid te bevorderen, zodat alle onderdelen erop kunnen vertrouwen dat onderling uitgewisselde gegevens, in lijn met wet- en regelgeving, passend beveiligd zijn. Algoritmes en AI-systemen en hun output kunnen onderdeel worden van de informatie en informatiesystemen waar de BIO op van toepassing is. Het is van belang om algoritmische toepassingen en AI-systemen op de juiste manier te beveiligen. +status_vereiste: + - Geldend +levenscyclus: + - ontwerp + - implementatie + - monitoring-en-beheer + - dataverkenning-en-datapreparatie + - verificatie-en-validatie + - uitfaseren +bouwblok: + - technische-robuustheid-en-veiligheid +rekenregels: + - niet-impactvol: ja + - impactvol: Ja +machine-learning: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Informatie en informatiesystemen moeten op de juiste manier worden beveiligd. - -## Toelichting +## Toelichting Informatiebeveiliging is het proces van vaststellen van de vereiste beveiliging van informatiesystemen in termen van vertrouwelijkheid, beschikbaarheid en integriteit alsmede het treffen, onderhouden en controleren van een samenhangend pakket van bijbehorende maatregelen. In Nederland is besloten dat overheidsinstellingen de Baseline Informatiebeveiliging Overheid dienen toe te passen over hun informatie en informatiesystemen. -De BIO beoogt de beveiliging van informatie(systemen) bij alle bestuurslagen en bestuursorganen van de overheid te bevorderen, zodat alle onderdelen erop kunnen vertrouwen dat onderling uitgewisselde gegevens, in lijn met wet- en regelgeving, passend beveiligd zijn. +De BIO beoogt de beveiliging van informatie(systemen) bij alle bestuurslagen en bestuursorganen van de overheid te bevorderen, zodat alle onderdelen erop kunnen vertrouwen dat onderling uitgewisselde gegevens, in lijn met wet- en regelgeving, passend beveiligd zijn. Algoritmes en AI-systemen en hun output kunnen onderdeel worden van de informatie en informatiesystemen waar de BIO op van toepassing is. Het is van belang om algoritmische toepassingen en AI-systemen op de juiste manier te beveiligen. +## Bronnen -## Bronnen +| Bron | +| ---------------------------------------------------------- | +| Baseline Informatiebeveiliging Overheid | +| Besluit voorschrift informatiebeveiliging rijksdienst 2007 | -| Bron | -|-----------------------------| -|Baseline Informatiebeveiliging Overheid| -|Besluit voorschrift informatiebeveiliging rijksdienst 2007| - -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Er kunnen risico's ontstaan zoals ongeautoriseerde toegang, vernietiging, verlies, wijziging of niet-toegestane verwerking van gegevens als de informatie en informatiesystemen onvoldoende zijn beveiligd. +## Normen -## Normen - -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/beveiliging_van_verwerking.md b/docs/vereisten/beveiliging_van_verwerking.md index c98dcd8eb2..4d2c376c93 100644 --- a/docs/vereisten/beveiliging_van_verwerking.md +++ b/docs/vereisten/beveiliging_van_verwerking.md @@ -1,38 +1,38 @@ --- title: Beveiliging van verwerking -toelichting: Voor de ontwikkeling en gebruik van algoritmes en AI is dat data nodig. Deze data kan persoonsgegevens bevatten die moeten worden beschermd. De organisatie zal technische en organisatorische maatregelen moeten treffen om de data en de algoritmische toepassing of AI-systeem voldoende te beschermen. Hierbij kan worden gedacht aan dataminimalisatie, het pseudonimiseren of aggregeren van persoonsgegevens. Per toepassing moet worden onderzocht welke maatregelen hiervoor geschikt zijn. -status_vereiste: - - Geldend -levenscyclus: -- dataverkenning-en-datapreparatie -- ontwikkelen -- verificatie-en-validatie -- monitoring-en-beheer -- uitfaseren -bouwblok: -- privacy-en-gegevensbescherming -- data -rekenregels: -- niet-impactvol: ja -- impactvol: Ja -machine-learning: -- niet-impactvol: ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: ja -- impactvol: Ja -- hoog-risico: Ja +toelichting: Voor de ontwikkeling en gebruik van algoritmes en AI is dat data nodig. Deze data kan persoonsgegevens bevatten die moeten worden beschermd. De organisatie zal technische en organisatorische maatregelen moeten treffen om de data en de algoritmische toepassing of AI-systeem voldoende te beschermen. Hierbij kan worden gedacht aan dataminimalisatie, het pseudonimiseren of aggregeren van persoonsgegevens. Per toepassing moet worden onderzocht welke maatregelen hiervoor geschikt zijn. +status_vereiste: + - Geldend +levenscyclus: + - dataverkenning-en-datapreparatie + - ontwikkelen + - verificatie-en-validatie + - monitoring-en-beheer + - uitfaseren +bouwblok: + - privacy-en-gegevensbescherming + - data +rekenregels: + - niet-impactvol: ja + - impactvol: Ja +machine-learning: + - niet-impactvol: ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste -Rekening houdend met de stand van de techniek, de uitvoeringskosten, alsook met de aard, de omvang, de context en de verwerkingsdoeleinden en de qua waarschijnlijkheid en ernst uiteenlopende risico's voor de rechten en vrijheden +Rekening houdend met de stand van de techniek, de uitvoeringskosten, alsook met de aard, de omvang, de context en de verwerkingsdoeleinden en de qua waarschijnlijkheid en ernst uiteenlopende risico's voor de rechten en vrijheden van personen, treffen de verwerkingsverantwoordelijke en de verwerker passende technische en organisatorische maatregelen om een op het risico afgestemd beveiligingsniveau te waarborgen. - -## Toelichting +## Toelichting Voor de ontwikkeling en gebruik van algoritmes en AI is dat data nodig. Deze data kan persoonsgegevens bevatten die moeten worden beschermd. @@ -40,42 +40,41 @@ De organisatie zal technische en organisatorische maatregelen moeten treffen om Hierbij kan worden gedacht aan dataminimalisatie, het pseudonimiseren of aggregeren van persoonsgegevens. Per toepassing moet worden onderzocht welke maatregelen hiervoor geschikt zijn. +## Bronnen -## Bronnen - -| Bron | -|-----------------------------| -|Artikel 32 AVG| +| Bron | +| -------------- | +| Artikel 32 AVG | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Er kunnen risico's ontstaan zoals potentiĆ«le cyberaanvallen en datalekken. Dit kan leiden bijvoorbeeld tot verlies of diefstal van gevoelige gegevens, verstoring van organisatieprocessen,ongeautoriseerde toegang, vernietiging en onrechtmatige verwerking. -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/bevorder_ai_geletterdheid_personeel.md b/docs/vereisten/bevorder_ai_geletterdheid_personeel.md index ae610f8dc7..6ecdeb68ce 100644 --- a/docs/vereisten/bevorder_ai_geletterdheid_personeel.md +++ b/docs/vereisten/bevorder_ai_geletterdheid_personeel.md @@ -1,75 +1,76 @@ --- title: Bevorder ai-geletterdheid van personeel en gebruikers toelichting: Aanbieders en exploitanten van AI-systemen nemen maatregelen om ervoor te zorgen dat hun personeel en andere betrokkenen voldoende kennis hebben van AI. Dit omvat het overwegen van technische kennis, ervaring, onderwijs en opleiding van individuen, evenals de context waarin de AI-systemen worden gebruikt en de gebruikers van deze systemen. Het doel is om een adequaat niveau van begrip en vaardigheden te waarborgen, wat bijdraagt aan een verantwoord gebruik van AI en het minimaliseren van risico's. -status_vereiste: - - Geldend -levenscyclus: -- probleemanalyse -- ontwerp -- implementatie -- monitoring-en-beheer -bouwblok: -- menselijke-controle -- governance -rekenregels: -- niet-impactvol: Nee -- impactvol: Nee -machine-learning: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja +status_vereiste: + - Geldend +levenscyclus: + - probleemanalyse + - ontwerp + - implementatie + - monitoring-en-beheer +bouwblok: + - menselijke-controle + - governance +rekenregels: + - niet-impactvol: Nee + - impactvol: Nee +machine-learning: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Aanbieders en exploitanten van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt. -## Toelichting +## Toelichting Aanbieders en exploitanten van AI-systemen nemen maatregelen om ervoor te zorgen dat hun personeel en andere betrokkenen voldoende kennis hebben van AI. Dit omvat het overwegen van technische kennis, ervaring, onderwijs en opleiding van individuen, evenals de context waarin de AI-systemen worden gebruikt en de gebruikers van deze systemen. Het doel is om een adequaat niveau van begrip en vaardigheden te waarborgen, wat bijdraagt aan een verantwoord gebruik van AI en het minimaliseren van risico's. -## Bronnen +## Bronnen -| Bron | -|-----------------------------| -|Aanbieders en exploitanten van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.| +| Bron | +| --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- | +| Aanbieders en exploitanten van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt. | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Onvoldoende AI-geletterdheid kan leiden tot misbruik of onjuist gebruik van AI-systemen en tot situaties waarin AI-systemen verkeerd worden ingezet, onbedoeld gebruikt worden voor taken waar ze niet geschikt voor zijn, of dat de veiligheid en effectiviteit van de systemen in het gedrang komt. Dit kan leiden tot inefficiĆ«ntie, fouten, en mogelijk schade aan organisaties, gebruikers of betrokkenen. -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/bewaartermijn_voor_documentatie.md b/docs/vereisten/bewaartermijn_voor_documentatie.md index c539a7f229..5a7095cdd4 100644 --- a/docs/vereisten/bewaartermijn_voor_documentatie.md +++ b/docs/vereisten/bewaartermijn_voor_documentatie.md @@ -1,77 +1,77 @@ --- -title: Hoog risico ai systemen voldoen aan bewaartermijn voor documentatie -toelichting: De aanbieder moet gedurende tien jaar na het op de markt brengen of in gebruik nemen van het AI-systeem met een hoog risico de vereiste documentatie beschikbaar houden voor de nationale autoriteiten. Dit houdt in dat technische documentatie, documentatie over het kwaliteitsbeheersysteem, eventuele documentatie over besluiten en goedgekeurde wijzigingen door aangemelde instanties en de EU-conformiteitsverklaring beschikbaar moet zijn. Dit waarborgt dat de autoriteiten toegang hebben tot relevante informatie voor controle en naleving van de voorschriften gedurende deze periode. -status_vereiste: - - Geldend -levenscyclus: -- ontwerp -- ontwikkelen -- monitoring-en-beheer -- uitfaseren -bouwblok: -- governance -- technische-robuustheid-en-veiligheid -rekenregels: -- niet-impactvol: Nee -- impactvol: Nee -machine-learning: -- niet-impactvol: Nee -- impactvol: Nee -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Nee -- hoog-risico: Ja +title: Hoog risico ai systemen voldoen aan bewaartermijn voor documentatie +toelichting: De aanbieder moet gedurende tien jaar na het op de markt brengen of in gebruik nemen van het AI-systeem met een hoog risico de vereiste documentatie beschikbaar houden voor de nationale autoriteiten. Dit houdt in dat technische documentatie, documentatie over het kwaliteitsbeheersysteem, eventuele documentatie over besluiten en goedgekeurde wijzigingen door aangemelde instanties en de EU-conformiteitsverklaring beschikbaar moet zijn. Dit waarborgt dat de autoriteiten toegang hebben tot relevante informatie voor controle en naleving van de voorschriften gedurende deze periode. +status_vereiste: + - Geldend +levenscyclus: + - ontwerp + - ontwikkelen + - monitoring-en-beheer + - uitfaseren +bouwblok: + - governance + - technische-robuustheid-en-veiligheid +rekenregels: + - niet-impactvol: Nee + - impactvol: Nee +machine-learning: + - niet-impactvol: Nee + - impactvol: Nee + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Nee + - hoog-risico: Ja --- + ## Vereiste De aanbieder houdt gedurende een periode van tien jaar nadat het AI-systeem met een hoog risico in de handel is gebracht of in gebruik is gesteld de elementen van art. 18 ter beschikking van de nationale bevoegde autoriteiten. -## Toelichting +## Toelichting De aanbieder moet gedurende tien jaar na het op de markt brengen of in gebruik nemen van het AI-systeem met een hoog risico de vereiste documentatie beschikbaar houden voor de nationale autoriteiten. Dit houdt in dat technische documentatie, documentatie over het kwaliteitsbeheersysteem, eventuele documentatie over besluiten en goedgekeurde wijzigingen door aangemelde instanties en de EU-conformiteitsverklaring beschikbaar moet zijn. Dit waarborgt dat de autoriteiten toegang hebben tot relevante informatie voor controle en naleving van de voorschriften gedurende deze periode. +## Bronnen -## Bronnen - -| Bron | -|-----------------------------| -|Artikel 18(1) Bewaring van documentatie- AI verordening| -|Artikel 16(d) Verplichtingen van aanbieders van AI-systemen met een hoog risico - AI veordening| +| Bron | +| ----------------------------------------------------------------------------------------------- | +| Artikel 18(1) Bewaring van documentatie- AI verordening | +| Artikel 16(d) Verplichtingen van aanbieders van AI-systemen met een hoog risico - AI veordening | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Niet voldoen aan de bewaartermijn kan leiden tot juridische consequenties en kan het vermogen van de autoriteiten om toezicht te houden op de naleving van de regelgeving belemmeren. -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/geb_dpia_verplicht_bij_hoog_risico.md b/docs/vereisten/geb_dpia_verplicht_bij_hoog_risico.md index 1e75c5b969..0a52b4fdec 100644 --- a/docs/vereisten/geb_dpia_verplicht_bij_hoog_risico.md +++ b/docs/vereisten/geb_dpia_verplicht_bij_hoog_risico.md @@ -2,77 +2,77 @@ title: Een geb/dpia is verplicht bij hoog risico toelichting: Een Gegevensbeschermingseffectbeoordeling (GEB) of Data Protection Impact Assessment (DPIA) is verplicht wanneer de verwerking van persoonsgegevens waarschijnlijk een hoog risico met zich meebrengt voor de rechten en vrijheden van natuurlijke personen. Deze beoordeling identificeert en beperkt potentiĆ«le risico's en zorgt ervoor dat passende maatregelen worden genomen om de privacy van individuen te beschermen. Deze verplichting draagt bij aan een zorgvuldige en verantwoorde omgang met persoonsgegevens in AI-systemen en algoritmes, waardoor de privacy van individuen wordt gewaarborgd. -status_vereiste: - - Geldend -levenscyclus: -- ontwerp -- dataverkenning-en-datapreparatie -- ontwikkelen -- verificatie-en-validatie -bouwblok: -- privacy-en-gegevensbescherming +status_vereiste: + - Geldend +levenscyclus: + - ontwerp + - dataverkenning-en-datapreparatie + - ontwikkelen + - verificatie-en-validatie +bouwblok: + - privacy-en-gegevensbescherming rollen: -- privacy-officer -rekenregels: -- niet-impactvol: Nee -- impactvol: Ja -machine-learning: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja + - privacy-officer +rekenregels: + - niet-impactvol: Nee + - impactvol: Ja +machine-learning: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Een gegevensbeschermingseffectbeoordeling (DPIA) is verplicht, indien een verwerking van persoonsgegevens waarschijnlijk een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personen. -## Toelichting +## Toelichting Een Gegevensbeschermingseffectbeoordeling (GEB) of Data Protection Impact Assessment (DPIA) is verplicht wanneer de verwerking van persoonsgegevens waarschijnlijk een hoog risico met zich meebrengt voor de rechten en vrijheden van natuurlijke personen. Deze beoordeling identificeert en beperkt potentiĆ«le risico's en zorgt ervoor dat passende maatregelen worden genomen om de privacy van individuen te beschermen. Deze verplichting draagt bij aan een zorgvuldige en verantwoorde omgang met persoonsgegevens in AI-systemen en algoritmes, waardoor de privacy van individuen wordt gewaarborgd. +## Bronnen -## Bronnen - -| Bron | -|-----------------------------| -|Artikel 35 AVG| +| Bron | +| -------------- | +| Artikel 35 AVG | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico -Het niet evalueren van de impact van het verwerking van persoonsgegevens in AI-systemen en algoritmes kan resulteren in het niet onderkennen van de bijbehorende risico's en het niet op tijd te mitigieren van deze risico's. +Het niet evalueren van de impact van het verwerking van persoonsgegevens in AI-systemen en algoritmes kan resulteren in het niet onderkennen van de bijbehorende risico's en het niet op tijd te mitigieren van deze risico's. Dit kan leiden tot potentiĆ«le schendingen van de rechten en vrijheden van betrokkenen. -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/index.md b/docs/vereisten/index.md index 682e0dc1ae..7e2126038e 100644 --- a/docs/vereisten/index.md +++ b/docs/vereisten/index.md @@ -2,30 +2,32 @@ title: Vereisten --- -Een kernelement van het Algoritmekader is het beschrijven van de vereisten waar overheidsorganisaties aan moeten voldoen als zij algoritmes en AI (laten) ontwikkelen en gebruiken. -Er is tal van wet- en regelgeving van toepassing op overheidsorganisaties als zij hun wettelijke taken uitvoeren. -Dat geldt ook als algoritmes en AI worden ingezet ter ondersteuning van de bijbehorende werkprocessen. -Hier kan worden gedacht aan de Algemene Wet Bestuursrecht, de Grondwet, de AI-verordening (vanaf inwerkingtreding), Auteurswet, de AVG en meer sectorspecifieke wet- en regelgeving. -In het Algoritmekader wordt een overzicht gegeven van de vereisten die hieruit voortkomen en van toepassing zijn op algoritmes en AI. +Een kernelement van het Algoritmekader is het beschrijven van de vereisten waar overheidsorganisaties aan moeten voldoen als zij algoritmes en AI (laten) ontwikkelen en gebruiken. +Er is tal van wet- en regelgeving van toepassing op overheidsorganisaties als zij hun wettelijke taken uitvoeren. +Dat geldt ook als algoritmes en AI worden ingezet ter ondersteuning van de bijbehorende werkprocessen. +Hier kan worden gedacht aan de Algemene Wet Bestuursrecht, de Grondwet, de AI-verordening (vanaf inwerkingtreding), Auteurswet, de AVG en meer sectorspecifieke wet- en regelgeving. +In het Algoritmekader wordt een overzicht gegeven van de vereisten die hieruit voortkomen en van toepassing zijn op algoritmes en AI. !!! warning "Opmerking" - Het algoritmekader is nog volop in ontwikkeling. - Dit betekent dat de lijst met vereisten die nu zijn opgenomen in het algoritmekader nog onvolledig is, en dat de vereisten later nog kunnen worden aangepast. - Meer vereisten volgen in een volgende versie van het Algoritmekader. +Het algoritmekader is nog volop in ontwikkeling. +Dit betekent dat de lijst met vereisten die nu zijn opgenomen in het algoritmekader nog onvolledig is, en dat de vereisten later nog kunnen worden aangepast. +Meer vereisten volgen in een volgende versie van het Algoritmekader. ## Welke vereisten zijn wanneer van toepassing? -In dit deel van het Algoritmekader kan worden genavigeerd door de verschillende vereisten. -Wat precies van toepassing is, is sterk afhankelijk van de specifieke toepassing. -Daarom worden de vereisten gekoppeld aan het type technologie (rekenregel, machine learning of generatieve AI) en aan de risico classificatie (niet-impactvol, impactvol en hoge risico). -Dit moet gebruikers helpen om te duiden welke vereisten in welke situaties moeten worden nageleefd. + +In dit deel van het Algoritmekader kan worden genavigeerd door de verschillende vereisten. +Wat precies van toepassing is, is sterk afhankelijk van de specifieke toepassing. +Daarom worden de vereisten gekoppeld aan het type technologie (rekenregel, machine learning of generatieve AI) en aan de risico classificatie (niet-impactvol, impactvol en hoge risico). +Dit moet gebruikers helpen om te duiden welke vereisten in welke situaties moeten worden nageleefd. ??? note "Opmerking" - Aan deze functionaliteit wordt nog gewerkt. Meer hierover zal volgen in een volgende versie. +Aan deze functionaliteit wordt nog gewerkt. Meer hierover zal volgen in een volgende versie. ### Voorbeeld -Ter illustratie, ongeacht het type technologie, zijn discriminerende algoritmes en AI verboden en het vereisten van non-discriminatie moet in alle gevallen worden toegepast. -De mate waarin dit speelt kan verschillen en het aantal te treffen maatregelen ook. -Organisaties zullen hier hoe dan ook aandacht aan moeten besteden. -Dit is anders als het gaat om bijvoorbeeld het vereiste van het opnemen van algoritmes en AI in het Algoritmeregister. -Dit is van belang bij impactvolle algoritmische toepassingen en hoog-risico AI-systemen. -Voor de niet-impactvolle rekenregels is dit niet noodzakelijk en kan daardoor achterwege blijven. + +Ter illustratie, ongeacht het type technologie, zijn discriminerende algoritmes en AI verboden en het vereisten van non-discriminatie moet in alle gevallen worden toegepast. +De mate waarin dit speelt kan verschillen en het aantal te treffen maatregelen ook. +Organisaties zullen hier hoe dan ook aandacht aan moeten besteden. +Dit is anders als het gaat om bijvoorbeeld het vereiste van het opnemen van algoritmes en AI in het Algoritmeregister. +Dit is van belang bij impactvolle algoritmische toepassingen en hoog-risico AI-systemen. +Voor de niet-impactvolle rekenregels is dit niet noodzakelijk en kan daardoor achterwege blijven. diff --git a/docs/vereisten/kwaliteitscriteria_voor_data.md b/docs/vereisten/kwaliteitscriteria_voor_data.md index ba6d5c1b23..a755d78b50 100644 --- a/docs/vereisten/kwaliteitscriteria_voor_data.md +++ b/docs/vereisten/kwaliteitscriteria_voor_data.md @@ -1,77 +1,77 @@ --- title: Data van hoog-risico ai moet voldoen aan kwaliteitscriteria toelichting: AI-systemen met een hoog risico die data gebruiken voor het trainen van AI-modellen, moeten gebaseerd zijn op datasets die voldoen aan specifieke kwaliteitscriteria. Deze criteria zorgen ervoor dat de data geschikt zijn voor training, validatie en tests, wat de betrouwbaarheid en nauwkeurigheid van het AI-systeem waarborgt. De kwaliteitscriteria is te vinden in leden 2 t/m 5 van artikel 10 van de AI-verordening. Bijvoorbeeld datasets moeten aan praktijken voor databeheer voldoen en moeten relevant, representatief, accuraat en volledig zijn. -status_vereiste: - - Geldend -levenscyclus: -- ontwerp -- dataverkenning-en-datapreparatie -- verificatie-en-validatie -bouwblok: -- governance -- data -rekenregels: -- niet-impactvol: Nee -- impactvol: Nee -machine-learning: -- niet-impactvol: Ja -- impactvol: Nee -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Nee -- hoog-risico: Ja +status_vereiste: + - Geldend +levenscyclus: + - ontwerp + - dataverkenning-en-datapreparatie + - verificatie-en-validatie +bouwblok: + - governance + - data +rekenregels: + - niet-impactvol: Nee + - impactvol: Nee +machine-learning: + - niet-impactvol: Ja + - impactvol: Nee + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Nee + - hoog-risico: Ja --- + ## Vereiste AI-systemen met een hoog risico die technieken gebruiken die het trainen van AI-modellen met data omvatten, worden ontwikkeld op basis van datareeksen voor training, validatie en tests die voldoen aan de kwaliteitscriteria als bedoeld in de leden 2 tot en met 5 telkens wanneer dergelijke datareeksen worden gebruikt. -## Toelichting +## Toelichting AI-systemen met een hoog risico die data gebruiken voor het trainen van AI-modellen, moeten gebaseerd zijn op datasets die voldoen aan specifieke kwaliteitscriteria. Deze criteria zorgen ervoor dat de data geschikt zijn voor training, validatie en tests, wat de betrouwbaarheid en nauwkeurigheid van het AI-systeem waarborgt. De kwaliteitscriteria is te vinden in leden 2 t/m 5 van artikel 10 van de AI-verordening. Bijvoorbeeld datasets moeten aan praktijken voor databeheer voldoen en moeten relevant, representatief, accuraat en volledig zijn. -## Bronnen +## Bronnen -| Bron | -|-----------------------------| -|Artikel 10(1) Data and datagovernance - AI verordening| +| Bron | +| ------------------------------------------------------ | +| Artikel 10(1) Data and datagovernance - AI verordening | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Gebruik van laagkwalitatieve of bevooroordeelde datasets kan leiden tot onbetrouwbare en oneerlijke AI-besluitvorming. Onvoldoende kwaliteitsborging van testdata kan leiden tot vertekende resultaten en gebrekkige prestaties van het AI-systeem bij gebruik in de praktijk. +## Normen -## Normen - -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/non_discriminatie.md b/docs/vereisten/non_discriminatie.md index d920700109..8e38437f5a 100644 --- a/docs/vereisten/non_discriminatie.md +++ b/docs/vereisten/non_discriminatie.md @@ -1,83 +1,82 @@ --- title: Ai-systemen en algoritmes mogen niet discrimineren -toelichting: Overheidsinstanties moeten zich bij het uitvoeren van hun taken onthouden van discriminatie, ook wanneer er gebruik wordt gemaakt van algoritmes of AI. Wanneer er algoritmes worden gebruikt om selecties te maken van burgers, dienen we te streven naar een gelijke behandeling van personen of groepen ten opzichte van andere personen in een vergelijkbare situatie. Hierbij is het belangrijk te beseffen dat discriminatie ook op indirecte wijze kan ontstaan. Hiervan is sprake wanneer een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een beschermd persoonskenmerk in vergelijking met andere personen in het bijzonder benadeelt, tenzij hiervoor een objectieve rechtvaardiging bestaat. -status_vereiste: - - Geldend -levenscyclus: -- probleemanalyse -- dataverkenning-en-datapreparatie -- ontwerp -- verificatie-en-validatie -- implementatie -- monitoring-en-beheer -bouwblok: -- fundamentele-rechten -rekenregels: -- niet-impactvol: Ja -- impactvol: Ja -machine-learning: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja +toelichting: Overheidsinstanties moeten zich bij het uitvoeren van hun taken onthouden van discriminatie, ook wanneer er gebruik wordt gemaakt van algoritmes of AI. Wanneer er algoritmes worden gebruikt om selecties te maken van burgers, dienen we te streven naar een gelijke behandeling van personen of groepen ten opzichte van andere personen in een vergelijkbare situatie. Hierbij is het belangrijk te beseffen dat discriminatie ook op indirecte wijze kan ontstaan. Hiervan is sprake wanneer een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een beschermd persoonskenmerk in vergelijking met andere personen in het bijzonder benadeelt, tenzij hiervoor een objectieve rechtvaardiging bestaat. +status_vereiste: + - Geldend +levenscyclus: + - probleemanalyse + - dataverkenning-en-datapreparatie + - ontwerp + - verificatie-en-validatie + - implementatie + - monitoring-en-beheer +bouwblok: + - fundamentele-rechten +rekenregels: + - niet-impactvol: Ja + - impactvol: Ja +machine-learning: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Allen die zich in Nederland bevinden, worden in gelijke gevallen gelijk behandeld. Directe en indirecte discriminatie wegens godsdienst, levensovertuiging, politieke gezindheid, ras, geslacht, handicap, seksuele gerichtheid of op welke grond dan ook, is niet toegestaan. - -## Toelichting +## Toelichting Overheidsinstanties moeten zich bij het uitvoeren van hun taken onthouden van discriminatie, ook wanneer er gebruik wordt gemaakt van algoritmes of AI. Wanneer er algoritmes worden gebruikt om selecties te maken van burgers, dienen we te streven naar een gelijke behandeling van personen of groepen ten opzichte van andere personen in een vergelijkbare situatie. Hierbij is het belangrijk te beseffen dat discriminatie ook op indirecte wijze kan ontstaan. Hiervan is sprake wanneer een ogenschijnlijk neutrale bepaling, maatstaf of handelwijze personen met een beschermd persoonskenmerk in vergelijking met andere personen in het bijzonder benadeelt, tenzij hiervoor een objectieve rechtvaardiging bestaat. +## Bronnen -## Bronnen - -| Bron | -|-----------------------------| -|Grondwet Artikel 1| -|EVRM Artikel 1 en 14, jo. 21 HvEU | -|Algemene wet gelijke behandeling, Protocol 12 2.2, Artikel 1 lid 1 sub c| -|Artikel 9 AVG| -|Artikel 2:4 Awb| +| Bron | +| ------------------------------------------------------------------------ | +| Grondwet Artikel 1 | +| EVRM Artikel 1 en 14, jo. 21 HvEU | +| Algemene wet gelijke behandeling, Protocol 12 2.2, Artikel 1 lid 1 sub c | +| Artikel 9 AVG | +| Artikel 2:4 Awb | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Het risico bestaat dat het model onwenselijke systematische afwijkingen creĆ«ert voor specifieke personen, groepen of andere eenheden, wat kan duiden op directe of indirecte discriminerende effecten van het algoritme. -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md b/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md index 783792d893..2d343a14cc 100644 --- a/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md +++ b/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md @@ -1,76 +1,74 @@ --- title: Recht op niet geautomatiseerd besluitvorming toelichting: Mensen hebben het recht om niet onderworpen te worden aan beslissingen die uitsluitend gebaseerd zijn op geautomatiseerde verwerking, zoals profilering, als dit aanzienlijke gevolgen voor hen heeft of hen op een andere manier aanzienlijk beĆÆnvloedt. Dit recht biedt bescherming tegen mogelijke negatieve effecten van volledig geautomatiseerde besluitvormingssystemen, en waarborgt dat individuen kunnen rekenen op menselijke tussenkomst en beoordeling bij belangrijke beslissingen die hen kunnen treffen. Uitgangspunt is dat voor elk individueel geval een zorgvuldige beoordeling van de kenmerken en omstandigheden plaatsvindt voordat een besluit wordt genomen. -status_vereiste: - - Geldend -levenscyclus: -- ontwerp -- ontwikkelen -- monitoring-en-beheer -bouwblok: -- privacy-en-gegevensbescherming -rekenregels: -- niet-impactvol: Nee -- impactvol: Ja -machine-learning: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Ja -- hoog-risico: Ja +status_vereiste: + - Geldend +levenscyclus: + - ontwerp + - ontwikkelen + - monitoring-en-beheer +bouwblok: + - privacy-en-gegevensbescherming +rekenregels: + - niet-impactvol: Nee + - impactvol: Ja +machine-learning: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste Betrokkenen hebben het recht om niet onderworpen te worden aan een enkel op geautomatiseerde verwerking, waaronder proflering, gebaseerd besluit, wanneer dit rechtsgevolgen heeft voor hen of het hen anderszins in aanzienlijke mate tref. -## Toelichting +## Toelichting Mensen hebben het recht om niet onderworpen te worden aan beslissingen die uitsluitend gebaseerd zijn op geautomatiseerde verwerking, zoals profilering, als dit aanzienlijke gevolgen voor hen heeft of hen op een andere manier aanzienlijk beĆÆnvloedt. Dit recht biedt bescherming tegen mogelijke negatieve effecten van volledig geautomatiseerde besluitvormingssystemen, en waarborgt dat individuen kunnen rekenen op menselijke tussenkomst en beoordeling bij belangrijke beslissingen die hen kunnen treffen. Uitgangspunt is dat voor elk individueel geval een zorgvuldige beoordeling van de kenmerken en omstandigheden plaatsvindt voordat een besluit wordt genomen. -## Bronnen +## Bronnen -| Bron | -|-----------------------------| -|Artikel 22 AVG| -|Artikel 1:3 Awb| +| Bron | +| --------------- | +| Artikel 22 AVG | +| Artikel 1:3 Awb | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Bij geautomatiseerde besluitvorming kan het risico ontstaan dat kenmerken van een bepaalde groep ten onrechte worden tegengeworpen aan een individu die deze kenmerken niet hoeft te bezitten. +## Normen +In afwachting van het standaardisatieproces. +## Maatregelen -## Normen - -In afwachting van het standaardisatieproces. - -## Maatregelen - -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md b/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md index 93f710fde0..5a1bf6aee7 100644 --- a/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md +++ b/docs/vereisten/technische_documentatie_voor_hoog_risico_ai.md @@ -1,102 +1,93 @@ --- title: Technische documentatie voor hoog-risico ai toelichting: De technische documentatie van een AI-systeem met een hoog risico wordt voorafgaand aan het in de handel brengen of in gebruik nemen opgesteld en regelmatig bijgewerkt. Deze documentatie moet duidelijk aantonen dat het systeem voldoet aan de vereisten van de verordening, zodat nationale autoriteiten en aangemelde instanties de naleving kunnen beoordelen. De documentatie bevat ten minste de elementen zoals uiteengezet in bijlage IV. 1. Een algemene beschrijving van het AI-syseem. 2. Een gedetailleerde beschrijving van de elementen van het AI systeem en het proces voor de ontwikkeling ervan. 3. Gedetailleerde informatie over de monitoring, werking en controle van het AI-systeem. 4. Een beschrijving van de geschiktheid van de prestatiestatistieken. 5. Een gedetailleerde beschrijving van het systeem voor risicobeheer overeenkomstig artikel 9 van de AI verordening. 6. Een beschrijving van de wijzigingen die tijdens de levensduur worden aangebracht. 7. Een lijst van normen die worden toegepast. 8. Een exemplaar van de EU-conformiteitsverklaring. 9. Een gedetailleerde beschrijving voor evaluatie van prestaties nadat het systeem in handel is gebracht, in overeenstemming met artikel 72 van de AI verordening. -status_vereiste: - - Nog niet geldend -levenscyclus: -- ontwerp -- dataverkenning-en-datapreparatie -- ontwikkelen -- verificatie-en-validatie -- implementatie -- monitoring-en-beheer -bouwblok: -- governance -- technische-robuustheid-en-veiligheid -rekenregels: -- niet-impactvol: Nee -- impactvol: Nee -machine-learning: -- niet-impactvol: Nee -- impactvol: Nee -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Nee -- hoog-risico: Ja +status_vereiste: + - Nog niet geldend +levenscyclus: + - ontwerp + - dataverkenning-en-datapreparatie + - ontwikkelen + - verificatie-en-validatie + - implementatie + - monitoring-en-beheer +bouwblok: + - governance + - technische-robuustheid-en-veiligheid +rekenregels: + - niet-impactvol: Nee + - impactvol: Nee +machine-learning: + - niet-impactvol: Nee + - impactvol: Nee + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Nee + - hoog-risico: Ja --- + ## Vereiste De technische documentatie van een AI-systeem met een hoog risico wordt opgesteld voordat dit systeem in de handel wordt gebracht of in gebruik wordt gesteld, en wordt geactualiseerd. De technische documentatie wordt op zodanige wijze opgesteld dat wordt aangetoond dat het AI-systeem met een hoog risico in overeenstemming is met de eisen van deze afdeling en dat nationale bevoegde autoriteiten en aangemelde instanties over de noodzakelijke, op heldere en begrijpelijke wijze gestelde informatie beschikken om de overeenstemming van het AI-systeem met deze voorschriften te kunnen beoordelen. De documentatie omvat ten minste de in bijlage IV uiteengezette elementen. - -## Toelichting +## Toelichting De technische documentatie van een AI-systeem met een hoog risico wordt voorafgaand aan het in de handel brengen of in gebruik nemen opgesteld en regelmatig bijgewerkt. Deze documentatie moet duidelijk aantonen dat het systeem voldoet aan de vereisten van de verordening, zodat nationale autoriteiten en aangemelde instanties de naleving kunnen beoordelen. De documentatie bevat ten minste de elementen zoals uiteengezet in bijlage IV. -1. -Een algemene beschrijving van het AI-syseem. -2. -Een gedetailleerde beschrijving van de elementen van het AI systeem en het proces voor de ontwikkeling ervan. -3. -Gedetailleerde informatie over de monitoring, werking en controle van het AI-systeem. -4. -Een beschrijving van de geschiktheid van de prestatiestatistieken. -5. -Een gedetailleerde beschrijving van het systeem voor risicobeheer overeenkomstig artikel 9 van de AI verordening. -6. -Een beschrijving van de wijzigingen die tijdens de levensduur worden aangebracht. -7. -Een lijst van normen die worden toegepast. -8. -Een exemplaar van de EU-conformiteitsverklaring. -9. -Een gedetailleerde beschrijving voor evaluatie van prestaties nadat het systeem in handel is gebracht, in overeenstemming met artikel 72 van de AI verordening. - -## Bronnen - -| Bron | -|-----------------------------| -|Artikel 11(1) Technische documentatie- AI verordening| -|Bijlage IV bij AI-Verordening| -|| - -## Wanneer van toepassing? + +1. Een algemene beschrijving van het AI-syseem. +2. Een gedetailleerde beschrijving van de elementen van het AI systeem en het proces voor de ontwikkeling ervan. +3. Gedetailleerde informatie over de monitoring, werking en controle van het AI-systeem. +4. Een beschrijving van de geschiktheid van de prestatiestatistieken. +5. Een gedetailleerde beschrijving van het systeem voor risicobeheer overeenkomstig artikel 9 van de AI verordening. +6. Een beschrijving van de wijzigingen die tijdens de levensduur worden aangebracht. +7. Een lijst van normen die worden toegepast. +8. Een exemplaar van de EU-conformiteitsverklaring. +9. Een gedetailleerde beschrijving voor evaluatie van prestaties nadat het systeem in handel is gebracht, in overeenstemming met artikel 72 van de AI verordening. + +## Bronnen + +| Bron | +| ----------------------------------------------------- | +| Artikel 11(1) Technische documentatie- AI verordening | +| Bijlage IV bij AI-Verordening | +| | + +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Het ontbreken van de benodigde informatie over de algoritmische toepassing of AI-systeem kan ertoe leiden dat de technische functionering onduidelijk is. Dat kan tot problemen leiden bij de verantwoording, controle en het beheer. Onvolledige of ontoereikende technische documentatie kan leiden tot onduidelijkheid over de conformiteit van het AI-systeem met de regelgeving, wat de veiligheid en naleving in gevaar kan brengen. +## Normen -## Normen - -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/transparantie.md b/docs/vereisten/transparantie.md index 0a6700886c..79137716a7 100644 --- a/docs/vereisten/transparantie.md +++ b/docs/vereisten/transparantie.md @@ -1,77 +1,76 @@ --- title: Transparantie in ontwerp voor hoog-risico ai -toelichting: AI-systemen met een hoog risico worden ontworpen en ontwikkeld met een hoge mate van transparantie, zodat gebruikers de output van het systeem kunnen begrijpen en correct kunnen gebruiken. Dit zorgt ervoor dat de aanbieders en gebruikers kunnen voldoen aan de verplichtingen zoals uiteengezet in de relevante regelgeving, waardoor de betrouwbaarheid en verantwoordelijkheid van het gebruik van deze systemen worden verzekerd. In artikel 13 lid 3 is een overzicht gegeven van de informatie die gebruikersinstructies tenminste moeten bevatten. -status_vereiste: - - Nog niet geldend -levenscyclus: -- ontwerp -- ontwikkelen -- verificatie-en-validatie -- implementatie -- monitoring-en-beheer -bouwblok: -- transparantie -rekenregels: -- niet-impactvol: Nee -- impactvol: Nee -machine-learning: -- niet-impactvol: Nee -- impactvol: Nee -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Nee -- impactvol: Nee -- hoog-risico: Ja +toelichting: AI-systemen met een hoog risico worden ontworpen en ontwikkeld met een hoge mate van transparantie, zodat gebruikers de output van het systeem kunnen begrijpen en correct kunnen gebruiken. Dit zorgt ervoor dat de aanbieders en gebruikers kunnen voldoen aan de verplichtingen zoals uiteengezet in de relevante regelgeving, waardoor de betrouwbaarheid en verantwoordelijkheid van het gebruik van deze systemen worden verzekerd. In artikel 13 lid 3 is een overzicht gegeven van de informatie die gebruikersinstructies tenminste moeten bevatten. +status_vereiste: + - Nog niet geldend +levenscyclus: + - ontwerp + - ontwikkelen + - verificatie-en-validatie + - implementatie + - monitoring-en-beheer +bouwblok: + - transparantie +rekenregels: + - niet-impactvol: Nee + - impactvol: Nee +machine-learning: + - niet-impactvol: Nee + - impactvol: Nee + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Nee + - impactvol: Nee + - hoog-risico: Ja --- + ## Vereiste AI-systemen met een hoog risico worden op zodanige wijze ontworpen en ontwikkeld dat de werking ervan voldoende transparant is om exploitanten in staat te stellen de output van een systeem te interpreteren en op passende wijze te gebruiken. Een passende soort en mate van transparantie wordt gewaarborgd met het oog op de naleving van de relevante verplichtingen van de aanbieder en de exploitant zoals uiteengezet in afdeling 3 van Artikel 13 van de AI verordening. -## Toelichting +## Toelichting AI-systemen met een hoog risico worden ontworpen en ontwikkeld met een hoge mate van transparantie, zodat gebruikers de output van het systeem kunnen begrijpen en correct kunnen gebruiken. Dit zorgt ervoor dat de aanbieders en gebruikers kunnen voldoen aan de verplichtingen zoals uiteengezet in de relevante regelgeving, waardoor de betrouwbaarheid en verantwoordelijkheid van het gebruik van deze systemen worden verzekerd. In artikel 13 lid 3 is een overzicht gegeven van de informatie die gebruikersinstructies tenminste moeten bevatten. +## Bronnen -## Bronnen - -| Bron | -|-----------------------------| -|Artikel 13(1) Transparantie en informatieverstrekking aan exploitanten- AI verordening| +| Bron | +| -------------------------------------------------------------------------------------- | +| Artikel 13(1) Transparantie en informatieverstrekking aan exploitanten- AI verordening | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Onvoldoende transparantie kan leiden tot een gebrek aan begrip over hoe het AI-systeem functioneert, wat de effectiviteit van de inzet ervan kan belemmeren en de naleving van wettelijke verplichtingen in gevaar kan brengen. +## Normen -## Normen - -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/docs/vereisten/zorgvuldigheidsbeginsel.md b/docs/vereisten/zorgvuldigheidsbeginsel.md index 5415d71a02..a85cbb3e16 100644 --- a/docs/vereisten/zorgvuldigheidsbeginsel.md +++ b/docs/vereisten/zorgvuldigheidsbeginsel.md @@ -1,81 +1,81 @@ --- -title: Relevante feiten en belangen zijn bekend -toelichting: Dit beginsel vereist dat een besluit met de nodige zorgvuldigheid wordt voorbereid en genomen. Dit vraagt onder meer om een zorgvuldig onderzoek naar feiten, een zorgvuldige beslissingsprocedure en een deugdelijke besluitvorming. Dit betekent dat algoritmes en AI zodanig moet worden ontwikkeld en gebruikt, dat dit passend is ter ondersteuning van de wettelijke taak en de bijbehorende beslissing of besluitvorming. -status_vereiste: - - Geldend - - -levenscyclus: -- probleemanalyse -- ontwerp -- dataverkenning-en-datapreparatie -- ontwikkelen -- verificatie-en-validatie -- implementatie -- monitoring-en-beheer -- uitfaseren -bouwblok: -- governance -rekenregels: -- niet-impactvol: Ja -- impactvol: Ja -machine-learning: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja -generatieve-ai: -- niet-impactvol: Ja -- impactvol: Ja -- hoog-risico: Ja +title: Relevante feiten en belangen zijn bekend +toelichting: Dit beginsel vereist dat een besluit met de nodige zorgvuldigheid wordt voorbereid en genomen. Dit vraagt onder meer om een zorgvuldig onderzoek naar feiten, een zorgvuldige beslissingsprocedure en een deugdelijke besluitvorming. Dit betekent dat algoritmes en AI zodanig moet worden ontwikkeld en gebruikt, dat dit passend is ter ondersteuning van de wettelijke taak en de bijbehorende beslissing of besluitvorming. +status_vereiste: + - Geldend + - +levenscyclus: + - probleemanalyse + - ontwerp + - dataverkenning-en-datapreparatie + - ontwikkelen + - verificatie-en-validatie + - implementatie + - monitoring-en-beheer + - uitfaseren +bouwblok: + - governance +rekenregels: + - niet-impactvol: Ja + - impactvol: Ja +machine-learning: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja +generatieve-ai: + - niet-impactvol: Ja + - impactvol: Ja + - hoog-risico: Ja --- + ## Vereiste De ontwikkeling en het gebruik van algoritmes en AI-systeem komt zorgvuldig tot stand. -## Toelichting +## Toelichting Dit beginsel vereist dat een besluit met de nodige zorgvuldigheid wordt voorbereid en genomen. Dit vraagt onder meer om een zorgvuldig onderzoek naar feiten, een zorgvuldige beslissingsprocedure en een deugdelijke besluitvorming. -Dit betekent dat algoritmes en AI zodanig moet worden ontwikkeld en gebruikt, dat dit passend is ter ondersteuning van de wettelijke taak en de bijbehorende beslissing of besluitvorming. - +Dit betekent dat algoritmes en AI zodanig moet worden ontwikkeld en gebruikt, dat dit passend is ter ondersteuning van de wettelijke taak en de bijbehorende beslissing of besluitvorming. -## Bronnen +## Bronnen -| Bron | -|-----------------------------| -|Artikel 3.2 Awb | -|Artikel 3.4 Awb| +| Bron | +| --------------- | +| Artikel 3.2 Awb | +| Artikel 3.4 Awb | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico De werking van het algoritmes of AI sluit niet of onvoldoende aan bij de juridische en ethische grenzen van de te ondersteunen wettelijke taak. Hierdoor kunnen ongewenste gevolgen ontstaan zoals een onjuist of onzorgvuldig genomen besluit op een aanvraag. -## Normen +## Normen -In afwachting van het standaardisatieproces. +In afwachting van het standaardisatieproces. -## Maatregelen +## Maatregelen -Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. +Hier komt een lijst met relevante maatregelen om te voldoen aan dit vereiste. diff --git a/includes/begrippenlijst.md b/includes/begrippenlijst.md index d09a4428a3..fde61fd79d 100644 --- a/includes/begrippenlijst.md +++ b/includes/begrippenlijst.md @@ -1,3 +1,3 @@ -*[algoritme]: Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. +\*[algoritme]: Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. From e8d9492e2cc5edd7129e8b247b8fbe4514a42d2f Mon Sep 17 00:00:00 2001 From: ruthkoole Date: Wed, 22 May 2024 11:15:22 +0200 Subject: [PATCH 3/7] toevoegen contributing guidelines op de site --- docs/index.md | 4 ++-- docs/overhetalgoritmekader/CONTRIBUTING.md | 1 + mkdocs.yml | 7 ++++--- 3 files changed, 7 insertions(+), 5 deletions(-) create mode 120000 docs/overhetalgoritmekader/CONTRIBUTING.md diff --git a/docs/index.md b/docs/index.md index aa84ddb686..8e28eaa428 100644 --- a/docs/index.md +++ b/docs/index.md @@ -45,10 +45,10 @@ Zie het [Implementatiekader](https://www.rijksoverheid.nl/documenten/rapporten/2 ## Bijdragen aan het algoritmekader? -We ontwikkelen het Algoritmekader op een open manier via [GitHub](https://github.com/MinBZK/Algoritmekader). Bekijk de [ontwikkelomgeving](https://github.com/MinBZK/Algoritmekader) van het Algoritmekader. +We ontwikkelen het Algoritmekader op een open manier via [GitHub](https://github.com/MinBZK/Algoritmekader). Bekijk de [ontwikkelomgeving](https://github.com/MinBZK/Algoritmekader) van het Algoritmekader en onze [Contributing Guidelines](overhetalgoritmekader/CONTRIBUTING.md) voor meer informatie over hoe je kan bijdragen. ### Heb je een vraag of opmerking? -Neem contact op via [GitHub](https://github.com/MinBZK/Algoritmekader) (zie punt 4 of 5) of stuur een email naar algoritmes@minbzk.nl. +Neem contact op via [GitHub](https://github.com/MinBZK/Algoritmekader) of stuur een email naar [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl). [Stuur een mail :fontawesome-solid-paper-plane:](mailto:algoritmes@minbzk.nl?subject=Vraag%20over%20het%20algoritmekader){ .md-button } diff --git a/docs/overhetalgoritmekader/CONTRIBUTING.md b/docs/overhetalgoritmekader/CONTRIBUTING.md new file mode 120000 index 0000000000..f939e75f21 --- /dev/null +++ b/docs/overhetalgoritmekader/CONTRIBUTING.md @@ -0,0 +1 @@ +../../CONTRIBUTING.md \ No newline at end of file diff --git a/mkdocs.yml b/mkdocs.yml index 76be93e0f4..5466798f51 100644 --- a/mkdocs.yml +++ b/mkdocs.yml @@ -35,6 +35,7 @@ nav: - Over het algoritmekader: - overhetalgoritmekader/index.md - overhetalgoritmekader/definities.md + - overhetalgoritmekader/CONTRIBUTING.md - Levenscyclus: - levenscyclus/index.md - levenscyclus/probleemanalyse.md @@ -74,9 +75,9 @@ markdown_extensions: - pymdownx.emoji: emoji_index: !!python/name:material.extensions.emoji.twemoji emoji_generator: !!python/name:material.extensions.emoji.to_svg - - pymdownx.snippets: - auto_append: - - includes/begrippenlijst.md + # - pymdownx.snippets: + # auto_append: + # - includes/begrippenlijst.md # Extra opties voor footer extra: From 725ec8c41bda1791cb0c4567c804ac508eb5a90d Mon Sep 17 00:00:00 2001 From: ruthkoole Date: Wed, 22 May 2024 11:18:37 +0200 Subject: [PATCH 4/7] verwerken review --- .github/workflows/prettier.yaml | 7 +------ 1 file changed, 1 insertion(+), 6 deletions(-) diff --git a/.github/workflows/prettier.yaml b/.github/workflows/prettier.yaml index 81298b2f81..e22911c676 100644 --- a/.github/workflows/prettier.yaml +++ b/.github/workflows/prettier.yaml @@ -12,12 +12,7 @@ jobs: steps: - name: Checkout - uses: actions/checkout@v3 - with: - # Make sure the actual branch is checked out when running on pull requests - ref: ${{ github.head_ref }} - # This is important to fetch the changes to the previous commit - fetch-depth: 0 + uses: actions/checkout@v4 - name: Prettify code uses: creyD/prettier_action@v4.3 From 58ea7be3735a40975d75e077db03b06f330f0930 Mon Sep 17 00:00:00 2001 From: ruthkoole Date: Wed, 22 May 2024 11:24:34 +0200 Subject: [PATCH 5/7] fix conflicts --- ..._op_niet_geautomatiseerd_besluitvorming.md | 29 +++++++++---------- 1 file changed, 14 insertions(+), 15 deletions(-) diff --git a/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md b/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md index 01148e62fa..3236cb44b8 100644 --- a/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md +++ b/docs/vereisten/recht_op_niet_geautomatiseerd_besluitvorming.md @@ -23,48 +23,47 @@ generatieve-ai: --- - ## Vereiste Betrokkenen hebben het recht om niet onderworpen te worden aan een enkel op geautomatiseerde verwerking, waaronder proflering, gebaseerd besluit, wanneer dit rechtsgevolgen heeft voor hen of het hen anderszins in aanzienlijke mate treft. -## Toelichting +## Toelichting Mensen hebben het recht om niet onderworpen te worden aan beslissingen die uitsluitend gebaseerd zijn op geautomatiseerde verwerking, zoals profilering, als dit aanzienlijke gevolgen voor hen heeft of hen op een andere manier aanzienlijk beĆÆnvloedt. Dit recht biedt bescherming tegen mogelijke negatieve effecten van volledig geautomatiseerde besluitvormingssystemen, en waarborgt dat individuen kunnen rekenen op menselijke tussenkomst en beoordeling bij belangrijke beslissingen die hen kunnen treffen. Uitgangspunt is dat voor elk individueel geval een zorgvuldige beoordeling van de kenmerken en omstandigheden plaatsvindt voordat een besluit wordt genomen. -## Bronnen +## Bronnen | Bron | |-----------------------------| |[Artikel 22 Algemene Verordening Gegevensbescherming](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=CELEX:32016R0679) | |[Artikel 1:3 Algemene wet bestuursrecht](https://wetten.overheid.nl/jci1.3:c:BWBR0005537&hoofdstuk=1&titeldeel=1.1&artikel=1:3&z=2024-05-01&g=2024-05-01) | -## Wanneer van toepassing? +## Wanneer van toepassing? === "Rekenregel" - | niet-impactvol | impactvol | - |----------------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | + |----------------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Machine learning" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | === "Generatieve AI" - | niet-impactvol | impactvol | hoog-risico-ai | - |----------------|-----------|-----------| - | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | + | niet-impactvol | impactvol | hoog-risico-ai | + |----------------|-----------|-----------| + | :material-close:{style='color: #EF5350' } | :material-check-bold:{ style='color: #4DB6AC' } | :material-check-bold:{ style='color: #4DB6AC' } | -## Risico +## Risico Bij geautomatiseerde besluitvorming kan het risico ontstaan dat kenmerken van een bepaalde groep ten onrechte worden tegengeworpen aan een individu die deze kenmerken niet hoeft te bezitten. -## Maatregelen +## Maatregelen From 0b41628413b41d3e8dd629ec6bbd747280672373 Mon Sep 17 00:00:00 2001 From: ruthkoole Date: Wed, 22 May 2024 12:02:01 +0200 Subject: [PATCH 6/7] add ignore file for prettier --- .prettierignore | 1 + 1 file changed, 1 insertion(+) create mode 100644 .prettierignore diff --git a/.prettierignore b/.prettierignore new file mode 100644 index 0000000000..40eb2cbabc --- /dev/null +++ b/.prettierignore @@ -0,0 +1 @@ +docs/overhetalgoritmekader/CONTRIBUTING.md \ No newline at end of file From 146fb8b148eed55a845b73d4ea06e2db159c67e3 Mon Sep 17 00:00:00 2001 From: Ruth Koole <71120805+ruthkoole@users.noreply.github.com> Date: Wed, 22 May 2024 13:44:50 +0200 Subject: [PATCH 7/7] Update prettier.yaml --- .github/workflows/prettier.yaml | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/.github/workflows/prettier.yaml b/.github/workflows/prettier.yaml index e22911c676..5b3ac542dd 100644 --- a/.github/workflows/prettier.yaml +++ b/.github/workflows/prettier.yaml @@ -18,4 +18,4 @@ jobs: uses: creyD/prettier_action@v4.3 with: # This part is also where you can pass other options, for example: - prettier_options: --write **/*.md + prettier_options: --write **/*.md --no-error-on-unmatched-pattern