diff --git a/docs/voldoen-aan-wetten-en-regels/hulpmiddelen/inkoopvoorwaarden.md b/docs/voldoen-aan-wetten-en-regels/hulpmiddelen/inkoopvoorwaarden.md index 91eea87d13..9c6349dcb4 100644 --- a/docs/voldoen-aan-wetten-en-regels/hulpmiddelen/inkoopvoorwaarden.md +++ b/docs/voldoen-aan-wetten-en-regels/hulpmiddelen/inkoopvoorwaarden.md @@ -29,7 +29,7 @@ hide: navigation Voorbeelden of templates van inkoopvoorwaarden kunnen helpen om een contract op te stellen dat een organisatie in staat stelt veilige en verantwoorde algoritmen of AI-systemen in te kopen. Deze worden ook wel eens modelcontractbepalingen genoemd. Deze voorwaarden of bepalingen kunnen opgenomen worden wanneer er een contract wordt afgesloten met een leverancier van een algoritme of algoritmisch systeem. Er kunnen dan bijvoorbeeld beperkingen gelden om onaanvaardbare risico's van AI te vermijden, of bepaalde voorwaarden gesteld worden waaraan een algoritme juist moet voldoen. -Ook kunnen bepaalde [voorwaarden worden opgenomen op basis van de vereisten](../maatregelen/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md) in het Algoritmekader. +Ook kunnen bepaalde [voorwaarden worden opgenomen op basis van de vereisten](../maatregelen/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md) in het Algoritmekader. ### Europese Commissie De Europese contractvoorwaarden voor AI bieden aanbestedende organisaties de mogelijkheid om specifieke clausules op te nemen in de overeenkomst. Op deze manier worden afspraken gemaakt over onderwerpen die in lijn zijn met de aankomende AI-Act. Er zijn 2 versies van de AI-inkoopvoorwaarden opgesteld: een [set voorwaarden voor AI-toepassingen met een hoog-risicoprofiel](https://www.pianoo.nl/sites/default/files/media/documents/2024-07/ai_procurement_clauses_template_high_risk_nl.pdf) en een [set voorwaarden voor AI-toepassingen met een laag-risicoprofiel](https://www.pianoo.nl/sites/default/files/media/documents/2024-07/AI_Procurement_Clauses_Template_NON_HIGH_RISK_NL-1.pdf). diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-02-beleid_opstellen_inzet_algoritmes.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-02-beleid-opstellen-inzet-algoritmes.md similarity index 100% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-02-beleid_opstellen_inzet_algoritmes.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-02-beleid-opstellen-inzet-algoritmes.md diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-03-toepassen_risicobeheer.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-03-toepassen-risicobeheer.md similarity index 100% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-03-toepassen_risicobeheer.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-03-toepassen-risicobeheer.md diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.md index 90d028dc12..4a51e8a419 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-04-politiek-bestuurlijke-verantwoordelijkheid.md @@ -24,7 +24,7 @@ Zorg voor politiek-bestuurlijk bewustzijn, betrokkenheid, en verantwoordelijkhei - De kernvraag voor publieke organisaties bij de inzet van algoritmen is altijd: Hoe wegen we (als publieke organisatie of samenleving) de voordelen en nadelen van de inzet van algoritmen? - Dit is per definitie een kwalitatieve en politieke vraag. - Dit gaat niet alleen over direct opbrengsten maar ook over lange termijn en indirecte effecten, de mate waarin de inzet van technologie bijdraagt aan de legitimiteit van publieke organisatie en hoe burgers met deze technologie worden bejegend. -- Om te zorgen voor politiek-bestuurlijke betrokkenheid kan het helpen om een [meerjarige visie/strategie rondom verantwoorde inzet](0-org-02-beleid_opstellen_inzet_algoritmes.md) te formuleren waar een communicatiestrategie richting burgers onderdeel van is. +- Om te zorgen voor politiek-bestuurlijke betrokkenheid kan het helpen om een [meerjarige visie/strategie rondom verantwoorde inzet](0-org-02-beleid-opstellen-inzet-algoritmes.md) te formuleren waar een communicatiestrategie richting burgers onderdeel van is. - Zorg ervoor dat bestuurders bewust zijn van de voor- en nadelen van de inzet van algoritmes en daarnaar kunnen handelen. - Dit ondersteunt teams bij het maken van de juiste overwegingen bij de ontwikkeling en gebruik van algoritmes. Het geeft ook inzicht wanneer de politiek of bestuurlijk verantwoordelijke(n) moeten worden betrokken bij het project om beslissingen te nemen, bijvoorbeeld of de mate van onbewuste vooringenomenheid (bias) binnen acceptabele grenzen ligt. - Het doorlopen van een concrete casus voor de ontwikkeling en gebruik van een algoritme, inclusief het uitvoeren van een IAMA, kan waardevolle informatiegeven om een meerjarige visie of strategie op te stellen. diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-15-discriminatieprotocol.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-15-discriminatieprotocol.md index 9cc7f20d43..86984d50c8 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-15-discriminatieprotocol.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/0-org-15-discriminatieprotocol.md @@ -28,7 +28,7 @@ De inzet van algoritme kan onbedoeld leiden tot discriminerende effecten. Het is van belang om als organisatie een protocol te hebben vastgesteld waarin is uitgewerkt hoe wordt omgegaan met situaties waarin (een vermoeden van) discriminatie door een algoritme is geconstateerd. In een dergelijk protocol kunnen de handelingen worden beschreven die moeten worden uitgevoerd om deze situatie te gaan herstellen. Het vaststellen van een dergelijk protocol geeft ontwikkelaar en gebruikers (vooraf) duidelijkheid wat van hen wordt verwacht en wat zij kunnen doen om discriminatie door algoritmes te voorkomen. -Een voorbeeld hiervan is het analyseren van de data op [datakwaliteit en bias in de data](3-dat-01-datakwaliteit.md) en [toets regelmatig je algoritmisch systeem op bias](5-ver-02-biasanalyse.md). +Een voorbeeld hiervan is het analyseren van de data op [datakwaliteit en bias in de data](3-dat-01-datakwaliteit.md) en [toets regelmatig je algoritmisch systeem op bias](5-ver-03-biasanalyse.md). Het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties heeft een [discriminatieprotocol](https://minbzk.github.io/discriminatieprotocol) opgesteld wat organisaties handvatten biedt. diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-multidisciplinair-inkoopteam.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/1-pba-06-multidisciplinair-inkoopteam.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-multidisciplinair-inkoopteam.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/1-pba-06-multidisciplinair-inkoopteam.md index 38be8920cf..9225b68ef3 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-multidisciplinair-inkoopteam.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/1-pba-06-multidisciplinair-inkoopteam.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Stel een multidisciplinair team samen bij het ontwikkelen of inkopen van algoritmes. -id: urn:nl:ak:mtr:owp-09 +id: urn:nl:ak:mtr:pba-06 # geef hier een korte toelichting van deze maatregel toelichting: Stel een multidisciplinair team samen bij het ontwikkelen of inkopen van algoritmes. vereiste: diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-04-gebruikte-techniek.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-04-gebruikte-techniek.md index fcf2764489..2aef10bbce 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-04-gebruikte-techniek.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-04-gebruikte-techniek.md @@ -37,7 +37,7 @@ Beschrijf welke techniek gebruikt wordt voor de beoogde toepassing. - De precieze details kunnen in dit stadium van de levenscyclus waarschijnlijk nog niet ingevuld worden. Maak een goede eerste inschatting van de gebruikte techniek. Eventueel kan je er ook voor kiezen om verschillende technieken verder te onderzoeken. Dat betekent dat er meerdere algoritmes ontwikkeld worden (op basis van verschillende technieken), en je later een definitieve keuze maakt. -- Het is belangrijk om uiteindelijk een passend uitlegbaar algoritme te selecteren voor de context waarin het wordt toegepast. Daarin moet de afweging gemaakt worden of de technische [uitlegbaarheid](2-owp-30-toepassen_uitlegbaarheidstechnieken.md) voldoende is in de context die de inzet van het algoritme vereist. Hierbij kan ook de conclusie worden getrokken dat een simpeler, inzichtelijker algoritme de voorkeur krijgt. +- Het is belangrijk om uiteindelijk een passend uitlegbaar algoritme te selecteren voor de context waarin het wordt toegepast. Daarin moet de afweging gemaakt worden of de technische [uitlegbaarheid](2-owp-33-toepassen-uitlegbaarheidstechnieken.md) voldoende is in de context die de inzet van het algoritme vereist. Hierbij kan ook de conclusie worden getrokken dat een simpeler, inzichtelijker algoritme de voorkeur krijgt. ## Voorbeeld diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-impactanalyse.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-impactanalyse.md new file mode 100644 index 0000000000..002702554d --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-impactanalyse.md @@ -0,0 +1,68 @@ +--- +title: Leg vast wat de impact van het algoritme is als het niet werkt zoals beoogd +id: urn:nl:ak:mtr:owp-06 +toelichting: Leg vast wie er wordt geraakt, welke processen beïnvloed worden door het algoritme en wat de impact is wanneer het systeem niet werkt zoals beoogd. Neem deze informatie proactief mee in het ontwerp en de ontwikkeling van je algoritme. +vereiste: +- grw-01-fundamentele-rechten +- avg-11-privacy-bij-ontwerp-bij-verwerking-van-persoonsgegevens +levenscyclus: +- probleemanalyse +- ontwerp +onderwerp: +- technische-robuustheid-en-veiligheid +- fundamentele-rechten +rollen: +- projectleider +hide: +- navigation +- toc +--- + + + +## Maatregel +Leg vast wie er wordt geraakt, welke processen beïnvloed worden door het algoritme en wat de impact is wanneer het systeem niet werkt zoals beoogd. Neem deze informatie proactief mee in het ontwerp en de ontwikkeling van je algoritme. + +## Toelichting +Er moet een analyse gemaakt worden van de impact van een algoritme dat niet werkt zoals bedoeld. +Een algoritme dat niet werkt zoals bedoeld kan bijvoorbeeld betekenen dat het algoritme een foutieve beslissing maakt of dat het algoritme is uitgevallen. +De analyse op wie dit een impact heeft en hoe groot die impact is, is van belang voor de ontwerpkeuzes, de risicoanalyse en de evaluatie. +Wanneer een foutieve beslissing zwaarwegende gevolgen heeft, moet er in het ontwerp gezorgd worden dat de kans op deze fout verminderd wordt. +In de evaluatie moet er worden bepaald of de resterende risico’s acceptabel zijn. +Een analyse van de impact is hiervoor noodzakelijk. +Voer de impactanalyse uit met een multidisciplinaire groep en documenteer afwegingen en keuzes hierbij. Neem in de impactanalyse de volgende stappen: + +Wanneer een algoritme niet werkt als beoogd, kan dit inbreuk maken op [grondrechten](../../onderwerpen/fundamentele-rechten.md) van eventuele betrokken burgers. +Onderdeel van deze impactanalyse is om te bepalen of je algoritme bepaalde [grondrechten kan raken](2-owp-07-afwegen-grondrechten.md), aantasten of mogelijk schenden. + +- **Leg vast welke stakeholders worden geraakt** +Denk hierbij aan de directe gebruiker, degene waarover het besluit wordt genomen en derde partijen die input leveren of de resultaten ontvangen. Houd hierbij rekening met [kwetsbare groepen waarbij het nodig is om deze groep extra bescherming te bieden](2-owp-07-afwegen-grondrechten.md). + +- **Leg vast welke processen worden geraakt** +Denk hierbij aan werkproces(sen) waarin het algoritme wordt gebruikt, maar ook aan vervolgprocessen of parallelle processen die beïnvloed worden door de resultaten van het algoritme. + +- **Leg vast wat de impact is van een niet goed werkend algoritme (per stakeholder en proces)** +Bepaal per stakeholder en per proces wat het gevolg is van een niet goed werkend systeem. Indien het systeem uitvalt, hoe worden de partijen daardoor geraakt en wat is het gevolg. Zijn er processen die mogelijk stilvallen of moeten worden aangepast? + + Analyseer ook de gevolgen van foutieve beslissingen. + Let op dat verschillende typen fouten een verschillende impact hebben. + Bijvoorbeeld in het geval van een ziektedetectie algoritme als voorsortering of een patiënt een uitgebreidere test moet ondergaan is de impact groter als de patiënt ten onrechte als geen-risico wordt geclassificeerd dan als iemand ten onrechte een extra controle moet ondergaan. + +- **Bepaal welke factoren van invloed zijn op de kans dat het fout gaat** +Het risico is afhankelijk van de kans dat een fout voorkomt. Voor risicoanalyse en mitigatie is het van belang om de factoren die van invloed zijn op de fouten in kaart te brengen. Deze geven input aan de ontwerpfase en mitigerende maatregelen. Denk hierbij aan factoren in de [data](3-dat-01-datakwaliteit.md), [het algoritme](2-owp-05-soort-algoritme.md), het gebruik en externe factoren. + + +## Bijbehorende vereiste(n) + + + +## Risico +Als er geen goede impactanalyse wordt gemaakt, kunnen risico’s over het hoofd worden gezien. Een niet werkend systeem kan dan een grote impact hebben op mensen of de organisatie. + +## Bronnen + + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! + diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-afwegen-grondrechten.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-afwegen-grondrechten.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-afwegen-grondrechten.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-afwegen-grondrechten.md index 26c4edcc21..a0d2ee71fd 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-06-afwegen-grondrechten.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-afwegen-grondrechten.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Inventariseer welke grondrechten het algoritme kan schenden en maak een belangenafweging -id: urn:nl:ak:mtr:owp-06 +id: urn:nl:ak:mtr:owp-07 # geef hier een korte toelichting van deze maatregel toelichting: Afwegen grondrechten vereiste: diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-kwetsbare-groepen.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-kwetsbare-groepen.md similarity index 97% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-kwetsbare-groepen.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-kwetsbare-groepen.md index 2c94ead2db..3715e89fd0 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-07-kwetsbare-groepen.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-kwetsbare-groepen.md @@ -1,6 +1,6 @@ --- title: Maak een lijst van de meest kwetsbare groepen en bescherm hen extra -id: urn:nl:ak:mtr:owp-07 +id: urn:nl:ak:mtr:owp-08 toelichting: Bepaal wat de impact van het in te zetten algoritme is voor betrokkenen (personen of groepen). Bepaal vervolgens of de er groepen zijn waarbij de impact van het algoritme dermate groot kan zijn, dat het wenselijk is om deze groepen extra bescherming te bieden. vereiste: - grw-01-fundamentele-rechten @@ -33,7 +33,7 @@ Bepaal vervolgens of er groepen zijn waarbij de impact van het algoritme dermate - Houd hierbij ook rekening met de impact van het in te zetten algoritme op de samenleving (vanuit sociaal, democratisch en milieu/ecologisch perspectief). - Om de impact op groepen te bepalen, kan het handig zijn een mensenrechtentoets zoals het [Impact Assessment Mensenrechten en Algoritmes](https://open.overheid.nl/documenten/ronl-c3d7fe94-9c62-493f-b858-f56b5e246a94/pdf) toe te passen. - Bepaal of er maatregelen genomen kunnen worden om de geïdentificeerde groepen extra bescherming te bieden. Hierbij kan men denken aan de volgende aspecten: Kan de (extra) administratieve druk voor bepaalde groepen worden weggenomen? Worden resultaten van het algoritme naast de resultaten van een expert gelegd? Is het wenselijk om een proces in te richten waarbij zowel algoritme als een expert een uitkomst geven? Kunnen we de betreffende groep extra hulp aanbieden? Is het wenselijk bij negatieve uitkomsten een vier-ogen-principe toe te passen? -- De impact van het algoritme op de groepen die geïdentificeerd worden in deze stap, kunnen mogelijk onderzocht worden in een [biasanalyse](5-ver-02-biasanalyse.md). Daarbij kan geidentificeerd worden of bepaalde groepen oververtegenwoordigd of ondervertegenwoordigd zijn in selecties, of dat het algoritme andere of meer fouten maakt voor bepaalde groepen. +- De impact van het algoritme op de groepen die geïdentificeerd worden in deze stap, kunnen mogelijk onderzocht worden in een [biasanalyse](5-ver-03-biasanalyse.md). Daarbij kan geidentificeerd worden of bepaalde groepen oververtegenwoordigd of ondervertegenwoordigd zijn in selecties, of dat het algoritme andere of meer fouten maakt voor bepaalde groepen. - Merk op dat het onmogelijk is om de risico's voor alle specifieke groepen af te vangen. Hierbij kan het helpen om te focussen op de meest kwetsbare groepen. ## Bijbehorende vereiste(n) { data-search-exclude } diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-archiveren-documenten.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-archiveren-documenten.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-archiveren-documenten.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-archiveren-documenten.md index 6b43a19465..4e78d2733c 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-08-archiveren-documenten.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-archiveren-documenten.md @@ -1,6 +1,6 @@ --- title: Bepaal welke documenten voor hoe lang gearchiveerd moeten worden -id: urn:nl:ak:mtr:owp-08 +id: urn:nl:ak:mtr:owp-09 toelichting: Stel vast welke documenten, (samengesteld geheel van) data/informatie van/in het algoritme gelden als "archiefbescheiden" in de zin van artikel 1 c Archiefwet en documenteer daarvan een overzicht, bij voorkeur vastgesteld door een daartoe bevoegde. vereiste: - arc-01-archiefwet diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-11-duurzaam-inkopen.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-duurzaam-inkopen.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-11-duurzaam-inkopen.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-duurzaam-inkopen.md index bf7f3f2d31..bbde254d69 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-11-duurzaam-inkopen.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-duurzaam-inkopen.md @@ -1,6 +1,6 @@ --- title: Koop duurzaam algoritmes in -id: urn:nl:ak:mtr:owp-11 +id: urn:nl:ak:mtr:owp-12 toelichting: Kies softwareoplossingen van aanbieders die duurzaamheid bevorderen, en stel heldere eisen aan energieverbruik, hernieuwbare energiebronnen en transparantie over de milieuprestaties van software. levenscyclus: - ontwerp diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-eenvoudigere-algoritmes.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-eenvoudigere-algoritmes.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-eenvoudigere-algoritmes.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-eenvoudigere-algoritmes.md index b1ef56e3cb..2fb188b609 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-eenvoudigere-algoritmes.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-eenvoudigere-algoritmes.md @@ -1,6 +1,6 @@ --- title: Ontwerp algoritmes zo eenvoudig mogelijk -id: urn:nl:ak:mtr:owp-12 +id: urn:nl:ak:mtr:owp-13 toelichting: Ontwerp algoritmes gericht op eenvoud en efficiëntie, zodat het energieverbruik en de benodigde rekenkracht tijdens gebruik minimaal blijven. levenscyclus: - ontwerp diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-model-verwerkersovereenkomst-onderdeel-aanbesteding.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-model-verwerkersovereenkomst-onderdeel-aanbesteding.md similarity index 98% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-model-verwerkersovereenkomst-onderdeel-aanbesteding.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-model-verwerkersovereenkomst-onderdeel-aanbesteding.md index b70c75da02..eb4b197ed0 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-09-model-verwerkersovereenkomst-onderdeel-aanbesteding.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-model-verwerkersovereenkomst-onderdeel-aanbesteding.md @@ -1,6 +1,6 @@ --- title: Een model-verwerkersovereenkomst is onderdeel van de aanbesteding als persoonsgegevens worden verwerkt -id: urn:nl:ak:mtr:owp-09 +id: urn:nl:ak:mtr:owp-14 toelichting: Inventariseer of er mogelijk sprake is van een algoritme dat een hoog risico kan inhouden voor de rechten en vrijheden van natuurlijke personen of impactvol kan zijn voor hen en maak in voorkomend geval in de model-verwerkersovereenkomst een uitdrukkelijke verwijzing naar een concreet DPIA-document (met datum/kenmerk) of (indien op dat moment nog in bezit of bekend bij de steller) een expliciet invulveld voor het duiden van de betreffende DPIA, zodat die wordt genoemd ter completeren van de verwerkersovereenkomst vooraf het overeenkomen/ondertekenen van die verwerkersovereenkomst. vereiste: - avg-13-dpia-verplicht diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-bespreek-vereisten-met-aanbieders.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-bespreek-vereisten-met-aanbieders.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-bespreek-vereisten-met-aanbieders.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-bespreek-vereisten-met-aanbieders.md index 7abc3f65e6..9a89c9eb3f 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-12-bespreek-vereisten-met-aanbieders.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-bespreek-vereisten-met-aanbieders.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Bespreek de vereisten die gelden voor een verantwoorde inzet van algoritmes met aanbieders. -id: urn:nl:ak:mtr:owp-12 +id: urn:nl:ak:mtr:owp-15 toelichting: Ga met een aanbieder in gesprek over in hoeverre zij invulling kunnen geven aan de vereisten die gelden voor een verantwoorde inzet van algoritmes. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md index 3e53a6d2c9..574e76d90e 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-13-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-vereisten-onderdeel-algemene-inkoopvoorwaarden-en-contractovereenkomst.md @@ -1,6 +1,6 @@ --- title: Maak vereisten voor algoritmes onderdeel van algemene inkoopvoorwaarden en de contractovereenkomst. -id: urn:nl:ak:mtr:owp-13 +id: urn:nl:ak:mtr:owp-16 toelichting: Door vereisten voor algoritmes onderdeel te maken van algemene inkoopvoorwaarden, is het voor aanbieders vooraf en op het moment van contractueren duidelijk waar zij aan moeten voldoen. vereiste: - aia-02-documentatie-beoordeling-niet-hoog-risico-ai diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-verwerkersovereenkomst-onderdeel-aanbesteding.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-verwerkersovereenkomst-onderdeel-aanbesteding.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-verwerkersovereenkomst-onderdeel-aanbesteding.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-verwerkersovereenkomst-onderdeel-aanbesteding.md index 5c726db987..097fc4d922 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-14-verwerkersovereenkomst-onderdeel-aanbesteding.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-verwerkersovereenkomst-onderdeel-aanbesteding.md @@ -1,6 +1,6 @@ --- title: Maak het opstellen van een verwerkersovereenkomst onderdeel van de aanbesteding als persoonsgegevens worden verwerkt. -id: urn:nl:ak:mtr:owp-14 +id: urn:nl:ak:mtr:owp-17 toelichting: Als een overheidsorganisatie een algoritme van een aanbieder wilt gebruiken die persoonsgegevens verwerkt voor bijvoorbeeld het trainen of genereren van output, dan moet een verwerkersovereenkomst met de aanbieder worden opgesteld. vereiste: - avg-13-dpia-verplicht diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-leveren-bewijs_voldoen-aan-vereisten-algoritme-aanbieder.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-leveren-bewijs-voldoen-aan-vereisten-algoritme-aanbieder.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-leveren-bewijs_voldoen-aan-vereisten-algoritme-aanbieder.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-leveren-bewijs-voldoen-aan-vereisten-algoritme-aanbieder.md index 1e6d5068cb..b956e923ee 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-15-leveren-bewijs_voldoen-aan-vereisten-algoritme-aanbieder.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-leveren-bewijs-voldoen-aan-vereisten-algoritme-aanbieder.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Maak het leveren van bewijs voor het voldoen aan de vereisten voor algoritmes onderdeel van de beoordeling van een inschrijving. -id: urn:nl:ak:mtr:owp-15 +id: urn:nl:ak:mtr:owp-18 # geef hier een korte toelichting van deze maatregel toelichting: Het leveren van bewijs door aanbieder dat deze voldoet aan de vereisten voor algoritmes draagt bij aan het kunnen beoordelen of een aanbieder geschikt is om mee te contractueren. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.md index e64f19afa2..2511c3f45c 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-16-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-leveren-bewijs-door-aanbieder-niet-schenden-auteursrechten.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Laat aanbieder(s) bewijs leveren dat de door hen ontwikkelde algoritmes geen inbreuk maken op de auteursrechten van derden met de trainingsdata en de output. -id: urn:nl:ak:mtr:owp-16 +id: urn:nl:ak:mtr:owp-19 # geef hier een korte toelichting van deze maatregel toelichting: Maak het al dan niet kunnen leveren van bewijs door een aanbieder dat auteursrechten niet worden geschonden door de trainingsdata of out van een algoritme een vast onderdeel van de aanbesteding. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.md index a8602e0ed6..cfe7f74c3c 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-17-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-beoordeel-aansprakelijkheidsvoorwaarden-van-aanbieder.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Aansprakelijkheidsvoorwaarden van een aanbieder worden beoordeeld in de aanbesteding -id: urn:nl:ak:mtr:owp-17 +id: urn:nl:ak:mtr:owp-20 # geef hier een korte toelichting van deze maatregel toelichting: Maak de aansprakelijkheidsvoorwaarden die een aanbieder stelt ten aanzien van auteursrechten een vast onderdeel om te beoordelen in de aanbesteding. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-maak-vereisten-onderdeel-van-subgunningscriteria.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-maak-vereisten-onderdeel-van-subgunningscriteria.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-maak-vereisten-onderdeel-van-subgunningscriteria.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-maak-vereisten-onderdeel-van-subgunningscriteria.md index a555412e4c..6e7ba4c172 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-18-maak-vereisten-onderdeel-van-subgunningscriteria.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-maak-vereisten-onderdeel-van-subgunningscriteria.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Maak vereisten onderdeel van (sub)gunningscriteria bij een aanbesteding. -id: urn:nl:ak:mtr:owp-18 +id: urn:nl:ak:mtr:owp-21 # geef hier een korte toelichting van deze maatregel toelichting: Door een vereiste onderdeel te maken van een (sub)gunningscriteria, ontstaat een mogelijkheid voor aanbieders om zich te onderscheiden van andere aanbieders. Dit kan zorgen voor een extra stimulatie op kwaliteitsaspecten van algoritmes. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-ruimte-voor-samenwerking-met-aanbieder.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-ruimte-voor-samenwerking-met-aanbieder.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-ruimte-voor-samenwerking-met-aanbieder.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-ruimte-voor-samenwerking-met-aanbieder.md index 2c0840939f..e994024a2a 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-19-ruimte-voor-samenwerking-met-aanbieder.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-ruimte-voor-samenwerking-met-aanbieder.md @@ -1,6 +1,6 @@ --- title: Creëer ruimte om met een aanbieder samen te gaan werken om specifieke vereisten te realiseren -id: urn:nl:ak:mtr:owp-19 +id: urn:nl:ak:mtr:owp-22 toelichting: Om op een betekenisvolle manier invulling te geven bepaalde vereisten, kan het noodzakelijk zijn dat de opdrachtgever en aanbieder (innovatief) moeten samenwerken om specifieke vereisten te realiseren. vereiste: - aia-02-documentatie-beoordeling-niet-hoog-risico-ai diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-vaststellen-aanleveren-informatie-technische-documentatie.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-vaststellen-aanleveren-informatie-technische-documentatie.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-vaststellen-aanleveren-informatie-technische-documentatie.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-vaststellen-aanleveren-informatie-technische-documentatie.md index f8afb73d5c..45bd5f04a4 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-20-vaststellen-aanleveren-informatie-technische-documentatie.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-vaststellen-aanleveren-informatie-technische-documentatie.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Vul technische documentatie van aanbieder aan met relevante informatie vanuit de gebruiksverantwoordelijke. -id: urn:nl:ak:mtr:owp-20 +id: urn:nl:ak:mtr:owp-23 # geef hier een korte toelichting van deze maatregel toelichting: Bespreek met het projectteam welke onderdelen van de technische documentatie (zoals genoemd in de AI-verordening) van het algoritme door wie moeten worden ingevuld. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-uitvoeren-audit-voor-naleving-vereisten.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-uitvoeren-audit-voor-naleving-vereisten.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-uitvoeren-audit-voor-naleving-vereisten.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-uitvoeren-audit-voor-naleving-vereisten.md index f017945a04..f5201438f6 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-21-uitvoeren-audit-voor-naleving-vereisten.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-uitvoeren-audit-voor-naleving-vereisten.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Neem het kunnen uitvoeren van een audit over de vereiste op in contractvoorwaarden en de contractovereenkomst -id: urn:nl:ak:mtr:owp-21 +id: urn:nl:ak:mtr:owp-24 # geef hier een korte toelichting van deze maatregel toelichting: Het is van belang dat opdrachtgever mogelijkheden heeft om te controleren in hoeverre door aanbieder/opdrachtnemer wordt voldaan aan naleving van de vereiste. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-invloed-besluitvorming-algoritmes-aanbieders.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-invloed-besluitvorming-algoritmes-aanbieders.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-invloed-besluitvorming-algoritmes-aanbieders.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-invloed-besluitvorming-algoritmes-aanbieders.md index 2d2a9b29ac..eafe4b5038 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-22-invloed-besluitvorming-algoritmes-aanbieders.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-invloed-besluitvorming-algoritmes-aanbieders.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Bepaal in een aanbesteding of algoritmes van een aanbieder bepalende invloed hebben in een besluit richting personen -id: urn:nl:ak:mtr:owp-22 +id: urn:nl:ak:mtr:owp-25 # geef hier een korte toelichting van deze maatregel toelichting: Ga na of algoritmes van een aanbieder een bepalende invloed hebben in een besluit richting personen en laat de aanbieder onderbouwen in hoeverre dit wel of niet het geval is. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-kennisoverdracht-en-ondersteuning-aanbieder.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-kennisoverdracht-en-ondersteuning-aanbieder.md similarity index 98% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-kennisoverdracht-en-ondersteuning-aanbieder.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-kennisoverdracht-en-ondersteuning-aanbieder.md index ffe5dbcc47..79cd1318d6 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-23-kennisoverdracht-en-ondersteuning-aanbieder.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-kennisoverdracht-en-ondersteuning-aanbieder.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Laat de aanbieder aangeven welke mate van opleiding en ondersteuning bij de implementatie nodig is om de beoogde algoritmes verantwoord te gebruiken. -id: urn:nl:ak:mtr:owp-23 +id: urn:nl:ak:mtr:owp-26 # geef hier een korte toelichting van deze maatregel toelichting: Beoordeel of de kennisoverdracht en ondersteuning van aanbieder voldoende is om voor een langere periode zelfstandig op een verantwoorde wijze gebruikt te kunnen maken van de algoritmes. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-risico-analyse-informatiebeveiliging-leverancier.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-risico-analyse-informatiebeveiliging-leverancier.md similarity index 98% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-risico-analyse-informatiebeveiliging-leverancier.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-risico-analyse-informatiebeveiliging-leverancier.md index 56f35385f1..f3ad93efbe 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-24-risico-analyse-informatiebeveiliging-leverancier.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-risico-analyse-informatiebeveiliging-leverancier.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Voer een risico-analyse met de aanbieder uit op het gebied van informatiebeveiliging bij een uitbestedingstraject -id: urn:nl:ak:mtr:owp-24 +id: urn:nl:ak:mtr:owp-27 # geef hier een korte toelichting van deze maatregel toelichting: Het is van belang dat een risico-analyse op het gebied van informatiebeveiliging wordt uitgevoerd met een aanbieder van algoritmes in het geval van een uitbestedingstraject. # vul hier de bestandsnamen in van de vereisten die horen bij deze maatregel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen.md index 79e1ed2ed0..627a28351b 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-25-maak-vereisten-onderdeel-van-programma-van-eisen.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-maak-vereisten-onderdeel-van-programma-van-eisen.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Maak vereisten onderdeel van het programma van eisen bij een aanbesteding -id: urn:nl:ak:mtr:owp-25 +id: urn:nl:ak:mtr:owp-28 # geef hier een korte toelichting van deze maatregel toelichting: Door vereisten onderdeel te maken van het programma van eisen bij een aanbesteding, is het voor aanbieders duidelijk aan welke specifieke eisen een oplossing moet voldoen. Op basis hiervan kan een aanbieder een zo goed mogelijke aanbieding doen. diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement.md index ec72634f30..e1a97e07d0 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-maak-vereisten-onderdeel-van-service-level-agreement.md @@ -1,7 +1,7 @@ --- # vul hier een titel in voor deze maatregel title: Maak vereisten voor algoritmes onderdeel van de Service Level Agreement -id: urn:nl:ak:mtr:owp-26 +id: urn:nl:ak:mtr:owp-29 # geef hier een korte toelichting van deze maatregel toelichting: Onderzoek of het relevant is om vereisten voor algoritmes te specificerenin de Service Level Agreement. Met een SLA kunnen specifieke afspraken worden gemaakt over de kwaliteit van de dienstverlening van aanbieder. diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-contractuele-afspraken-data-en-artefacten.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-contractuele-afspraken-data-en-artefacten.md similarity index 97% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-contractuele-afspraken-data-en-artefacten.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-contractuele-afspraken-data-en-artefacten.md index 25a16852d5..8f89e2a51e 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-27-contractuele-afspraken-data-en-artefacten.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-contractuele-afspraken-data-en-artefacten.md @@ -1,6 +1,6 @@ --- title: Maak (contractuele) afspraken over data en artefacten met een aanbieder -id: urn:nl:ak:mtr:owp-27 +id: urn:nl:ak:mtr:owp-30 toelichting: Maak (contractuele) afspraken over de data en artefacten die ontstaan bij het gebruiken van algoritmes van aanbieders. vereiste: - aut-01-auteursrechten diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-informeer_betrokkenen.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-informeer-betrokkenen.md similarity index 95% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-informeer_betrokkenen.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-informeer-betrokkenen.md index c650840a9b..6bd1544f81 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-29-informeer_betrokkenen.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-informeer-betrokkenen.md @@ -1,6 +1,6 @@ --- title: Stel vast welke betrokkenen geïnformeerd moeten worden en welke informatie zij nodig hebben. -id: urn:nl:ak:mtr:pba-04 +id: urn:nl:ak:mtr:owp-31 toelichting: Het is van belang dat betrokkenen worden geïnformeerd over de ontwikkeling en inzet van algoritmes binnen de organisatie. vereiste: - awb-01-zorgvuldigheidsbeginsel @@ -28,7 +28,7 @@ Stel vast welke betrokkenen geïnformeerd moeten worden over de ontwikkeling en ## Toelichting -Welke informatie over algoritmes relevant is, verschilt per partij. Het is van belang om deze partijen in beeld te brengen en vast te stellen welke informatie voor hen relevant is. Raadpleeg hierbij vastgestelde [beleidskaders](0-org-02-beleid_opstellen_inzet_algoritmes.md), waarin is beschreven welke informatie in welke gevallen moet worden gecommuniceerd. +Welke informatie over algoritmes relevant is, verschilt per partij. Het is van belang om deze partijen in beeld te brengen en vast te stellen welke informatie voor hen relevant is. Raadpleeg hierbij vastgestelde [beleidskaders](0-org-02-beleid-opstellen-inzet-algoritmes.md), waarin is beschreven welke informatie in welke gevallen moet worden gecommuniceerd. Stel bijvoorbeeld de volgende vragen: @@ -40,7 +40,7 @@ Stel bijvoorbeeld de volgende vragen: | Wanneer wordt deze informatie gebruikt? | Ga na in welke fase van de levenscyclus de gewenste informatie over de werking of inzet van het algoritme wordt gebruikt. Hoe verschilt de informatiebehoefte in elke fase van de levenscyclus? | | Wie is er verantwoordelijk voor de informatieverstrekking? | Bepaal wie er informatie over het algoritme moet ophalen, en wie er voor die informatie kan zorgen. | -Maak bij het vaststellen van de informatiebehoefte onderscheid tussen transparantie, [uitlegbaarheid](2-owp-30-toepassen_uitlegbaarheidstechnieken.md) en interpreteerbaarheid. Houd daarbij ook rekening met zaken die moeten worden gecommuniceerd. Denk hierbij aan het kunnen uitleggen hoe een automatisch genomen besluit tot stand is gekomen. +Maak bij het vaststellen van de informatiebehoefte onderscheid tussen transparantie, [uitlegbaarheid](2-owp-33-toepassen-uitlegbaarheidstechnieken.md) en interpreteerbaarheid. Houd daarbij ook rekening met zaken die moeten worden gecommuniceerd. Denk hierbij aan het kunnen uitleggen hoe een automatisch genomen besluit tot stand is gekomen. Stel een communicatieplan op over de ontwikkeling en gebruik van het algoritme. Bepaal vervolgens aan de hand van de levenscyclus wanneer, welke informatie wanneer beschikbaar moet worden gesteld. Stel vast wie verantwoordelijk is voor het opstellen of het leveren van een bijdrage aan deze informatie. In het communicatieplan kunnen verder zaken worden opgenomen als: diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-pas-vastgestelde-beleidskaders-zijn-nageleefd.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-32-pas-vastgestelde-beleidskaders-zijn-nageleefd.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-pas-vastgestelde-beleidskaders-zijn-nageleefd.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-32-pas-vastgestelde-beleidskaders-zijn-nageleefd.md index 455de1720b..bbf8b97f52 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-28-pas-vastgestelde-beleidskaders-zijn-nageleefd.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-32-pas-vastgestelde-beleidskaders-zijn-nageleefd.md @@ -1,6 +1,6 @@ --- title: Pas vastgestelde interne beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes. -id: urn:nl:ak:mtr:owp-28 +id: urn:nl:ak:mtr:owp-32 toelichting: Hierbij kan worden gedacht aan het toepassen van definities, procedures, protocollen die van toepassing zijn binnen de organisatie. vereiste: - awb-01-zorgvuldigheidsbeginsel diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-toepassen_uitlegbaarheidstechnieken.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-33-toepassen-uitlegbaarheidstechnieken.md similarity index 96% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-toepassen_uitlegbaarheidstechnieken.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-33-toepassen-uitlegbaarheidstechnieken.md index 43ef2c99b1..51c1592340 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-30-toepassen_uitlegbaarheidstechnieken.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-33-toepassen-uitlegbaarheidstechnieken.md @@ -1,6 +1,6 @@ --- title: Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze. -id: urn:nl:ak:mtr:owp-07 +id: urn:nl:ak:mtr:owp-33 toelichting: Uitlegbaarheidstechnieken helpen om de werking van een algoritme transparant te maken. vereiste: - aia-08-transparantie-aan-gebruiksverantwoordelijken @@ -28,7 +28,7 @@ Pas uitlegbaarheidstechnieken toe en evalueer en valideer deze. Uitlegbaarheidstechnieken helpen om de werking van een algoritme transparant te maken. De keuze voor het type algoritme bepaalt hoe transparant je kunt zijn. Van rekenregels kun je namelijk precies uitleggen hoe deze tot een beslissing komen. Maar complexe AI-systemen kunnen een black box zijn. Het is dan onduidelijk hoe deze systemen beslissingen maken. -Afhankelijk van het type algoritme zijn er uitlegbaarheidstechnieken beschikbaar om de werking en keuzes van een algoritme bloot te leggen. Er moet eerst een keuze worden gemaakt welk type algoritme geschikt is gezien de [informatiebehoefte](2-owp-29-informeer_betrokkenen.md). Het is belangrijk om samen met de betrokken partijen vast te leggen welke uitlegbaarheidstechnieken moeten worden toegepast. Bij bronnen kan informatie worden geraadpleegd die helpen bij het vinden van de juiste methodiek. +Afhankelijk van het type algoritme zijn er uitlegbaarheidstechnieken beschikbaar om de werking en keuzes van een algoritme bloot te leggen. Er moet eerst een keuze worden gemaakt welk type algoritme geschikt is gezien de [informatiebehoefte](2-owp-31-informeer-betrokkenen.md). Het is belangrijk om samen met de betrokken partijen vast te leggen welke uitlegbaarheidstechnieken moeten worden toegepast. Bij bronnen kan informatie worden geraadpleegd die helpen bij het vinden van de juiste methodiek. ### Gebruik uitlegbaarheid bij besluiten diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-34-technische-interventies-robuustheid.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-34-technische-interventies-robuustheid.md new file mode 100644 index 0000000000..1351acd07e --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-34-technische-interventies-robuustheid.md @@ -0,0 +1,61 @@ +--- +title: Identificeer en implementeer technische interventies die robuustheid vergroten +id: urn:nl:ak:mtr:owp-34 +toelichting: Bepaal in het ontwerp welke technische interventies bijdragen aan de robuustheid van het algoritme. Deze keuzes moeten in lijn zijn met het beoogde doel en de context. +vereiste: +- aia-06-technische-documentatie +levenscyclus: +- ontwerp +- ontwikkelen +onderwerp: +- technische-robuustheid-en-veiligheid +rollen: +- ontwikkelaar +hide: +- navigation +- toc +--- + + + +## Maatregel +Bepaal in het ontwerp welke technische interventies bijdragen aan de [robuustheid](../../onderwerpen/technische-robuustheid-en-veiligheid.md#wat-is-technisch-robuust-en-veilig) van het algoritme. Deze keuzes moeten in lijn zijn met het [beoogde doel](1-pba-02-formuleren-doelstelling.md) en de context. + +## Toelichting +Maak in de ontwerpfase de volgende afwegingen: + +- **Identificeer en implementeer technische interventies die de robuustheid vergroten** + + In het ontwerp en in de training kunnen extra interventies worden genomen die de robuustheid vergroten. Dit kan op verschillende niveaus. Denk bijvoorbeeld aan: + + - *Data Augmentation*: op data niveau kan de dataset uitgebreid worden met variaties op de oorspronkelijke data, bijvoorbeeld door het toevoegen van extra ruis aan de dataset; + - *Regularisatie*: tijdens training kunnen interventies worden gebruikt die overfitting voorkomen zoals *dropout* of *weight decay*. + - *[Cross-validation](3-dat-07-training-validatie-en-testdata.md#k-fold-cross-validation)*: tijdens training kunnen meerdere combinaties van train- en testsets gebruikt worden om generalisatie te waarborgen. + - *Model ensembles*: er kunnen meerdere modellen gecombineerd worden om samen een beslissing te maken, dit minimaliseert de impact van een fout van één model. + - *[Adversarial training](#)*: het trainen met speciale voorbeelden die bedoeld zijn om het model te misleiden. + - Ook zijn er andere methoden die generalisatie kunnen verbeteren, zoals *invariant risk minimization*, *robust optimization*, *transfer learning* en *causal learning*. + +- **Bepaal de factoren waarop je interventies voor robuustheid beoordeelt** + Afhankelijk van de context, verschillen de factoren waarop je deze afwegingen maakt. + Denk aan complexiteit van de data, invoerdata en resultaten, [risico en impact als het fout gaat](2-owp-06-impactanalyse.md), belang van [betrouwbaarheid versus nauwkeurigheid](../../onderwerpen/technische-robuustheid-en-veiligheid.md#wat-is-technisch-robuust-en-veilig), of belang van robuustheid versus transparantie. + +- **Leg de beargumenteerde keuze vast** + Leg vast welke keuzes er gemaakt zijn en waarom deze keuzes zijn gemaakt. + +## Bijbehorende vereiste(n) + + + +## Risico +Wanneer robuustheid niet in het ontwerp al wordt meegenomen, kan er voor een model worden gekozen waar het niet mogelijk is robuustheid voldoende te waarborgen. +Het model wordt dan ofwel ingezet met de risico’s van dien of de innovatie moet later stop gezet worden. + +## Bronnen +- [Kenniscentrum Data & Maatschappij, Ethisch principe 2: technische robuustheid en veiligheid](https://data-en-maatschappij.ai/publicaties/ethisch-principe-2-technische-robuustheid-en-veiligheid) +- [Europese Commissie, Ethische richtsnoeren voor betrouwbare KI](https://digital-strategy.ec.europa.eu/nl/library/ethics-guidelines-trustworthy-ai) +- [A. Tocchetti et al., A.I. Robustness: a Human-Centered Perspective on Technological Challenges and Opportunities](https://arxiv.org/abs/2210.08906) + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! + diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-toepassen_vastgestelde-beleidskaders.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-35-toepassen-vastgestelde-beleidskaders.md similarity index 94% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-toepassen_vastgestelde-beleidskaders.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-35-toepassen-vastgestelde-beleidskaders.md index 5cccdbfdd7..661e74e686 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-31-toepassen_vastgestelde-beleidskaders.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/2-owp-35-toepassen-vastgestelde-beleidskaders.md @@ -1,6 +1,6 @@ --- title: Pas vastgestelde beleidskaders toe -id: urn:nl:ak:mtr:org-02 +id: urn:nl:ak:mtr:owp-35 toelichting: Pas vastgestelde (interne) beleidskaders toe en maak aantoonbaar dat deze zijn nageleefd bij het ontwikkelen, inkopen en gebruiken van algoritmes. vereiste: - awb-01-zorgvuldigheidsbeginsel @@ -30,7 +30,7 @@ hide: Pas vastgestelde beleidskaders toe. ## Toelichting -- Vastgestelde (interne) beleidskaders moeten worden toegepast bij het ontwikkelen, inkopen of gebruiken van algoritmes. Denk aan [specifiek beleid voor de inzet van algoritmes]([0-org-02-beleid_opstellen_inzet_algoritmes.md). +- Vastgestelde (interne) beleidskaders moeten worden toegepast bij het ontwikkelen, inkopen of gebruiken van algoritmes. Denk aan [specifiek beleid voor de inzet van algoritmes](0-org-02-beleid-opstellen-inzet-algoritmes.md). - Het is van belang dat tijdig, bijvoorbeeld in de [probleemanalyse fase](../../levenscyclus/probleemanalyse.md), inzichtelijk wordt gemaakt welke interne beleidskaders moeten worden toegepast. - Hierbij kan worden gedacht aan definities die moet worden gehanteerd, het naleven van inkoopbeleid, strategisch beleid volgen met betrekking tot het mogen inzetten van algoritmes binnen de organisaties of het doorlopen van processen en protocollen die moeten worden toegepast. - Vraag de [betrokken experts](1-pba-04-betrek-belanghebbenden.md) welke beleidskaders van toepassing zijn vanuit diens expertise. diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-01-datakwaliteit.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-01-datakwaliteit.md index 1cef703042..2ac1d21c3f 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-01-datakwaliteit.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-01-datakwaliteit.md @@ -22,7 +22,7 @@ Stel vast of de gebruikte data van voldoende kwaliteit is voor de beoogde toepas ## Toelichting -- Stel functionele eisen voor de datakwaliteit vast en [analyseer structureel of er aan deze eisen wordt voldaan](7-mon-04-evalueer-bij-veranderingen-in-data.md). +- Stel functionele eisen voor de datakwaliteit vast en [analyseer structureel of er aan deze eisen wordt voldaan](7-mon-05-evalueer-bij-veranderingen-in-data.md). - De kwaliteit van de data die als input voor het algoritme wordt gebruikt is bepalend voor de uitkomsten van het algoritme. Hier wordt soms ook naar gerefereerd als *garbage in = garbage out*. - Een vraag die gesteld dient te worden: beschrijft de data het fenomeen dat onderzocht dient te worden? diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-09-dataminimalisatie.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-09-dataminimalisatie.md index e095d48a30..50bb97872e 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-09-dataminimalisatie.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/3-dat-09-dataminimalisatie.md @@ -29,7 +29,7 @@ Grote datasets brengen daarom hoge energie- en opslagkosten met zich mee. Door d ### Technieken voor dataminimalisatie - **Slimme selectie van trainingsdata**: Gebruik methoden die irrelevante data uit de dataset filteren, zoals dataselectie-algoritmes en sampling-technieken. Door te focussen op relevante data, beperk je de omvang zonder de prestaties van het model te beïnvloeden. - **Verwijderen van redundante en dubbele data**: Deduplicatie van data minimaliseert onnodige verwerkingskracht. Door alleen unieke en relevante gegevens op te slaan, wordt de opslagbehoefte verder beperkt. -- **Opschonen en archiveren van verouderde data**: [Regelmatige archivering](2-owp-08-archiveren-documenten.md) of verwijdering van verouderde data in je dataset zorgt voor een verminderde voetafdruk en verhoogt ook de efficiëntie. +- **Opschonen en archiveren van verouderde data**: [Regelmatige archivering](2-owp-09-archiveren-documenten.md) of verwijdering van verouderde data in je dataset zorgt voor een verminderde voetafdruk en verhoogt ook de efficiëntie. ## Bijbehorende vereiste(n) { data-search-exclude } ??? expander "Bekijk alle vereisten" diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-02-stopzetten-gebruik.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-02-stopzetten-gebruik.md index c1f653ddec..f23d55bc39 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-02-stopzetten-gebruik.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-02-stopzetten-gebruik.md @@ -1,7 +1,7 @@ --- title: Maak een noodplan voor het stoppen van het algoritme id: urn:nl:ak:mtr:owk-02 -toelichting: Als blijkt dat het algoritme onjuist functioneert, dan moeten (technische) maatregelen zijn getroffen waarmee het gebruik kan worden stopgezet. +toelichting: Stel een duidelijk proces op voor situaties waarin het algoritme niet meer werkt zoals beoogd. Dit moet bevatten welke personen welke acties moeten doen en hoe er gewerkt wordt zonder het algoritme. vereiste: - aia-18-corrigerende-maatregelen-voor-non-conforme-ai - awb-01-zorgvuldigheidsbeginsel @@ -19,6 +19,7 @@ levenscyclus: onderwerp: - governance - menselijke-controle +- technische-robuustheid-en-veiligheid rollen: - projectleider - ontwikkelaar @@ -31,20 +32,39 @@ hide: ## Maatregel - Tref (technische) maatregelen waarmee het gebruik van het algoritme kan worden stopgezet. +Stel een duidelijk proces op voor situaties waarin het algoritme niet meer werkt zoals beoogd. Dit moet bevatten welke personen welke acties moeten doen en hoe er gewerkt wordt zonder het algoritme. ## Toelichting - -- Er moet in een proces zijn beschreven wanneer en hoe het gebruik van algoritmes moet worden stopgezet. +Er moet gezorgd worden dat er een alternatief plan is voor als het algoritme niet meer werkt zoals beoogd. Dit kan betekenen dat het hele systeem (tijdelijk) wordt stopgezet, dat delen van het systeem (tijdelijk) worden uitgeschakeld of dat er een alternatief systeem gebruikt wordt. + +Dit proces bevat in ieder geval de volgende stappen: + +### Leg vast wanneer het algoritme niet meer werkt zoals beoogd +- Leg vast wat de [beoogde werking van het algoritme] is(1-pba-02-formuleren-doelstelling.md). +- Bepaal of [de geïmplementeerde werking overeenkomt met de vastgelegde beoogde werking](5-ver-01-functioneren-in-lijn-met-doeleinden.md) en wanneer het algoritme gestopt moet worden. Dit gebeurt tijdens een [evaluatie](7-mon-04-evaluatieplan.md) of door de [continue monitoring](7-mon-07-plan-continue-monitoring.md). + +### Zorg dat beslissingen kunnen worden herzien +- Leg vast hoe het mogelijk is na te gaan op welk moment het algoritme stopte met werken zoals beoogd. +Wanneer de melding vanuit continue monitoring komt is het vaak duidelijk wanneer deze waarde wordt overschreden. +Bij vaste evaluatiemomenten moet dit worden herleid. +Zorg dat door middel van het [loggen](4-owk-04-logging.md) van de juiste informatie het mogelijk is te herleiden wanneer het algoritme stopte met werken zoals beoogd. +- Zorg dat beslissingen die zijn genomen vanaf het moment dat het algoritme stopte met werken zoals beoogd kunnen worden herzien. Indien het algoritme niet direct is gestopt zodra het niet meer werkte zoals beoogd, moet er opnieuw gekeken worden naar de beslissingen die daarna zijn genomen. Leg vast op welke manier deze beslissingen herzien worden. + +### Leg vast wat de vervolgacties zijn +- Leg in een proces vast hoe het gebruik van het algoritme moet worden stopgezet. +- Leg vast hoe er gewerkt worden zonder het algoritme en wat de impact daarvan is op het werkproces. +- Leg vast wie er binnen en buiten de organisatie geïnformeerd moeten worden. - Het is van belang dat bij het ontwerp van algoritmes er rekening wordt gehouden met dat het werkproces ook zonder het algoritme kan worden uitgevoerd. - In het geval van risicoselectie kan er bijvoorbeeld worden teruggevallen op het enkel uitvoeren van een [aselecte steekproef](6-imp-02-aselecte-steekproeven.md) als selectieinstrument. - Als blijkt dat het algoritme ongewenst functioneert, dan moeten (technische) maatregelen zijn getroffen waarmee het gebruik daadwerkelijk kan worden stopgezet. Denk hierbij aan een stopknop en werkinstructies hoe het gebruik kan worden beëindigd. - Maak aantoonbaar dat deze maatregelen zijn getroffen. - De proceseigenaar of een menselijk toezichthouder moet in staat zijn om het algoritme op elk moment te kunnen beëindigen. - Het stopzetten van het gebruik van een algoritme mag niet tot gevolg hebben dat betrokkenen niet meer kunnen achterhalen hoe besluiten tot stand zijn gekomen of dat gevolgen niet meer kunnen worden gecorrigeerd als dat noodzakelijk is. + +Indien er sprake is van discriminerende effecten van een algoritme, kan je gebruik maken van het [discriminatieprotocol](0-org-15-discriminatieprotocol.md). ## Risico -Betrokkenen of belanghebbenden kunnen nadelige gevolgen ondervinden van een algoritme dat onjuist functioneert en niet tijdig kan worden stopgezet. +Als er geen duidelijke acties zijn gedefinieerd, kan dat bijvoorbeeld leiden tot de volgende risico’s: het werkproces komt stil te liggen door een niet-werkend algoritme; er worden verkeerde beslissingen genomen doordat het algoritme nog wordt gebruikt terwijl het niet goed meer werkt, kwaadwillenden hebben langer toegang tot het algoritme en/of organisatiedata. ## Bijbehorende vereiste(n) { data-search-exclude } diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-07-reproduceerbaarheid.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-07-reproduceerbaarheid.md new file mode 100644 index 0000000000..54d48ab423 --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-07-reproduceerbaarheid.md @@ -0,0 +1,82 @@ +--- +title: Zorg voor reproduceerbaarheid van de uitkomsten +id: urn:nl:ak:mtr:owk-07 +toelichting: Zorg ervoor dat uitkomsten van het algoritme herhaald of herleid kunnen worden. +levenscyclus: +- ontwikkelen +onderwerp: +- technische-robuustheid-en-veiligheid +- transparantie +rollen: +- ontwikkelaar +hide: +- navigation +- toc +--- + + + +## Maatregel +Zorg ervoor dat uitkomsten van het algoritme herhaald of herleid kunnen worden. + +## Toelichting +De reproduceerbaarheid omschrijft of de resultaten van een algoritme herhaald of herleid kunnen worden. +Het betekent dat dezelfde input leidt tot dezelfde output in alle situaties. In ieder geval moet het algoritme hetzelfde gedrag vertonen. + +Reproduceerbaarheid is sterk gelinkt aan herleidbaarheid en traceerbaarheid. +Uitkomsten moeten altijd herleid kunnen worden aan de hand van het model en de data. + +Om te zorgen voor reproduceerbaarheid van de uitkomsten, kan je de volgende stappen nemen: + +1. [Bepaal welke mate van reproduceerbaarheid nodig is](#bepaal-welke-mate-van-reproduceerbaarheid-nodig-is) +2. [Implementeer verschillende stappen die bijdragen aan reproduceerbaarheid](#implementeer-verschillende-stappen-die-bijdragen-aan-reproduceerbaarheid) +3. [Test of het algoritme het gewenste niveau van reproduceerbaarheid heeft](#test-of-het-algoritme-het-gewenste-niveau-van-reproduceerbaarheid-heeft) + +### Bepaal welke mate van reproduceerbaarheid nodig is +Afhankelijk van de toepassing moeten de resultaten van het algoritme te precies reproduceren zijn. +Wanneer er gebruik wordt gemaakt van genertieve AI hoeft de output niet altijd exact hetzelfde te zijn. + +### Implementeer verschillende stappen die bijdragen aan reproduceerbaarheid +Om te zorgen dat uitkomsten reproduceerbaar zijn, implementeer je het volgende in je processen en systemen: + +- Zorg voor versiebeheer op de code en de bijbehorende systemen. Dit geldt zowel tijdens ontwikkeling als tijdens operatie. Tools als [Github](https://github.com/) of [Gitlab](https://about.gitlab.com/) kunnen ondersteunen bij versiebeheer van code. +- Zorg dat de data (trainings- en testdata) kan worden gereproduceerd. Maak gebruik van versiebeheer op de data, maak backups van de data, sla snapshots van de data op en maak gebruik van timestamps. +- Documenteer wijzigingen aan het algoritme of de systemen daaromheen. +- Beheer afhankelijkheden van software bibliotheken en de beschikbare versies. Verschillende versies van veelgebruikte open-source software bibliotheken kunnen leiden tot verschillende resultaten. Gebruik bijvoorbeeld tools als [Docker](https://www.docker.com/) om deze versies te beheren. +- Logging van tussenresultaten, eindresultaten, parameters en andere benodigde informatie. +- Houd de documentatie compleet en compact. + +### Test of het algoritme het gewenste niveau van reproduceerbaarheid heeft +Het is belangrijk om het algoritme te testen op de mate van reproduceerbaarheid. Dit kan je doen door: + +- experimenten meerdere keren te herhalen. +- te testen of kan worden achterhaald hoe een bepaald resultaat tot stand is gekomen. Is het duidelijk welke data is gebruikt, en welke versie van het algoritme is gebruikt? Test of het resultaat op basis van deze informatie opnieuw kan worden gegenereerd. +- Rekening te houden met willekeur in het systeem. Dit is bijvoorbeeld relevant wanneer er gebruikt wordt gemaakt van *seeds* en/of *random number generators*. Experimenteer wat de invloed is van verschillende seeds op de uitkomsten, en analyseer of het systeem dezelfde resultaten geeft voor een vaste seed. Indien van belang, documenteer de seed die er gebruikt wordt. +- Test of een versie van het algoritme opnieuw gereconstrueerd kan worden op basis van de gedocumenteerde informatie: + + - trainingsdata + - parameters + - versies van gebruikte software (softwarebibliotheken) + - etc. + +- Indien er gebruik wordt gemaakt van generatieve AI kan er getest worden wat de uitkomsten zijn voor dezelfde of heel vergelijkbare prompts. + +## Bijbehorende vereiste(n) + + +## Risico +Wanneer uitkomsten niet herhaald kunnen worden, kan er niet worden gegarandeerd dat vergelijkbare casussen tot vergelijkbare uitkomsten komen. +Dit maakt de uitkomsten van het algoritme mogelijk oneerlijk. +Wanneer een herhaald experiment niet tot dezelfde uitkomsten leidt, kan het experiment niet vertrouwd worden. +Als uitkomsten niet herleid kunnen worden, kan er geen uitleg worden gegeven waarom een bepaalde beslissing tot stand is gekomen. +Hierdoor kan geen verantwoording worden geboden. + +## Bronnen +- [MLOps Principles: Reproducability](https://ml-ops.org/content/mlops-principles#reproducibility) +- [Ministerie van Infrastructuur en Waterstaat, AI Impact Assessment](https://www.rijksoverheid.nl/documenten/rapporten/2022/11/30/ai-impact-assessment-ministerie-van-infrastructuur-en-waterstaat) +- [Harald Semmelrock, et al., Reproducibility in Machine Learning-Driven Research](https://arxiv.org/pdf/2307.10320) +- [Odd Erik Gundersen, et al., Do machine learning platforms provide out-of-the-box reproducibility?](https://www.sciencedirect.com/science/article/pii/S0167739X21002090) +- [Odd Erik Gundersen, et al., State of the Art: Reproducibility in Artificial Intelligence ](https://ojs.aaai.org/index.php/AAAI/article/view/11503) + +## Voorbeeld +Heb jij een goed voorbeeld? Laat het ons weten! diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-08-feedbackloops.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-08-feedbackloops.md new file mode 100644 index 0000000000..9117fc3565 --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/4-owk-08-feedbackloops.md @@ -0,0 +1,73 @@ +--- +title: Bepaal welke feedbackloops van invloed zijn op het algoritme +id: urn:nl:ak:mtr:owk-08 +toelichting: Stel vast op welke manier de uitkomst of de inzet van het algoritme van invloed kan zijn op het proces en de werking in een latere fase. Probeer deze ‘feedbackloops’ in kaart te brengen zodat ze mogelijk voorkomen kunnen worden of gemonitord kunnen worden op mogelijke negatieve effecten. +levenscyclus: +- ontwerp +- ontwikkelen +onderwerp: +- technische-robuustheid-en-veiligheid +- bias-en-non-discriminatie +rollen: +- projectleider +- ontwikkelaar +hide: +- navigation +- toc +--- + + + +## Maatregel +Stel vast op welke manier de uitkomst of de inzet van het algoritme van invloed kan zijn op het proces en de werking in een latere fase. +Probeer deze ‘feedbackloops’ in kaart te brengen zodat ze mogelijk voorkomen kunnen worden of gemonitord kunnen worden op mogelijke negatieve effecten. + +## Toelichting +Een feedbackloop kan zich voordoen wanneer de uitkomst van een algoritme wordt gebruikt als nieuwe input voor het algoritme. +Deze feedbackloops kunnen een vertekend beeld van de werkelijkheid geven en de robuustheid van het algoritme over tijd in gevaar brengen. Dit is met name van belang wanneer algoritmes bijleren (continue of periodiek). + +!!! note "Opmerking" + + Merk op dat feedbackloops ook een positief effect kunnen hebben, wanneer bijvoorbeeld gebruikerservaring wordt meegenomen in de doorontwikkeling van het algoritme. + +Er zijn verschillende vormen van feedbackloops, die worden uitgelegd aan de hand van een voorbeeld van een algoritme dat de hoogte voor een bepaalde subsidie bepaalt. + +- *sampling feedbackloop*: Wanneer de beslissing die volgt uit het algoritme effect heeft op de kans dat bepaalde groepen in een volgende selectie terechtkomen. In het voorbeeld van de uitkering betekent dit bijvoorbeeld dat een bepaalde groep geen nieuwe aanvraag meer doet door een eerdere beslissing van het algoritme. + +- *individual feedbackloop*: Wanneer bijvoorbeeld de burger minder geld uit gaat geven aan boodschappen omdat deze weet dat het daarop beoordeeld wordt door het algoritme. Een ander voorbeeld is wanneer de mening of visie van een beoordelaar verandert door [het gebruiken van het algoritme](../../onderwerpen/bias-en-non-discriminatie.md#menselijke-bias)(het overnemen van de ‘vooroordelen van een systeem’). + +- *feature feedbackloop*: Bijvoorbeeld wanneer de uitkomst dat een subsidie niet verstrekt wordt, ook als kenmerk ‘eerdere weigering van subsidie’ wordt gebruikt door het algoritme. + +- *outcome feedbackloop*: Bijvoorbeeld wanneer burgers die een subsidie toebedeeld worden (uitkomst) hierdoor meer geld gaan uitgeven, waardoor ze ook eerder in geldnood komen. Dit kan zelfs gebeuren wanneer ze misschien zonder de subsidie niet in geldnood waren gekomen. + +- *machinelearning model feedbackloop*: Wanneer nieuwe data die beschikbaar komt, is beïnvloed door de beslissing van het algoritme zelf en deze data wordt gebruikt om een machinelearning model mee te (her)trainen. Een ander voorbeeld is wanneer alleen data wordt gebruikt van de personen die daadwerkelijk subsidie ontvangen om het algoritme op te (her)trainen. De groep die geen subsidie ontvangt ontbreekt dan in de dataset. + +### Adversarial feedbackloops +Soms kunnen feedbackloops opzettelijk ingezet worden als ‘aanval’ op het systeem. +Dit hoeft niet per se vijandig te zijn, maar het kan gaan om het opzettelijk reageren op of aanpassen van de beslissingen die uit een algoritme volgen. +Bijvoorbeeld wanneer mensen liegen bij het invullen van een vragenlijst van de GGD wanneer ze een soa-test willen doen, omdat ze weten dat ze dat ze dan gekwalificeerd worden voor een gratis test [^1]. +Wanneer de belanghebbende het gedrag aanpast zonder dat zijn of haar kenmerken daadwerkelijk veranderen, omdat het heeft geleerd hoe het algoritme oordeelt, is dat voorbeeld van een adversarial feature feedbackloop. +Deze feedbackloops wil je het liefste voorzien en mitigeren. + +[^1]: Zie https://nos.nl/op3/artikel/2143511-soa-sjoemelaars-liegen-voor-gratis-test + +### Monitoring en ophalen informatie +Feedbackloops kunnen ook een positieve werking hebben op het algoritme. Het is verstandig om feedback op te halen om in te zien wat de reactie is van mensen op (beslissingen van) een algoritme. +Dit kan bijvoorbeeld door gebruikers of belanghebbende burgers vragenlijsten te laten invullen met vragen over hun gedrag en de ontwikkelingen hierin te monitoren. +Daarnaast kan het ophalen van ervaringen met het algoritme worden gebruikt voor doorontwikkeling en verbetering van het algoritme waarbij de gewenste en ongewenste effecten meegenomen worden. + +Ten slotte verdient [bias](../../onderwerpen/bias-en-non-discriminatie.md) specifieke aandacht. Houd goed in de gaten hoe het algoritme gebruikmaakt van de kenmerken van gevoelige groepen en wat de effecten van de uitkomst zijn op hun gedrag en de datadistributie. + +## Bijbehorende vereiste(n) + + +## Risico +Feedbackloops kunnen invloed hebben op verschillende onderdelen van het systeem waarin een algoritme zit. Als dit onopgemerkt gebeurt kan dit een negatief effect hebben op de accuraatheid en betrouwbaarheid van het algoritme, of ongewenste bias ontwikkelen. + +## Bronnen +- [Lucía Vicente, et al., Humans inherit artificial intelligence biases](https://www.nature.com/articles/s41598-023-42384-8) +- [Nicolò Pagan, et al., A Classification of Feedback Loops and Their Relation to Biases in Automated Decision-Making Systems](https://arxiv.org/abs/2305.06055) +- [Jonathan Stray, The AI Learns to Lie to Please You: Preventing Biased Feedback Loops in Machine-Assisted Intelligence Analysis](https://www.mdpi.com/2813-2203/2/2/20) + +## Voorbeeld +Heb jij een goed voorbeeld? Laat het ons weten! diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-evalueer-nauwkeurigheid.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-evalueer-nauwkeurigheid.md new file mode 100644 index 0000000000..1ce1cfcc3d --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-evalueer-nauwkeurigheid.md @@ -0,0 +1,69 @@ +--- +title: Evalueer de nauwkeurigheid van het algoritme +id: urn:nl:ak:mtr:ver-02 +toelichting: Test en evalueer de nauwkeurigheid van het algoritme om te zorgen dat deze accurate uitkomsten geeft. +vereiste: +- aia-06-technische-documentatie +- aia-10-nauwkeurigheid-robuustheid-cyberbeveiliging +- awb-01-zorgvuldigheidsbeginsel +levenscyclus: +- ontwikkelen +- verificatie-en-validatie +- monitoring-en-beheer +onderwerp: +- technische-robuustheid-en-veiligheid +- bias-en-non-discriminatie +rollen: +- ontwikkelaar +- projectleider +hide: +- navigation +--- + + + +## Maatregel +Test en evalueer de nauwkeurigheid van het algoritme om te zorgen dat deze accurate uitkomsten geeft. + +## Toelichting +De nauwkeurigheid van het algoritme wil zeggen: geeft het algoritme de juiste uitkomst voor [het gewenste doel](1-pba-02-formuleren-doelstelling.md); maakt het correcte berekeningen, voorspellingen, aanbevelingen, beslissingen of classificeringen. + +Voor het evalueren van de nauwkeurigheid zijn de volgende stappen essentieel: + +- Bepaal met welke methoden en [metriek(en)](#metrieken) je de nauwkeurigheid wilt gaan meten. Pas dit aan op de [ontwerpkeuzes](../../levenscyclus/ontwerp.md), [het beoogde doel](1-pba-02-formuleren-doelstelling.md) en [de bepaalde risico’s](2-owp-06-impactanalyse.md). +- [Controleer of de data volledig en actueel is](3-dat-01-datakwaliteit.md) om de metrieken te kunnen meten. +- Bepaal welke foutmarge acceptabel is: + + - Bepaal hoe vaak het algoritme een bepaalde fout maken. Houd rekening met verschillende fouten die gemaakt kunnen worden, zoals *false positives* en *false negatives*. Welke fouten zijn erger om te maken? + - De foutmarge is afhankelijk van [welke schade wordt er veroorzaakt](2-owp-06-impactanalyse.md) bij onnauwkeurige of foutieve voorspellingen. + - Heb hierbij aandacht voor de afweging tussen nauwkeurigheid en [betrouwbaarheid](5-ver-06-evalueer-betrouwbaarheid.md). Een model met hoge nauwkeurigheid op de testset kan vaak slechter generaliseren naar situaties net buiten de test set (overfitting). + - Bepaal interventies voor als het restrisico hoger is dan acceptabel. + + - Wanneer de nauwkeurigheid niet voldoende is tijdens de ontwikkelfase kan er besloten worden door te ontwikkelen, andere maatregelen te treffen (bijvoorbeeld in [menselijke interventies](../../onderwerpen/menselijke-controle.md)) om het restrisico acceptabel te maken of door [te stoppen met de ontwikkeling van het systeem](../../levenscyclus/uitfaseren.md). + - Wanneer monitoring aangeeft dat de nauwkeurigheid onvoldoende is, moet er een passende afweging om het systeem te verbeteren, dan wel over te gaan op het [stoppen van het systeem](4-owk-02-stopzetten-gebruik.md). + +### Metrieken +Afhankelijk van het type algoritme zijn er verschillende metrieken waarmee je de nauwkeurigheid kan meten. Veelgebruikte metrieken zijn: + +- accuraatheid *(accuracy)* +- precisie *(precision)* +- *recall* +- *F1-score* +- *mean-squared-error* +- *mean-absolute-error* + +In verschillende omgevingen en onder verschillende datasets moeten de relevante metrieken voor jouw toepassing worden geëvalueerd. + +## Bijbehorende vereiste(n) + + + +## Risico +Een onnauwkeurig algoritme geeft de verkeerde uitkomsten waardoor situaties of mogelijk personen verkeerd beoordeeld kunnen worden. + +## Bronnen +- [Europese Commissie, Ethische richtsnoeren voor betrouwbare KI](https://digital-strategy.ec.europa.eu/nl/library/ethics-guidelines-trustworthy-ai) + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-biasanalyse.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-biasanalyse.md similarity index 98% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-biasanalyse.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-biasanalyse.md index 4ff9cea889..1e716b2100 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-02-biasanalyse.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-biasanalyse.md @@ -66,7 +66,7 @@ Indirect onderscheid is in vergelijking met direct onderscheid lastiger op te si Daarom is het belangrijk jouw algoritmische toepassing regelmatig te analyseren op eventueel indirect onderscheid. Het toetsen op indirect onderscheid bestaat uit 5 stappen: -1. **Bepaal wat de [kwetsbare groepen](2-owp-07-kwetsbare-groepen.md) zijn.** +1. **Bepaal wat de [kwetsbare groepen](2-owp-07-afwegen-grondrechten.md) zijn.** Eventueel kan dit aangevuld worden op basis van de [discriminatiegronden](../../onderwerpen/bias-en-non-discriminatie.md#discriminatiegrond) uit non-discriminatie wetgeving. Of andere groepen waarvoor verschillen in behandeling ethisch onwenselijk zijn. 2. **Bepaal wat "verschillen in behandeling" betekent in de context van het algoritme.** @@ -106,7 +106,7 @@ Het is daarom van belang om duidelijk afwegingen te maken tussen privacy en het Voor sommige groepen zal het onmogelijk zijn om te beschikken over data van voldoende kwaliteit om zorgvuldig te toetsen op bias. De laaggeletterdheid van burgers of personen is bijvoorbeeld lastig meetbaar en in veel gevallen niet beschikbaar. - Bepaal in zo'n situatie [of er andere mogelijkheden zijn deze groepen te helpen](2-owp-07-kwetsbare-groepen.md), of dat er andere mogelijkheden zijn om eventuele ongelijke behandeling bij deze groepen te constateren. + Bepaal in zo'n situatie [of er andere mogelijkheden zijn deze groepen te helpen](2-owp-07-afwegen-grondrechten.md), of dat er andere mogelijkheden zijn om eventuele ongelijke behandeling bij deze groepen te constateren. Bijvoorbeeld door hierop te monitoren in de klacht- en bezwarenprocedure. 4. **Bereken de verschillen in behandeling en/of uitkomsten van het algoritme**. diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-04-representatieve-testomgeving.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-04-representatieve-testomgeving.md new file mode 100644 index 0000000000..74982f5d36 --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-04-representatieve-testomgeving.md @@ -0,0 +1,56 @@ +--- +title: Zorg voor een representatieve testomgeving +id: urn:nl:ak:mtr:ver-04 +toelichting: Test het algoritme in verschillende scenario’s en omstandigheden die zoveel mogelijk overeenkomen met de operationele context. +vereiste: +- aia-03-risicobeheersysteem +- aia-11-systeem-voor-kwaliteitsbeheer +- aia-33-verwerking-in-testomgeving +levenscyclus: +- verificatie-en-validatie +onderwerp: +- technische-robuustheid-en-veiligheid +rollen: +- ontwikkelaar +- projectleider +hide: +- navigation +- toc +--- + + + +## Maatregel +Test het algoritme in verschillende scenario’s en omstandigheden die zoveel mogelijk overeenkomen met de operationele context. + +## Toelichting +Representatieve testomstandigheden zijn essentieel om een goed onderbouwd vertrouwen te krijgen in de prestaties en de toegevoegde waarde van het algoritme. +Houd daarbij bijvoorbeeld rekening met voldoende variatie en ruis die voorkomt tijdens het operationeel gebruik of de verschillende type gebruikers die interacteren met het algoritme. +Neem bij het inrichten van een testomgeving de volgende aspecten mee: + +- de factoren uit [de impactanalyse](2-owp-06-impactanalyse.md). +- zorg voor testomgeving waarin je betrouwbaarheid, nauwkeurigheid en reproduceerbaarheid kan evalueren. +- analyseer de verschillen tussen de dataset en operationeel gebruik. +- wanneer een gebruikerstest wordt gedaan, zorg voor een representatieve groep gebruikers. Denk bijvoorbeeld aan verschillend enthousiasme en verschillend niveau van digitale/AI-vaardigheden. +- neem verschillende typen aanvallen mee +- valideer dat de testomgeving de risicoanalyse en het beslissingsproces ondersteunt. + +Voorbeelden om bij te dragen aan een representatieve testomgeving: + +- Voeg extra ruis toe aan de testdata +- Test op op gevallen die niet passen in de verdeling van variabelen waarop een classificatiemodel is getraind (de *out-of-distribution* scenario’s). +- [Test op uitzonderlijke gevallen (*outliers*) en minderheidsgroepen](5-ver-03-biasanalyse.md) +- Stel specifieke testscenario’s op. Dit kan bijvoorbeeld met de [‘What if tool’ van Google](https://ieeexplore.ieee.org/abstract/document/8807255), om specifieke data scenario’s voor een machinelearning model te onderzoeken. + +## Bijbehorende vereiste(n) + + + +## Risico +Als het algoritme niet getest wordt, of getest wordt in niet-representatieve omstandigheden, kan er een onterecht vertrouwen in het algoritme ontstaan. +De evaluatie geeft dan goede resultaten, maar het model zal minder presteren in de operationele context waar meer variatie aanwezig is. + +## Bron +- [Bo Li, et al., Trustworthy AI: From Principles to Practices](https://arxiv.org/abs/2110.01167) + +## Voorbeeld diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-vertaling-wetgeving-naar-systeem.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-05-vertaling-wetgeving-naar-systeem.md similarity index 98% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-vertaling-wetgeving-naar-systeem.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-05-vertaling-wetgeving-naar-systeem.md index 44b82f15e3..8bbc93d9ac 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-03-vertaling-wetgeving-naar-systeem.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-05-vertaling-wetgeving-naar-systeem.md @@ -1,6 +1,6 @@ --- title: Controleer regelmatig of het algoritme voldoet aan alle wetten en regels en het eigen beleid -id: urn:nl:ak:mtr:ver-03 +id: urn:nl:ak:mtr:ver-05 toelichting: Wet- en regelgeving of beleid bevat de basisregels voor algoritmes. Het is van belang dat een goede vertaling wordt gemaakt van deze regels naar het algoritme. vereiste: - awb-01-zorgvuldigheidsbeginsel @@ -9,6 +9,7 @@ vereiste: - aia-05-data-kwaliteitscriteria levenscyclus: - verificatie-en-validatie +- monitoring-en-beheer onderwerp: - governance - transparantie diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-06-evalueer-betrouwbaarheid.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-06-evalueer-betrouwbaarheid.md new file mode 100644 index 0000000000..517aec4856 --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/5-ver-06-evalueer-betrouwbaarheid.md @@ -0,0 +1,116 @@ +--- +title: Evalueer de betrouwbaarheid van het algoritme +id: urn:nl:ak:mtr:ver-06 +toelichting: Evalueer de betrouwbaarheid van het algoritme door het algoritme te testen op verschillende input en in verschillende situaties. +vereiste: +- aia-10-nauwkeurigheid-robuustheid-cyberbeveiliging +levenscyclus: +- ontwikkelen +- verificatie-en-validatie +- monitoring-en-beheer +onderwerp: +- technische-robuustheid-en-veiligheid +rollen: +- ontwikkelaar +hide: +- navigation +--- + + + +## Maatregel +Evalueer de betrouwbaarheid van het algoritme door het algoritme te testen op verschillende input en in verschillende situaties. + +## Toelichting +De betrouwbaarheid van een algoritme omschrijft of het algoritme in staat is om onder verschillende omstandigheden en met alle mogelijke input tot een correcte uitkomst te komen. +In sommige gevallen is het wenselijk om duidelijk aan te geven wat de onzekerheid is van een uitkomst, of dat het juiste antwoord niet bepaald kan worden of er kans is op fouten. + +Om de betrouwbaarheid te evalueren kan je de volgende stappen doorlopen: + +1. [Bepaal methodes en metrieken](#bepaal-methodes-en-metrieken) +2. [Zorg voor een representatieve testset](#zorg-voor-een-representatieve-testset) +3. [Bepaal welke mate van betrouwbaarheid noodzakelijk is](#bepaal-welke-mate-van-betrouwbaarheid-noodzakelijk-is) +4. [Bepaal interventies voor als het restrisico hoger is dan acceptabel](#bepaal-interventies-voor-als-het-restrisico-hoger-is-dan-acceptabel) +5. [Zorg en controleer of de betrouwbaarheid van een uitkomst wordt meegegeven in de output](#zorg-en-controleer-of-de-betrouwbaarheid-van-een-uitkomst-wordt-meegegeven-in-de-output) + +### Bepaal methodes en metrieken +Bepaal met welke methodes je betrouwbaarheid wil evalueren en welke metrieken je daarvoor wilt gebruiken. +De metrieken voor prestatie kunnen gelijk zijn aan die van [nauwkeurigheid](5-ver-02-evalueer-nauwkeurigheid.md#metrieken), alleen gaat het om de score hierop in een onbekende situatie. +Het testen van betrouwbaarheid kan bijvoorbeeld door precisie of recall te meten onder extreme omstandigheden of met ruis in de data. + +!!! info "Methodes om te testen op betrouwbaarheid" + + Afhankelijk van het type algoritme zijn er verschillende methodes om betrouwbaarheid te testen. + In de literatuur gaat het ook wel over generalisatie wanneer we spreken over het correct presteren op nieuwe of minder voorkomende inputs en omstandigheden. + Hieronder enkele voorbeelden van methoden die gebruikt kunnen worden: + + - De *monkey test* is een manier om voor willekeurige, invalide of onverwachte inputs het gedrag van het algoritme te testen. Het idee is om een onvoorspelbare gebruiker (of een script) willekeurige acties te laten uitvoeren om te kijken hoe het systeem erop reageert. + - Door een *out-of-sample test* kan worden getest hoe een machinelearning algoritme presteert bij een dataset verdeling die niet in de training is meegegeven. + - Door *stresstesten* test je de prestatie van het algoritme onder extreme omstandigheden of ruis in de data. + - Met synthetische data kunnen goed uitlegbare en controleerbare distributieshifts worden gesimuleerd, om te testen of het algoritme in een onbekende situatie, waar geen data van bruikbaar of beschikbaar is, presteert. + - De [AI Blindspots kaartenset](https://data-en-maatschappij.ai/tools/ai-blindspots-2.0) kan helpen om risico’s voor betrouwbaarheid (en specifiek [bias](../../onderwerpen/bias-en-non-discriminatie.md)) te identificeren. + +Pas de methodes en metrieken aan op de ontwerpkeuzes, zoals de context waarin het algoritme gebruikt wordt en het [soort algoritme](2-owp-05-soort-algoritme.md). +Onderzoek of er specifieke situaties of omstandigheden zijn waarvan bekend is dat deze kunnen variëren. + +??? example "Voorbeeld" + + Analyseer welke veranderingen of wisselingen in de [inputdata](2-owp-02-gebruikte-data.md) er kunnen plaatsvinden. Bijvoorbeeld door economische schommelingen of door veranderingen in gebruikersgedrag. Test of het algoritme goed blijft presteren onder deze omstandigheden. + +??? example "Voorbeeld" + + De verdeling van de inputdata kan invloed hebben op de prestaties van een machinelearning algoritme (distributieshift). Test hoe het algoritme presteert onder andere verdelingen van de inputdata. + +### Zorg voor een representatieve testset +Zorg dat er een [representatieve testset](5-ver-04-representatieve-testomgeving.md) beschikbar is waarin het algoritme kan worden getest in verschillende scenario's. Test het algoritme in verschillende omstandigheden: + +- gebruikers +- omgeving +- interface +- verschillende datasets + +Test je algoritme op generaliseerbaarheid van de uitkomsten buiten de standaard omgeving. + +### Bepaal welke mate van betrouwbaarheid noodzakelijk is +- Bedenk onder welke variaties het systeem zeker betrouwbaar moet werken en hoe goed het moet kunnen werken onder rand- of uitzonderlijke gevallen. +- Afhankelijk van de toepassing moeten resultaten altijd dezelfde uitkomst geven of niet ([reproduceerbaarheid](4-owk-07-reproduceerbaarheid.md)). In het geval van generatieve AI hoeft het antwoord bijvoorbeeld niet altijd exact hetzelfde te zijn. +- Heb hierbij aandacht voor de afweging tussen [nauwkeurigheid](5-ver-02-evalueer-nauwkeurigheid.md) en betrouwbaarheid. Een model met hoge nauwkeurigheid op de testset kan vaak slechter generaliseren naar situaties net buiten de test set (overfitting). + +### Bepaal interventies voor als het restrisico hoger is dan acceptabel +Bepaal wat er moet gebeuren wanneer de betrouwbaarheid niet voldoende is. Hiervoor zijn verschillende mogelijkheden: + +- Verder ontwikkelen aan het algoritme en andere maatregelen treffen om het restrisico acceptabel te maken. Bijvoorbeeld door: + + - meer [menselijke controle](../../onderwerpen/menselijke-controle.md) toe te voegen + - een ander [soort algoritme](2-owp-05-soort-algoritme.md) of [techniek](2-owp-04-gebruikte-techniek.md) te gebruiken. + - bij machinelearning algoritmes kan je overfitting voorkomen door [verschillende trainingsdatasets en testdatasets te gebruiken](3-dat-07-training-validatie-en-testdata.md), zoals bij [k-fold-cross-validation](3-dat-07-training-validatie-en-testdata.md#k-fold-cross-validation). + - door (hyper)parameters aan te passen kan het algoritme worden aangepast zodat het beter presteert in verschillende testsituaties. + +- [Te stoppen met de ontwikkeling en/of het gebruik van het systeem](../../levenscyclus/uitfaseren.md). + +### Zorg en controleer of de betrouwbaarheid van een uitkomst wordt meegegeven in de output +Voorspellingen of uitkomsten van een algoritme kunnen onzeker zijn. Zorg dat de (on)zekerheid van een uitkomst wordt meegegeven in de output van een algoritme. +Dat kan bijvoorbeeld door een foutmarge mee te geven. +In veel gevallen kan het wenselijk zijn dat het systeem aangeeft wanneer een uitkomst te onzeker is, of soms zelfs geen antwoord geeft vanwege de onzekerheid. +Dit kan bijdragen aan het vertrouwen in het algoritme. + +### Zorg voor continue monitoring op betrouwbaarheid +Zorg dat het algoritme continu wordt [gemonitord](../../levenscyclus/monitoring-en-beheer.md) op de betrouwbaarheid en de prestaties van het systeem. Maak gebruik van periodieke updates en [valideer regelmatig de kwaliteit gebruikte data](3-dat-01-datakwaliteit.md). + +## Bijbehorende vereiste(n) + + + +## Risico +Een onbetrouwbaar algoritme kan in een nieuwe of onverwachte situatie de verkeerde uitkomsten geven. + +## Bronnen +- [Bo Li, et al., Trustworthy AI: From Principles to Practices](https://arxiv.org/abs/2110.01167) +- [Pablo Soldati, et al., Design Principles for Model Generalization and Scalable AI Integration in Radio Access Networks](https://arxiv.org/abs/2306.06251v2) +- [Jiashuo Liu, et al., Towards Out-Of-Distribution Generalization: A Survey](https://arxiv.org/abs/2108.13624) +- [Kenniscentrum Data & Maatschappij - Tool: AI Blindspots 2.0](https://data-en-maatschappij.ai/tools/ai-blindspots-2.0) +- [Kaiyang Zhou, et al., Domain Generalization: A Survey](https://ieeexplore.ieee.org/abstract/document/9847099) + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/6-imp-01-werkinstructies-gebruikers.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/6-imp-01-werkinstructies-gebruikers.md index 58f583a38a..3d2924ff5f 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/6-imp-01-werkinstructies-gebruikers.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/6-imp-01-werkinstructies-gebruikers.md @@ -24,19 +24,28 @@ hide: ## Maatregel -Stel een werkinstructie op voor gebruikers. +Stel een werkinstructie op voor gebruikers zodat zij weten hoe het algoritme correct gebruikt kan worden en hoe ze om kunnen gaan met de (veiligheids)risico's. ## Toelichting Het is belangrijk dat gebruikers een werkinstructie ontvangen met informatie over hoe zij met het algoritme kunnen en moeten werken. Hierin worden zaken beschreven als: -- Op wat voor manier het algoritme ondersteunt bij het uitvoeren van (wettelijke) taken. -- Wat de mogelijkheden en beperkingen zijn bij het gebruik van het algoritme. -- Wat de impact is van het gebruik van het algoritme op de samenleving en individuen (denk aan [energieverbruik](7-mon-05-meten-milieu-impact) of dat een besluit met rechtsgevolgen wordt genomen). -- Wat de risico's zijn die aan het gebruik verbonden zijn (bijv. (automation) bias, false positives/negatives). -- Welke maatregelen zijn getroffen om deze risico's te beperken (bijv. [bias analyse](5-ver-02-biasanalyse), ['stopknop' ingebouwd](4-owk-02-stopzetten-gebruik), transparantie over de output). -- Hoe de output van het algoritme moet worden geïnterpreteerd. -- Hoe het werkproces kan worden uitgevoerd, zonder ondersteuning van het algoritme. -- Welke protocollen er zijn als incidenten zich voordoen. +- Op wat voor manier het algoritme ondersteunt bij het uitvoeren van (wettelijke) taken en hoe het past in de werkwijze. +- Wat de mogelijkheden en beperkingen zijn bij het gebruik van het algoritme. Op welke manieren mag het algoritme gebruikt worden? En op welke manieren niet? +- Welke informatie mag er worden ingevoerd in het systeem? En welke informatie niet? +- Wat de impact is van het gebruik van het algoritme op de samenleving en individuen (denk aan [energieverbruik](7-mon-06-meten-milieu-impact.md) of dat een besluit met rechtsgevolgen wordt genomen). +- Wat de risico's zijn die aan het gebruik verbonden zijn. Denk aan: + + - verschillende vormen van [bias](../../onderwerpen/bias-en-non-discriminatie.md), zoals automation bias, + - foutieve beslissingen + - veiligheidsrisico's + +- Welke maatregelen zijn getroffen om deze risico's te beperken (bijv. [bias analyse](5-ver-03-biasanalyse.md), ['stopknop' ingebouwd](4-owk-02-stopzetten-gebruik.md), transparantie over de output). +- Hoe de output van het algoritme moet worden geïnterpreteerd, en hoe het algoritme tot deze beslissing is gekomen. +- Hoe het werkproces kan worden uitgevoerd, zonder ondersteuning van het algoritme. +- Hoe kan je weten dat het systeem niet (meer) goed werkt? +- Welke protocollen er zijn als incidenten zich voordoen. +- Waar je op moet letten om veiligheidsrisico's te verminderen. +- Welke waarschuwingen het systeem kan en zou moeten geven op basis van [continue monitoring](7-mon-07-plan-continue-monitoring.md). Hoe er omgegaan moet worden bij deze waarschuwingen. Denk hierbij na over het eventueel bijscholen van medewerkers als het kennisniveau nog onvoldoende is om de werkinstructies goed te begrijpen. @@ -53,7 +62,7 @@ Denk hierbij na over het eventueel bijscholen van medewerkers als het kennisnive ## Risico -Het algoritme wordt onjuist gebruikt of verkeerd geïnterpreteerd door gebruikers, waardoor onjuiste belissingen of besluiten worden genomen. +Het algoritme wordt onjuist gebruikt of verkeerd geïnterpreteerd door gebruikers, waardoor onjuiste belissingen of besluiten worden genomen. Als gebruikers niet weten hoe ze veilig moeten werken, kunnen ze (onbewust) toegang bieden aan kwaadwillenden. ## Voorbeeld diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evaluatieplan.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evaluatieplan.md new file mode 100644 index 0000000000..21b0540525 --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evaluatieplan.md @@ -0,0 +1,82 @@ +--- +title: Maak een evaluatieplan voor tijdens het gebruik van het algoritme +id: urn:nl:ak:mtr:mon-05 +toelichting: Maak een evaluatieplan voor wanneer het algoritme in gebruik is. Dit plan bevat wanneer, wat en hoe er geëvalueerd dient te worden om te valideren of het model nog in lijn is met de vastgestelde doelstelling. +vereiste: +- aia-03-risicobeheersysteem +- aia-18-corrigerende-maatregelen-voor-non-conforme-ai +- aia-22-gebruiksverantwoordelijken-monitoren-werking +- aia-34-monitoring-na-het-in-de-handel-brengen +levenscyclus: +- monitoring-en-beheer +onderwerp: +- technische-robuustheid-en-veiligheid +rollen: +- projectleider +hide: +- navigation +--- + + + +## Maatregel +Maak een evaluatieplan voor wanneer het algoritme in gebruik is. +Dit plan bevat wanneer, wat en hoe er geëvalueerd dient te worden om te valideren of het model nog in lijn is met de [vastgestelde doelstelling](1-pba-02-formuleren-doelstelling.md). + +## Toelichting +Het evaluatieplan moet aangeven op welke momenten er wordt geëvalueerd, wat er opnieuw wordt geëvalueerd en hoe dat wordt gedaan. + +Voor het opstellen van het evaluatieplan zijn de volgende stappen nodig: + +1. [Bepaal of periodieke controle noodzakelijk is](#bepaal-of-periodieke-controle-noodzakelijk-is) +2. [Bepaal bij welke gebeurtenissen het algoritme geëvalueerd moet worden](#bepaal-bij-welke-gebeurtenissen-het-algoritme-geevalueerd-moet-worden) +3. [Bepaal wat er geëvalueerd moet worden](#bepaal-wat-er-geevalueerd-moet-worden) + +### Bepaal of periodieke controle noodzakelijk is +Stel vast of er periodieke momenten zijn vanuit bijvoorbeeld wetgeving, organisatiebeleid of risicomanagement waarop het wenselijk is dat het algoritme geëvalueerd wordt. + +### Bepaal bij welke gebeurtenissen het algoritme geëvalueerd moet worden +Wat zijn gebeurtenissen die om een nieuwe evaluatie vragen? Denk bijvoorbeeld aan momenten waarop het bijtrainen van het model noodzakelijk is, zoals: + +- een wijziging in de data of het algoritm +- aangepaste wetgeving +- andere context of tijd waarin het algoritme gebruikt wordt +- een nieuwe werkwijze +- het optreden van een incident- +- gebruikersfeedback +- een verandering in de gebruikscontext (bijv. een situatie als COVID-19) + +### Bepaal wat er geëvalueerd moet worden +Bepaal welke onderdelen van het algoritme geëvalueerd dienen te worden bij een periodieke controle of wanneer er een gebeurtenis plaatsvindt waardoor evaluatie wenselijk is. + +Wat minimaal periodiek geëvalueerd moet worden is: + +- [nauwkeurigheid](5-ver-02-evalueer-nauwkeurigheid.md) +- [betrouwbaarheid](5-ver-06-evalueer-betrouwbaarheid.md) +- [reproduceerbaarheid](4-owk-07-reproduceerbaarheid.md) +- [bias](5-ver-03-biasanalyse.md) +- [veiligheid](#) +- [grondrechten](2-owp-07-afwegen-grondrechten.md) +- [privacy](4-owk-03-privacyrisico.md) + +Bij een evaluatie hoeft niet altijd alles weer geëvalueerd te worden. Dit hangt af van het type wijzigingen die er zijn geweest en van de aspecten die continu worden gemonitord. Leg vast wat er wanneer geëvalueerd dient te worden. + +### Documenteer voor en tijdens iedere evaluatie +Zorg dat de benodigde informatie voor de evaluatie wordt opgeslagen en beschikbaar is voor de evaluatiemomenten.Denk aan invoerwaarden, resultaten en gebruikersstatistieken. + +Betrek bij het opstellen van dit plan een [diverse groep van belanghebbenden](1-pba-04-betrek-belanghebbenden.md) met o.a. ontwikkelaars, gebruikers en ethisch adviseurs. Zorg dat het evaluatieplan periodiek wordt herzien of deze nog voldoet. + +## Bijbehorende vereiste(n) + + + +## Risico +Er zullen veranderingen plaatsvinden in de gebruikscontext, de data en in het algoritme zelf (bijv. door bijtrainen). Wanneer niet wordt geëvalueerd tijdens de operatie is het onbekend of het algoritme nog steeds werkt zoals beoogd en voldoet aan de acceptatiecriteria. + +## Bronnen + + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! + diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evalueer-bij-veranderingen-in-data.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-evalueer-bij-veranderingen-in-data.md similarity index 98% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evalueer-bij-veranderingen-in-data.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-evalueer-bij-veranderingen-in-data.md index 05a938179b..14d5c3184b 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-04-evalueer-bij-veranderingen-in-data.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-evalueer-bij-veranderingen-in-data.md @@ -1,6 +1,6 @@ --- title: Monitor regelmatig op veranderingen in de data. Bij veranderingen evalueer je de prestaties en output van het algoritme. -id: urn:nl:ak:mtr:mon-04 +id: urn:nl:ak:mtr:mon-05 toelichting: Monitor regelmatig op veranderingen in de data. Bij geconstateerde veranderingen evalueer je de prestaties en de output van het algoritme. vereiste: - aia-05-data-kwaliteitscriteria diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-meten-milieu-impact.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-06-meten-milieu-impact.md similarity index 99% rename from docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-meten-milieu-impact.md rename to docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-06-meten-milieu-impact.md index c9fb627b9d..c46707bead 100644 --- a/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-05-meten-milieu-impact.md +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-06-meten-milieu-impact.md @@ -1,6 +1,6 @@ --- title: Meten, monitoren en rapporteren van milieu-impact van algoritmes -id: urn:nl:ak:mtr:mon-05 +id: urn:nl:ak:mtr:mon-06 toelichting: Inventariseer en monitor de milieu-impact van algoritmes, zowel tijdens de ontwikkeling als het gebruik, en rapporteer deze om duurzame keuzes mogelijk te maken. levenscyclus: - ontwerp diff --git a/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-07-plan-continue-monitoring.md b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-07-plan-continue-monitoring.md new file mode 100644 index 0000000000..2479471991 --- /dev/null +++ b/docs/voldoen-aan-wetten-en-regels/maatregelen/7-mon-07-plan-continue-monitoring.md @@ -0,0 +1,70 @@ +--- +title: Stel een plan op voor continue monitoring +id: urn:nl:ak:mtr:mon-07 +toelichting: Maak een plan voor wat er continu gemonitord moet worden tijdens het gebruik van het algoritme. Dit plan bevat niet alleen wat en hoe er gemonitord wordt, maar ook bij welke overschrijdingen actie moet worden ondernomen. +vereiste: +- aia-03-risicobeheersysteem +- aia-18-corrigerende-maatregelen-voor-non-conforme-ai +- aia-22-gebruiksverantwoordelijken-monitoren-werking +- aia-34-monitoring-na-het-in-de-handel-brengen +levenscyclus: +- monitoring-en-beheer +onderwerp: +- technische-robuustheid-en-veiligheid +rollen: +- projectleider +hide: +- navigation +- toc +--- + + + +## Maatregel +Maak een plan voor wat er continu gemonitord moet worden tijdens het gebruik van het algoritme. Dit plan bevat niet alleen wat en hoe er gemonitord wordt, maar ook bij welke overschrijdingen actie moet worden ondernomen. + +## Toelichting +Het monitoringplan moet aangeven wat er continu moet worden gemonitord en op welke manier dit moet gebeuren. +Daarnaast bevat het plan in welke situaties er actie moet worden ondernomen, en wie daarbij betrokken moet zijn. + +Voor op opstellen van het monitoringplan zijn de volgende stappen nodig: + +### Bepaal waar je continu op wilt monitoren +Denk hierbij aan: + +- toegankelijkheid van het model (uitvallen of haperingen) +- foutmeldingen +- prestaties: [werkt het model nog zoals beoogd](5-ver-01-functioneren-in-lijn-met-doeleinden.md) +- [datakwaliteit](3-dat-01-datakwaliteit.md) en data drift (de data die in het systeem wordt ingevoerd kan veranderen over tijd) +- invoerwaarden (probeert een gebruiker het systeem te manipuleren) + +### Bepaal hoe je het gaat meten en welke informatie je hiervoor nodig hebt +Welke metrieken worden er gebruikt om de vastgelegde aspecten te meten? +Welke informatie moet er opgeslagen worden om deze metrieken te kunnen meten? Analyseer ook of er aspecten zijn die niet met metrieken gemeten kunnen worden en hoe je die aspecten kan monitoren. + +### Bepaal de grenswaarden: bij welke overschrijding moet er actie worden genomen? +Voor een effectieve monitoring is het van belang dat duidelijk is wanneer er actie moet worden ondernomen op de resultaten. Leg vast voor elk van de aspecten die gemonitord wordt bij welke waarden er actie moet worden genomen. Hiervoor is het noodzakelijk om een duidelijke omschrijving te hebben wat de beoogde werking van het systeem is. Het is ook mogelijk om meerdere waarden per monitor te bepalen, waar bij een eerste overschrijding alleen een waarschuwing wordt gegeven en bij een tweede het algoritme bijvoorbeeld wordt overgegaan tot het [noodplan](4-owk-02-stopzetten-gebruik.md). + +### Bepaal welke acties genomen moeten worden bij een overschrijding +Je legt hier in eerste instantie vast of het algoritme moet worden stopgezet, beperkt moet worden in de inzet of nog gebruikt kan blijven worden. Ten tweede bepaal je wat voor andere acties er moeten worden genomen, bijvoorbeeld moet er een nieuwe uitgebreide evaluatie moet plaatsvinden, moet het algoritme worden bijgewerkt, moet er nieuwe data verzameld worden, moet de beveiliging verbeterd worden, moet er worden overgestapt op plan B. + +### Leg vast hoe en aan wie er een waarschuwing wordt gegeven wanneer een waarde wordt overschreden +Om effectief te kunnen ingrijpen is het van belang dat wordt vastgelegd in het monitoring plan op welke manier er een waarschuwing wordt gegeven, aan wie deze waarschuwing wordt gegeven en welke informatie deze persoon nodig heeft. Bepaal bijvoorbeeld ook of een systeem automatisch wordt uitgeschakeld of dat een mens die keuze moet maken. + +Betrek bij het opstellen van dit plan een [diverse groep van belanghebbenden](1-pba-04-betrek-belanghebbenden.md) met o.a. ontwikkelaars, gebruikers en ethisch adviseurs. Zorg dat het evaluatieplan periodiek wordt herzien of deze nog voldoet. + + +## Bijbehorende vereiste(n) + + + +## Risico +Tijdens dagelijks gebruik wil je continu monitoren of het systeem nog werkt zoals beoogd. Wanneer dit niet gebeurt worden mogelijke fouten en veiligheidsrisico’s niet opgemerkt. + +## Bronnen + + +## Voorbeeld + +Heb jij een goed voorbeeld? Laat het ons weten! +