toevoegen maatregelen veiligheid #461
Draft
Conversation
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
|
| @@ -0,0 +1,58 @@ | |||
| --- | |||
| title: Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme | |||
There was a problem hiding this comment.
Suggested change
| title: Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme | |
| title: Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme. |
| @@ -0,0 +1,58 @@ | |||
| --- | |||
| title: Voorkom kwetsbaarheden die geïntroduceerd worden in de supply-chain van het algoritme | |||
There was a problem hiding this comment.
Ik denk dat we hier een andere titel aan moeten geven. Het gaat feitelijk om het uitvoeren van een risico analyse op het gebied van kwetsbaarheden/afhankelijkheden.
|
|
||
| Echter is het een stuk lastiger om deze modellen te beschermen tegen aanvallen zoals [backdoors] omdat er geen (directe) controle is op het correct uitvoeren van een trainingsproces. | ||
|
|
||
| Een eerste stap is om in kaart te brengen welke afhankelijkheden er zijn en te onderzoeken of deze inderdaad te vertrouwen zijn. |
There was a problem hiding this comment.
Volgens mij moeten we deze zin wat omschrijven. Afhankelijkheden 'vertrouwen' komt een beetje gek over. Onderzoeken of deze afhankelijkheden beheersbaar zijn?
|
|
||
| Echter is het een stuk lastiger om deze modellen te beschermen tegen aanvallen zoals [backdoors] omdat er geen (directe) controle is op het correct uitvoeren van een trainingsproces. | ||
|
|
||
| Een eerste stap is om in kaart te brengen welke afhankelijkheden er zijn en te onderzoeken of deze inderdaad te vertrouwen zijn. |
There was a problem hiding this comment.
Suggested change
| Een eerste stap is om in kaart te brengen welke afhankelijkheden er zijn en te onderzoeken of deze inderdaad te vertrouwen zijn. | |
| Een eerste stap is om in kaart te brengen welke afhankelijkheden er zijn en te onderzoeken of deze beheersbaar zijn. |
| Echter is het een stuk lastiger om deze modellen te beschermen tegen aanvallen zoals [backdoors] omdat er geen (directe) controle is op het correct uitvoeren van een trainingsproces. | ||
|
|
||
| Een eerste stap is om in kaart te brengen welke afhankelijkheden er zijn en te onderzoeken of deze inderdaad te vertrouwen zijn. | ||
| Het helpt daarbij om bekende, vertrouwde leveranciers te gebruiken. Daarnaast moeten er duidelijke afspraken gemaakt worden met leveranciers, bijvoorbeeld in de vorm van een [Service Level Agreement (SLA)](2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.md). |
There was a problem hiding this comment.
Suggested change
| Het helpt daarbij om bekende, vertrouwde leveranciers te gebruiken. Daarnaast moeten er duidelijke afspraken gemaakt worden met leveranciers, bijvoorbeeld in de vorm van een [Service Level Agreement (SLA)](2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.md). | |
| Er moeten er duidelijke afspraken gemaakt worden met leveranciers, bijvoorbeeld in de vorm van een [Service Level Agreement (SLA)](2-owp-26-maak-vereisten-onderdeel-van-service-level-agreement.md). |
There was a problem hiding this comment.
We moeten voorzichtig zijn met een voorkeur uitspreken voor bepaalde leveranciers of constructies.
| @@ -0,0 +1,48 @@ | |||
| --- | |||
| title: Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie | |||
There was a problem hiding this comment.
Suggested change
| title: Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie | |
| title: Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie. |
| --- | ||
| title: Bij uitfaseren en doorontwikkeling wordt correct omgegaan met data en modelinformatie | ||
| id: urn:nl:ak:mtr:uit-01 | ||
| toelichting: Verwijder gevoelige gegevens in het kader van privacy en gegevensbescherming, maar behoud essentiële modelinformatie |
There was a problem hiding this comment.
Logische toelichting bij de titel of is de titel logisch gezien de toelichting?
| Tegelijkertijd kan dit voor door het algoritme gemaakte beslissingen betekenen dat niet meer te achterhalen is welke data is gebruikt, en waarom het model deze zo beoordeeld heeft. | ||
| In de ontwerpfase van het algoritme wordt daarom [vastgelegd welke elementen bewaard dienen te worden en waarom](2-owp-08-archiveren-documenten.md). | ||
|
|
||
| Door op een juiste manier om te gaan met uitfaseren, kan worden voorkomen dat de potentiële doorijlende effecten van algoritme worden geadresseerd. |
There was a problem hiding this comment.
Suggested change
| Door op een juiste manier om te gaan met uitfaseren, kan worden voorkomen dat de potentiële doorijlende effecten van algoritme worden geadresseerd. | |
| Door op een juiste manier om te gaan met uitfaseren, kan worden voorkomen dat de potentiële latere effecten van algoritme worden geadresseerd. |
|
|
||
| Door op een juiste manier om te gaan met uitfaseren, kan worden voorkomen dat de potentiële doorijlende effecten van algoritme worden geadresseerd. | ||
| De werking van een algoritme, en de manier waarop beslissingen in het verleden zijn genomen, blijven behouden. Dit zorgt voor transparantie en controleerbaarheid of auditeerbaarheid. | ||
| Zo kan worden vastgesteld of is er niet gemorreld met uitkomsten, waardoor bijvoorbeeld fraude onzichtbaar zou worden in geval van verwijdering. |
There was a problem hiding this comment.
Suggested change
| Zo kan worden vastgesteld of is er niet gemorreld met uitkomsten, waardoor bijvoorbeeld fraude onzichtbaar zou worden in geval van verwijdering. | |
| Zo kan worden vastgesteld of de uitkomsten zijn aangepast, waardoor bijvoorbeeld fraude onzichtbaar zou worden in geval van verwijdering. |
| <!-- list_vereisten_on_maatregelen_page --> | ||
|
|
||
| ## Risico | ||
| Het niet correct uitfaseren van een algoritme, heeft mogelijk negatieve effecten tot na het gebruik van het algoritme (legacy bias). |
There was a problem hiding this comment.
Heeft mogelijke negatieve effecten op het gebied van uitlegbaarheid, transparantie en verantwoording.
noutvandeijck
force-pushed
the
release-v1.7/veiligheid
branch
2 times, most recently
from
1403b9e to
19fabda
Compare
noutvandeijck
force-pushed
the
release-v1.7/veiligheid
branch
from
19fabda to
a9eb327
Compare
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.
This suggestion is invalid because no changes were made to the code.
Suggestions cannot be applied while the pull request is closed.
Suggestions cannot be applied while viewing a subset of changes.
Only one suggestion per line can be applied in a batch.
Add this suggestion to a batch that can be applied as a single commit.
Applying suggestions on deleted lines is not supported.
You must change the existing code in this line in order to create a valid suggestion.
Outdated suggestions cannot be applied.
This suggestion has been applied or marked resolved.
Suggestions cannot be applied from pending reviews.
Suggestions cannot be applied on multi-line comments.
Suggestions cannot be applied while the pull request is queued to merge.
Suggestion cannot be applied right now. Please check back later.
Beschrijf jouw aanpassingen
nieuwe maatregelen over veiligheid
Bij welk issue hoort deze pull-request?
Checklist before requesting a review