Skip to content

Commit

Permalink
Release v2.0/controleren vereisten 5 (#484)
Browse files Browse the repository at this point in the history
Co-authored-by: Nout van Deijck <[email protected]>
  • Loading branch information
BartdeVisser and noutvandeijck authored Dec 17, 2024
1 parent 90e579d commit 663172d
Show file tree
Hide file tree
Showing 4 changed files with 71 additions and 21 deletions.
Original file line number Diff line number Diff line change
@@ -1,5 +1,5 @@
---
title: Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder
title: Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder.
id: urn:nl:ak:ver:aia-35
toelichting: Aanbieders van in de Europese Unie in de handel gebrachte AI-systemen met een hoog risico melden ernstige incidenten bij de markttoezichtautoriteiten van de lidstaten waarin dat incident heeft plaatsgevonden.
levenscyclus:
Expand All @@ -23,28 +23,25 @@ hide:
<!-- tags -->
## Vereiste

Aanbieders van in de Europese Unie in de handel gebrachte AI-systemen met een hoog risico melden ernstige incidenten bij de markttoezichtautoriteiten van de lidstaten waarin dat incident heeft plaatsgevonden.
Ernstige incidenten door hoog-risico-AI-systemen worden gemeld aan de toezichthouder.

## Toelichting

Aanbieders van AI-systemen met een hoog risico die binnen de EU worden verhandeld, moeten ernstige incidenten melden bij de markttoezichtautoriteiten van de lidstaten waar het incident heeft plaatsgevonden.
Een 'ernstig incident' wordt in artikel 3 van de AI-verordening gedefinieerd als: een incident of gebrekkig functioneren van een AI-systeem dat direct of indirect leidt tot:
Aanbieders van AI-systemen met een hoog risico die binnen de EU worden verhandeld, moeten ernstige incidenten melden bij de markttoezichtautoriteiten van de lidstaten waar het incident heeft plaatsgevonden. Het doel is om de veiligheid en betrouwbaarheid van AI-systemen te waarborgen en mogelijke risico's voor gebruikers te minimaliseren.

Dit meldingsproces is bedoeld om snel en adequaat te reageren op ernstige incidenten die zich voordoen bij het gebruik van deze AI-systemen, en om passende maatregelen te nemen ter bescherming van de consumenten en het publiek. Een 'ernstig incident' wordt in artikel 3 van de AI-verordening gedefinieerd als: een incident of gebrekkig functioneren van een AI-systeem dat direct of indirect leidt tot:

1. het overlijden van een persoon of ernstige schade voor de gezondheid van een persoon;
2. een ernstige en onomkeerbare verstoring van het beheer of de exploitatie van kritieke infrastructuur;
3. een schending van de uit het recht van de Unie voortvloeiende verplichtingen ter bescherming van de grondrechten;
4. ernstige schade aan eigendommen of het milieu.

Dit meldingsproces is bedoeld om snel en adequaat te reageren op ernstige incidenten die zich voordoen bij het gebruik van deze AI-systemen, en om passende maatregelen te nemen ter bescherming van de consumenten en het publiek.
Het doel is om de veiligheid en betrouwbaarheid van AI-systemen te waarborgen en mogelijke risico's voor gebruikers te minimaliseren.

## Bronnen
[Artikel 73(1) Verordening Artificiële Intelligentie](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=OJ:L_202401689#d1e7117-1-1)

## Wanneer van toepassing?
<!-- tags-ai-act -->


## Risico
Het niet melden van ernstige incidenten kan leiden tot vertraagde reactie op potentiële gevaren voor gebruikers en kan het vertrouwen in AI-systemen ondermijnen.

Expand Down
Original file line number Diff line number Diff line change
@@ -1,7 +1,7 @@
---
title: Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordening
title: Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordening.
id: urn:nl:ak:ver:aia-36
toelichting: Inbreuken op de AI verordening moeten gemeld kunnen worden en melders moeten dit op een veilige en vertrouwelijke manier kunnen doen, zoals beschreven in Richtlijn (EU) 2019/1937.
toelichting: Inbreuken op de AI-Verordening moeten gemeld kunnen worden en melders moeten dit op een veilige en vertrouwelijke manier kunnen doen, zoals beschreven in Richtlijn (EU) 2019/1937.
levenscyclus:
- organisatieverantwoordelijkheden
- monitoring-en-beheer
Expand All @@ -23,27 +23,24 @@ hide:

<!-- tags -->
## Vereiste

Inbreuken op de AI verordening moeten gemeld kunnen worden en melders moeten dit op een veilige en vertrouwelijke manier kunnen doen, zoals beschreven in Richtlijn (EU) 2019/1937.
Klokkenluiders kunnen veilig melden dat een organisatie zich niet houdt aan de AI-verordening.

## Toelichting
Inbreuken op de AI-Verordening moeten gemeld kunnen worden en melders moeten dit op een veilige en vertrouwelijke manier kunnen doen, zoals beschreven in Richtlijn (EU) 2019/1937.

Personen die optreden als klokkenluiders bij inbreuken op de AI-verordening, moeten worden beschermd uit hoofde van het Unierecht. Richtlijn (EU) 2019/1937 (https://eur-lex.europa.eu/legal-content/NL/LSU/?uri=CELEX:32019L1937) van het Europees Parlement en de Raad moet daarom van toepassing zijn.

Personen die optreden als klokkenluiders bij inbreuken op de AI-verordening, moeten worden beschermd uit hoofde van het Unierecht.
Richtlijn (EU) 2019/1937 (https://eur-lex.europa.eu/legal-content/NL/LSU/?uri=CELEX:32019L1937) van het Europees Parlement en de Raad moet daarom van toepassing zijn.
De richtlijn biedt een kader voor het veilig en vertrouwelijk melden van schendingen van de verordening, terwijl het de melders ("klokkenluiders") beschermt tegen represailles of vervolging.
Deze richtlijn bevordert transparantie en verantwoording binnen organisaties en draagt bij aan een cultuur van naleving en integriteit.
De richtlijn biedt een kader voor het veilig en vertrouwelijk melden van schendingen van de verordening, terwijl het de melders ("klokkenluiders") beschermt tegen represailles of vervolging. Deze richtlijn bevordert transparantie en verantwoording binnen organisaties en draagt bij aan een cultuur van naleving en integriteit.

## Bronnen
[Artikel 87 Verordening Artificiële Intelligentie](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=OJ:L_202401689#d1e7782-1-1)

## Wanneer van toepassing?
<!-- tags-ai-act -->


## Risico

Gebrek aan een veilige omgeving kan ertoe leiden dat klokkenluiders geen melding maken van inbreuk op de AI-verordening.
Dit schaadt het rapportagesysteem en heeft negatief effect op het maatschappelijk welzijn.
Gebrek aan een veilige omgeving kan ertoe leiden dat klokkenluiders geen melding maken van inbreuk op de AI-verordening. Dit schaadt het rapportagesysteem en heeft negatief effect op het maatschappelijk welzijn.

## Maatregelen { data-search-exclude }

Expand Down
Original file line number Diff line number Diff line change
@@ -1,5 +1,5 @@
---
title: Klachtrecht aanbieders verder in AI-waardeketen
title: Klachtrecht voor aanbieders verder in AI-waardeketen.
id: urn:nl:ak:ver:aia-37
toelichting: Aanbieders verder in de AI-waardeketen hebben het recht een klacht in te dienen wegens inbreuk op de AI verordening bij het AI-bureau.
levenscyclus:
Expand All @@ -20,7 +20,9 @@ Aanbieders verder in de AI-waardeketen hebben het recht een klacht in te dienen
## Toelichting

Aanbieders verder in de AI-waardeketen hebben het recht om een klacht in te dienen bij het AI-bureau in het geval van een inbreuk op de AI-verordening.

Dit biedt hen een mechanisme om actie te ondernemen bij schendingen van de regels met betrekking tot AI-modellen voor algemene doeleinden die zij geïntrigeerd hebben in AI-systemen.

Het AI-bureau kan dan passende maatregelen nemen om de naleving van de verordening te handhaven en eventuele geschillen tussen aanbieders op te lossen.

## Bronnen
Expand All @@ -29,7 +31,6 @@ Het AI-bureau kan dan passende maatregelen nemen om de naleving van de verordeni

## Wanneer van toepassing?


## Risico

Gebrek aan klachtrecht verhindert het AI-bureau om tijdig en zorgvuldig te kunnen ingrijpen bij overtreding van de AI-verordening.
Expand Down
Original file line number Diff line number Diff line change
@@ -0,0 +1,55 @@
---
title: Er is beleid opgesteld ter naleving van auteursrechten en naburige rechten door aanbieders van AI-modellen voor algemene doeleinden.
id: urn:nl:ak:ver:aia-29
toelichting: Aanbieders van AI-modellen voor algemene doeleinden stellen beleid op ter naleving van het Unierecht inzake auteursrechten en naburige rechten en dan met name ter vaststelling en naleving, onder meer door middel van geavanceerde technologieën, van een op grond van artikel 4, lid 3, van Richtlijn (EU) 2019/790 tot uitdrukking gebracht voorbehoud van rechten.
levenscyclus:
- ontwerp
- ontwikkelen
- monitoring-en-beheer
onderwerp:
- transparantie
rollen:
- projectleider
soort-toepassing:
- ai-model-voor-algemene-doeleinden
rol-ai-act:
- aanbieder
hide:
- navigation
---

<!-- tags -->
## Vereiste

Er is beleid opgesteld ter naleving van auteursrechten en naburige rechten door aanbieders van AI-modellen voor algemene doeleinden.

## Toelichting
Aanbieders van AI-modellen voor algemene doeleinden stellen beleid op ter naleving van het Unierecht inzake auteursrechten en naburige rechten en dan met name ter vaststelling en naleving, onder meer door middel van geavanceerde technologieën, van een op grond van artikel 4, lid 3, van Richtlijn (EU) 2019/790 tot uitdrukking gebracht voorbehoud van rechten.

Hiervoor dient de rechthebbende van materialen die auteursrechtelijk zijn beschermd een uitdrukkelijk voorbehoud te hebben gemaakt voor het verder gebruik van deze materialen.

Deze eis geldt ongeacht de jurisdictie waarin de auteursrechtelijke relevante handelingen plaatsvinden die helpen bij het trainen van die AI-modellen voor algemene doeleienden.

Alleen op deze manier kan gezorgd worden voor een gelijk speelveld voor aanbieders van AI-modellen voor algemene doeleinden, waar geen enkele aanbieder zich een concurrentievoordeel op de Uniemarkt mag kunnen verschaffen met lagere auteursrechtelijke normen dan de in de Unie toepasselijke normen.

Voor een grotere transparantie ten aanzien van de bij de pre-training en training van AI-modellen voor algemene doeleinden gebruikte data, met inbegrip van door het auteursrecht beschermde tekst en data, is het passend dat aanbieders van dergelijke modellen een voldoende gedetailleerde samenvatting maken en publiceren van de voor de training van het AI-model voor algemene doeleinden gebruikte content.

Zo kan er bijvoorbeeld een opsomming worden gegeven van de belangrijkste gegevensverzamelingen of -reeksen waarmee het model is getraind, zoals grote particuliere of openbare databanken of gegevensarchieven, en kan een uitleg in de vorm van een relaas worden gegeven over andere gebruikte gegevensbronnen.

Het AI-bureau moet kunnen controleren of de aanbieder aan deze eisen voldoet, zonder evenwel geval voor geval de trainingsdata te controleren of te beoordelen qua naleving van het auteursrecht.

## Bronnen
[Artikel 53(1 sub c) Verordening Artificiële Intelligentie](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=OJ:L_202401689#d1e5576-1-1)

[Artikel 4(3) Richtlijn inzake auteursrechten en naburige rechten in de digitale eengemaakte markt en tot wijziging van Richtlijnen (96/9/EG en 2001/29/EG)](https://eur-lex.europa.eu/legal-content/NL/TXT/PDF/?uri=CELEX:32019L0790).

## Wanneer van toepassing?
<!-- tags-ai-act -->

## Risico

Door het niet voeren van een beleid voor het naleven van auteursrechten en naburige rechten, ontstaat het risico dat met het ontwikkeling, trainen en testen van AI-modellen een inbreuk wordt gemaakt op deze rechten.

## Maatregelen { data-search-exclude }

<!-- list_maatregelen vereiste/aia-29-ai-modellen-algemene-doeleinden onderwerp/publieke-inkoop no-search no-onderwerp no-rol no-levenscyclus -->

0 comments on commit 663172d

Please sign in to comment.