From 68728d7b85262bc5a08ffc2c67d3cd9c8b883ec8 Mon Sep 17 00:00:00 2001 From: webredactie-algoritmekader Date: Fri, 15 Nov 2024 09:30:13 +0100 Subject: [PATCH] Update soorten-algoritmes.md (#394) Co-authored-by: Ruth Koole <71120805+ruthkoole@users.noreply.github.com> Co-authored-by: ruthkoole --- .../technische-robuustheid-en-veiligheid.md | 2 +- .../soorten-algoritmes.md | 71 +++---------------- .../ai-verordening.md | 2 +- 3 files changed, 10 insertions(+), 65 deletions(-) diff --git a/docs/onderwerpen/technische-robuustheid-en-veiligheid.md b/docs/onderwerpen/technische-robuustheid-en-veiligheid.md index 9cef49121a..6225f6abce 100644 --- a/docs/onderwerpen/technische-robuustheid-en-veiligheid.md +++ b/docs/onderwerpen/technische-robuustheid-en-veiligheid.md @@ -116,4 +116,4 @@ Veroorzaak zo min mogelijk schade als het toch fout gaat. En maak een noodplan v - Niels Brink, Yori Kamphuis, Yuri Maas, Gwen Jansen-Ferdinandus, Jip van Stijn, Bram Poppink, Puck de Haan, Irina Chiscop, 2023, Adversarial AI in de cyber domain, TNO-2023-R10292-EN ## Help ons deze pagina te verbeteren -Deel je idee, suggestie of opmerking via [GitHub](../edit/main/docs/onderwerpen/technische-robuustheid-en-veiligheid/index.md) of mail ons via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl). +Deel je idee, suggestie of opmerking via [GitHub](https://github.com/MinBZK/Algoritmekader/issues/new/choose) of mail ons via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl). diff --git a/docs/overhetalgoritmekader/soorten-algoritmes.md b/docs/overhetalgoritmekader/soorten-algoritmes.md index 61d31050e4..da2fe5ff1c 100644 --- a/docs/overhetalgoritmekader/soorten-algoritmes.md +++ b/docs/overhetalgoritmekader/soorten-algoritmes.md @@ -41,81 +41,26 @@ Zelflerende technieken zijn in elk geval: * **Deep learning**: Supervised, unsupervised of reinforcement learning gecombineerd met diepe neurale netwerken. Dit zijn kunstmatige neurale netwerken met veel verschillende lagen. Hierdoor kun je nog ingewikkeldere problemen oplossen. Voorbeeld: [Geautomatiseerde gezichtsvergelijking bij het RNI-inschrijfproces](https://algoritmes.overheid.nl/nl/algoritme/geautomatiseerde-gezichtsvergelijking-bij-het-rniinschrijfproces-rijksdienst-voor-identiteitsgegevens/18814864). ## AI-systeem -Met een AI-systeem bedoelen we een systeem dat kunstmatig intelligent is volgens de [Europese AI-verordening](https://eur-lex.europa.eu/legal-content/NL/TXT/HTML/?uri=OJ:L_202401689). Dit zijn in elk geval systemen die gebruik maken van: +Met een AI-systeem bedoelen we een systeem dat kunstmatig intelligent is volgens de [Europese AI-verordening](../voldoen-aan-wetten-en-regels/ai-verordening.md#definitie-van-een-ai-systeem). Dit zijn in elk geval systemen die gebruik maken van: * supervised learning * unsupervised learning * reinforcement learning * deep learning -Symbolische AI valt mogelijk onder een AI-systeem. Dit is nog onduidelijk in de EU-verordening. !!! tip "Tip" Twijfel je of je algoritme onderdeel is van een AI-systeem? Raadpleeg een expert. Of beschouw het systeem voor de zekerheid als een AI-systeem. ## Risicogroepen AI-systemen -AI-systemen vallen mogelijk onder een risicogroep uit de EU-verordening. Het hangt ervan af waarvoor je dit AI-systeem gebruikt. - -### Risico op misleiding -Dit zijn AI-systemen die je gebruikt voor: - -* **interactie met mensen**, zoals AI-chatbots -* **genereren van content**, zoals afbeeldingen laten maken door Dall-E - -Over deze systemen moet je [transparant](../onderwerpen/transparantie.md) zijn. Gebruikers mogen niet denken dat zij te maken hebben met echte mensen of originele content. - -Zie [AI-verordening, hoofdstuk IV](https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689#d1e5418-1-1). - -### Hoog-risico-AI-systemen -Dit zijn AI-systemen die je gebruikt als veiligheidsonderdeel van bepaalde producten of AI-systemen die je gebruikt voor bepaalde diensten of processen. - -#### Veiligheidsonderdeel -Je AI-systeem speelt een belangrijke rol in de veiligheid van een product. En dit product valt onder de harmonisatiewetgeving van de EU, zoals: - -* machines -* speelgoed -* liften -* uitrusting en beveiligingssystemen voor plaatsen met ontploffingsgevaar -* radioapparatuur -* drukapparatuur -* pleziervaartuigen -* kabelbaaninstallaties -* gastoestellen -* medische hulpmiddelen -* hulpmiddelen voor het testen van menselijk materiaal (in-vitrodiagnostiek) -* auto-industrie -* luchtvaartindustrie - -Zie [AI-verordening, bijlage I](https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689#d1e38-124-1). - -#### Diensten of processen -Je gebruikt het AI-systeem voor: - -* **Biometrie**, zoals het herkennen of indelen van mensen op basis van hun vingerafdruk, gezicht of andere lichamelijke kenmerken. -* **Kritieke infrastructuur**, zoals het veilig houden van digitale netwerken en verkeersnetwerken en het leveren van elektriciteit, water, gas en warmte. -* **Onderwijs en beroepsopleiding**, zoals het bepalen welke studenten je toelaat en het beoordelen van hun prestaties of gedrag. -* **Werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid**, zoals het werven en selecteren van mensen, besluiten nemen die invloed hebben op hun contract en het beoordelen van hun prestaties of gedrag. -* **Essentiële particuliere en openbare diensten**, zoals bepalen wie recht heeft op uitkeringen, gezondheidszorg en andere belangrijke diensten en wie noodhulp krijgt van politie, brandweer en ambulance, het beoordelen van iemands financiële situatie, fraude opsporen en het bepalen van risico’s en prijzen voor levensverzekeringen en ziektekostenverzekeringen. -* **Rechtshandhaving**, zoals iemands kans inschatten om slachtoffer of dader te worden, het gebruik van een leugendetector, het beoordelen van bewijsmateriaal en het opsporen van verdachten. -* **Migratie, asiel en grenzen**, zoals inschatten wat de kans is dat iemand gevaarlijk of illegaal is, het behandelen van aanvragen en klachten en het herkennen of opsporen van mensen. -* **Rechtsbedeling en democratische processen**, zoals het uitleggen van de wet aan een rechtbank, gerechtshof of de Hoge Raad, advies geven bij een geschil of het beïnvloeden van de uitslag van een verkiezing. - -Zie [AI-verordening, bijlage III](https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689#d1e38-127-1). - -### Verboden AI-systemen -Dit zijn AI-systemen die: - -* **misleiden** -* **misbruik maken van kwetsbaarheden of gevoelige situaties**, zoals het overhalen van mensen met schulden om iets te kopen -* **sociale scores bijhouden** voor gedrag van mensen en hen hiervoor straffen -* **beoordelen** hoe groot het risico is dat iemand een strafbaar feit pleegt -* **afbeeldingen van gezichten ‘scrapen’ (verzamelen)** via internet of bewakingscamera’s en deze opslaan in een databank -* **emoties herkennen** van mensen op hun werkplek of op school -* **biometrisch categoriseren**: mensen indelen in gevoelige categorieën zoals ras en geloof, op basis van lichamelijke kenmerken zoals huidskleur -* **biometrisch identificeren op afstand voor rechtshandhaving**, zoals gezichten herkennen via camera’s op een openbaar plein (hiervoor gelden uitzonderingen in ernstige situaties zoals ontvoeringen en terrorisme) - -Zie [AI-verordening, artikel 5](https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689#d1e2816-1-1). +AI-systemen vallen mogelijk onder een van de risicogroepen uit de AI-verordening: + +* [Risico op misleiding](../voldoen-aan-wetten-en-regels/ai-verordening.md#risico-op-misleiding) +* [Hoog-risico-AI-systemen](../voldoen-aan-wetten-en-regels/ai-verordening.md#hoog-risico-ai-systemen) +* [Verboden AI-systemen](../voldoen-aan-wetten-en-regels/ai-verordening.md#verboden-ai-systemen) + +Het hangt ervan af waarvoor je dit AI-systeem gebruikt. ## Impact van algoritmes Impactvolle algoritmes moet je publiceren in het [Algoritmeregister](https://algoritmes.overheid.nl/nl). Dat moet in elk geval in deze situaties: diff --git a/docs/voldoen-aan-wetten-en-regels/ai-verordening.md b/docs/voldoen-aan-wetten-en-regels/ai-verordening.md index 742a3595ad..9c1cd46aec 100644 --- a/docs/voldoen-aan-wetten-en-regels/ai-verordening.md +++ b/docs/voldoen-aan-wetten-en-regels/ai-verordening.md @@ -135,5 +135,5 @@ Organisaties die AI-systemen ontwikkelen, moeten ervoor zorgen dat deze producte Met de [beslishulp AI-verordening](https://ai-act-decisiontree.apps.digilab.network/) bepaal je snel en gemakkelijk of jouw AI-product onder de AI-verordening valt. En wat je dan moet doen. ## Help ons deze pagina te verbeteren -Deel je idee, suggestie of opmerking via [GitHub](https://github.com/MinBZK/Algoritmekader/issues/new/choose) of mail ons via [algoritmes@minbzk.nl](algoritmes@minbzk.nl). +Deel je idee, suggestie of opmerking via [GitHub](https://github.com/MinBZK/Algoritmekader/issues/new/choose) of mail ons via [algoritmes@minbzk.nl](mailto:algoritmes@minbzk.nl).