Beleidsregel veilig omgaan met kunstmatige intelligentie / artificial intelligence (AI)

Geldend van 18-06-2024 t/m heden

Intitulé

Beleidsregel veilig omgaan met kunstmatige intelligentie / artificial intelligence (AI)

Burgemeester en wethouders van de gemeente Bergeijk,

gelet op de Algemene Verordening Gegevensbescherming, Uitvoeringswet Algemene verordening gegevensbescherming, Wet politiegegevens en de AI-verordening (AI Act);

besluiten:  

  • 1.

    De beleidsregel veilig omgaan met kunstmatige intelligentie/artificial intelligence (verder: ‘AI’) vast te stellen;

Beleidsregel veilig omgaan met kunstmatige intelligentie/artificial intelligence (AI)

Managementsamenvatting

Wat is het doel van het beleid?

Dit beleid van de gemeente Bergeijk heeft tot hoofddoel: richtlijnen en ethische principes vast te stellen voor het gebruik van kunstmatige intelligentie/artificial intelligence (verder: ‘AI’). Het beleid heeft twee subdoelen:

  • 1.

    Verbetering van de dienstverlening aan inwoners en bedrijven, met inachtneming van privacy en mensenrechten;

  • 2.

    Versterking van de bedrijfsvoering door efficiënt gebruik van AI, datagebruik voor ondersteuning van besluitvorming, en training van medewerkers.

Deze doelen worden bereikt door:

  • Het gebruik van AI vast te leggen in het beleid;

  • Het uitvoeren van risicobeoordelingen;

  • Het monitoren en evalueren van AI-toepassingen;

  • En het verstrekken van richtlijnen en training aan medewerkers.

Wat betekent kunstmatige intelligentie/AI?

In het beleid wordt onder AI verstaan: machines die mensachtige vaardigheden vertonen.

Wat is de scope van het beleid?

Het beleid is van toepassing op:

  • Alle medewerkers van de gemeente Bergeijk;

  • Organisaties en bedrijven (zoals leveranciers) die in opdracht van de gemeente werken;

  • Alle systemen en vormen van kunstmatige intelligentie die binnen de gemeentelijke organisatie worden gebruikt.

Wanneer wordt het beleid herzien?

Het beleid wordt jaarlijks geëvalueerd door de privacy officer/ chief information security officer (CISO en indien nodig opnieuw vastgesteld vanwege de snelle ontwikkelingen in AI.

Wat zijn belangrijke aspecten van het beleid?

Primaire beleidsaspecten :

  • Software moet secure en compliant zijn;

  • Melden van AI-gebruik (gebruik moet transparant zijn v.w.b. elk werkproces );

  • Bescherming van persoonsgegevens;

  • Naleving van normen en wetten(legitimiteit),;

  • Menselijke controle op door AI ondersteunde besluitvorming.

Secundaire beleidsaspecten:

  • Eerlijkheid;

  • Impactbeoordeling van mensenrechten en algoritmes;

  • Training en bewustwording van medewerkers.

Welke bijlagen horen bij dit beleid?

De bijlage bevat uitgangspunten voor het omgaan met kunstmatige intelligentie.

1 Inleiding

Inleiding

Dit beleid is opgesteld om de strategische richtlijnen en ethische principes vast te leggen voor het gebruik van kunstmatige intelligentie binnen de gemeente Bergeijk.

1.1 Doel van het beleid

Het doel van dit beleid is:

  • 1.

    Zorgen voor een transparante, verantwoorde en veilige inzet van technologieën gebaseerd op kunstmatige intelligentie om:

    • a.

      De dienstverlening aan inwoners en bedrijven te verbeteren;

    • b.

      Individuele privacy- en mensenrechten te respecteren.

  • 2.

    De bedrijfsvoering van de gemeente Bergeijk te versterken door middel van:

    • a.

      Het inzetten van kunstmatige intelligentie om processen en diensten efficiënter in te richten;

    • b.

      Analyseren van data om de besluitvorming te ondersteunen;

    • c.

      Trainingen voor bewustwording en effectief inzetten van kunstmatige intelligentie te organiseren voor medewerkers van de gemeente.

De gemeente Bergeijk gaat deze doelstelling realiseren door:

  • Het gebruik van kunstmatige intelligentie vast te leggen in dit beleid;

  • Bij het gebruik van kunstmatige intelligentie vooraf een risicobeoordeling uit te voeren. Hiermee worden de risico's op het gebied van privacy, ethiek en informatiebeveiliging in kaart gebracht en ingeperkt;

  • Het gebruik van kunstmatige intelligentie te monitoren en te evalueren om het beleid aan te passen waar nodig;

  • Duidelijke richtlijnen en trainingen voor het gebruik van kunstmatige intelligentie aan medewerkers aan te bieden.

1.2 Definitie AI

De definitie van kunstmatige intelligentie is volgens het Europees Parlement:

“AI is de mogelijkheid van een machine om mensachtige vaardigheden te vertonen - zoals redeneren, leren, plannen en creativiteit.” (Europees Parlement, 2021).

In het onderhavige beleid wordt met AI bedoeld: AI-generatoren of andere vormen van kunstmatige intelligentie, zoals, maar niet beperkt tot:

  • Tekstgeneratoren (chatbots, persoonlijke assistenten);

  • Videogeneratoren;

  • Geluidsgeneratoren (text to speech);

  • Afbeeldingsgeneratoren.

1.3 Scope van het beleid

Dit beleid is van toepassing op:

  • 1.

    Alle medewerkers van de gemeente Bergeijk, inclusief het management en het college van burgemeester en wethouders;

  • 2.

    Organisaties en bedrijven (zoals leveranciers) die in opdracht van de gemeente werken;

  • 3.

    Alle systemen en vormen van kunstmatige intelligentie die binnen de gemeentelijke organisatie worden gebruikt.

1.4 Geldigheid en herziening van het beleid

Omdat kunstmatige intelligentie snel ontwikkelt, is er behoefte aan een beleid dat met de ontwikkeling mee verandert. Dit zorgt ervoor dat het beleid ondersteunend is om kunstmatige intelligentie verantwoord en efficiënt te gebruiken. Het college van B&W stelt periodiek een nieuw beleid vast. De gemeente Bergeijk communiceert wijzigingen in het beleid tijdig.

2 Algemeen beleid voor het gebruik van AI

2.1 Melden gebruik kunstmatige intelligentie

2.1.1 Interne meldingen 

De gemeente Bergeijk vraagt de medewerkers om het gebruik van kunstmatige intelligentie voor te leggen aan de privacy officer/chief information security officer (hierna: CISO). De privacy officer/CISO adviseert over het gebruik van kunstmatige intelligentie. Het uitgangspunt hierbij is meekijken naar mogelijkheden om kunstmatige intelligentie veilig in te zetten. Het uitgangspunt is niet om het gebruik van kunstmatige intelligentie te verbieden.

2.1.2 Externe meldingen 

De gemeente Bergeijk werkt samen met externe organisaties en bedrijven. De gemeente vraagt deze organisaties en bedrijven om actief te melden aan de gemeente dat zij gebruikmaken van kunstmatige intelligentie.

2.2 Beheer van gebruikerstoegang

De privacy officer/CISO houdt bij welke systemen/hulpmiddelen gebaseerd op kunstmatige intelligentie binnen de gemeente Bergeijk zijn aangemeld.

2.3 Ongeoorloofd gebruik

Kunstmatige intelligentie mag niet worden gebruikt om:

  • Inbreuk te maken op de rechten van anderen (zoals het auteursrecht, privacyrecht en portretrecht);

  • Besluiten te nemen zonder menselijke tussenkomst;

  • Ongeautoriseerd gegevens te raadplegen;

  • Schadelijke, beledigende, discriminerende of illegale inhoud te ondersteunen, versterken of verspreiden.

Het gebruik van kunstmatige intelligentie moet de ethische en maatschappelijke normen waarborgen en de belangen van onze inwoners en bedrijven beschermen. Ook het gebruik voor persoonlijke doeleinden is niet toegestaan.

2.4 Gegevensbescherming en privacy

Kunstmatige intelligentie wordt zo veel mogelijk gebruikt binnen gesloten omgevingen van de gemeente Bergeijk. De volgende gegevens worden niet gedeeld met systemen/hulpmiddelen die gebaseerd zijn op kunstmatige intelligentie:

  • 1.

    Persoonsgegevens (gegevens die herleidbaar zijn naar personen), zoals namen, adressen, contactgegevens en BSN;

  • 2.

    Bedrijfsvertrouwelijke informatie van de gemeente (alle informatie die aangemerkt is als geheim, vertrouwelijk en bedrijfsvertrouwelijk).

2.5 Naleving van normen, wetten en voorschriften

Het gebruik van kunstmatige intelligentie moet volledig voldoen aan alle toepasselijke normen, wetten, voorschriften en professionele normen. Dit omvat in ieder geval:

  • De privacywetgeving (zoals de Algemene verordening gegevensbescherming, de Uitvoeringswet algemene verordening gegevensbescherming en de AI-verordening);

  • Interne privacyvoorschriften (zoals het privacybeleid van de gemeente Bergeijk);

  • Voorschriften voor informatiebeveiliging (zoals de Baseline Informatiebeveiliging Overheid en de NIS2-richtlijn);

  • (Inter)nationale mensenrechtennormen.

2.6 Melden en afhandelen van incidenten

In geval van AI-gerelateerde beveiligingsincidenten, zoals een datalek of misbruik van AI, moeten medewerkers dit onmiddellijk melden aan de privacy officer of de CISO via de daarvoor opengestelde route.

3 Ethiek en kunstmatige intelligentie

3.1 Eerlijkheid en non-discriminatie bij gebruik algoritmen

De gemeente streeft ernaar om kunstmatige intelligentie op een eerlijke manier te gebruiken waarbij enige discriminerende impact van algoritmen wordt geminimaliseerd of niet langer bestaat. Het is van belang dat algoritmen geen vooroordelen vertonen, maar alle inwoners eerlijk en gelijkwaardig behandelen. Er worden alleen besluiten genomen met algoritmen als er ook een menselijke controle op het besluit is geweest.

3.2 Menselijke blik bij besluiten

De uiteindelijke verantwoordelijkheid voor beslissingen blijft (tenzij gedelegeerd) bij het bestuur. Kunstmatige intelligentie is een hulpmiddel om beslissingen te ondersteunen, maar geen vervanging van het professioneel oordeel van de medewerkers. Besluiten die genomen zijn met behulp van kunstmatige intelligentie worden door een medewerker nagekeken om de menselijke blik bij besluiten te waarborgen. Medewerkers moeten in staat zijn om de basis van deze besluiten uit te leggen, vooral wanneer deze beslissingen invloed hebben op onze inwoners of de activiteiten van de gemeente.

3.3 Impact Assessment Mensenrechten en Algoritmes

Voordat een algoritme in gebruik wordt genomen, voert de gemeente een analyse uit naar de werking, het gebruik van het algoritme en het waarborgen van de mensenrechten (zoals een Impact Assessment Mensenrechten en Algoritmes).

3.4 Transparantie en interpretatie

De gemeente en haar medewerkers zijn transparant over het gebruik van kunstmatige intelligentie. De rol die kunstmatige intelligentie heeft gespeeld in besluitvormingsprocessen is vastgelegd en inzichtelijk. Inwoners hebben het recht om te begrijpen hoe en waarom bepaalde beslissingen worden genomen met behulp van kunstmatige intelligentie.

3.4.1 Algoritmeregister

De algoritmen die bij de gemeente Bergeijk worden gebruikt, zijn opgenomen in het Algoritmeregister van de Nederlandse Overheid.

4 Training en Bewustwording

4.1 Trainingsprogramma’s

De gemeente Bergeijk heeft een doorlopende bewustwordingscampagne om haar medewerkers weerbaar te maken tegen bedreigingen op het gebied van informatiebeveiliging en privacy. Ook het werken met kunstmatige intelligentie en de ethische aspecten daarvan maken onderdeel uit van de campagne.

Ondertekening

Deze beleidsregel treedt in werking op de dag na bekendmaking.

Bergeijk, 4 juni 2024

Burgemeester en wethouders van Bergeijk,

A.J.M. Ewalds

Gemeentesecretaris

A. Callewaert-de Groot

Burgemeester

Bijlage 1 Uitgangspunten “omgaan met kunstmatige intelligentie”

In de gemeente Bergeijk werken we met kunstmatige intelligentie aan de hand van onderstaande uitgangspunten:

1. Wij zijn transparant over het gebruik van kunstmatige intelligentie

Wij kunnen aan onze inwoners uitleggen hoe de gemeente Bergeijk kunstmatige intelligentie inzet en hoe besluiten zijn genomen met ondersteuning van kunstmatige intelligentie. Verder vindt de gemeente het belangrijk om dialogen over kunstmatige intelligentie open te houden. Inwoners, bedrijven en maatschappelijke organisaties kunnen feedback geven op het gebruik van kunstmatige intelligentie door de gemeente Bergeijk.

2. Wij respecteren de privacy (persoonlijke levenssfeer) van personen

De privacywetten- en regels worden door de gemeente gerespecteerd. Dat houdt in dat wij weten welke regels er gelden en dat we ons best doen om deze regels zo goed mogelijk na te leven. Zo bewaren we niet meer persoonsgegevens dan we nodig hebben. Voor advies schakelen we de privacy officer/chief information security officer (CISO) in van de gemeente.

3. Wij proberen algoritmen zo eerlijk en discriminatievrij te gebruiken

De gemeente vindt het belangrijk om een kunstmatige intelligentie op een zo'n eerlijk mogelijke manier te gebruiken. Dit betekent ook dat we bij het inrichten van een algoritme ons best doen om het algoritme eerlijk en gelijkwaardig te laten functioneren voor alle inwoners. Dit doen we door maatregelen te nemen en algoritmen te corrigeren wanneer dit nodig is.

4. Wij kijken mee bij besluiten die door kunstmatige intelligentie worden genomen

De gemeente houdt de menselijke controle op het gebruik van kunstmatige intelligentie. Als er een besluit is genomen met behulp van kunstmatige intelligentie dan worden deze besluiten gecontroleerd door ambtenaren van de gemeente.

5. Wij zijn ons bewust van de risico's en kwetsbaarheden bij het werken met kunstmatige intelligentie

We zorgen ervoor dat we weten welke risico's en kwetsbaarheden er zijn bij het werken met kunstmatige intelligentie. We weten ook wie er in de organisatie verantwoordelijk zijn voor deze risico's en kwetsbaarheden. Dit zorgt ervoor dat we de juiste beveiligingsmaatregelen kunnen nemen om de risico's en kwetsbaarheden zo klein mogelijk te houden.

6. Wij begrijpen hoe kunstmatige intelligentie werkt

We houden onze kennis over kunstmatige intelligentie up-to-date door trainingen te volgen die de gemeente aanbiedt. Zo begrijpen we hoe kunstmatige intelligentie werkt en hoe we dit het beste in kunnen zetten voor onze inwoners en onze organisatie.

7. Wij houden ons aan de wetten, regels en ethische normen

Wij gebruiken alleen kunstmatige intelligentie wanneer dat mag op basis van de wetten en regels waar wij ons aan moeten houden. Ook houden we rekening met de ethische normen die ons vertellen of het wel verstandig is om kunstmatige intelligentie te gebruiken.

8. We gebruiken ons gezond verstand

We denken na over het gebruik van kunstmatige intelligentie en we laten ons niet leiden tot handelingen die niet ethisch of niet integer zijn. We begrijpen dat kunstmatige intelligentie niet alles weet. We blijven zelf opletten en we vertrouwen niet blindelings op hetgeen kunstmatige intelligentie ons vertelt.