Beleidsregel veilig omgaan met kunstmatige intelligentie / artificial intelligence (AI)

Wat is het doel van het beleid?

Dit beleid van de gemeente Bergeijk heeft tot hoofddoel: richtlijnen en ethische principes vast te stellen voor het gebruik van kunstmatige intelligentie/artificial intelligence (verder: ‘AI’). Het beleid heeft twee subdoelen:

• 1.

  Verbetering van de dienstverlening aan inwoners en bedrijven, met inachtneming van privacy en mensenrechten;

• 2.

  Versterking van de bedrijfsvoering door efficiënt gebruik van AI, datagebruik voor ondersteuning van besluitvorming, en training van medewerkers.

Deze doelen worden bereikt door:

• –

  Het gebruik van AI vast te leggen in het beleid;

• –

  Het uitvoeren van risicobeoordelingen;

• –

  Het monitoren en evalueren van AI-toepassingen;

• –

  En het verstrekken van richtlijnen en training aan medewerkers.

Wat betekent kunstmatige intelligentie/AI?

In het beleid wordt onder AI verstaan: machines die mensachtige vaardigheden vertonen.

Wat is de scope van het beleid?

Het beleid is van toepassing op:

• –

  Alle medewerkers van de gemeente Bergeijk;

• –

  Organisaties en bedrijven (zoals leveranciers) die in opdracht van de gemeente werken;

• –

  Alle systemen en vormen van kunstmatige intelligentie die binnen de gemeentelijke organisatie worden gebruikt.

Wanneer wordt het beleid herzien?

Het beleid wordt jaarlijks geëvalueerd door de privacy officer/ chief information security officer (CISO en indien nodig opnieuw vastgesteld vanwege de snelle ontwikkelingen in AI.

Wat zijn belangrijke aspecten van het beleid?

Primaire beleidsaspecten :

• –

  Software moet secure en compliant zijn;

• –

  Melden van AI-gebruik (gebruik moet transparant zijn v.w.b. elk werkproces );

• –

  Bescherming van persoonsgegevens;

• –

  Naleving van normen en wetten(legitimiteit),;

• –

  Menselijke controle op door AI ondersteunde besluitvorming.

Secundaire beleidsaspecten:

• –

  Eerlijkheid;

• –

  Impactbeoordeling van mensenrechten en algoritmes;

• –

  Training en bewustwording van medewerkers.

Welke bijlagen horen bij dit beleid?

De bijlage bevat uitgangspunten voor het omgaan met kunstmatige intelligentie.

Inleiding

Dit beleid is opgesteld om de strategische richtlijnen en ethische principes vast te leggen voor het gebruik van kunstmatige intelligentie binnen de gemeente Bergeijk.

1.1 Doel van het beleid

Het doel van dit beleid is:

• 1.

  Zorgen voor een transparante, verantwoorde en veilige inzet van technologieën gebaseerd op kunstmatige intelligentie om:

  • a.

    De dienstverlening aan inwoners en bedrijven te verbeteren;

  • b.

    Individuele privacy- en mensenrechten te respecteren.

• 2.

  De bedrijfsvoering van de gemeente Bergeijk te versterken door middel van:

  • a.

    Het inzetten van kunstmatige intelligentie om processen en diensten efficiënter in te richten;

  • b.

    Analyseren van data om de besluitvorming te ondersteunen;

  • c.

    Trainingen voor bewustwording en effectief inzetten van kunstmatige intelligentie te organiseren voor medewerkers van de gemeente.

De gemeente Bergeijk gaat deze doelstelling realiseren door:

• –

  Het gebruik van kunstmatige intelligentie vast te leggen in dit beleid;

• –

  Bij het gebruik van kunstmatige intelligentie vooraf een risicobeoordeling uit te voeren. Hiermee worden de risico's op het gebied van privacy, ethiek en informatiebeveiliging in kaart gebracht en ingeperkt;

• –

  Het gebruik van kunstmatige intelligentie te monitoren en te evalueren om het beleid aan te passen waar nodig;

• –

  Duidelijke richtlijnen en trainingen voor het gebruik van kunstmatige intelligentie aan medewerkers aan te bieden.

1.2 Definitie AI

De definitie van kunstmatige intelligentie is volgens het Europees Parlement:

“AI is de mogelijkheid van een machine om mensachtige vaardigheden te vertonen - zoals redeneren, leren, plannen en creativiteit.” (Europees Parlement, 2021).

In het onderhavige beleid wordt met AI bedoeld: AI-generatoren of andere vormen van kunstmatige intelligentie, zoals, maar niet beperkt tot:

• –

  Tekstgeneratoren (chatbots, persoonlijke assistenten);

• –

  Videogeneratoren;

• –

  Geluidsgeneratoren (text to speech);

• –

  Afbeeldingsgeneratoren.

1.3 Scope van het beleid

Dit beleid is van toepassing op:

• 1.

  Alle medewerkers van de gemeente Bergeijk, inclusief het management en het college van burgemeester en wethouders;

• 2.

  Organisaties en bedrijven (zoals leveranciers) die in opdracht van de gemeente werken;

• 3.

  Alle systemen en vormen van kunstmatige intelligentie die binnen de gemeentelijke organisatie worden gebruikt.

1.4 Geldigheid en herziening van het beleid

Omdat kunstmatige intelligentie snel ontwikkelt, is er behoefte aan een beleid dat met de ontwikkeling mee verandert. Dit zorgt ervoor dat het beleid ondersteunend is om kunstmatige intelligentie verantwoord en efficiënt te gebruiken. Het college van B&W stelt periodiek een nieuw beleid vast. De gemeente Bergeijk communiceert wijzigingen in het beleid tijdig.

2.1 Melden gebruik kunstmatige intelligentie

2.1.1 Interne meldingen 

De gemeente Bergeijk vraagt de medewerkers om het gebruik van kunstmatige intelligentie voor te leggen aan de privacy officer/chief information security officer (hierna: CISO). De privacy officer/CISO adviseert over het gebruik van kunstmatige intelligentie. Het uitgangspunt hierbij is meekijken naar mogelijkheden om kunstmatige intelligentie veilig in te zetten. Het uitgangspunt is niet om het gebruik van kunstmatige intelligentie te verbieden.

2.1.2 Externe meldingen 

De gemeente Bergeijk werkt samen met externe organisaties en bedrijven. De gemeente vraagt deze organisaties en bedrijven om actief te melden aan de gemeente dat zij gebruikmaken van kunstmatige intelligentie.

2.2 Beheer van gebruikerstoegang

De privacy officer/CISO houdt bij welke systemen/hulpmiddelen gebaseerd op kunstmatige intelligentie binnen de gemeente Bergeijk zijn aangemeld.

2.3 Ongeoorloofd gebruik

Kunstmatige intelligentie mag niet worden gebruikt om:

• –

  Inbreuk te maken op de rechten van anderen (zoals het auteursrecht, privacyrecht en portretrecht);

• –

  Besluiten te nemen zonder menselijke tussenkomst;

• –

  Ongeautoriseerd gegevens te raadplegen;

• –

  Schadelijke, beledigende, discriminerende of illegale inhoud te ondersteunen, versterken of verspreiden.

Het gebruik van kunstmatige intelligentie moet de ethische en maatschappelijke normen waarborgen en de belangen van onze inwoners en bedrijven beschermen. Ook het gebruik voor persoonlijke doeleinden is niet toegestaan.

2.4 Gegevensbescherming en privacy

Kunstmatige intelligentie wordt zo veel mogelijk gebruikt binnen gesloten omgevingen van de gemeente Bergeijk. De volgende gegevens worden niet gedeeld met systemen/hulpmiddelen die gebaseerd zijn op kunstmatige intelligentie:

• 1.

  Persoonsgegevens (gegevens die herleidbaar zijn naar personen), zoals namen, adressen, contactgegevens en BSN;

• 2.

  Bedrijfsvertrouwelijke informatie van de gemeente (alle informatie die aangemerkt is als geheim, vertrouwelijk en bedrijfsvertrouwelijk).

2.5 Naleving van normen, wetten en voorschriften

Het gebruik van kunstmatige intelligentie moet volledig voldoen aan alle toepasselijke normen, wetten, voorschriften en professionele normen. Dit omvat in ieder geval:

• –

  De privacywetgeving (zoals de Algemene verordening gegevensbescherming, de Uitvoeringswet algemene verordening gegevensbescherming en de AI-verordening);

• –

  Interne privacyvoorschriften (zoals het privacybeleid van de gemeente Bergeijk);

• –

  Voorschriften voor informatiebeveiliging (zoals de Baseline Informatiebeveiliging Overheid en de NIS2-richtlijn);

• –

  (Inter)nationale mensenrechtennormen.

2.6 Melden en afhandelen van incidenten

In geval van AI-gerelateerde beveiligingsincidenten, zoals een datalek of misbruik van AI, moeten medewerkers dit onmiddellijk melden aan de privacy officer of de CISO via de daarvoor opengestelde route.

3.1 Eerlijkheid en non-discriminatie bij gebruik algoritmen

De gemeente streeft ernaar om kunstmatige intelligentie op een eerlijke manier te gebruiken waarbij enige discriminerende impact van algoritmen wordt geminimaliseerd of niet langer bestaat. Het is van belang dat algoritmen geen vooroordelen vertonen, maar alle inwoners eerlijk en gelijkwaardig behandelen. Er worden alleen besluiten genomen met algoritmen als er ook een menselijke controle op het besluit is geweest.

3.2 Menselijke blik bij besluiten

De uiteindelijke verantwoordelijkheid voor beslissingen blijft (tenzij gedelegeerd) bij het bestuur. Kunstmatige intelligentie is een hulpmiddel om beslissingen te ondersteunen, maar geen vervanging van het professioneel oordeel van de medewerkers. Besluiten die genomen zijn met behulp van kunstmatige intelligentie worden door een medewerker nagekeken om de menselijke blik bij besluiten te waarborgen. Medewerkers moeten in staat zijn om de basis van deze besluiten uit te leggen, vooral wanneer deze beslissingen invloed hebben op onze inwoners of de activiteiten van de gemeente.

3.3 Impact Assessment Mensenrechten en Algoritmes

Voordat een algoritme in gebruik wordt genomen, voert de gemeente een analyse uit naar de werking, het gebruik van het algoritme en het waarborgen van de mensenrechten (zoals een Impact Assessment Mensenrechten en Algoritmes).

3.4 Transparantie en interpretatie

De gemeente en haar medewerkers zijn transparant over het gebruik van kunstmatige intelligentie. De rol die kunstmatige intelligentie heeft gespeeld in besluitvormingsprocessen is vastgelegd en inzichtelijk. Inwoners hebben het recht om te begrijpen hoe en waarom bepaalde beslissingen worden genomen met behulp van kunstmatige intelligentie.

3.4.1 Algoritmeregister

De algoritmen die bij de gemeente Bergeijk worden gebruikt, zijn opgenomen in het Algoritmeregister van de Nederlandse Overheid.

4.1 Trainingsprogramma’s

De gemeente Bergeijk heeft een doorlopende bewustwordingscampagne om haar medewerkers weerbaar te maken tegen bedreigingen op het gebied van informatiebeveiliging en privacy. Ook het werken met kunstmatige intelligentie en de ethische aspecten daarvan maken onderdeel uit van de campagne.