Uitvoeringskader veilig omgaan met Kunstmatige Intelligentie Waterschap Hunze en Aa's

1.1 Inleiding

In de hedendaagse wereld neemt kunstmatige intelligentie (AI) een steeds prominentere plaats in. Voor waterschappen biedt AI de kans om efficiënter en effectiever te opereren, variërend van het monitoren van waterkwaliteit en -niveaus tot het voorspellen van overstromingen en het optimaliseren van wateraanvoer. Dit kan bijvoorbeeld door het gebruik van beeldherkenningstoepassingen, complexe data-analyses en slim waterbeheer. Ondanks de vele voordelen die AI met zich meebrengt, zijn er ook risico’s en ethische uitdagingen verbonden aan het gebruik ervan.

In lijn met de Europese AI Verordening1, die tot doel heeft een geharmoniseerd kader te bieden voor de ontwikkeling en het gebruik van AI in de Europese Unie, zullen onze richtlijnen ervoor zorgen dat onze AI-toepassingen voldoen aan de van toepassing zijnde normen van veiligheid, transparantie en ethiek. De AI Verordening benadrukt het belang van risicobeheer, toezicht en naleving, en wij zullen deze principes opnemen in deze AI-uitvoeringskader.

Het is daarom van belang om een kader en richtlijnen te ontwikkelen die ervoor zorgen dat AI op een transparante, verantwoorde, veilige en ethische manier wordt gebruikt binnen het waterschap Hunze en Aa`s.

1.2 Doelen van het uitvoeringskader

Optimalisatie en Innovatie: Binnen de kaders van het implementeren van AI-technologieën, kan de operationele efficiëntie van het waterschap worden verhoogd. Dit kan bijvoorbeeld door het monitoren van waterkwaliteit en het voorspellen van overstromingen.

Risico Minimalisatie: Het implementeren van richtlijnen en meldingsprocedures om risico’s, zoals datalekken en ethische overschrijdingen, te beperken.

Verantwoorde Toepassing: Zekerstellen dat alle AI-toepassingen voldoen aan de relevante wet- en regelgeving (inclusief de Europese AI-verordening) en interne uitvoeringskaders.

Transparantie en Controle: Het creëren van een open en inzichtelijk gebruik van AI, waarbij alle AI-toepassingen geregistreerd worden in het Nederlandse Algoritmeregister en eindbeslissingen altijd door mensen worden gecontroleerd.

1. Europese AI-verordening: De verordening gaat gefaseerd in en zal op 2 augustus 2027 geheel van kracht zijn.

1.3 Definitie AI

De definitie van kunstmatige intelligentie is volgens het Europees Parlement:

“AI is de mogelijkheid van een machine om mensachtige vaardigheden te vertonen - zoals redeneren, leren, plannen en creativiteit.” (Europees Parlement, 2021).

In het onderhavige uitvoeringskader wordt met AI bedoeld: AI-toepassingen of andere vormen van kunstmatige intelligentie, zoals, maar niet beperkt tot:

- Tekstgeneratoren (chatbots, persoonlijke assistenten);

- Videogeneratoren;

- Geluidsgeneratoren (text to speech);

- Afbeeldingsgeneratoren.

1.4 Scope van het uitvoeringskader

Dit uitvoeringskader is van toepassing op:

1. Alle medewerkers van het waterschap Hunze en Aa's;

2. Alleen de AI-richtlijnen zijn van toepassing op de leden van het Algemeen Bestuur2;

3. Organisaties en bedrijven (zoals opdrachtnemers en leveranciers) die in opdracht van het waterschap werken;

4. Alle toepassingen en vormen van kunstmatige intelligentie die binnen het waterschap worden gebruikt.

1.5 Geldigheid en herziening van het uitvoeringskader

Omdat kunstmatige intelligentie snel ontwikkelt, is er behoefte aan een kader dat met de ontwikkeling mee verandert. Dit zorgt ervoor dat het kader ondersteunend is om kunstmatige intelligentie verantwoord en efficiënt te gebruiken. Indien de ontwikkelingen aanleiding geven tot herziening van het uitvoeringskader, wordt deze geactualiseerd en opnieuw door het dagelijks bestuur vastgesteld.

2. geldt ook voor fractieopvolgers en leden Rekenkamer.

2.1 Melden gebruik kunstmatige intelligentie

2.1.1 Interne meldingen

Het waterschap vraagt de medewerkers om het gebruik van nieuwe toepassingen m.b.t. kunstmatige intelligentie voor te leggen aan het teamhoofd Data & Informatie. Het teamhoofd adviseert of zet de vraag verder uit naar specialisten over het gebruik van kunstmatige intelligentie. De uiteindelijke beslissing tot aanschaf en/of ingebruikname van kunstmatige intelligentie ligt bij het verantwoordelijke afdelingshoofd.

Het uitgangspunt hierbij is het waarborgen dat kunstmatige intelligentie veilig wordt ingezet. Het uitgangspunt is niet om het gebruik van kunstmatige intelligentie te verbieden.

2.1.2 Externe meldingen

Het waterschap werkt samen met externe organisaties en bedrijven. Het waterschap vereist van deze organisaties dat zij strikt de randvoorwaarden naleven die van toepassing zijn op het waterschap Hunze en Aa's bij het gebruik van kunstmatige intelligentie. Denk hierbij aan non-discriminatie, transparantie en privacybescherming.

2.2 Overzicht van gebruik

Team Data en Informatie houdt bij welke applicaties gebaseerd op kunstmatige intelligentie binnen het waterschap worden gebruikt (zowel in- als extern).

2.3 Ongeoorloofd gebruik

Kunstmatige intelligentie mag niet worden gebruikt om:

- Inbreuk te maken op de rechten van anderen (zoals het auteursrecht, privacyregelgeving en portretrecht);

- Besluiten te nemen zonder menselijke tussenkomst;

- Ongeautoriseerd gegevens te raadplegen;

- Schadelijke, beledigende, discriminerende of illegale inhoud te ondersteunen, versterken of verspreiden.

Het gebruik van kunstmatige intelligentie moet de ethische en maatschappelijke normen waarborgen en de belangen van onze inwoners en bedrijven beschermen. Het gebruik voor persoonlijke doeleinden is alleen niet te vermijden. Hou hierbij rekening met de richtlijnen van het waterschap Hunze en Aa`s.

2.4 Gegevensbescherming en privacy

Kunstmatige intelligentie wordt zo veel mogelijk gebruikt binnen gesloten omgevingen van het waterschap. De volgende gegevens worden niet gedeeld met applicaties die gebaseerd zijn op kunstmatige intelligentie:

- Persoonsgegevens (gegevens die herleidbaar zijn naar personen), zoals namen, adressen, contactgegevens en BSN;

- Bedrijfsvertrouwelijke informatie van het waterschap (alle informatie die aangemerkt is als geheim, vertrouwelijk en bedrijfsvertrouwelijk; bijvoorbeeld personeelsdossiers).

2.5 Naleving van normen, wetten en voorschriften

Het gebruik van kunstmatige intelligentie moet volledig voldoen aan alle toepasselijke normen, wetten, voorschriften en professionele normen. Dit omvat in ieder geval:

- De privacywetgeving (zoals de Algemene verordening gegevensbescherming, de Uitvoeringswet algemene verordening gegevensbescherming en de AI-verordening);

- Interne privacy voorschriften (zoals het privacy beleid van het waterschap Hunze en Aa’s);

- Voorschriften voor informatiebeveiliging (zoals de Baseline Informatiebeveiliging Overheid);

- (Inter)nationale mensenrechtennormen.

2.6 Melden en afhandelen van incidenten

In geval van AI-gerelateerde beveiligingsincidenten, zoals een datalek of misbruik van AI, moeten medewerkers dit onmiddellijk melden bij de Functionaris gegevensbescherming (FG) en/of via FG@hunzeenaas.nl.

3.1 Eerlijkheid en non-discriminatie bij gebruik algoritmes

Het waterschap streeft ernaar om kunstmatige intelligentie op een eerlijke manier te gebruiken waarbij enige discriminerende impact van algoritmen wordt geminimaliseerd of niet langer bestaat. Het is van belang dat algoritmen geen vooroordelen vertonen, maar alle inwoners eerlijk en gelijkwaardig behandelen. Er worden alleen besluiten genomen met algoritmen als er ook een menselijke controle op het besluit is geweest.

3.2 Menselijke blik bij besluiten

Kunstmatige intelligentie is een hulpmiddel om beslissingen te ondersteunen, maar geen vervanging van het professioneel oordeel van de medewerkers. Besluiten die genomen zijn met behulp van kunstmatige intelligentie worden door een medewerker nagekeken om de menselijke blik bij besluiten te waarborgen. Medewerkers moeten in staat zijn om de basis van deze besluiten uit te leggen, vooral wanneer deze beslissingen invloed hebben op onze inwoners of de activiteiten van het waterschap.

3.3 Impact Assessment Mensenrechten en Algoritmes

Voordat een algoritme in gebruik wordt genomen, voert het waterschap een analyse uit naar de werking, het gebruik van het algoritme en het waarborgen van de mensenrechten (zoals een Impact Assessment Mensenrechten en Algoritmes). Dit geldt voor interne en externe algoritmes.

3.4 Transparantie en interpretatie

Het waterschap en haar medewerkers zijn transparant over het gebruik van kunstmatige intelligentie. De rol die kunstmatige intelligentie heeft gespeeld in besluitvormingsprocessen is vastgelegd en inzichtelijk. Inwoners hebben het recht om te begrijpen hoe en waarom bepaalde beslissingen worden genomen met behulp van kunstmatige intelligentie. Het gebruik van kunstmatige intelligentie wordt overzichtelijk vastgelegd in het openbare Nederlandse Algoritmeregister (zie 3.4.1).

3.4.1 Algoritmeregister

Het Nederlandse Algoritmeregister komt voort uit een Nederlandse wens, gebaseerd op een aantal rapporten, Kamermoties en adviezen om tot een register te komen voor meer transparantie vanuit de Nederlandse overheid. De Europese AI-Verordening is op 1 augustus 2024 in werking getreden. In de verordening is een verplichting opgenomen om hoogrisico AI-systemen in een Europese database te registreren. Er blijft een Nederlands algoritme register bestaan naast een Europese database. Dit is omdat niet alle beschrijvingen in het Nederlandse algoritmeregister over hoogrisico AI-systemen gaan. Er staan ook niet-zelflerende algoritmes en/of algoritmes met een lager risicokarakter in dit register (impactvol & overige algoritmen). De algoritmen die bij het waterschap worden gebruikt, worden opgenomen in het Algoritmeregister van de Nederlandse Overheid.

4.1 Trainingsprogramma’s

Het waterschap gaat voor haar medewerkers trainingsprogramma’s organiseren waarbij wordt ingegaan op het veilig gebruik van kunstmatige intelligentie middels AI-toepassingen. Het leerplein kan hiervoor worden ingezet.

4.2 Bewustwording

Het waterschap heeft een doorlopende bewustwordingscampagne om haar medewerkers weerbaar te maken tegen bedreigingen op het gebied van informatiebeveiliging en privacy. Ook het werken met kunstmatige intelligentie en de ethische aspecten daarvan maken onderdeel uit van de campagne. Deze worden in de vorm van AI-richtlijnen met de organisatie en haar werknemers op intranet gedeeld. Deze AI-richtlijnen zijn in bijlage 1 bijgevoegd.