Richtlijn AI-gebruik voor de gemeenteraad 2025

§ 1 Inleiding

Artificial Intelligence (AI) of kunstmatige intelligentie is een technologie die steeds vaker wordt ingezet om werkprocessen te ondersteunen en te verbeteren. AI kan helpen bij het analyseren van gegevens, het opstellen van teksten en het ondersteunen van besluitvorming. Binnen het raadswerk kan AI een waardevolle aanvulling zijn, mits het op een verantwoorde en transparante manier wordt gebruikt. Deze richtlijn biedt kaders voor het gebruik van AI binnen de gemeenteraad van Castricum.

§ 2 Wat is AI?

AI is een verzamelnaam voor technologieën die computers in staat stellen om taken uit te voeren die normaal gesproken menselijke intelligente vereisen. Dit omvat onder andere spraakherkenning, beeldherkenning, automatische besluitvorming en taalmodellen.

Er zijn verschillende vormen van AI, waaronder:

• -

  Generatieve AI: Systemen zoals ChatGPT, DALL-E en andere modellen die tekst, afbeeldingen of andere content kunnen genereren.

• -

  Voorspellende AI: Systemen die patronen herkennen en voorspellingen doen, bijvoorbeeld in data-analyse.

• -

  Geautomatiseerde besluitvorming: Systemen die op basis van vooraf bepaalde regels en algoritmen beslissingen kunnen nemen.

Veel AI-tools die dagelijks worden gebruikt zijn zogenaamde large language models (LLM’s). LLM’s zijn taalmodellen en zijn een vorm van generatieve AI. Voorbeelden hiervan zijn ChatGPT, Microsoft Copilot en Google Gemini. LLM’s worden getraind met grote hoeveelheden tekst en informatie. Op basis daarvan leren de taalmodellen om patronen te herkennen. Een taalmodel heeft geen kennis of begrip van de taal, maar genereert antwoorden die correct lijken op basis van de training.

§ 3 Europese AI-verordening

In augustus 2024 is de Europese AI-verordening (AI Act) in werking getreden. De invoering van de AI-verordening is gefaseerd en de verordening classificeert AI-systemen in vier risicocategorieën met bijbehorende eisen1.

• -

  Onaanvaardbaar risico

  AI-systemen die een bedreiging vormen voor de veiligheid, rechten of bestaansmiddelen zijn in de Europese Unie verboden. Denk hierbij aan cognitieve gedragsmanipulatie, voorspellend politiewerk en burgerscores (social scoring).

  • ➔

    Invoering vanaf februari 2025

• -

  Hoog risico

  AI-systemen zoals gebruikt bij ziektediagnoses, zelfrijdende voertuigen en biometrische identificatie moeten voldoen aan strenge eisen en verplichtingen om op de Europese markt te mogen worden aangeboden.

  • ➔

    Invoering vanaf augustus 2026

• -

  Beperkt risico

  Voor AI-systemen zoals chatbots of generatieve AI gelden transparantieverplichtingen. Hierbij geldt dat de gebruiker duidelijk moet worden gemaakt dat de inhoud door een AI is gemaakt.

  • ➔

    Invoering vanaf augustus 2026

• -

  Minimaal of geen risico – Op AI gebaseerde spellen, spamfilters en gepersonaliseerde aanbevelingen van streamingsplatforms kunnen vrij worden gebruikt.

De eisen die aan AI worden gesteld in de Europese AI-verordening zijn veelal van toepassing op de ontwikkelaars van AI-systemen, maar dat is niet alles. Vanaf februari 2025 dienen organisaties die AI-systemen ontwikkelen of gebruiken ervoor te zorgen dat hun medewerkers AI-geletterd zijn2. Dit houdt in dat het kennisniveau van medewerkers over AI voldoende moet zijn om op een verantwoorde manier gebruik te maken van een AI-systeem met oog voor sociale, ethische en praktische bezwaren.

§ 4 Mogelijke toepassingen van AI

AI kan raadsleden ondersteunen bij verschillende onderdelen van het raadswerk, mits het op een verantwoorde manier wordt ingezet.

Voorbeelden van toepassingen zijn:

• -

  Teksten schrijven

  AI kan helpen bij het opstellen van eerste versies van moties, amendementen, initiatiefvoorstellen en andere documenten.

• -

  Teksten redigeren

  AI kan teksten herschrijven en suggesties doen voor (taalkundige) verbeteringen.

• -

  Samenvatten en analyseren

  AI kan grote hoeveelheden informatie verwerken, samenvatten en analyseren om snel inzicht te geven in (complexe) dossiers.

• -

  Communicatie (met inwoners)

  AI kan ondersteunen bij het opstellen van e-mails, socialmediaberichten en andere communicatiemiddelen.

• -

  Vergelijkingen

  AI kan verkiezingsprogramma’s of standpunten van verschillende partijen vergelijken of deze naast bestaand of voorgesteld beleid leggen om overeenkomsten en verschillen inzichtelijk te maken.

• -

  Voorbereiding van debatten en gesprekken

  AI kan feiten en argumenten aanleveren ter voorbereiding op vergaderingen en debatten en kan beide kanten van een idee of voorstel verdedigen.

• -

  Brainstormen

  AI kan ideeën genereren voor verkiezingsprogramma’s, socialmediacampagnes en wervingscampagnes voor nieuwe leden waardoor partijen inspiratie kunnen opdoen.

§ 5 Algemene tips voor het gebruik van AI in het raadswerk

Om AI effectief in te zetten ter ondersteuning van het raadswerk, zijn er enkele belangrijke aandachtspunten.

Wees duidelijk en specifiek, context is alles

Het is van belang dat je AI duidelijke, specifieke opdrachten geeft en daarbij voldoende context schetst. Hoe gerichter en concreter de vraag, hoe vollediger en bruikbaarder het antwoord is. Behandel AI alsof het een stagiair is en splits grote vragen op in kleinere deelvragen.

AI heeft niet als doel het juiste antwoord te geven

Veel AI-tools maken gebruik van LLM’s (large language models) die niet ontworpen zijn om feitelijk juiste antwoorden te geven, maar om op basis van training het meest waarschijnlijke en logische antwoord te genereren. Hierdoor kunnen antwoorden plausibel overkomen, maar niet altijd correct of volledig zijn.

Antwoorden kunnen verschillen

Twee personen die exact dezelfde vraag aan dezelfde AI-tool stellen, kunnen verschillende antwoorden krijgen. Dit komt door meerdere factoren:

• -

  De context van een lopend gesprek met de AI-tool, waardoor eerdere interacties invloed hebben op het antwoord;

• -

  Er zijn AI-tools die eerdere interacties met een gebruiker onthouden (daarop verder getraind worden) en verder bouwen op die eerdere interacties;

• -

  AI-modellen worden doorlopend achter de schermen verbeterd, hierdoor kan het voorkomen dat gebruikers met verschillende versies van een model werken.

Doorgaans zullen de verschillen vooral in nuances zitten, maar het blijft belangrijk om hier rekening mee te houden.

Geef aan welke type output wordt verwacht

AI kan verschillende soorten output genereren. Geef daarom duidelijk aan wat er van de AI verwacht wordt: een opsomming, samenvatting of voorbeeldtekst? En welke opbouw of structuur dient de tekst te hebben?

Wil je dat AI een opzet maakt van een motie? Laad dan eerst een voorbeeldmotie in, zodat AI een tekst in de juiste stijl en opmaak kan genereren.

Laat AI schrijven met je eigen schrijfstijl

Net zoals je een voorbeeldmotie kunt uploaden, kunnen er ook eerder zelf geschreven teksten worden ingevoerd. Geef AI vervolgens de opdracht om de schrijfstijl te analyseren en toe te passen op een nieuwe tekst of document.

Controleer de output

Aangezien AI geen garantie biedt op feitelijke juistheid, is het van belang om de gegenereerde output kritisch te beoordelen. Blijf de output zelf controleren door logisch na te denken, controlevragen te stellen en om bronvermelding te vragen.

§ 6 Risico’s van AI

Hoewel AI veel voordelen biedt, zijn er ook risico’s verbonden aan het gebruik ervan.

Enkele belangrijke risico’s zijn:

• -

  Onjuiste of misleidende informatie

  De manier waarop AI informatie doorgrondt is anders dan bij een mens. AI heeft niet als doel om het ‘juiste’ antwoord te geven, maar gebruikt kennis van taal om te bouwen aan een antwoord dat nuttig lijkt voor de vraag. AI kan onjuiste, verzonnen of misleidende informatie genereren die overtuigend klinkt, maar feitelijk niet klopt. Dit worden hallucinaties genoemd.

• -

  Vooroordelen en discriminatie

  AI is een levenloze technologie zonder emoties of vooroordelen, maar de technologie wordt getraind door mensen (die wel vooroordelen hebben) of door gebruik te maken van reeds beschikbare bronnen waar vooroordelen en discriminatie in voorkomen.

  AI kan hierdoor vooroordelen bevatten die leiden tot oneerlijke of bevooroordeelde uitvoer.

• -

  Privacyrisico’s

  AI kan persoonsgegevens verwerken, wat risico’s met zich meebrengt voor de bescherming van gevoelige informatie. Bovendien is niet altijd duidelijk waar en hoe de ingevoerde gegevens worden opgeslagen of gebruikt. Bij veel AI-diensten wordt invoer verwerkt op externe servers, mogelijk in andere landen, zonder dat de gebruiker controle heeft over verdere verspreiding of opslag. Dit kan leiden tot datalekken of ongeoorloofd gebruik van gevoelige gegevens.

Bij het gebruik van AI-systemen is de gebruiker verantwoordelijk voor de informatie die wordt opgevoerd in het AI-systeem en wat er met de verkregen output wordt gedaan.

§ 7 Andere kanttekeningen bij gebruik AI

Naast de hiervoor genoemde risico’s zijn er nog twee belangrijke kanttekeningen om in de richtlijn te vermelden.

Energieverbruik AI

AI verbruikt aanzienlijke hoeveelheden energie. Dit geldt met name voor het trainen van AI-modellen, maar ook het uitvoeren van één opdracht kost al ongeveer evenveel energie als een lamp die een uur lang aanstaat. Daarnaast verbruiken datacenters grote hoeveelheden water om de servers waarop AI-software draait te koelen. Het gebruik van AI heeft dus een impact op duurzaamheid en het klimaat. Hoewel er wordt gewerkt aan manieren om AI-toepassingen energiezuiniger te maken, zijn we nog niet zo ver. Daarom is het belangrijk om bewust en verantwoord met AI om te gaan.

Uitdagingen ambtelijke organisatie bij gebruik AI

Gemeenten zien de potentie van AI voor het verhogen van efficiëntie, het verbeteren van de dienstverlening en het opvangen van tekorten op de arbeidsmarkt. Veel gemeenten maken in meer of mindere mate al gebruik van AI, bijvoorbeeld voor communicatie met inwoners (chatbots), het schrijven van voorstellen of het samenvatten van beleidsdocumenten3.

Tegelijkertijd worstelen veel gemeenten met de inzet van AI binnen de ambtelijke organisatie. Dit komt enerzijds door de risico’s die AI met zich meebrengt. Ambtenaren werken vaak met niet-openbare informatie en persoonsgegevens. Bij de meest gebruikte AI-tools is onvoldoende transparantie over waar ingevoerde gegevens worden opgeslagen en of en in hoeverre deze verder verspreid worden. Daarnaast ontbreekt het binnen veel gemeenten nog aan de vereiste AI-geletterdheid om AI op een verantwoorde manier in te zetten4.

Gemeenten gaan verschillend om met het gebruik van AI. Zo zijn er gemeenten die ambtenaren verbieden bepaalde AI-tools te gebruiken voor hun werkzaamheden en er zijn gemeenten die een poging doen om intern beleid op te stellen voor het gebruik van AI door ambtenaren.

De VNG heeft in februari 2025 een position paper uitgebracht over het gebruik van AI5. De belangrijkste conclusie uit dit paper is dat AI gemeenten kan helpen bij de maatschappelijke opgaven, maar dat dit op een ethisch verantwoorde en transparante manier moet worden ingezet. Dit vraagt om samenwerking, kennisdeling en een stevige bestuurlijke en juridische basis. De AI-opgave is een overheidsbrede opgave waar nog veel stappen te zetten zijn.

Raads- en commissieleden hebben het voordeel dat zij (digitaal) enkel toegang hebben tot openbare stukken zonder persoonsgegevens. Hoewel ook zij over een bepaalde AI-geletterdheid moeten beschikken om AI verantwoord te gebruiken, brengt het gebruik van AI door raadsleden minder risico’s met zich mee dan binnen de ambtelijke organisatie.

§ 8 Richtlijnen voor het gebruik van AI binnen de gemeenteraad

Bij het gebruik van AI binnen de gemeenteraad van Castricum gelden de volgende uitgangspunten:

• 1.

  Gebruik alleen openbare informatie.

  AI mag niet worden gebruikt om geheime, vertrouwelijke of niet-openbare informatie te verwerken of te genereren.

• 2.

  Vermijd het verwerken van persoonsgegevens

  AI mag niet worden gebruikt om persoonsgegevens te verwerken, tenzij dit expliciet is toegestaan volgens de AVG-wetgeving.

• 3.

  Blijf kritisch en onafhankelijk

  AI kan fouten maken of onnauwkeurige informatie genereren. Daarom moet elke gegenereerde tekst of analyse zorgvuldig worden gecontroleerd voordat deze wordt gebruikt of gedeeld met derden. De gebruiker is verantwoordelijk voor wat er met de uitvoer gebeurt.

• 4.

  Wees transparant over het gebruik van AI

  Wanneer AI wordt ingezet voor het opstellen van (beleids)teksten zoals bijvoorbeeld initiatiefvoorstellen of het ondersteunen van besluitvorming moet dit duidelijk worden vermeld.

• 5.

  Gebruik AI als hulpmiddel

  AI kan ondersteuning bieden, maar mag nooit de eigen verantwoordelijkheid van raads- en commissieleden of medewerkers vervangen.

• 6.

  Let op auteursrecht en plagiaat

  Neem niet klakkeloos hele stukken tekst over van een AI-systeem. Dit kan een inbreuk opleveren op het auteursrecht of het intellectuele eigendomsrecht van anderen en is daarmee ook plagiaat.

• 7.

  Gebruik AI voor inspiratie en niet voor creatie

  AI heeft veel handige functionaliteiten, maar het gebruik hiervan is niet zonder risico’s. Wanneer AI wordt gebruikt voor inspiratie in plaats van voor creatie, worden veel van de risico’s al ondervangen.

§ 9 Rol van de griffie

De griffie speelt een belangrijke rol in het faciliteren van verantwoord AI-gebruik binnen de gemeenteraad. Dit houdt onder meer in:

• -

  Het informeren en trainen van raads- en commissieleden over AI-gebruik en bijbehorende risico’s.

• -

  Het ondersteunen bij de eventuele toekomstige implementatie van AI-tools, bijvoorbeeld in het raadsinformatiesysteem.

• -

  Het adviseren over transparantie en correcte toepassing van AI in het raadswerk.

• -

  Het monitoren van AI-ontwikkelingen en het vertalen van relevante wet- en regelgeving naar de praktijk.

§ 10 Conclusie

AI biedt kansen voor het efficiënter en effectiever vervullen van het raadswerk, mits het op een verantwoorde manier wordt ingezet. Deze richtlijn helpt de gemeenteraad van Castricum om AI veilig en transparant te gebruiken binnen de kaders van de Europese wetgeving en de gemeentelijke verantwoordelijkheden.

Slotbepalingen

• 1.

  Deze richtlijn treedt in werking op de dag na bekendmaking.

• 2.

  Deze richtlijn wordt aangehaald als: Richtlijn AI-gebruik voor de gemeenteraad Castricum 2025.