Richtlijn voor het gebruik van kunstmatige intelligentie in de gemeenteraad van Zwolle

Inleiding

Kunstmatige intelligentie of Artificial Intelligence (hierna AI) is een technologie die steeds vaker wordt ingezet om werkprocessen te ondersteunen en te verbeteren. AI biedt raads- en burgerleden de mogelijkheid om het raadswerk efficiënter en effectiever te vervullen. Tegelijk moet de techniek, zeker ter ondersteuning van raadswerk, op een verantwoorde manier wordt ingezet. Zo kan AI raadsleden helpen bij het analyseren van gegevens, het opstellen van teksten en het ondersteunen van besluitvorming.

Deze richtlijn laat zien hoe we AI ethisch, veilig en transparant willen gebruiken in de raad van Zwolle. Het is een (ethisch) toetsingskader voor raads- en burgerleden dat helpt bij de vraag hoe men AI gebruikt.

Risico’s

Hoewel AI veel voordelen biedt, onderkent de raad van Zwolle ook risico’s die verbonden aan het gebruik ervan. Het gaat met name om de volgende risico’s:

Onjuiste of misleidende informatie

De manier waarop AI informatie doorgrondt is anders dan bij een mens. AI heeft niet als doel om het ‘juiste of passende’ antwoord te geven, maar gebruikt kennis van taal om te bouwen aan een antwoord dat nuttig lijkt voor de vraag. AI kan onjuiste, verzonnen of misleidende informatie genereren die overtuigend klinkt, maar feitelijk niet klopt.

Vooroordelen en discriminatie

AI is een levenloze technologie zonder emoties of vooroordelen, maar de technologie wordt getraind door mensen, die wel vooroordelen hebben. AI maakt gebruik van al beschikbare bronnen waar vooroordelen en discriminatie in voorkomen. AI kan hierdoor vooroordelen bevatten die leiden tot oneerlijke of bevooroordeelde uitvoer.

Privacy en dataveiligheid

AI kan persoonsgegevens verwerken, wat risico’s met zich meebrengt voor de bescherming van gevoelige informatie. Bovendien is niet altijd duidelijk waar en hoe de ingevoerde gegevens worden opgeslagen of gebruikt. Bij veel AI-diensten wordt invoer verwerkt op externe servers die buiten (west) Europa staan. Zonder dat de gebruiker controle heeft over verdere verspreiding of opslag. Dit kan leiden tot datalekken of ongeoorloofd gebruik van gevoelige gegevens.

Richtlijnen voor het gebruik van AI binnen de gemeenteraad

Bij het gebruik van AI binnen de gemeenteraad van Zwolle gelden daarom de volgende uitgangspunten:

• 1.

  We gebruiken alleen openbare informatie

  AI mag niet worden gebruikt om geheime informatie te verwerken of te genereren.

• 2.

  We vermijden het verwerken van persoonsgegevens

  AI mag niet worden gebruikt om persoonsgegevens te verwerken, tenzij dit expliciet is toegestaan in overeenstemming met de AVG.

• 3.

  We blijven kritisch en onafhankelijk

  AI kan fouten maken of onnauwkeurige informatie genereren. Daarom moet elke gegenereerde tekst of analyse zorgvuldig worden gecontroleerd voordat deze wordt gebruikt of gedeeld met derden. De gebruiker is verantwoordelijk voor wat er met de uitvoer gebeurt.

• 4.

  We gebruik AI uitsluitend als hulpmiddel

  AI kan ondersteuning bieden, maar zal nooit de eigen verantwoordelijkheid van raads- en commissieleden of medewerkers vervangen.

• 5.

  We gebruiken AI voor inspiratie en niet voor creatie

  AI heeft veel handige functionaliteiten, maar het gebruik hiervan is niet zonder risico’s. Wanneer AI wordt gebruikt voor inspiratie in plaats van voor creatie, worden veel van de risico’s al ondervangen.

• 6.

  We letten op auteursrecht en plagiaat

  We nemen geen hele stukken tekst over van een AI-systeem. Dit kan een inbreuk opleveren op het auteursrecht of het intellectuele eigendomsrecht van anderen en is daarmee ook plagiaat.

• 7.

  We zijn transparant over het gebruik van AI

  Wanneer AI is gebruikt om (delen van) de inhoud van een document, motie, initiatiefvoorstel of schriftelijke of mondelinge bijdrage te genereren, wordt dit vermeld bij het betreffende document of de bijdrage.

  Gebruik van AI als hulpmiddel bij voorbereiding, reflectie, taalcorrectie of structurering zonder dat de inhoud door AI is gegenereerd, hoeft niet te worden vermeld.

Verantwoordelijkheden raadsgriffie

In de Europese AI-verordening wordt gesteld dat organisaties die AI-systemen gebruiken ervoor moeten zorgen dat gebruikers AI-geletterd zijn. Dit houdt in dat het kennisniveau van raadsleden over AI voldoende moet zijn om op een verantwoorde manier gebruik te maken van een AI-systeem met oog voor sociale, ethische en praktische bezwaren. Dit houdt voor de raadsgriffie het volgende in:

• 1.

  Het informeren en trainen van raads- en burgerleden over AI-gebruik en bijbehorende risico’s.

• 2.

  Het ondersteunen bij de eventuele toekomstige implementatie van AI-tools, bijvoorbeeld in het raadsinformatiesysteem.

• 3.

  Het adviseren over transparantie en correcte toepassing van AI in het raadswerk.

• 4.

  Het monitoren van AI-ontwikkelingen en het vertalen van relevante wet- en regelgeving naar de praktijk.